El buscador de palabras muertas

 

 

Todos

 Los miércoles

A

Las 7

Antes de medio dia

El basurero

Buscador de palabras sucias

Se

Lleva

Las que

No uso.

 

Nieves.

El mono y la Inteligencia artificial

Durante la inauguración de la Asamblea General de las Naciones Unidas el 20 de Septiembre su Secretario General advirtió que la inteligencia artificial "está comprometiendo la integridad de los sistemas de información, los medios y, de hecho, la democracia misma".

 

Lo inquietante, desgraciadamente, es que el problema pareciera que va mas allá de lo que el Secretario General advirtió. Hasta hace bien poco, la informática era poderosa porque nos hacia poderosos, para bien o para mal. Una herramienta de propósito general, controlada por nosotros y a nuestro propio servicio, que amplifica nuestra inteligencia y que nos da acceso a información que antes no teníamos, aunque parezca en el fondo  que nos hace mas tontos... y tal vez, en realidad nos hacen.

 

Pero, esta es la cosa, según el ex editor de Time, Bryan Walsh... ¿Qué pasaría si la inteligencia aumentada por el explosivo poder de la computación no es humana, sino artificial? ¿Si perdemos el control de las maquinas que nos sustentan en todos los rincones del mundo? ¿Y que sucedería si nuestras herramientas desarrollan mentes propias, mentes incalculablemente superiores a las nuestras?  Probablemente lo que le pasa a cualquier pieza de tecnología que se vuelve obsoleta... nos transformaríamos en  chatarra. 

 

No hay una clara y distinta definición de lo que la inteligencia artificial es y no hay consenso  científico en que constituye una “verdadera IA” a diferencia de lo que puede ser solo un programa informático efectivo y rápido. Pero, en todo caso, una buena definición dice que la inteligencia no significa tener una gran cantidad de conocimientos o la capacidad de hacer matemáticas complejas, sino la de percibir el entorno con precisión y tomar acciones que maximicen la probabilidad de lograr objetivos determinados. Las computadoras, como sabemos, pueden recordar mucho mas y pueden hacerlo sin decadencia, fatiga o errores. Pero, en los últimos años la revolución informática se ha convertido en una revolución en inteligencia artificial, como nota Walsh, que puede derrotarnos en el ajedrez y el Go, un juego  japonés, que durante mucho tiempo se consideraron marcadores confiables de inteligencia. Pueden reconocer imágenes, con pocos errores, jugar en el mercado de valores mejor que un corredor, mantener conversaciones a través de mensajes de texto casi tan bien como una persona, mirar un rostro humano y distinguir una mentira de una verdad. Y, sobre todo, las IA están aprendiendo a aprender, a ser maquinas de aprendizaje de propósito general tomando datos por terabyte, generalizando y sacando conclusiones que pueda usar para lograr sus objetivos, cualquiera que estos sean. Es esto justamente lo que hacemos nosotros, pero, debido a que una IA puede extraer, contener y procesar muchos mas datos de los que un cerebro humano, tienen el potencial de aprender mas y mas rápido que un humano. Por ahora este aprendizaje se limita a temas específicos, pero si esta capacidad se amplia otra historia nos cantara. Si puede hacer esto dejara de ser simplemente una herramienta del humano, que actualmente domina el planeta, para convertirse en nuestro igual, por un breve tiempo, para luego convertirse en nuestro superior. Si nosotros somos inteligentes, la IA podría volverse super inteligente. En ese momento no seria raro encontrarnos a merced de una entidad superior en el mismo sentido en que los gorilas, en peligro de extinción, están a merced de nosotros. Y en la misma forma en que nosotros hemos llevado a la extinción a innumerables especies la IA podría eliminarnos simplemente porque nuestra presencia se interpone en su camino para lograr sus objetivos.

 

¿No seria esto la ultima paradoja que nuestra destrucción estuviera en las manos de una creación que representa la suma de la inteligencia humana?

 

 ¿Alarmista?... El físico teórico Stephen Hawking ya había advertido que el desarrollo de la IA podría significar el fin de la raza humana. Según el matemático británico y colega de Turing, I.J.Good, en 1965 dijo que... dado que el diseño de maquinas es una actividad intelectual, una maquina ultra inteligente podría diseñar maquinas aun mejores. Entonces habría una “explosión de inteligencia” y la inteligencia del humano quedaría muy atrás. Por tanto, podríamos decir, ese seria el momento en que la maquina toma control. Así como los humanos se esfuerzan por mejorar, las maquinas también lo harán. La diferencia es que la maquina puede hacer esto actualizando su disco blando y duro directamente, escribiendo mejores códigos y creando mejores versiones de si misma, a diferencia de los humanos  que solo podemos  actualizarnos mediante el lento proceso de la evolución. La superación recursiva de IA, el proceso de mejorar la capacidad  para realizar mejoras personales, conduciría a maquinas cada vez mas inteligentes y mucho mas rápido que el pensamiento humano.

 

Pero, después de todo, bien puede ser que esta super inteligencia sea una pura fantasía. Según algunos expertos la super inteligencia no podría ser posible por centurias.  

 

La otra cara de este riesgo, sin embargo, es considerar la IA como la fuente ultima de nuestra “experiencia existencial”. Según ciertos comentaristas nuestras vulnerabilidades a las amenazas naturales o creadas por nosotros se reducen en gran medida a una cuestión de inteligencia. Puede que no seamos lo suficientemente inteligentes para desviar un asteroide gigante, detener el peligro atómico, desarrollar fuentes de energía que puedan eliminar el peligro del cambio climático o la amenaza permanente de las enfermedades infecciosas. Pero, con una super inteligencia artificial, como creen los evangelista cibernéticos, nada es imposible. Podríamos eliminar todos los dolores y males que son parte de nuestra condición, viajar por el universo e, incluso, lograr la inmortalidad. Según el CEO de Google, Sundar Pichai, la IA será “más importante que la electricidad o el fuego”.  

 

Si este es el caso, entonces también, siguiendo la tendencia humana a controlar, no seria raro que las corporaciones o países que desarrollen la mejor IA estarán en posición de dominar el resto del mundo.

 

Cada gran salto tecnológico, como dice Walsh, ha sido acompañado de disrupción económica y social. Los luditas se rebelaron en contra de los telares automáticos, los automóviles fueron resistidos en el campo y el teléfono causo miedo que podría transmitir descargas eléctricas a través de sus cables. Pero, mas temprano que tarde, nos adaptamos a la nueva tecnología y luego la damos por sentada.  La IA, sin embargo, puede ser diferente. Podemos elucubrar todo lo que queramos con la IA, pero esta no tiene que volverse super inteligente para crear muchos mas  trastornos comparada con cualquier otro avance tecnológico del pasado. Podría exacerbar el desempleo, empeorar la desigualdad, distorsionar el proceso electoral e incluso facilitar que los gobiernos maten a sus propios ciudadanos. Puede que no sean las maquinas a las que debemos temer, sino a los que las poseen. El peligro de la IA a corto plazo no es solo económico, según Walsh, sino que también puede transformarse en una asesina paralela. Con un poco de imaginación, por ejemplo, podemos dramatizar un escenario en donde enjambres de diminutos drones mecánicos usen IA y tecnología de reconocimiento facial para atacar y matar de forma autónoma. Esta no es solo una fantasía gratuita. Actualmente ya tenemos aviones no tripulados pilotados a distancia capaces de entregar cargas letales. En el futuro próximo, los drones podrían programarse para asesinar a un político o llevar a cabo una limpieza étnica.  Esto representaría la tercera gran revolución en la guerra, después de la pólvora y las armas atómicas. Esto haría mucho mas fácil matar a voluntad, al principio para uso de  los estados y luego para las bandas criminales, terroristas e incluso individuos solitarios. Ya en el 2018 el Pentágono lanzo un Centro Conjunto de IA de $1.7 mil millones y el mismo año la Agencia de Proyectos de Investigación Avanzada de Defensa anuncio su propia campaña de IA de $2 mil millones. El programa militar Edge, Project Maven, fue diseñado para ayudar a los sistemas informáticos a identificar objetos a partir de imágenes aéreas, lo que seria bastante útil si se quisiera desarrollar un dron que pudiera seleccionar objetivos y disparar sobre ellos de forma autónoma.  

 

En las ciudades chinas las cámaras de reconocimiento facial escanean multitudes en busca de delincuentes y de aquellos que socaban la estabilidad social. Su uso esta convirtiendo potencialmente a China en un estado tecnológicamente orwelliano lo que seria una tragedia y un peligro mortal para sociedades mas abiertas si esas herramientas eventualmente se exportan. Y peor aun para el mundo es la creciente probabilidad de que Estados Unidos y China se embarquen en una carrera armamentista que involucre la IA en lugar de armas nucleares, lo que representaría un riesgo existencial no solo en si mismo, sino que también por la posibilidad de que saltos repentinos en la capacidad de la IA puedan alterar el equilibrio de poder necesario para mantener la paz entre los estados con armas nucleares.

 

Por ultimo, lo que realmente es espeluznante es que no entendemos los sistemas de inteligencia artificial que estamos usando y no solamente para gente común y corriente como nosotros, sino que también para expertos. Las mismas características que hacen que el aprendizaje profundo sea tan poderoso, dice Walsh, también lo hacen opaco. El proceso es tan complejo que incluso los creadores de los algoritmos a menudo no pueden decir por que una IA en particular toma una decisión y no otra. Ella no explica sus actos. Y, para mas remate, cuando actúa puede cometer errores, como en el automóvil Uber autónomo que atropello y mato a un peatón en Arizona. Todos cometemos errores, pero un solo error del algoritmo puede extenderse a toda una industria comercial o a un aparato bélico con un daño inmensamente mayor.

 

Ninguna tecnología es infalible. Cuando un avión se cae los expertos pueden revisar la evidencia y entender que paso. No siempre es así con la IA. El investigador de IA de Google, Ali Rahimi, comparo la IA, no con la electricidad o el fuego, sino con la alquimia medieval. Esta produjo importantes avances científicos, como el desarrollo de la metalurgia, pero los alquimistas no podían explicar la base científica de porque funcionaba lo que hacían. La IA en estos momentos esta mas cerca de los alquimistas que de los científicos.

 

No hay garantía que mantengamos el control de algo que excederá  enormemente nuestras propias capacidades prácticamente en todo. Imaginemos que finalmente ocurre, que nace la super inteligencia y escapa a nuestros débiles intentos de controlarla... ¿qué pasara entonces?

 

Nieves y Miro Fuenzalida.

Jugando papayas

 

Las ultimas

Piedras

Que

Tengo

De

La vida

Las jugare

A

La payaya.

Tal vez

La suerte

Se

Disfrace

De

Piedra. 

 

Nieves.