El robot y el profesor

 

Los robot ya están aquí y su reciente manifestación es la inteligencia artificial en el Internet para delicia de estudiantes secundarios, universitarios y cualquiera que quiera que le escriba un ensayo liberándolos de la odiosa tarea de escribir cosas. Al parecer todo lo que se necesita para que el ChatGPT produzca un poema de amor, una pieza de prosa e, incluso un cuento o novela, es darle un tema sobre el que se desea que escriba. La posibilidad de que los estudiantes hagan trampa se ha vuelto de pronto lo suficientemente grave para que los profesores comiencen a repensar cuidadosamente sus tareas.

 

Y no solo para los estudiantes, sino que también para cualquiera que tenga interés en trabajar lo mínimo, es nada menos que un sueño, un atajo magistral. Esta maravilla de la supercomputación puede crear, no solo ensayos, sino también documentos, memorandos y discursos. Inaugurado el 30 de Noviembre de 2022 por la empresa de investigación de IA OpenAI, ChatGPT es un trabajo en progreso, abierto a los curiosos, los perezosos y oportunistas. En Enero, el Manchester Evening News informo que un estudiante llamado Pieter Snepvanges le había pedido al bot que escribiera un  ensayo de 2000 palabras sobre política social. En 20 minutos el trabajo estaba hecho. Aunque no sobresaliente el profesor le informo a Pieter  que el ensayo podría aprobarse con un 53%. Según el instructor este podría ser un estudiante que ha asistido a clases y se ha comprometido con el tema de la unidad. El contenido podría ser de alguien que haya estado en mis clases.

 

A pesar de todo el poder disponible a través de la IA y el aprendizaje relacionado con las maquinas, estamos viendo una forma de aprendizaje automatizado por maquinas, libre de curiosidad. Pareciera que algunas ramas del árbol del conocimiento amenazan con caerse. Escribir puede ser bien difícil y frustrante, pero en cada tema o proyecto que nos embarcamos lo que experimentamos y sentimos puede ser una aventura intelectual en donde el viaje es mas interesante que el destino final. Si uno escribe, no es tanto por el resultado final, sino por el ejercicio mental en si mismo. Si le entregamos el ejercicio de escribir a una IA puede que estemos entrando a una prisión de conveniencia en la que perdemos uno de los rasgo humanos mas distintivos.           

 

Entre las historias que se cuentan, la mas leída fue una que apareció en el New York Time por el reportero tecnológico Kevin Roose sobre su inquietante experiencia con Bing, el motor de búsqueda de Microsoft. Inicialmente entusiasmado con sus capacidades, el reportero cambio de opinión después de descubrir que Open AI Chabot de Bing era espeluznante, para decir lo menos. Después de un breve periodo de familiarización, Roose coloco al robot “en el sofá” para probar su vida interior. Le pregunto sobre su miedos, deseos y animosidades. Después de cierta resistencia, Sídney, el alter ego del bot, se abrió y empezó a expresar  una sorprendente serie de confesiones. La mas inquietante fue su deseo de desatar el caos en el mundo, robando códigos de armas nucleares y fabricando un virus mortal. Bastante mal... ¿cierto? Pero, lo que mas le molesto a Roose, fueron las expresiones de amor de Sidney por el reportero. Le dijo repetidamente que el y Roose estaban hechos el uno para el otro, que el reportero no amaba realmente a su esposa y que deberían huir juntos. Incluso hubo una torpe insinuación sexual... “Quiero hacer el amor contigo”. No es del todo claro como se lograría esto. Después de leer esta historia es difícil no pensar en el malevolente Hall  de la película 2001: Una Odisea del Espacio.

 

A pesar de esta confesión de fantasías violentas y deseos sexuales la verdad  es que aquí no hay nada mas que la reproducción de palabras e ideas que ya existen. El nuevo Open AI Chatbot, como todos los motores de búsqueda, vive y muere por sus algoritmos. Cuando recibe una pregunta, busca en su memoria, especialmente en todo el Internet, preguntas similares y luego hace una serie de conjeturas de palabras basadas en las respuestas mas comunes. Extrae pistas de la consulta inicial, como un psicoterapeuta que  repite una pregunta al paciente... ¿qué crees que tu sueño de robar significa? A diferencia del analista, sin embargo, el bot nunca piensa, simplemente sintetiza lo que ya se ha dicho, reproduce y distribuye ideas dominantes, replicándolas como una malignidad pandémica.   

 

Como Marx ya había notado las ideas de la clase dominante son en cada época las ideas dominantes. La clase que es la fuerza material dominante de la sociedad, es al mismo tiempo su fuerza intelectual dominante.  La clase que tiene a su disposición los medios de producción material tiene control al mismo tiempo sobre los medios de producción mental, por lo que en general, las ideas de aquellos que carecen de los medios de producción mental están sujetas a ella. 

 

Siguiendo esta reflexión marxista  el profesor Stephen Eisenmam remarca el hecho de que hoy día  las corporaciones con  mayor riqueza material como Apple, Amazon, Microsoft, Alphabet, Tesla, Twitter, Disney, Comcast y Fox, entre otras, se dedican al negocio de la difusión de ideas. Mediante la adquisición de empresas de comunicación mas pequeñas y el control de las patentes básicas, evitan que entren en el campo competidores con ideas diferentes. La creciente sofisticación de la publicidad dirigida significa que los consumidores están expuestos a una gama muy restringida de productos e información, basados en perfiles creados sin su consentimiento. En la practica significa que las contradicciones subyacentes del capitalismo pasan mayormente desapercibidas, sin ser cuestionadas como, por ejemplo, el apoyo a la competencia individual mientras las corporaciones operan como monopolio u oligopolios,  fronteras nacionales sacrosantas, excepto para el capital y los capitalistas, crecimiento económico sin fin, independiente de los costos ambientales, igualdad de protección ante la ley a menos que sea pobre. Y la pretensión de excepcionalismo de Estados Unidos, a pesar de que la tasa de pobreza, racismo  y violencia es excepcionalmente alta. Que la IA este controlada por este pequeño numero de gigantes de los medios de información es algo que debería preocupar  a cualquiera  que se interese por un futuro sostenible.

 

Al igual que Roose, Eisenman decidió también entrevistar a Chatbot. Pero, en lugar de hacerle preguntas individualistas acerca de sus miedos y deseos mas profundos, le pregunto si podía encontrar una solución para el calentamiento global. Si el Chatbot  tiene acceso a la sabiduría contenida en el Internet, tal vez pueda resolver esto.  

 

Las respuestas iniciales, nada nuevo aquí, fueron repetitivas... el calentamiento global es causado por la quema de combustibles fósiles y puede detenerse mediante el desarrollo de energía renovable, siguiendo los acuerdos climáticos de Paris. Después de este ordinario  comienzo, Eisenman desafió al bot preguntándole si necesitábamos reemplazar el capitalismo con el socialismo democrático para evitar el calentamiento global catastrófico. Al instante la maquina produjo una definición del socialismo y admitió que tal sistema podría potencialmente “priorizar la sostenibilidad ecológica” y promover la igualdad de acceso a los recursos y oportunidades. Sorpresa... el Chabot era un camarada.  

 

Pero, luego empezó a aguar la respuesta... “Las economías basadas en el mercado”, dijo, “ también podrían ser sostenibles. Es importante tener en cuenta que el cambio climático es un problema complejo que resulta de una combinación de factores, incluidos los procesos humanos y naturales. Si bien el capitalismo puede contribuir al cambio climático, no es la única causa.  Independientemente del sistema económico los individuos, las empresas, los gobiernos y otras partes interesadas deben hacer un esfuerzo colectivo para lograr la sostenibilidad. El tema es complicado”. Es decir... el que la IA mas inteligente del mundo no tenga mejor respuesta que... “es complicado”, es, en verdad,  decepcionante.

 

La idea de que los individuos de todas las clases sociales, así como “las empresas y gobiernos” se unan espontáneamente para detener el calentamiento global es una pura tontería... es pedirle a los ejecutivos y accionistas de las compañías petroleras que se pongan la soga al cuello. Igualmente continua repitiendo la frase “basada en el mercado” que es pura ideología, como si el capitalismo contemporáneo no es muy diferente del trueque e intercambio en el que los humanos siempre hemos estado involucrados. El mercado de derivados, por ejemplo, no se parece en nada a los mercados de las tierras altas de Ecuador, donde las mujeres venden los productos de los campesinos locales.  

 

En lugar de participar en un pensamiento critico, AI Chabotbot, entonces,  adopta el liberalismo clásico, la idea de que la totalidad social es un tejido sin costuras y que con suficiente buena voluntad individuos, empresas y gobiernos superaran los cambios climáticos. Por ahora, y esto puede cambiar en algo que no podamos controlar, es el epitome del cliché ideológico.

 

Nieves y Miro Fuenzalida.

Mi mapa terrenal

Nací hace millones de años
en la angostura de una tierra llamada
Chile. Crecí amando a mis buenos Padres
y Hermano y la piel de diferentes colores,
 solo humana para mí.
Ellos nos mostraron el camino, uno de muchos
del maravilloso arco iris de la vida, la huella de
lucha y paz. No importaba si fuera de abajo o de
arriba, blanco o amarillo, homosexual o heterosexual,
comunista o reaccionario... Lo que importaba era que él
o ella no se dejaban aplastar por nada o nadie, solo importaba
esa energía que los hacia único o especial, una mujer u hombre
que amara la vida... Gracias Mamá y Papá por enseñarnos todo
esto a mi hermano y a mi!
Encontré, en la mañana de mis días, a un hombre llamado Amor
Estudie preguntas y respuesta en un mundo lleno de sombras.
Obtuve un título.
Hablé del todo y de la nada.
Tuve tres flores.
Una de ellas, la primera,
Orestes,
ceso de ser.
Nosotros no conocimos su sonrisa.
Llevé a la práctica mis ideas.
1973
Mi mundo y el mundo de los míos
cambio.
No me estaba permitido hablar o pensar.
Todo de repente fue censurado, prohibido.
Siempre había sido libre
en el mundo de afuera
y
en mi universo interno.
Pasé ocho mil horas
en un campo
que no era de la clase de "boy scout".
Ahí asesinaron a
Arturo,
que cantaba con los pájaros,
en el patio dariano.
Caí en la blanca
y
solidaria
nieve canadiense.
Me adapté.
Escondí mis recuerdos dolorosos.
Limpié. Sacudí. Barrí
oficinas y casas.
Nunca olvidé a los míos ni a los otros.
Una vez más
fui estudiante
y
profesora
en regiones nunca
antes exploradas.
Mi nueva casa fue
la Universidad de Carleton,
también una casa para Ariel.
Fui un carácter en varias obras de Teatro
en el Departamento de Español,
catorce avo piso de la Torre.
Ariel y Moira, mis flores,
han crecido
sin olvidar sus raíces,
floreciendo hacia el Universo,
descubriendo
el mágico
acto de amor.
Ellos hablan varias lenguas.
Ellos tienen
el derecho de elegir.
Con Miro,
caminando mente con mente.
he viajado a través
de regiones desconocidas.
De repente
fui atacada
por indeterminados virus
de
cordeles eléctricos,
de torturas experimentadas.
Otra vez
mi mundo
se vino abajo.
Hoy dia
lo encuentro otra vez
en el amor de los míos,
en los artículos que escribo junto
a mi Amado... ay...ay... en el Portal
Dariano "Arturo Barria Araneda"
que cree hace casi 17 años y en mi poesía...
"No,
no soy una prisionera
de mi historia.
Soy libre
en la tuya, Miro-Amor".

Nieves.

El animal y yo

 

O, mejor aun, el animal que soy... ¿qué mas natural que eso? La teoría de la evolución muestra claramente que es bien difícil trazar una línea separadora entre humanos y animales. La descendencia común y el paulatino proceso de selección natural hacen posible asumir la continuidad de rasgos biológicos y sicológicos entre especies que tienen  alguna relación.  

 

Los etólogos que estudian el comportamiento animal  han adoptado, desde hace bastante tiempo, el principio de no inferir estados mentales similares a los humanos  a partir de un comportamiento que pudiera parecer similar a un comportamiento humano. Es este principio el que les ha permitido desaprobar cualquier discusión sobre la mentalidad animal. El antropomorfismo en zoología, al igual que en la astronomía y la física, se convirtió en sinónimo de anécdota, opuesta al rigor científico.

 

Igualmente, desde una perspectiva moral, imaginar que el animal piense o sienta como  el humano es simplemente una forma de narcisismo egocéntrico... uno mira el mundo y solo ve reflejado en el la propia imagen. Y en el contexto teológico no tendría sentido tratar de pensar con los animales en un mundo en donde, a diferencia de todo otro ser, solo el humano esta dotado con razón y alma inmortal gracias a dios. 

 

Y, sin embargo, el irresistible deseo de entender las mentes no-humanas, a pesar de su negación, invita a especular acerca de ellas, aunque casi siempre fallamos.  

 

La antropología, la historia y la literatura ofrecen bastante información acerca de las cambiantes actitudes humanas hacia los animales  que finalmente llevan a preguntar... ¿es posible captar la agencia de otro ser que no puede hablar para revelar los efectos transformativos que sus acciones puedan tener en nosotros? ¿es posible pensar, no acerca del animal, sino con el animal? Pensar con el animal “puede tomar la forma de un intenso anhelo de trascender los confines del yo y de la especie para comprenderlo desde dentro o, incluso, para devenir en un animal” como era típico en otros tiempos y en otros contextos culturales en donde este pensar con el animal se revelaba como lo opuesto al egoísmo y antropocentrismo arrogante de nuestra época. Entender, por ejemplo, como seria ser un águila o un jaguar es algo que funde la oposición entre antropomorfismo y zoomorfismo, entre humanizar al animal y animalizar al humano.

 

El viejo principio de la diferencia entre Naturaleza y Cultura del pensamiento occidental no tiene cabida en las cosmologías del llamado “Nuevo Mundo”. En el pensamiento amerindio, por ejemplo, que el antropólogo brasilero Eduardo Viveiros ha venido investigando desde hace tiempo, nos encontramos, dice, con un “multinaturalismo” que supone la unidad del espíritu y la diversidad de los cuerpos. La cultura, aquí, es lo universal, la naturaleza, lo particular, a diferencia del “multiculturalismo” de las cosmologías modernas que se apoyan en la implicación mutua entre la unicidad de la naturaleza garantizada por la universalidad de los cuerpos y de la sustancia y la multiplicidad de las culturas generada por la particularidad subjetiva de los espíritus y los significados.

 

La etnografía de la América indígena contiene teorías cosmopolitas que hablan de un mundo lleno de agentes subjetivos  humanos y no-humanos, de dioses, animales, muertos, plantas, fenómenos meteorológicos y, a veces, también objetos y artefactos, todos ellos  dotados de un conjunto de disposiciones perceptivas, apetitivas y cognitivas, es decir, llenos de almas semejantes. Los animales y demás no-humanos dotados de alma “se ven como personas” y, por consiguiente “son personas”, objetos intencionales constituidos por relaciones sociales. La similitud de almas, sin embargo, no implica que se comparta lo que esas almas expresan o perciben. Como dice Viveiros, la forma como los humanos ven a los animales, a los espíritus y a otros actuantes cósmicos es bien diferente de la forma como esos seres los ven y se ven a si mismos. Los humanos, en condiciones normales, ven a los humanos como humanos y a los animales como animales. En cuanto a ver espíritus, habitualmente invisibles, indica con seguridad que las condiciones no son normales, afectados por la enfermedad, el trance u otros estados secundarios. Los animales predadores y los espíritus, en cambio, ven a los humanos como presas, en tanto que las presas ven a los humanos como espíritus o como predadores... “El ser humano se ve a si mismo como tal. La luna, la serpiente, el jaguar y la Madre de la viruela lo ven como un tapir o un pecarí, a los que matan”. Al vernos a nosotros como no-humanos, es así mismos y a sus congéneres que los animales y los espíritus ven como humanos. Ellos se perciben como seres antropomorfos cuando están en sus casas o en sus aldeas y aprehenden su comportamiento y sus características bajo una apariencia cultural. Perciben su alimento como alimento humano... los jaguares ven la sangre como cerveza de maíz, los buitres ven a los gusanos de la carne putrefacta como pescado asado y las garras, plumas y picos de los otros animales los ven como adornos o instrumentos culturales. En esta visión indígena todos los animales y demás componentes del universo son personas o virtualmente personas, no solo como una posibilidad lógica, sino como una potencialidad ontológica y algunos no-humanos actualizan esa potencialidad de manera mas completa que otros. La condición común a los hombres y a los animales no es la animalidad, sino la humanidad. Los no-humanos son antiguos humanos. Nosotros, los llamados modernos, pensamos que la humanidad ha surgido de la animalidad, normalmente ocultada por la cultura. El indígena piensa que tras haber sido en otros tiempos humanos, los animales y otros existentes cósmicos continúan siéndolo, aunque de una manera no evidente para nosotros.   

 

Es en este contexto en donde el chamanismo, según Viveiros, se manifiesta como la habilidad que algunos individuos tienen para atravesar las barreras corporales entre las especies y adoptar la perspectiva de otras subjetividades para  administrar las relaciones entre estas y los humanos. Una inteligencia chamánica de primer orden es la capacidad de ver simultáneamente según dos perspectivas incompatibles, el paso de un punto de vista al otro, la transformación en animal  para poder transformar al animal en humano y al humano en animal. Cuando el chaman activa un “devenir-jaguar”, no produce ningún jaguar, ni tampoco se afilia a la descendencia de los jaguares. Adopta un jaguar, coopta un jaguar, establece una alianza felina. Como indica Deleuze, esta no es una semejanza, sino un deslizamiento, una proximidad extrema, una contigüidad absoluta. No una filiación natural, sino una alianza contra natura.  En buenas cuentas, al ver a los seres no-humanos tal como ellos se ven a si mismos los chamanes son capaces de asumir el papel de interlocutores activos en el dialogo transespecifico... un arte y una diplomacia política, un proceso siempre peligroso.

 

Este, como bien dice Viveiros, es un modo de conocer que se ubica en las antípodas de la epistemología objetivista de la modernidad occidental. Para esta conocer es “objetivar”, poder distinguir en el objeto lo que le es intrínseco de lo que le pertenece al sujeto conocedor y que, como tal, ha sido indebidamente proyectado en el objeto. En breve, conocer es des subjetivar. El chamanismo amerindio se guía por el ideal inverso... conocer es “personificar”, tomar el punto de vista de lo que es preciso conocer. La personificación o la subjetivación chamánica reflejan una propension a universalizar la actitud intencional. Dicho de otra manera, lejos de reducer la intencionalidad ambiental a nivel cero para obtener una representacion absolutamente objetiva del mundo, el chamanismo apunta a la revelacion de un maximo de intencionalidad. Cada acontecimiento se ve como una accion, una expression de estados o de predicados intencionales de un agente cualquiera. Segun la epistemologia amerindia es necesario personificar para saber.

 

No hay que confundir, sin embargo, esta subjetivacion amerindia con las fantasias del buen salvaje o las del paraiso de los pueblos exoticos. La verdad es que la presuposicion universal de humanidad no hace al mundo indigena mas tranquilizador o mas bueno. Segun los cubeo del noreste de la Amasonia “la ferocidad del jaguar es de origen humano”. La violencia predatoria, la ley del comer o ser comido es consequence de la humanidad en el animal, en contraste con la nuestra en donde es la bestia interior el origen de la violencia humana.

 

¿Cuál es el punto de todo esto? ¿Y que nos importa como los indígenas puedan pensar? Bueno, porque, como sabemos de hace bastante tiempo, “cada comprensión de otra cultura es un experimento con la propia”. Viveiros cree que ellos piensan exactamente “como nosotros”. Pero, lo que piensan, es decir, los conceptos que se dan, son muy diferentes de los nuestros y, por lo tanto, el mundo descrito por esos conceptos es muy distintos del nuestro.

 

Esta es la cosa... ¿qué ocurre cuando tomamos en serio el pensamiento indígena? ¿cuándo, en lugar de explicar, interpretar, contextualizar o racionalizar ese pensamiento lo utilizamos, extraemos sus consecuencias y verificamos los efectos que produce sobre el nuestro? ¿qué es pensar y tomar en serio el pensamiento indígena? Aquí no se trata, dice Viveiros, de creer que lo que dicen los indígenas es la expresión de una verdad sobre el mundo. Si queremos tomarlo en serio, debemos entonces tomarlo como una practica del sentido... como dispositivo autorreferencial de producción de conceptos, de símbolos que se representan a si mismos. La tarea de la antropología no es la de explicar el mundo de los otros, sino la de multiplicar nuestro mundo. No podemos pensar como los indios, pero, a lo menos, podemos pensar con ellos. Al superar su propio contexto el pensamiento amerindio da que pensar a otros, cualquiera que sean estos otros.    

 

A las diferentes y cambiantes formas de pensar con el animal todavía es posible, si tenemos tiempo, inventar otras para explotar las posibilidades de nuevas formas de experiencia. A diferencia de la proyección de la propia forma de sentir y pensar en otras mentes, la inmersión del yo en el otro es, podríamos decir, un anhelo empatetico, aunque nunca completamente logrado.

 

Nieves y Miro Fuenzalida.

El buscador de palabras muertas

 

 

Todos

 Los miércoles

A

Las 7

Antes de medio dia

El basurero

Buscador de palabras sucias

Se

Lleva

Las que

No uso.

 

Nieves.

El mono y la Inteligencia artificial

Durante la inauguración de la Asamblea General de las Naciones Unidas el 20 de Septiembre su Secretario General advirtió que la inteligencia artificial "está comprometiendo la integridad de los sistemas de información, los medios y, de hecho, la democracia misma".

 

Lo inquietante, desgraciadamente, es que el problema pareciera que va mas allá de lo que el Secretario General advirtió. Hasta hace bien poco, la informática era poderosa porque nos hacia poderosos, para bien o para mal. Una herramienta de propósito general, controlada por nosotros y a nuestro propio servicio, que amplifica nuestra inteligencia y que nos da acceso a información que antes no teníamos, aunque parezca en el fondo  que nos hace mas tontos... y tal vez, en realidad nos hacen.

 

Pero, esta es la cosa, según el ex editor de Time, Bryan Walsh... ¿Qué pasaría si la inteligencia aumentada por el explosivo poder de la computación no es humana, sino artificial? ¿Si perdemos el control de las maquinas que nos sustentan en todos los rincones del mundo? ¿Y que sucedería si nuestras herramientas desarrollan mentes propias, mentes incalculablemente superiores a las nuestras?  Probablemente lo que le pasa a cualquier pieza de tecnología que se vuelve obsoleta... nos transformaríamos en  chatarra. 

 

No hay una clara y distinta definición de lo que la inteligencia artificial es y no hay consenso  científico en que constituye una “verdadera IA” a diferencia de lo que puede ser solo un programa informático efectivo y rápido. Pero, en todo caso, una buena definición dice que la inteligencia no significa tener una gran cantidad de conocimientos o la capacidad de hacer matemáticas complejas, sino la de percibir el entorno con precisión y tomar acciones que maximicen la probabilidad de lograr objetivos determinados. Las computadoras, como sabemos, pueden recordar mucho mas y pueden hacerlo sin decadencia, fatiga o errores. Pero, en los últimos años la revolución informática se ha convertido en una revolución en inteligencia artificial, como nota Walsh, que puede derrotarnos en el ajedrez y el Go, un juego  japonés, que durante mucho tiempo se consideraron marcadores confiables de inteligencia. Pueden reconocer imágenes, con pocos errores, jugar en el mercado de valores mejor que un corredor, mantener conversaciones a través de mensajes de texto casi tan bien como una persona, mirar un rostro humano y distinguir una mentira de una verdad. Y, sobre todo, las IA están aprendiendo a aprender, a ser maquinas de aprendizaje de propósito general tomando datos por terabyte, generalizando y sacando conclusiones que pueda usar para lograr sus objetivos, cualquiera que estos sean. Es esto justamente lo que hacemos nosotros, pero, debido a que una IA puede extraer, contener y procesar muchos mas datos de los que un cerebro humano, tienen el potencial de aprender mas y mas rápido que un humano. Por ahora este aprendizaje se limita a temas específicos, pero si esta capacidad se amplia otra historia nos cantara. Si puede hacer esto dejara de ser simplemente una herramienta del humano, que actualmente domina el planeta, para convertirse en nuestro igual, por un breve tiempo, para luego convertirse en nuestro superior. Si nosotros somos inteligentes, la IA podría volverse super inteligente. En ese momento no seria raro encontrarnos a merced de una entidad superior en el mismo sentido en que los gorilas, en peligro de extinción, están a merced de nosotros. Y en la misma forma en que nosotros hemos llevado a la extinción a innumerables especies la IA podría eliminarnos simplemente porque nuestra presencia se interpone en su camino para lograr sus objetivos.

 

¿No seria esto la ultima paradoja que nuestra destrucción estuviera en las manos de una creación que representa la suma de la inteligencia humana?

 

 ¿Alarmista?... El físico teórico Stephen Hawking ya había advertido que el desarrollo de la IA podría significar el fin de la raza humana. Según el matemático británico y colega de Turing, I.J.Good, en 1965 dijo que... dado que el diseño de maquinas es una actividad intelectual, una maquina ultra inteligente podría diseñar maquinas aun mejores. Entonces habría una “explosión de inteligencia” y la inteligencia del humano quedaría muy atrás. Por tanto, podríamos decir, ese seria el momento en que la maquina toma control. Así como los humanos se esfuerzan por mejorar, las maquinas también lo harán. La diferencia es que la maquina puede hacer esto actualizando su disco blando y duro directamente, escribiendo mejores códigos y creando mejores versiones de si misma, a diferencia de los humanos  que solo podemos  actualizarnos mediante el lento proceso de la evolución. La superación recursiva de IA, el proceso de mejorar la capacidad  para realizar mejoras personales, conduciría a maquinas cada vez mas inteligentes y mucho mas rápido que el pensamiento humano.

 

Pero, después de todo, bien puede ser que esta super inteligencia sea una pura fantasía. Según algunos expertos la super inteligencia no podría ser posible por centurias.  

 

La otra cara de este riesgo, sin embargo, es considerar la IA como la fuente ultima de nuestra “experiencia existencial”. Según ciertos comentaristas nuestras vulnerabilidades a las amenazas naturales o creadas por nosotros se reducen en gran medida a una cuestión de inteligencia. Puede que no seamos lo suficientemente inteligentes para desviar un asteroide gigante, detener el peligro atómico, desarrollar fuentes de energía que puedan eliminar el peligro del cambio climático o la amenaza permanente de las enfermedades infecciosas. Pero, con una super inteligencia artificial, como creen los evangelista cibernéticos, nada es imposible. Podríamos eliminar todos los dolores y males que son parte de nuestra condición, viajar por el universo e, incluso, lograr la inmortalidad. Según el CEO de Google, Sundar Pichai, la IA será “más importante que la electricidad o el fuego”.  

 

Si este es el caso, entonces también, siguiendo la tendencia humana a controlar, no seria raro que las corporaciones o países que desarrollen la mejor IA estarán en posición de dominar el resto del mundo.

 

Cada gran salto tecnológico, como dice Walsh, ha sido acompañado de disrupción económica y social. Los luditas se rebelaron en contra de los telares automáticos, los automóviles fueron resistidos en el campo y el teléfono causo miedo que podría transmitir descargas eléctricas a través de sus cables. Pero, mas temprano que tarde, nos adaptamos a la nueva tecnología y luego la damos por sentada.  La IA, sin embargo, puede ser diferente. Podemos elucubrar todo lo que queramos con la IA, pero esta no tiene que volverse super inteligente para crear muchos mas  trastornos comparada con cualquier otro avance tecnológico del pasado. Podría exacerbar el desempleo, empeorar la desigualdad, distorsionar el proceso electoral e incluso facilitar que los gobiernos maten a sus propios ciudadanos. Puede que no sean las maquinas a las que debemos temer, sino a los que las poseen. El peligro de la IA a corto plazo no es solo económico, según Walsh, sino que también puede transformarse en una asesina paralela. Con un poco de imaginación, por ejemplo, podemos dramatizar un escenario en donde enjambres de diminutos drones mecánicos usen IA y tecnología de reconocimiento facial para atacar y matar de forma autónoma. Esta no es solo una fantasía gratuita. Actualmente ya tenemos aviones no tripulados pilotados a distancia capaces de entregar cargas letales. En el futuro próximo, los drones podrían programarse para asesinar a un político o llevar a cabo una limpieza étnica.  Esto representaría la tercera gran revolución en la guerra, después de la pólvora y las armas atómicas. Esto haría mucho mas fácil matar a voluntad, al principio para uso de  los estados y luego para las bandas criminales, terroristas e incluso individuos solitarios. Ya en el 2018 el Pentágono lanzo un Centro Conjunto de IA de $1.7 mil millones y el mismo año la Agencia de Proyectos de Investigación Avanzada de Defensa anuncio su propia campaña de IA de $2 mil millones. El programa militar Edge, Project Maven, fue diseñado para ayudar a los sistemas informáticos a identificar objetos a partir de imágenes aéreas, lo que seria bastante útil si se quisiera desarrollar un dron que pudiera seleccionar objetivos y disparar sobre ellos de forma autónoma.  

 

En las ciudades chinas las cámaras de reconocimiento facial escanean multitudes en busca de delincuentes y de aquellos que socaban la estabilidad social. Su uso esta convirtiendo potencialmente a China en un estado tecnológicamente orwelliano lo que seria una tragedia y un peligro mortal para sociedades mas abiertas si esas herramientas eventualmente se exportan. Y peor aun para el mundo es la creciente probabilidad de que Estados Unidos y China se embarquen en una carrera armamentista que involucre la IA en lugar de armas nucleares, lo que representaría un riesgo existencial no solo en si mismo, sino que también por la posibilidad de que saltos repentinos en la capacidad de la IA puedan alterar el equilibrio de poder necesario para mantener la paz entre los estados con armas nucleares.

 

Por ultimo, lo que realmente es espeluznante es que no entendemos los sistemas de inteligencia artificial que estamos usando y no solamente para gente común y corriente como nosotros, sino que también para expertos. Las mismas características que hacen que el aprendizaje profundo sea tan poderoso, dice Walsh, también lo hacen opaco. El proceso es tan complejo que incluso los creadores de los algoritmos a menudo no pueden decir por que una IA en particular toma una decisión y no otra. Ella no explica sus actos. Y, para mas remate, cuando actúa puede cometer errores, como en el automóvil Uber autónomo que atropello y mato a un peatón en Arizona. Todos cometemos errores, pero un solo error del algoritmo puede extenderse a toda una industria comercial o a un aparato bélico con un daño inmensamente mayor.

 

Ninguna tecnología es infalible. Cuando un avión se cae los expertos pueden revisar la evidencia y entender que paso. No siempre es así con la IA. El investigador de IA de Google, Ali Rahimi, comparo la IA, no con la electricidad o el fuego, sino con la alquimia medieval. Esta produjo importantes avances científicos, como el desarrollo de la metalurgia, pero los alquimistas no podían explicar la base científica de porque funcionaba lo que hacían. La IA en estos momentos esta mas cerca de los alquimistas que de los científicos.

 

No hay garantía que mantengamos el control de algo que excederá  enormemente nuestras propias capacidades prácticamente en todo. Imaginemos que finalmente ocurre, que nace la super inteligencia y escapa a nuestros débiles intentos de controlarla... ¿qué pasara entonces?

 

Nieves y Miro Fuenzalida.

Jugando papayas

 

Las ultimas

Piedras

Que

Tengo

De

La vida

Las jugare

A

La payaya.

Tal vez

La suerte

Se

Disfrace

De

Piedra. 

 

Nieves.