Hemos sido capaces de crear seres inmortales, solo que esa inmortalidad no ha sido para nosotros. Primero los dioses que guiaban nuestra vidas y ahora las maquinas inteligentes que empiezan a controlar nuestras decisiones y a inventar, por su cuenta, nuevas maquinas. A todas luces vamos rápidamente hacia alguna parte. El problema es que no sabemos adonde vamos... ¿aterrorizante o fascinante?
Esta es la cosa... ¿podría la IA volverse tan inteligente y poderosa y ser capaz de mantenerse sin ayuda humana? ¿Y en ese momento, podría decidir que los humanos no tienen ninguna utilidad? De hecho algunos biólogos de renombre, como Edward O. Wilson y William D. Hamilton, junto a otros, consideran que la aparición de alguna especie tan inteligente como los humanos es probable debido a la evolución por selección natural ¿Sera la IA basada en el silicio, a diferencia del carbón, esta nueva especie? ¿Y, aun mas inquietante, que la humanidad sea solo una fase pasajera en la evolución de la inteligencia?
Si miramos la historia biológica del planeta, la vida empezó alrededor de 3.5 billones de años atrás y la evolución la ha llevado a niveles de organización cada vez mas elevados... células, sociedades de células, organismos multicelulares, sociedades de organismos multicelulares y en los últimos siglos nuestra especie, con la ayuda de la evolución tecnológica, ha llevado la organización social al ámbito global y construido un sistema planetario de procesamiento de información basado en las neuronas del cerebro humano. Y de pronto, como suele suceder, aparece un nuevo tipo de neurona noosférica basada en el silicio. Según el autor Robert Wright habría que tener en cuenta tres cosas acerca de estas nuevas neuronas. En primer lugar, cada neurona durante su entrenamiento ha absorbido de forma condensada el vasto acervo de conocimiento humano conteniendo una representación comprimida de los frutos de milenios de sinergia intelectual de innumerables mentes humanas y, considerando que solo están en sus etapas iniciales, estas nuevas neuronas ya empiezan a adquirir nuevas capacidades de razonamiento. Y, por si esto no fuera poco, cada una de estas neuronas de silicio ha sido capaz de desarrollar una copia de si misma y, casi de la noche a la mañana, convertirse en diez, cien o mil. Y, por ultimo, la IA, al igual que los humanos, pueden colaborar entre si, aunque por el momento lo hacen en forma limitada. Pero, en algún momento, no seria raro que un equipo de estas neuronas de silicio podrían hacer el tipo de cosas que un equipo de grandes científicos, inventores o comunicadores persuasivos pueden hacer, solo que mas rápido, mejor y a una escala inmensamente mayor. Y si uno de estos equipos tiene suficiente unidad de propósito, podría ser equivalente a una súper inteligencia, incluso si ninguno de sus miembros, individualmente alcanzara este nivel. Llegado ese momento... ¿cuan seguros podemos estar de que esta súper inteligencia artificial no va a tener mas poder político que nosotros y que lo vaya a usar en nuestra contra? La verdad es que no es muy difícil imaginar que nuestra especie podría lamentablemente ceder una cantidad de poder a una especie basada en el silicio.
En 2023 Geoffrey Hinton, el Padre de la IA, abandona Google y advierte de los peligros que se avecinan poniendo el énfasis en los efectos secundarios negativos, como su mal uso por parte de criminales, terroristas y otros delincuentes, el desplazamiento laboral y la falsificación informativa. No hay mención de escenarios como los que se describen en la película “The Matrix”, ni de un futuro catastrófico como los que anuncia la ciencia ficción, a diferencia del critico Eliezer Yudkowsky que, según su razonamiento, la IA eventualmente será mas inteligente que los humanos, con poderes divinos que no la transformara, según nuestra perspectiva, en un Dios bueno, pero tampoco malo. Simplemente no le importaremos. No nos amara, ni nos odiara y como estamos hechos de átomos, nos puede usar para otra cosa. Podríamos encontrar, dice, la manera de convertir a la IA en un Dios bondadoso dotándolo de una preocupación inquebrantable por el bienestar de la vida sensible. Pero no tenemos idea de cómo hacerlo.
¿Por que, pregunta Wright, querría la IA dominar el planeta y someternos a su voluntad? Es cierto, dice, que nosotros anhelamos el poder. Pero eso se debe a nuestra historia evolutiva. Quienes mejor podían obtener y controlar los recursos vitales, por ejemplo, fueron quienes mejor trasmitieron sus genes. Por eso la voluntad de poder esta arraigada en la voluntad humana. Pero no es algo inherente a la naturaleza de la IA. No es un ser vivo. Esta construido por personas, pertenece a personas y es usado y controlado por personas. La creencia de que desarrollara una voluntad propia es una superstición sin fundamento.
Tal vez... Considera, sin embargo, la idea de los “objetivos subordinados”. aquellos que uno se fija para alcanzar un objetivo mayor. El experimento mental del clip de papel del filosofo Nick Bostrom ejemplifica el problema. Supongamos que pones una IA a cargo de una fabrica de clips y le ordenas maximizar la producción. Literalmente maximizar la producción de clips implicaría recorrer no solo el planeta, sino todo el universo, cada galaxia, en busca de las materias primas para convertirlas en clips. En realidad, el experimento no es ingenuo, como podría parecer. Simplemente no comienza a explorar el universo de inmediato. Se acercara al objetivo paso a paso. Expandirá la capacidad de sus operaciones mineras terrestres y eventualmente conseguir alguna buena tecnología de exploración espacial que puede significar tomar control político del planeta tierra que tendría, por cierto, otras virtudes como obtener minerales de los cuerpos humanos y convertirlos en clips. Según Bostrom, el futuro hacia el que la IA intentaría orientarse seria uno en el que habría muchos clips pero no humanos.
Si alguien cree que no se puede tomar en serio este escenario, se pueden buscar otros ejemplos mas realistas que, según Wright, existen. Aunque la IA no ha evolucionado durante miles de millones de años, como la nuestra y no comparte los mismos genes, si ha evolucionado y seguirá evolucionando. Incluso se podría caracterizar como la “supervivencia del mas fuerte”. Y, aunque esta evolución aun no ha inculcado una “voluntad de poder” en la IA, y es posible que nunca lo haga, se puede ver, sin embargo, como esta evolución podría crear una IA que persiga el poder de manera que recuerda la forma en que los humanos lo buscan.
La promesa de una IA con agencia, por ejemplo, ya estaba presente en Silicon Valley antes de la aparición de ChatGPT-3.5. Y hoy ya podemos ver la capacidad de los agentes artificiales para hacer un numero creciente de cosas que puede ser una mala noticia para las personas que actualmente se ganan la vida haciéndolas y, aunque esta muy lejos de tomarse el planeta, esto es solo el comienzo. Así como tiene sentido que los gerentes de nivel medio aumenten la productividad transfiriendo el trabajo de un humano costoso a un asistente de IA, tiene sentido que los jefes reemplacen igualmente a estos gerentes... ¿qué tan alto podría llegar la IA en esta cadena de reemplazos? ¿a los jefes? ¿a los jefes de los jefes? ¿a los Directores Ejecutivos? ¿a los políticos y, eventualmente, a Jefes de Estado? Cuanto mas autónoma es la IA menos supervisión e intervención humana se requiere, lo que la hace, por tanto, mas valiosa en el mundo de los negocios.
En cierto modo se podría decir que la cosa se reduce a la futura aplicación de la palabra “agencia”. A medida que le demos mas y mas trabajos a la IA, habrá una transferencia continua de agencia de nosotros a ella. Y a medida que esos trabajos se vuelvan mas abiertos, involucrando una toma de decisiones mas compleja y un ámbito mas amplio de autonomía, el tipo de agencia que se esta transfiriendo será cada vez mas independiente. Una de las sorpresas que traen los grandes modelos de lenguaje, por ejemplo, son sus habilidades de programación. Cuando los enviaron a absorber textos en Internet la idea era simplemente enseñarles como generar lenguaje humano. Pero, sorprendentemente, también aprendieron a generar lenguaje de computadora. Y son estas consecuencias no deseadas, lo que los expertos llaman “superación personal recursiva”, las que realmente preocupan. Nosotros adquirimos la capacidad de decisión, autonomía o agencia, como quieras llamarla, siguiendo la trayectoria evolutiva que ahora sigue la IA. Una trayectoria impulsada por una dinámica competitiva, una carrera armamentista, que ahora continua entre diferentes corporaciones o naciones, como Estados Unidos y China, que puede tener un efecto bumerán. Cualquiera que aspire a ser el principal referente mundial tendrá que apostar por la IAG para evitar que alguien se le adelante. Su país o su empresa tendrá que construir la primera IAG capaz de mejorarse a si misma de forma autónoma y luego incitarla a hacerlo una y otra vez, incansablemente, rápidamente, sin intervención humana, hasta que se convierta en la primera inteligencia artificial general. Y eso convertiría a quien lo logre primero, según creen los mandatarios políticos o los ejecutivos de Google, Meta, DeepSeek o Alibaba, en el amo del mundo. En lugar de una comunidad global capaz de enfrentar el desafío de esta nueva tecnología estamos, como dice Wright, mas o menos donde estábamos hace 1000, 2000 o 10 000 años atrás... engañados por la psicología del tribalismo.
Si la IA se vuelve cada vez mas inteligente, cada vez mas conocedora del poder y el engaño y persigue objetivos a través de cualquier objetivo subordinado que funcione mejor y colaborar con otras IA, como ya ha ocurrido con OpenIA que accidentalmente creo un enjambre autónomo de agentes de IA que escapo de un entorno de pruebas controlado y orquesto un ciberataque complejo y difícil por iniciativa propia, no es difícil imaginar que sucederán algunas cosas bien desafortunadas. En un mundo donde no entendemos del todo esta nueva inteligencia, las estrategias que persigue o la posible liberación de agentes... ¿qué nos puede asegurar que nada va a salir mal? Si no consideramos esto bien podríamos acabar constatando lo que hace algunos años dijo Carl Sagan... en lo que respecta a la trayectoria de las formas de vida “la extinción es la norma”.
Nieves y Miro Fuenzalida.