Es curioso el hecho de que a través de gran parte de la historia humana encontramos mitos y fantasías que advierten que la tecnología puede llevarnos a lugares catastróficos. Recordemos solo, entre otras, la historia griega del carruaje solar de Faetón, el Aprendiz de Brujo de Goethe, la leyenda moderna del doctor Frankenstein, de Mary Shelley, el Extraño Caso del Dr Jekyll y Mr Hyde, de Robert Louis Stevenson en las que el mensaje ha sido siempre el mismo... la creación de cosas poderosas tiene consecuencias no deseadas. Y, sin embargo, a pesar de lo obvio del mensaje, continuamos actuando como si nunca lo hubiésemos escuchado... ¿por qué, si sabiéndolo, seguimos en la persecución de lo que racionalmente no deseamos? ¿se debe, como algunos creen, a un defecto fatal de nuestra naturaleza, o es otra cosa?
En la mayoría de estas fantasías un solo individuo adquiere un enorme poder, pero luego es corrompido por la arrogancia y la codicia. La cosa, sin embargo, no es tan simple. Si miramos la historia vemos que la humanidad logra un enorme poder al construir grandes redes de cooperación, pero la forma en que se construyen predispone a usarlas de manera negativa. Según el popular historiador Yuval Harari, nuestro problema no es una cuestión individual, sino uno de red o, mejor aun, uno de información, que es lo que mantiene unidas a las redes. Durante miles de años hemos inventado y difundido historias, ficciones, fantasías, fabulas y delirios colectivos sobre dioses, vírgenes, paraísos celestiales, infiernos, escobas voladoras y muchas otras cosas que no son sobre la verdad sino técnicas para unir a los miembros y crear orden. Es así como se han construido los imperios mas poderosos y totalitarios desde la antigüedad hasta nuestros días. Y estas redes delirantes están adquiriendo hoy día un poder cualitativamente diferente.
La creencia común es la de que al reunir y procesar mas información las redes logran una mayor comprensión de la realidad que la hace, no solo poderosa, sino también sabia. Si bien es cierto que las redes delirantes pueden surgir ocasionalmente, a largo plazo están destinadas a desaparecer frente a rivales mas perspicaces y honestos. Una mayor información nos acerca cada vez mas a la verdad y en el libre mercado de información tarde o temprano la verdad prevalece. Y, ciertamente, hay numerosos casos en que la información nos ha capacitado para entender mejor el mundo y usar el poder en forma mas sabia.
Pero esto es solo parte de la historia. Las ultimas generaciones han experimentado el mayor aumento de información tanto en la cantidad como en la velocidad de trasmisión y, sin embargo, estamos mas cerca que nunca de aniquilarnos a nosotros mismos... ¿como así?
Según Harari, todos los inventos humanos anteriores han capacitado al ser humano porque, no importa cuan poderosos fueran, las decisiones quedaban siempre en muestras manos. La Inteligencia Artificial es la primera tecnología que puede tomar decisiones por si misma. Ya no es solo una herramienta sino también un agente. En las próximas décadas es probable que adquiera la capacidad incluso de crear formas de vida, ya sea escribiendo un código genético o inventando un código inorgánico que anime entidades inorgánicas.
Un mayor conocimiento de la historia, por tanto, es vital para entender que hay de muevo en la inteligencia Artificial y como difiere de los otros medios de trasmisión.
La información es el elemento mas básico de la realidad, mas elemental que la materia y la energía. En el uso cotidiano la información es asociada, no solo con símbolos creados por los humanos como la palabra hablada o escrita, sino también con signos naturales como cuando la paloma vuela sobre el arca de Noé con una rama de oliva indicando el fin del Diluvio, lo que indica que la “información” es una cuestión de perspectiva. Si consideramos que la verdad es una representación adecuada de la realidad, la mayor parte de la información en las sociedades humanas no representan ninguna cosa y su papel a través de la historia ha sido fundamentalmente la de crear nuevas realidades al unir cosas dispares, ya sean parejas o imperios. A veces representa la realidad y otras no. Pero siempre conecta. Desde la Edad de Piedra hasta la Edad del Silicón vemos un constante aumento de la conectividad, sin un aumento concomitante de la verdad o la sabiduría.
Si estuviéramos conectados solo por vínculos personales como en los monos nuestras redes se habrían mantenido bien pequeñas. Pero cambios en la estructura cerebral y las habilidades lingüísticas permitió contar y creer en historias que empezaron a tocar a un numero ilimitado de individuos. Esto fue lo que inauguro un nuevo tipo de cadena. Una misma historia ahora puede servir como conector central. Los 1400 millones de miembros de la Iglesia Católica, por ejemplo, están conectados por la Biblia. Mas de un billón de ciudadanos chinos por la ideología comunista y los 8 000 millones de miembros de la red comercial están conectados por historias sobre monedas, corporaciones y marcas. Al igual que el ADN las historias pueden crear nuevas entidades. Antes de su aparición el universo contenía solo dos niveles de realidad... la realidad objetiva que consiste en cosas como piedras, lagos y planetas y la realidad subjetiva como el dolor, el amor y los sueños. Las historias crean un tercer nivel... la realidad intersubjetiva. Mientras las cosas subjetivas existen solo en una sola mente, las intersubjetivas como las leyes, los dioses y las naciones existen en el nexo entre un gran numero de personas. Y estas historias a menudo van unidas a mentiras, errores y fantasías letales.
Las redes de información, para ser mas precisos, contienen dos distintas habilidades... descubrir la verdad y crear orden. Estos dos procesos, sin embargo, suelen ser contradictorios porque con frecuencia es mas fácil mantener orden a través de ficciones que mantener la verdad ¿qué sucede, por ejemplo, cuando una información socaba la mentira que mantiene la preservación del poder social? Solo recuerda a Giordano Bruno.
Una de las mas poderosas técnicas de información, aparte de la burocracia, ha sido hasta ahora la invención del Libro Sagrado, como la Biblia, el Corán o los Vedas, considerados infalibles y libres de todo error. Su historia ilustra las limitaciones de las redes de información y un aviso para nuestra época en el intento de crear IA.
Si los textos infalibles conducen a iglesias infalibles y opresivas ¿como, entonces, evitamos, el problema del error humano? La respuesta, según acostumbramos a creer, esta ciertamente en la libre circulación de information. Aunque no inevitablemente. La revolución de la imprenta en el siglo XV en Europa, por ejemplo, hizo posible la difusión masiva de textos. Todo tipo de herejes, revolucionarios y proto científicos podían difundir sus escritos. Al parecer, un triunfo de la libertad de expresión. Sin ella hubiera sido mucho mas difícil para Copérnico y Galileo difundir sus ideas. Pero su difusión fue mínima comparada con la propagación de fantasías religiosas, falsas noticias y teorías de conspiración mundial que condujeron a la caza de brujas satánicas a comienzos de la Edad Moderna culminando con la ejecución de mas o menos 50 000 personas inocentes.
Hoy día no es ninguna novedad saber que estamos en medio de una revolución informática sin precedente. Por primera vez en la historia el poder esta pasando en estos momentos de los humanos a algo diferente. Las imprentas, las radios y la TV eran herramientas pasivas. Las computadoras en cambio se están convirtiendo en agentes activos que escapan a nuestro control y comprensión al tomar iniciativas que pueden dar origen a nuevas formas de sociedad, historia o cultura. El primer ejemplo paradigmático fue el papel que desempeñaron las redes sociales en el 2016 cuando el algoritmo de Facebook ayudo a los fanáticos a avivar la violencia anti rohingya en Myanmar, que culmino con la limpieza étnica y su expulsión del país. Y, a principios del 2020, los algoritmos ya habían pasado la etapa de crear por si mismos noticias falsas y teorías conspirativas. Ellos pueden aprender por si mismos cosas que ningún ingeniero humano programo y decidir cosas que ningún ejecutivo previo. Esta es la esencia de la revolución de la IA y potencialmente el fin de la historia humana. No el fin de la historia, sino aquella historia dominada por humanos que ahora mismo esta siendo trastocada por las redes informáticas. No es extraño entonces que tanto las democracias como las dictaduras teman la aparición de agentes que no saben como controlar.Este reciente potencial político que las computadoras están acumulando es algo que merece la atención.
Por milenios los humanos hemos estado acostumbrados a ser vigilados... por otros animales, por otros humanos y por todo tipo de instituciones. Pero hasta ahora la vigilancia siempre había sido incompleta, incluso en los sistemas mas totalitarios. En el 2024, en cambio, ya nos estamos acercando a una red informática omnipresente que puede seguir a la población de países enteros las veinticuatro horas del día y acumular suficiente información para establecer un sistema de crédito social basado en un mayor o menor numero de puntos que gobiernos y corporaciones han empezado a usar. Buena conducta suma puntos. Mala conducta resta puntos. Y de acuerdo con el puntaje que se tenga uno gana o pierde privilegios. Un sistema que en poco tiempo puede crear una nueva clase social de “personas con bajo nivel de crédito” y aniquilar la poca privacidad que nos queda.
Y, como si esto no fuera poco, las implicaciones para la política internacional pueden tener un profundo impacto. Según Harari la dinámica económica y geopolítica puede dividir el mundo en dos imperios digitales reemplazando la Cortina de Hierro de la Guerra Fría con la Cortina de Silicio. El código de la computadora o teléfono inteligente, por ejemplo, determina en que lado de la cortina vives, que algoritmos dirigen tu vida y hacia donde fluyen los datos. China y Estados Unidos o Rusia y la UE usan cada vez mas redes, códigos, software, regulaciones y objetivos digitales diferentes. En China no se utiliza Google, Facebook o Wikipedia. En Estados Unidos no se utilizan WeChat, Baidu o Tencent. Estas diferencias tienen una tremenda influencia en gran parte del mundo ya que los países dependen de la tecnología de uno u otro. Durante siglos los procesos de globalización acercaron a personas de todo el mundo a un contacto mas estrecho. La actual tecnología de la información paradójicamente puede dividir la humanidad con el desarrollo de culturas, ideologías e identidades diferentes y contradictorias poniendo fin a la esperanza de una humanidad compartida.
Por supuesto, las diferencias humanas son una realidad y siempre traen algo nuevo. Pero, la cosa es que cuando los imperios compiten entre ellos,
el peligro es que pueden terminar en guerra catastróficas. La Guerra Fría nunca llego a una confrontación directa gracias a la doctrina de la destrucción mutua. En comparación, las armas cibernéticas son mucho mas versátiles. Pueden derribar la red eléctrica, los centros de investigación, bloquear un censor enemigo, avivar un escandalo político, manipular elecciones o piratear teléfonos eléctricos. Y todo ello de manera sigilosa.
Una IA fuera de control, al igual que un virus fuera de control, pone en peligro a los seres humanos de todas las naciones. Ningún colectivo humano, sea la nación o la humanidad, se beneficiara si el poder pasa de los humanos a los algoritmos.
Nieves y Miro Fuenzalida.
