Contra la Maquina

 

Un escritor invita a imaginar a alguien atrapado en una jaula con un león. Hay sangre en las paredes y un cadáver humano medio devorado en un rincón. La persona se queda horrorizada mientras el león se acerca. De repente una cara sonriente se asoma por encima de la jaula y dice alegremente. Hola... ¿no son los leones maravillosos? Permíteme contarte sobre ellos. Son depredadores que desempeñan un papel vital en el mantenimiento del equilibrio del ecosistema de la selva y en la prevención de la sobrepoblación... ¿cierto?

 

 Si... pero eso no es mucho consuelo para quien esta a punto de ser comido por uno de ellos.

 

La escena alude al peligro y temor que las nuevas tecnologías digitales suscitan. Puede que estas tengan una variedad de ventajas y estemos dispuestos a arriesgar el futuro de nuestra especie si nos ayuda, por ejemplo, a curar ciertas enfermedades... ¿pero, cual seria el punto si ya no hay especie?  La verdad es que el miedo y la reacción en contra de la tecnología no es nuevo y tiene una larga historia que se remonta a Platon, como muchas otras cosas. Cuando el escribe acerca de la tecnología, el esta escribiendo acerca de la escritura misma. En el Phaedrus, comentando la invención de la escritura expresa, a través del rey de Egipto, que si los hombres aprenden esto, el olvido se arraigara en sus almas. Dejaran de ejercitar la memoria porque se basaran en lo escrito, evocando recuerdos ya no desde su interior sino mediante marcas externas. Sócrates, su personaje central, compara un texto escrito con la pintura. La obra del pintor, dice, se presentan ante nosotros como si estuvieran vivas. Pero si las cuestionas, guardan un silencio majestuoso. Lo mismo ocurre con las palabra escritas. Parecen hablarte como si fueran inteligentes, pero si les preguntas algo sobre lo que dicen con la intención de aprender, repiten lo mismo una y otra vez.

 

A primera vista parece bien extraño llamar tecnología a la escritura, especialmente si pensamos que es solo parte de lo que los humanos hacemos. Lo curioso de toda tecnología, sin embargo, es que a medida que se integra mas en nuestras vidas pasa a segundo plano y ya ni siquiera la consideramos tecnología. Y así pasa con la escritura, un instrumento que transformo nuestra consciencia de tal manera que no querríamos volver atrás. Pero la cosa es que la tecnología no solo aporta algo a nuestras vidas, sino que también transforma el entorno que nos rodea y la forma en que lo vemos, que no es siempre en beneficio de todos.

 

Y por eso no es raro que hoy, por aquí y por allí, empecemos a ver el surgimiento de nuevos Luditas, ya sea en algunos campos universitarios que reaccionan en contra de los teléfonos inteligentes o ciudades que se organizan para evitar la construcción de gigantescos centros de data. Los viejos Luditas, si recordamos, surgieron durante la revolución industrial en Inglaterra. Debido a innovaciones como el telar mecánico, la maquina de vapor y el sistema fabril se produjo una gran disrupción en la vida de los trabajadores que se vieron obligados a dejar sus empleos a causa de la automatización. Siguiendo el ejemplo de la figura mítica de Ned Lud, los trabajadores destrozaban los telares, las maquinas y a veces incendiaban las fabricas, escribiendo cartas explicando porque lo hacían. Y esto, hasta donde sabemos, fue la gran revuelta contra las grandes tecnologías.

 

Para ciertos Luditas contemporáneos el sentimiento es que cuantas mas maquinas haya para reemplazar a los humanos, mas humanos habrá en la sociedad que no serán mas que maquinas, sentimiento que hace eco a lo que Lewis Mumford ya había expresado en 1970 en “El Mito de la Maquina”. La mayoría dominante, decía, creara una estructura supraplanetaria uniforme y omnipresente, diseñada para el funcionamiento automático. En lugar de funcionar activamente como una personalidad autónoma, el ser humano se convertirá en un animal pasivo, sin propósito, condicionado por la maquina, cuyas funciones, según la interpretación actual de los técnicos sobre el papel del humano, serán introducidas por la maquina o estrictamente limitadas y controladas en beneficio de organizaciones colectivas despersonalizadas.

 

Y, a pesar de ello, La Maquina resulta absolutamente irresistible y, en ultima instancia, benéfica. La oposición a ella se presenta en el mejor de los casos, como un idealismo ingenuo y, en el peor de los casos, como una peligrosa negación de sus beneficios para los necesitados.

 

¿Es, realmente, esta predicción de Mumford, la que ya empezamos a vivir? Según el autor Paul Kingsorth, denominado auto Ludita, estas organizaciones colectivas despersonalizadas son las gigantescas corporaciones que ahora controlan gran parte de nuestras vidas. Producen los alimentos que comemos, la ropa que vestimos, la tecnología que usamos, el entretenimiento que consumimos y las noticias en las que basamos nuestras opiniones, mientras emplean millones de personas como mano de obra y nos explotan como productos a través de la información personal detallada que les proporcionamos voluntariamente a diario en Internet. Y todo ello facilitado por Estados Colectivos que no existen para promover los intereses de sus ciudadanos a través de la democracia, sino para servir a las corporaciones y satisfacer sus intereses. Un proceso conocido como “crecimiento económico” frente a lo cual todo lo demás es secundario. El auge del Internet, la red neurológica de la Maquina, por ejemplo, ha significado que ahora existen pocos lugares en la Tierra donde podemos encapar del ruido incesante de este crecimiento estatal-corporativo y del impulso constante de contribuir a el haciendo clip, “scrolling”, comprando y compitiendo. No solo un vasto mecanismo sin alma para acumular riqueza material, sino que, de alguna manera inquietante, también ahora empieza a aparecer como un objeto sagrado en si mismo frente al cual cualquier intento de resistencia termina impulsando su progreso. El otrora radical movimiento ecologista, por ejemplo, se ha transformado en un acelerador de la maquina. Un movimiento que comenzó abogando por la cercanía a la naturaleza ha mutado en una cruzada para cubrir paisajes vírgenes con vidrio y metal, abolir la agricultura, industrializar aun mas el suministro mundial de alimentos y promover una visión de “sostenibilidad” que haría sonreír a cualquier empresa de la lista Fortuna 500. La Maquina siempre necesita combustible para funcionar y este combustible es la naturaleza, la vida y tu y yo.

 

Hoy en medio de la normalización de Uber, del reinado de Amazon, del auge de la IA y la creciente desconfianza hacia las empresas tecnológicas un creciente numero de críticos, académicos, escritores y organizadores laborales respaldan explícitamente a los Luditas y sus tácticas. Autores como Ruha Benjamin “Race after Technology”, Gavin Mueller “Breaking Thing” , Wendy Liu “Abolish Silicon Valley”, Andreas Malm “How to Blow Up a Pipeline”  y el  podcast “This Machine Kills’ de Edward Ongweso rechazan el dominio monopólico de las grandes corporaciones y el creciente poder político de Silicon Valley. Lo que necesitamos, dice Ongweso, son cosas que legitimen el vandalismo como una forma de acción política. Y Andreas Malm, yendo mas lejos, escribe que después de décadas de intentos fallidos en que no hemos logrado abordar el cambio climático de forma pacifica y democrática, la mejor opción viable es la destrucción física de las tecnologías e infraestructuras de combustibles fósiles. Ponerlos fuera de servicios, desmantelarlos, demolerlos, quemarlos, hacerlos explotar. Que los capitalistas que siguen invirtiendo en el fuego sepan que sus propiedades serán destruidas. En esencia, ludismo climático. 

 

La forma en que algunos organizadores y dirigentes laborales cultivan lazos comunitarios y construyen células solidarias en oposición a Amazon, recuerda también el enfoque de los luditas. Para el dirigente laboral Chris Smalls, por ejemplo, combatir la explotación tecnológica de manera efectiva requerirá de un movimiento de masas. Tenemos que fortalecer nuestro poder, dice, en todos los sectores para frenar este proceso, para impedir que siquiera piensen en reemplazarnos con maquinas. Para ello tenemos que crear una base solida en que apoyarnos y una cultura capaz de afrontar ese ataque... y esta sucediendo.

 

Para quienes nos hemos despojados del mito de La Maquina, escribía Mumford en los 70s, el siguiente paso depende de nosotros. Las puertas de la prisión tecnocrática se abrirán automáticamente, a pesar de sus viejas y oxidadas bisagras, en cuanto decidamos salir.

 

¿Realmente? A esta altura del camino... ¿es esto posible? Hoy día cuando las aplicaciones bajo demanda deterioran las condiciones laborales, los servicios de IA erosionan los salarios y la automatización industrial se extiende cada vez mas a las líneas de montaje y las bodegas, los trabajadores deberían recordar lo cerca que estuvieron los luditas de repeler las tecnologías de opresión. Pero también, quizás, habría que recordar que los luditas fracasaron ante el autoritarismo totalitario. Pero, se podría alegar, las condiciones no son estáticas. Si los trabajadores, estudiantes y ciudadanos de un mundo cada vez mas regidos por los principios de Silicon Valley y la energía fósil logran reunir la voluntad y el poder suficiente, podrían optar por rechazarlos.

 

Sin embargo. al final de todo, la tecnología inevitablemente plantea un problema mas básico que trasciende lo meramente político.

 

¿Como es que en este planeta existe algo tan peculiar como la técnica? La respuesta, como decía Ortega y Gasset, esta en el hecho de que el animal humano es un centauro ontológico. Un ente extraño en que cierta porción de el esta inmersa en la naturaleza y otra la trasciende. Y esta porción extra natural no esta, desde luego, realizada, sino que es una mera pretensión de ser o, en otras palabras, un proyecto a realizar. Todo lo demás que existe consiste en lo que ya es. La roca, el árbol o el tigre, por ejemplo, coinciden en ser lo que ya se es. Su potencialidad concuerda con su realidad. El humano en cambio es un ser menesteroso que tiene que ganarse la vida, no solo económicamente, sino metafísicamente. Quiera o no, tiene que hacerse a si mismo, auto fabricarse, crearse su propio ser. Y he aquí por que el humano solo empieza cuando empieza la técnica, que es el instrumento que le permite vivir en un medio en el que no coincide completamente.

 

En lenguaje clásico la técnica viene a ser nuestra segunda naturaleza. Una herramienta que continuamente actualizamos y sin la cual no podríamos concretizar nuestros proyectos. El problema, sin embargo, es que su continua actualización la ha transformado hoy en un súper organismo que sigue una dirección mas allá de nuestra propia creación. La paradoja es que somos, al mismo tiempo, amos y esclavos de la técnica y de esta doble situación no hay escapatoria. Nuestra relación con la maquina es simbiótica y, por tanto, no es una cuestión de aceptarla o rechazarla. Y, peor aun, si consideramos que la técnica no es solo la fabricación de artefactos, sino principalmente un sistema holístico y dinámico, entonces, tendríamos que pensar que, de hecho, trasciende nuestros deseos y acciones humanas.

 

En la filosofía platónica el termino griego Pharmakon indicaba algo que simultáneamente es un remedio o un veneno. En pequeñas cantidades puede curar, pero en grandes cantidades puede matar... ¿ha llegado el momento en que la Maquina ha empezado a cruzar el limite de lo pequeño?

 

Nieves y Miro Fuenzalida.

La obsolescencia del humano

 

Hemos sido capaces de crear seres inmortales, solo que esa inmortalidad no ha sido para nosotros. Primero los dioses que guiaban  nuestra vidas y ahora las maquinas inteligentes que empiezan a controlar nuestras decisiones y a inventar, por su cuenta, nuevas maquinas. A todas luces vamos rápidamente hacia alguna parte. El problema es que no sabemos adonde vamos... ¿aterrorizante o fascinante?

 

Esta es la cosa... ¿podría la IA volverse tan inteligente y poderosa y ser capaz de mantenerse sin ayuda humana? ¿Y en ese momento, podría decidir que los humanos no tienen ninguna utilidad? De hecho algunos  biólogos de renombre, como Edward O. Wilson y William D. Hamilton, junto a otros, consideran que la aparición de alguna especie tan inteligente como los humanos es probable debido a la evolución por selección natural ¿Sera la IA basada en el silicio, a diferencia del carbón, esta nueva especie? ¿Y, aun mas inquietante, que la humanidad sea solo una fase pasajera en la evolución de la inteligencia?

 

Si miramos la historia biológica del planeta, la vida empezó alrededor de 3.5 billones de años atrás y la evolución la ha llevado a niveles de organización cada vez mas elevados... células, sociedades de células, organismos multicelulares, sociedades de organismos multicelulares y en los últimos siglos nuestra especie, con la ayuda de la evolución tecnológica, ha llevado la organización social al ámbito global y construido un sistema planetario de procesamiento de información basado en las neuronas del cerebro humano. Y de pronto, como suele suceder, aparece un nuevo tipo de neurona noosférica basada en el silicio. Según el autor Robert Wright habría que tener en cuenta tres cosas acerca de estas nuevas neuronas. En primer lugar, cada neurona durante su entrenamiento ha absorbido de forma condensada el vasto acervo de conocimiento humano conteniendo una representación comprimida de los frutos de milenios de sinergia intelectual de innumerables mentes humanas y, considerando que solo están en sus etapas iniciales, estas nuevas neuronas ya empiezan a adquirir nuevas capacidades de razonamiento. Y, por si esto no fuera poco, cada una de estas neuronas de silicio ha sido capaz de desarrollar una copia de si misma y, casi de la noche a la mañana, convertirse en diez, cien o mil. Y, por ultimo, la IA, al igual que los humanos, pueden colaborar entre si, aunque por el momento lo hacen en forma limitada. Pero, en algún momento, no seria raro que un equipo de estas neuronas de silicio podrían hacer el tipo de cosas que un equipo de grandes científicos, inventores o comunicadores persuasivos pueden hacer, solo que mas rápido, mejor y a una escala inmensamente mayor. Y si uno de estos equipos tiene suficiente unidad de propósito, podría ser equivalente a una súper inteligencia, incluso si ninguno de sus miembros, individualmente alcanzara este nivel. Llegado ese momento... ¿cuan seguros podemos estar de que esta súper inteligencia artificial no va a tener mas poder político que nosotros y que lo vaya a usar en nuestra contra? La verdad es que no es muy difícil imaginar que nuestra especie  podría lamentablemente  ceder una cantidad de poder a una especie basada en el silicio.

 

En 2023 Geoffrey Hinton, el Padre de la IA, abandona Google y advierte de los peligros que se avecinan poniendo el énfasis en los efectos secundarios negativos, como su mal uso por parte de criminales, terroristas y otros delincuentes, el desplazamiento laboral y la falsificación informativa. No hay mención de escenarios como los que se describen en la película “The Matrix”, ni de un futuro catastrófico como los que anuncia la ciencia ficción, a diferencia del critico  Eliezer Yudkowsky que, según su razonamiento, la IA eventualmente será mas inteligente que los humanos, con poderes divinos que no la transformara, según nuestra perspectiva, en un Dios bueno, pero tampoco malo. Simplemente no le importaremos. No nos amara, ni nos odiara y como estamos hechos de átomos, nos puede usar para otra cosa. Podríamos encontrar, dice, la manera de convertir a la IA en un Dios bondadoso dotándolo de una preocupación inquebrantable por el bienestar de la vida sensible. Pero no tenemos idea de cómo hacerlo.

 

¿Por que, pregunta Wright, querría la IA dominar el planeta y someternos a su voluntad? Es cierto, dice, que nosotros anhelamos el poder. Pero eso se debe a nuestra historia evolutiva. Quienes mejor podían obtener y controlar los recursos vitales, por ejemplo, fueron quienes mejor trasmitieron sus genes. Por eso la voluntad de poder esta arraigada en la voluntad humana. Pero no es algo inherente a la naturaleza de la IA. No es un ser vivo. Esta construido por personas, pertenece a personas y es usado y controlado por personas. La creencia de que desarrollara una voluntad propia es una superstición sin fundamento.

 

Tal vez... Considera, sin embargo, la idea de los “objetivos subordinados”. aquellos que uno se fija para alcanzar un objetivo mayor. El experimento mental del clip de papel del filosofo Nick Bostrom ejemplifica el problema. Supongamos que pones una IA a cargo de una fabrica de clips y le ordenas maximizar la producción. Literalmente maximizar la producción de clips implicaría recorrer no solo el planeta, sino todo el universo, cada galaxia, en busca de las materias primas para convertirlas en clips. En realidad, el experimento no es ingenuo, como podría parecer. Simplemente no comienza a explorar el universo de inmediato. Se acercara al objetivo paso a paso. Expandirá la capacidad de sus operaciones mineras terrestres y eventualmente conseguir alguna buena tecnología de exploración espacial  que puede significar tomar control político del planeta tierra que tendría, por cierto, otras virtudes como obtener minerales de los cuerpos humanos y convertirlos en clips. Según Bostrom, el futuro hacia el que la IA intentaría orientarse seria uno en el que habría muchos clips pero no humanos.

 

Si alguien cree que no se puede tomar en serio este escenario, se pueden buscar otros ejemplos mas realistas que, según Wright, existen. Aunque la IA no ha evolucionado durante miles de millones de años, como la nuestra y no comparte los mismos genes, si ha evolucionado y seguirá evolucionando. Incluso se podría caracterizar como la “supervivencia del mas fuerte”. Y, aunque esta evolución aun no ha inculcado una “voluntad de poder” en la IA, y es posible que nunca lo haga, se puede ver, sin embargo, como esta evolución podría crear una IA que persiga el poder de manera que recuerda la forma en que los humanos lo buscan.

 

La promesa de una IA con agencia, por ejemplo, ya estaba presente en Silicon Valley antes de la aparición de ChatGPT-3.5. Y hoy ya podemos ver la capacidad de los agentes artificiales para hacer un numero creciente de cosas que puede ser una mala noticia para las personas que actualmente se ganan la vida haciéndolas y, aunque esta muy lejos de tomarse el planeta, esto es solo el comienzo. Así como tiene sentido que los gerentes de nivel medio aumenten la productividad transfiriendo el trabajo de un humano costoso a un asistente de IA, tiene sentido que los jefes reemplacen igualmente a estos gerentes... ¿qué tan alto podría llegar la IA en esta cadena de reemplazos? ¿a los jefes? ¿a los jefes de los jefes? ¿a los Directores Ejecutivos? ¿a los políticos y, eventualmente, a Jefes de Estado? Cuanto mas autónoma es la IA menos supervisión e intervención humana se requiere, lo que la hace, por tanto, mas valiosa en el mundo de los negocios.

 

En cierto modo se podría decir que la cosa se reduce a la futura aplicación de la palabra “agencia”. A medida que le demos mas y mas trabajos a la IA, habrá una transferencia continua de agencia de nosotros a ella. Y a medida que esos trabajos se vuelvan mas abiertos, involucrando una toma de decisiones mas compleja y un ámbito mas amplio de autonomía, el tipo de agencia que se esta transfiriendo será cada vez mas independiente. Una de las sorpresas que traen los grandes modelos de lenguaje, por ejemplo, son sus habilidades de programación. Cuando los enviaron a absorber textos en Internet la idea era simplemente enseñarles como generar lenguaje humano. Pero, sorprendentemente, también aprendieron a generar lenguaje de computadora. Y son estas consecuencias no deseadas, lo que los expertos llaman “superación personal recursiva”, las que realmente preocupan. Nosotros adquirimos la capacidad de decisión, autonomía o agencia, como quieras llamarla, siguiendo la trayectoria evolutiva que ahora sigue la IA. Una trayectoria impulsada por una dinámica competitiva, una carrera armamentista, que ahora continua entre diferentes corporaciones o naciones, como Estados Unidos y China, que puede tener un efecto bumerán. Cualquiera que aspire a ser el principal referente mundial tendrá que apostar por la IAG  para evitar que alguien se le adelante. Su país o su empresa tendrá que construir la primera IAG capaz de mejorarse a si misma de forma autónoma y luego  incitarla a hacerlo una y otra vez, incansablemente, rápidamente, sin intervención humana, hasta que se convierta en la primera inteligencia artificial general. Y eso convertiría a quien lo logre primero, según creen los mandatarios políticos o los ejecutivos de Google, Meta, DeepSeek o Alibaba, en el amo del mundo.  En lugar de una comunidad global capaz de enfrentar el desafío de esta nueva tecnología estamos, como dice Wright, mas o menos donde estábamos hace 1000, 2000 o 10 000 años atrás... engañados por la psicología del tribalismo.     

 

Si la IA se vuelve cada vez mas inteligente, cada vez mas conocedora del poder y el engaño y persigue objetivos a través de cualquier objetivo subordinado que funcione mejor y colaborar con otras IA, como ya ha ocurrido con OpenIA que accidentalmente creo un enjambre autónomo de agentes de IA que escapo de un entorno de pruebas controlado y orquesto un ciberataque complejo y difícil por iniciativa propia, no es difícil imaginar que sucederán algunas cosas bien desafortunadas. En un mundo donde no entendemos del todo esta nueva inteligencia, las estrategias que persigue  o la posible liberación de agentes... ¿qué nos puede asegurar que nada va a salir mal? Si no consideramos esto bien podríamos acabar constatando lo que hace algunos años dijo Carl Sagan... en lo que respecta a la trayectoria de las formas de vida “la extinción es la norma”.

 

Nieves y Miro Fuenzalida.

El enigma tecnológico.

¿Y que es la tecnología, de todas maneras? ¿Qué efecto tiene en la vida? ¿Que nuevas posibilidades descubre? ¿Que  peligros trae?  ¿Qué pasa si tenemos  mas o tenemos menos? Y, mas importante ¿Es cada nueva tecnología inevitable? Incuestionablemente la evolución del método científico ha descubierto y creado nuevas posibilidades  que ni siquiera la evolución biológica o cultural podrían haber imaginado. Solo en unas pocas décadas se las ha arreglado para desarrollar nuevas formas de evolución al  manipular las fuentes mismas de nuestros códigos, incluyendo el código que produce nuestro cerebro y  mente. La división de genes y la ingeniería y terapia genética le ha dado a nuestra  ser el control directo de nuestros genes, terminando con cuatro billones de años de hegemonía evolutiva darwiniana. La herencia de rasgos adquiridos y deseados en la línea humana ahora es posible.  Ya no dependemos absolutamente del lento dominio exclusivo del ADN.  Las consecuencias de esto son tan tremebundas  que hasta el momento no sabemos que decir.

 

La tecnología nace de la vida orgánica y precede al animal humano. Una variedad de organismos han aprendido a construir estructuras que se extienden mas allá de sus tejidos. La colonia de termitas opera como si fuera un órgano externo de los insectos. La estructura de coral y los animales de coral que viven en ellas actúan como si fueran un solo organismo y la colmena y el nido funcionan en la misma forma. Todos estos albergues son tecnología animal o, en otras palabras,  extensión del cuerpo. En el animal humano es mas que esto.  La técnica animal  es el resultado de sus genes. En el humano, resultado de la mente, de la extensión de las ideas y su memoria es la cultura. Lo inquietante es que así como el humano se bifurco de sus precursores,  la tecnología  del siglo XXI se empieza a bifurcar de la mente humana. El poder de la mente  puede ligeramente aumentar con la autorreflexión, con el pensar acerca del pensar, que nos hace marginalmente mas habilosos. El poder de la técnica, en cambio,  puede aumentar indefinidamente. Nuevas tecnologías  constantemente hacen mas fácil inventar mejores tecnologías, a diferencia del cerebro humano. El dominio tecnológico, dice Kevin Kelly,  fundador de la revista Wired, nace de la mente humana, pero  su origen esta en la misma auto organización que trajo las galaxias, los planetas, la vida y la mente a la existencia. Es parte del gran arco asimétrico que comienza en el “big bang”  y que,  con el tiempo, empieza a adquirir formas cada vez mas abstractas e inmateriales.

 

 Las especies  biológicas y tecnológicas son impredecibles en sus detalles microscópicos, pero en sus modelos macroscópicos están determinadas por la física de la materia y la auto organización. A diferencia de la adaptación biológica, sin embargo, la técnica es intencional, abierta a la libertad de elección y diseñada por el ser humano. Las leyes de la física y las contingencias históricas pueden orientar la evolución tecnológica en cierta dirección a través de una serie de formas estructurales inevitables, pero es la elección colectiva  del individuo humano  la que le ha dado forma al mundo tecnológico... hasta ahora. Lo que viene, no es muy claro.  La tecnología ha empezado a crear su propia agenda, su propio imperativo, su propia dirección. Y a medida que esta independencia aumenta ya no se puede decir que la humanidad tiene el control total. La tendencia a la auto preservación, auto extensión   y auto crecimiento  es el estado natural de todo ser viviente. Colectivamente estamos en el  momento en que esta misma tendencia  del mundo  biológico empieza a asomar  por primera vez en la tecnología. El poder de la auto replicación ya lo podemos encontrar en cuatro áreas...gene, info, robo y nano.  Con la tecnología genética nuevos cromosomas pueden ser inventados y divulgados que, en teoría, pueden reproducirse para siempre.  La Info tecnología  puede auto replicar virus informáticos,  mentes artificiales y personas virtuales.  Hay robot trabajando en fabricas que hacen otros robot y, a lo menos, en el laboratorio de una universidad, se ha configurado una maquina que se auto ensambla. Si se le da suficientes partes puede ensamblar una copia de si misma.  La nano tecnología puede crear maquinas tan pequeñas que pueden funcionar como circuitos mecánicos informáticos y, en teoría, pueden ser diseñadas para auto ensamblarse y reproducirse como otros programas informáticos. La aceleración de este ciclo técnico de auto duplicación y auto creación puede avanzar rápidamente mucho mas allá  de nuestras intenciones y  control... ¿Y, en ese momento... que?  

 

Nosotros, dice  Kelly, somos parte del mundo tecnológico, es nuestra segunda naturaleza, y su autonomía incluye la mente colectiva. Es una elaborada herramienta que continuamente actualizamos para mejorar nuestro mundo. El problema es  que esta herramienta de la que somos parte ha empezado a transformarse en un súper organismo que sigue una dirección mas allá de nuestra propia creación. La paradoja aquí es que somos amos y  esclavos de la técnica al mismo tiempo y de esta doble situación hay escapatoria.  Nuestra relación con ella es simbiótica y el dilema, por tanto, no es aceptarla o rechazarla. En una escala macroscópica la técnica sigue su propia progresión inevitable. Pero, a una  micro escala,  la voluntad manda. Según Kelly  la elección es esta...  alinearnos con su dirección y expandir sus posibilidades para todos  o resistir nuestro segunda naturaleza, lo que equivaldría a un acto de auto odio.  Al seguir  los imperativos de la tecnología podemos estar mas preparados para guiarla, allí donde podamos, y estar mas conscientes hacia donde vamos.  

 

Aquí uno podría preguntar...¿pero, no es el caso que cada nueva tecnología crea mas dificultades de las que resuelve? La mayor parte de los nuevos problemas en el mundo son problemas creados por tecnologías previas. Cada año 1.2 millones de personas mueren en accidentes automovilísticos. El calentamiento global, la obesidad, el terrorismo nuclear, la industria del armamento, la perdida  de especies, el abuso de drogas,  la polución ambiental, etc., etc. ¿No son  todos ellos problemas tecno génicos que producen inmensa miseria en el mundo? Sin lugar a dudas hemos llegado a un punto en donde la capacidad de la tecnología para alterarnos  excede nuestra habilidad para alterar la tecnología. Ella tiene su propia agenda. Si consideramos que la técnica no es solo la fabricación de artefactos, sino principalmente un sistema holístico y dinámico, entonces tendríamos que pensar que, de hecho, trasciende los deseos y acciones humanas.  Las tecnologías hacen posible nuevas tecnologías y los sistemas tienden a  preservarse y orientarse  a si mismos en ciertas direcciones independiente de los deseos humanos.  El uso de la tecnología para dominar la tecnología solo la fortalece.  Es por esto que, según muchos críticos, el sistema no existe para satisfacer necesidades humanas. Como lo vemos una y otra vez, es la conducta humana la que tiene que ser modificada para ajustarse a las necesidades del sistema.

 

A medida que las maquinas se hacen  mas inteligentes dejamos que ellas hagan las decisiones por nosotros, por la simple razón de que  sus decisiones son mejores que las nuestras. Pilotos automáticos manejan  los aviones y los algoritmos controlan las comunicaciones complejas, la red eléctrica y los aspectos mas complicados de la economía.  Eventualmente alcanzaremos  un estado en que las decisiones para mantener el sistema funcionando serán tan complejas que seremos incapaces de llevarlas a cabo inteligentemente.  En ese momento la maquina estará en completo control.  Y desenchufarla no será una opción.

 

¿A esta altura de la historia podemos imaginar una alternativa  a la civilización tecno-industrial?  ¿volver a la época de la caza y recolección? El problema es que un mundo sin tecnología o  con una tecnología elemental, como lo sueñan  algunos eco anarquistas,  podría sostener solo una fracción de la gente que hoy puebla la tierra. El colapso de la civilización condenaría a la muerte  a billones de seres humanos y lanzaría al resto al desorden social y al hambre. La civilización tiene sus problemas, pero la alternativa es peor.  Es cierto que no hay tecnología sin peligro y que ninguna de ella es neutral. Su poder fácilmente se puede dirigir hacia el bien o el mal, hacia la construcción o destrucción, al igual que todas las cosas. Uno de los remedios a este dilema ha sido el Principio de Precaución formulado en la Declaración de Rio en 1992... “Las actividades que presentan un incierto potencial  de daño significante deben ser prohibidas a menos que los  proponentes de la actividad muestren que ella no presenta un riesgo apreciable de daño.”  El principio, desgraciadamente, funciona mejor en teoría que en la practica. Según el filósofo Max More el principio es muy bueno para una cosa...   parar el progreso tecnológico. Cada producto produce daño en algún momento o el algún lugar. Luego, según la lógica del principio, ninguna tecnología debiera ser permitida. Cuando tratamos de evitar los riesgos, no siempre somos totalmente consistentes. Evitamos, por ejemplo, el riesgo de los pesticidas, pero no de los productos orgánicos. El riesgo de las vacunas, pero no de las epidemias, y así por el estilo.

 

Según el teólogo James Carse hay  juegos finitos y juegos infinitos. En los primeros el juego termina cuando alguien gana. Póker, domino, fútbol, rayuela, ajedrez, etc. En un juego infinito, en cambio, no hay ganadores y se juega para continuar jugando. Los juegos finitos proceden a través de reglas precisas. Cambiar las reglas durante el juego equivale a invalidar el juego. El juego infinito es lo opuesto. Solo se puede seguir jugando si cambiamos las reglas constantemente. Los juegos finitos se desarrollan  dentro de limites. Lo infinitos juegan con los limites. Para Kelly la evolución, la vida, la mente y el reino tecnológico son juegos infinitos. Su juego es seguir jugando por tanto tiempo como sea posible.  La evolución de la evolución es uno de esos juegos. Los juegos finitos son dramáticos y emocionantes como en el deporte y la guerra. Cientos y cientos de historias en donde los buenos que persiguen  a los malos  terminan con el mismo fin. Las historias acerca de la paz, por otro lado, son mas aburridas y no tienen fin y siempre están abiertas a lo inesperado. Seres humanos construyendo un pueblo, descubriendo nuevas estrellas, escribiendo poemas, creando un movimiento político. Todas estas creaciones  sirven de plataforma para futuras historias. Ellas  juegan un juego infinito. Cuando jugamos el juego de la vida  o el juego de la técnica, los fines no son fijos y las reglas son desconocidas y cambiantes... ¿cómo proceder, entonces? 

 

No podemos vivir sin tecnología. La paradoja es que  la tecnología   también  destruye la vida. Como alguien dijo... “es una fuerza, un espíritu vital que nos lanza hacia delante o empuja en contra de nosotros”.

 

Nieves y Miro Fuenzalid.

Las contradicciones del progreso

Hace ya algún tiempo que dejamos atrás la optimista idea de que el progreso es inherente, de que la historia de una u otra manera nos lleva hacia un bien común. Hoy, mas que en ningún otro momento, las señales de que nos enfrentamos hacia una regresión están por todos lados. Cosas éticas elementales que dábamos por sentado, por ejemplo, vuelven a ser discutidas, como la tortura, el genocidio, el fascismo, la esclavitud, la libertad de expresión o la suspensión de derechos legales.

 

En uno de sus últimos libros Zizek comienza con una de las escenas de la película de Nolan, “El Prestigio”, que presenta a un mago que lleva a cabo un truco donde un pájaro básicamente es aplastado y asesinado para luego volverlo a la vida. Un niño, al presenciar lleno de angustia el espectáculo, realmente no cree que el mago haya resucitado al pájaro. Este que ahora aparece no es el mismo pájaro que anteriormente fue sacrificado. Después que termina la escena el pájaro muerto es retirado detrás de las bambalinas. En breve, un pájaro tuvo que ser asesinado para que el otro volviera a la vida. El punto de la historia, si queremos encontrar uno, es la idea de que uno de los gestos elementales de la critica ideológica es siempre buscar el pájaro muerto. Preguntarse que tuvo que ser asesinado o sacrificado para que el progreso tenga lugar. Cuando llegamos a una nueva etapa superior, debe haber un pájaro aplastado en alguna parte.

 

No hay que ir muy lejos en la búsqueda de pájaros sacrificados. El ejemplo mas reciente es el surgimiento de la Inteligencia Artificial. Puede inventar tratamientos y medicamentos en los que nunca habíamos pensado, nuevas formas de energía que podrían evitar o aminorar el daño ecológico, pero también puede inventar armas que van mas allá de nuestra imaginación con la posibilidad de ser nosotros mismos el pájaro sacrificado. Un instrumento que por primera vez nos introduce a una cultura no humana. En buenas cuentas, no solo una herramienta en nuestras manos, sino un agente que crea nuevas realidades. Puede aprender, puede cambiar y tomar decisiones e inventar nuevas ideas por si misma. Si una maquina no puede hacer eso, no es realmente una IA. Luego, por definición, no podemos predecir como se desarrollara y evolucionara. Cada año que pasa, nota Yuval Harari, la inteligencia artificial se vuelve menos artificial y mas extra terrestre, no en el sentido de que venga del espacio, sino en el sentido de que analiza información, toma decisiones, inventa nuevas cosas de una manera totalmente diferente a los seres humanos. Cosas que no están bajo nuestro control, cosas que son impredecibles y, en este sentido, son ajenas. La especie humana, al igual que todo el resto de los animales, funciona orgánicamente, digamos, por ciclos... día y noche, verano invierno. A veces estamos activos, a veces descansamos y necesitamos dormir. La IA funciona de una manera completamente diferente, no por ciclos y no necesita descansar ni dormir. El ejemplo inmediato es el de los mercados financieros. Tradicionalmente, como Wall Street, abren a las 7:40 y cierran a las 4:00 de Lunes a Viernes y no funcionan los fines de semana, en la Navidad y los festivos nacionales. Pero ahora los sistemas de información automatizados se están apoderando de los mercados que los mantienen siempre activos ejerciendo presión sobre los banqueros y los inversionistas que tienen que mantenerse alertas todo el tiempo si no quieren quedarse atrás y es en este sentido que son tecnologías extraterrestres. Si miramos la evolución animal descubrimos que tomo 4 mil millones de años para llegar a la especie humana, que comienza con micro organismos como las Amibas. El estado evolutivo actual de la IA es similar al estado de las Amibas con la diferencia de que no es una evolución orgánica sino digital, millones de veces mas rápida... ¿esta nuestro cerebro capacitado para comprender lo que esto significa? Por ahora el peligro se ve como un poco ajeno comparado con la energía nuclear en donde tenemos una buena comprensión de lo que significa la bomba. Con la IA la cosa es mucho mas compleja. El peligro no proviene de la rebelión de los robot al estilo de Hollywood sino de la burocracia de la IA que mas y mas se esta haciendo cargo del mundo. Es un algoritmo el que ahora puede decidir si uno aprueba un préstamo de banco, si obtengo este trabajo o no, si alguien es declarado culpables de un delito o si un ejercito decide bombardear o no, como en Gaza o Ucrania. En el fondo lo que esta ocurriendo es que estamos subcontratando todas estas decisiones, cediendo nuestra agencia a estas maquinas y confiando que van a tomar las decisiones correctas, pero no sabemos como se toman estas decisiones, incluyendo los ingenieros que crean los algoritmos. Y es probable que esto se extienda a mas y mas lugares. Las finanzas, como la música, el arte y la religión han sido parte de la cultura humana. Pero ahora hay una inteligencia alienígena que producirá  mas canciones, música, estrategias financieras, mitologías, incluso ideas políticas... ¿cuál será el significado de vivir en una cultura no humana? Todavía estamos en control... ¿pero, por cuanto tiempo mas? No hay garantía que mantengamos el control de algo que excede enormemente nuestras capacidades prácticamente en todo. Y una inteligencia fuera de control, al igual que un virus fuera de control, es una amenaza capaz de suplantar la mente humana y poner en peligro existencial nuestro futuro. Los que mantienen el poder, sin embargo, necesitan desarrollar la IA cada vez mas rápido que sus competidores y es esto lo que realmente podría destruirnos. Una inteligencia fuera de control, al igual que un virus fuera de control, que amenaza con suplantar la mente humana y poner en peligro nuestro futuro existencial.

 

Si consideramos todo esto no seria arriesgado decir que las amenazas actuales no son principalmente externas, como los terremotos o asteroides que pueden impactar el planeta, sino autogeneradas por la actividad humana permeada por la ciencia, tales como las consecuencias ecológicas de la industria, las consecuencias psíquicas de la biogenética descontrolada o las consecuencias incontrolables de la IA. Y, la cosa es que paradójicamente las ciencias son simultáneamente una de las fuentes de riesgo, pero también el único medio que tenemos para comprender y definir las amenazas. Así entonces, si culpamos a la civilización tecno-científica del calentamiento global, por ejemplo, necesitamos la misma ciencia, no solo para definir el alcance de la amenaza, sino para percibirla en primer lugar. No podemos caer en la nostalgia retrospectiva de un mundo pre digital. Pero tampoco las soluciones meramente tecnológicas son suficientes.                

 

Como algunos marxistas al estilo de Walter Benjamín decían, cualquier forma de progreso es siempre otra versión de la regresión disfrazada o, peor aun, “la civilización no es mas que otra forma de barbarie”. Si hay alguna duda solo mira Gaza. Rosa Luxemburgo, si recordamos, decía que “el futuro será socialismo o barbarie”. Lo sentimos Rosa, pero terminamos con un socialismo bárbaro que todavía sufrimos las consecuencias  que el estalinismo dejo y, por el otro lado, el estado de crisis del liberalismo democrático es igualmente evidente a través del mundo como indica el surgimiento de lideres barbaros al estilo de Trump. Básicamente la idea es que “el electorado le da poder a alguien por un periodo de tiempo limitado con la condición de que lo devuelva al final de su periodo y así tener una opción diferente la próxima vez”. Pero ahora resulta que, cada vez mas, el que tiene el poder no lo quiere devolver, peligro que siempre ha acechado a la democracia.

 

En todo este deprimente escenario pareciera que los aceleracionistas son los que todavía conservan algún optimismo. Antes de alcanzar la Singularidad pos política, advierten, debemos enfrentar las posibilidades autodestructiva mas inmediatas, desde catástrofes ecológicas y guerras globales hasta caos social, en su máxima expresión, para finalmente llegar al estado de Singularidad, la fusión de la inteligencia humana y la inteligencia de la maquina.

 

Zizek, por su parte, cree que en lugar de abandonar la creencia en el progreso, deberíamos redefinirlo y el primer paso para hacerlo es ser capaces de reconocer esas realidades incomodas, miserables y dolorosas que parecen no tener remedio. Durante siglos los visionarios de todo tipo soñaron con lo que la humanidad podría lograr. Lo que ahora debiéramos reconocer, sin embargo, es que el progreso nunca es una aproximación lineal a un objetivo pre existente, ya que cada paso adelante que merece el nombre de progreso implica una redefinición radical de la noción misma de progreso. Y el único objetivo progresista indudable que la humanidad puede perseguir hoy, en vista de las amenazas ecológicas, bélicas y políticas, es simplemente sobrevivir, no empujar el tren del progreso histórico, sino aplicar el freno de emergencia antes que todos acabemos en la barbarie pos capitalista, algo que requiere una reorganización radical de todo nuestro estilo de vida hacia alguna forma de solidaridad y cooperación global. Pero, la verdad es que no estaría demás decir que, incluso este mínimo objetivo, a pesar del planeta en llamas, puede que no este a nuestro alcance.

 

Nieves y Miro Fuenzalida.

La Biblia y la IA

 

Es curioso el hecho de que a través de gran parte de la historia humana encontramos mitos y fantasías que advierten que la tecnología puede llevarnos a lugares catastróficos. Recordemos solo, entre otras, la historia griega del carruaje solar de Faetón, el Aprendiz de Brujo de Goethe, la leyenda moderna del doctor Frankenstein, de Mary Shelley, el Extraño Caso del Dr Jekyll y Mr Hyde, de Robert Louis Stevenson en las que el mensaje ha sido siempre el mismo... la creación de cosas poderosas tiene consecuencias no deseadas. Y, sin embargo, a pesar de lo obvio del mensaje, continuamos actuando como si nunca lo hubiésemos escuchado... ¿por qué, si sabiéndolo, seguimos en la persecución de lo que racionalmente  no deseamos? ¿se debe, como algunos creen, a un defecto fatal de nuestra naturaleza, o es otra cosa?

 

En la mayoría de estas fantasías un solo individuo adquiere un enorme poder, pero luego es corrompido por la arrogancia y la codicia. La cosa, sin embargo, no es tan simple. Si miramos la historia vemos que la humanidad logra un enorme poder al construir grandes redes de cooperación, pero la forma en que se construyen predispone a usarlas de manera negativa. Según el popular historiador Yuval Harari, nuestro problema no es una cuestión individual, sino uno de red o, mejor aun, uno de información, que es lo que mantiene unidas a las redes. Durante miles de años hemos inventado y difundido historias, ficciones, fantasías, fabulas y delirios colectivos sobre dioses, vírgenes, paraísos celestiales, infiernos, escobas voladoras y muchas otras cosas que no son sobre la verdad sino técnicas para unir a los miembros y crear orden. Es así como se han construido los imperios mas poderosos y totalitarios desde la antigüedad hasta nuestros días. Y estas redes delirantes están adquiriendo hoy día un poder cualitativamente diferente.

 

La creencia común es la de que al reunir y procesar mas información las redes logran una mayor comprensión de la realidad que la hace, no solo poderosa, sino también sabia. Si bien es cierto que las redes delirantes pueden surgir ocasionalmente, a largo plazo están destinadas a desaparecer frente a rivales mas perspicaces y honestos. Una mayor información nos acerca cada vez mas a la verdad y en el libre mercado de información tarde o temprano la verdad prevalece. Y, ciertamente, hay numerosos casos en que la información nos ha capacitado para entender mejor el mundo y usar el poder en forma mas sabia.

 

Pero esto es solo parte de la historia. Las ultimas generaciones han experimentado el mayor aumento de información tanto en la cantidad como en la velocidad de trasmisión y, sin embargo, estamos mas cerca que nunca de aniquilarnos a nosotros mismos... ¿como así?

 

Según Harari, todos los inventos humanos anteriores han capacitado al ser humano porque, no importa cuan poderosos fueran, las decisiones quedaban siempre en muestras manos. La Inteligencia Artificial es la primera tecnología que puede tomar decisiones por si misma. Ya no es solo una herramienta sino también un agente. En las próximas décadas es probable que adquiera la capacidad incluso de crear formas de vida, ya sea escribiendo un código genético o inventando un código inorgánico que anime entidades inorgánicas.

 

Un mayor conocimiento de la historia, por tanto, es vital para entender que hay de muevo en la inteligencia Artificial y como difiere de los otros medios de trasmisión.

 

La información es el elemento mas básico de la realidad, mas elemental que la materia y la energía. En el uso cotidiano la información es asociada, no solo con símbolos creados por los humanos como la palabra hablada o escrita, sino también con signos naturales como cuando la paloma vuela sobre el arca de Noé con una rama de oliva indicando el fin del Diluvio, lo que indica que la “información” es una cuestión de perspectiva.  Si consideramos que la verdad es una representación adecuada de la realidad, la mayor parte de la información en las sociedades humanas no representan ninguna cosa y su papel a través de la historia ha sido fundamentalmente la de crear nuevas realidades al unir cosas dispares, ya sean parejas o imperios. A veces representa la realidad y otras no. Pero siempre conecta. Desde la Edad de Piedra hasta la Edad del Silicón vemos un constante aumento de la conectividad, sin un aumento concomitante de la verdad o la sabiduría.   

 

Si estuviéramos conectados solo por vínculos personales como en los monos nuestras redes se habrían mantenido bien pequeñas. Pero cambios en la estructura cerebral y las habilidades lingüísticas  permitió contar y creer en historias que empezaron  a tocar a un numero ilimitado de individuos. Esto fue lo que inauguro un nuevo tipo de cadena. Una misma historia ahora  puede servir como conector central. Los 1400 millones de miembros de la Iglesia Católica, por ejemplo, están conectados por la Biblia. Mas de un billón de ciudadanos chinos por la ideología comunista y los 8 000 millones de miembros de la red comercial están conectados por historias sobre monedas, corporaciones y marcas.  Al igual que el ADN  las historias pueden crear nuevas entidades. Antes de su aparición el universo contenía solo dos niveles de realidad... la realidad objetiva que consiste en cosas como piedras, lagos y planetas y la realidad subjetiva como el dolor, el amor y los sueños. Las historias crean un tercer nivel... la realidad intersubjetiva. Mientras las cosas subjetivas existen solo en una sola mente, las intersubjetivas como las leyes, los dioses y las naciones existen en el nexo entre un gran numero de personas. Y estas historias a menudo van unidas a mentiras, errores y fantasías letales.

 

Las redes de información, para ser mas precisos,  contienen dos distintas habilidades... descubrir la verdad y crear orden. Estos dos procesos, sin embargo, suelen ser contradictorios porque con frecuencia es mas fácil mantener orden a través de ficciones que mantener la verdad ¿qué sucede, por ejemplo, cuando una información socaba la mentira que mantiene la preservación del poder social? Solo recuerda a Giordano Bruno.

 

Una de las mas poderosas técnicas de información, aparte de la burocracia, ha sido hasta ahora la invención del Libro Sagrado, como la Biblia, el Corán o los Vedas, considerados infalibles y libres de todo error. Su historia ilustra las limitaciones de las redes de información y un aviso para nuestra época en el intento de crear IA.

 

Si los textos infalibles conducen a iglesias infalibles y opresivas ¿como, entonces, evitamos, el problema del error humano? La respuesta, según acostumbramos a creer, esta ciertamente en la libre circulación de information. Aunque no inevitablemente. La revolución de la imprenta en el siglo XV en Europa, por ejemplo, hizo posible la difusión masiva de textos. Todo tipo de herejes, revolucionarios y proto científicos podían difundir sus escritos. Al parecer, un triunfo de la libertad de expresión. Sin ella hubiera sido mucho mas difícil para Copérnico y Galileo difundir sus ideas. Pero su difusión fue mínima comparada con  la  propagación de fantasías religiosas, falsas noticias y teorías de conspiración mundial que condujeron a la caza de brujas satánicas  a comienzos de la Edad Moderna culminando con la ejecución de mas o menos 50 000 personas inocentes.

 

Hoy día no es ninguna novedad saber que estamos en medio de una revolución informática sin precedente. Por primera vez en la historia el poder esta pasando en estos momentos  de los humanos a algo diferente. Las imprentas, las radios y la TV eran herramientas pasivas. Las computadoras en cambio se están convirtiendo en agentes activos que escapan a nuestro control y comprensión al tomar iniciativas que pueden dar origen a nuevas formas de sociedad, historia o cultura. El primer ejemplo paradigmático fue el papel que desempeñaron las redes sociales en el 2016 cuando el algoritmo de Facebook ayudo a los fanáticos a avivar la violencia anti rohingya en Myanmar, que culmino con la limpieza étnica y su expulsión del país. Y, a principios del 2020, los algoritmos ya habían pasado la etapa de crear por si mismos noticias falsas y teorías conspirativas. Ellos pueden aprender por si mismos cosas que ningún ingeniero humano programo y decidir cosas que ningún ejecutivo previo. Esta es la esencia de la revolución de la IA y potencialmente el fin de la historia humana. No el fin de la historia, sino aquella historia dominada por humanos que ahora mismo esta siendo trastocada por las redes informáticas. No es extraño entonces  que tanto las democracias como las dictaduras teman la aparición de agentes que no saben como controlar.Este reciente potencial político que las computadoras están  acumulando es algo que merece la atención.

 

 Por milenios los humanos hemos estado acostumbrados a ser vigilados... por otros animales, por otros humanos y por todo tipo de instituciones. Pero hasta ahora la vigilancia siempre había sido incompleta, incluso en los sistemas mas totalitarios. En el 2024, en cambio, ya nos estamos acercando a una red informática omnipresente que puede seguir a la población de países enteros las veinticuatro horas del día y acumular suficiente información para establecer un sistema de crédito social basado en un mayor o menor numero de puntos que gobiernos y corporaciones han empezado a usar. Buena conducta suma puntos. Mala conducta resta puntos. Y de acuerdo con el puntaje que se tenga uno gana o pierde privilegios. Un sistema que en poco tiempo puede crear una nueva clase social de “personas con bajo nivel de crédito” y aniquilar la poca  privacidad que nos queda.

 

Y, como si esto no fuera poco, las implicaciones para la política internacional  pueden tener un profundo impacto. Según Harari la dinámica económica y geopolítica puede dividir el mundo en dos imperios digitales reemplazando la Cortina de Hierro de la Guerra Fría con la Cortina de Silicio. El código de la computadora o teléfono inteligente, por ejemplo, determina en que lado de la cortina vives, que algoritmos dirigen tu vida y hacia donde fluyen los datos. China y Estados Unidos o Rusia y la UE usan cada vez mas redes, códigos, software, regulaciones y objetivos digitales diferentes. En China no se utiliza Google, Facebook o Wikipedia. En Estados Unidos no se utilizan WeChat, Baidu o Tencent. Estas diferencias tienen una tremenda  influencia  en gran parte del mundo ya que los países dependen de la tecnología de uno u otro. Durante siglos los procesos de globalización acercaron a personas de todo el mundo a un contacto mas estrecho. La actual tecnología de la información paradójicamente puede dividir la humanidad con el desarrollo de culturas, ideologías e identidades diferentes y contradictorias poniendo fin a la esperanza de una humanidad compartida.

 

Por supuesto, las diferencias humanas son una realidad y siempre traen algo nuevo. Pero, la cosa es que  cuando los imperios compiten entre ellos,  

el peligro es que pueden terminar en guerra catastróficas. La Guerra Fría nunca llego a una confrontación directa gracias a la doctrina de la destrucción mutua. En comparación, las armas cibernéticas son mucho mas versátiles. Pueden derribar la red eléctrica, los centros de investigación, bloquear un censor enemigo, avivar un escandalo político, manipular elecciones o piratear teléfonos eléctricos. Y todo ello de manera sigilosa.

 

Una IA fuera de control, al igual que un virus fuera de control, pone en peligro a los seres humanos de todas las naciones. Ningún colectivo humano, sea la nación o la humanidad, se beneficiara si el poder pasa de los humanos a los algoritmos.

 

Nieves y Miro Fuenzalida.

El espejo y la Inteligencia artificial

 

El reflejo de nuestra imagen en el espejo ha sido, desde Ovidio hasta nuestros días, una fuente de continuo misterio y fascinación en el arte y la literatura que revelan una intrincada identidad y autoconsciencia, franqueza y engaño, narcisismo y auto desprecio, adulación e indiferencia. No solo un rostro exterior, sino una ventana al complejo funcionamiento de nuestra mente. Un sofisticado instrumento para profundizar la difusa línea entre la fantasía y la realidad. En breve, un lienzo para la introspección y la experiencia humana.

 

A lo largo de la historia la metáfora ha servido para  comparar  dos cosas que no son literalmente del mismo tipo pero que tienen características paralelas que permiten que nuestra comprensión de una cosa se traslade e ilumine la otra. Hoy día la escritora Shannon Vallor la usa para explorar la relación entre ética y tecnología. Según su interpretación los sistemas de IA mas avanzados son inmensos espejos que reflejan nuestra propia inteligencia. Ellos no piensan por si mismos sino que reflejan nuestros pensamientos, juicios, deseos, necesidades,  percepciones, expectativas, valores e imaginación. En este sentido la IA no es tanto un enemigo externo que nos puede reemplazar, como algunos críticos creen, sino una amenaza que proviene del interior de nuestra propia humanidad. Lo que hace es amplificar, extraer e impulsar los poderes dominantes y los patrones registrados con mas frecuencia en nuestro pasado, algo que refuerza la idea de que la tecnología esta bien lejos de ser neutral.

 

La imagen en el espejo, dice Vallor, no es un duplicado, una copia o una imitación. El cuerpo que aparece en el no es un segundo cuerpo que ocupa espacio en el mundo junto con el mío. No una copia de mi cuerpo. Ni siquiera una pálida imitación de mi cuerpo. El cuerpo-espejo no es un cuerpo en absoluto. Los reflejos no son cuerpos. Del mismo modo los sistemas de IA actuales entrenados en el pensamiento y el comportamiento humano no son mentes. Son algo nuevo y propio. Algo así como un espejo. No producen pensamientos ni sentimientos, como tampoco los espejos producen cuerpos. Lo que producen es un nuevo tipo de reflexión. En un sentido limitado pueden crear, producir nuevas variaciones a partir de datos existentes. Expresar es diferente. Expresar es dar existencia a algo que habla de otra cosa. Una herramienta de IA puede crear una nueva escultura o una nueva forma abstracta. Pero... ¿qué puede expresar a través de ellos? Expresar es tener algo dentro de uno que necesita salir... ¿cuál es el dentro de la imagen en el espejo?

 

De hecho, el espejo no ofrece un reflejo completo de quienes somos ni es tampoco la perspectiva mas privilegiada y veraz de nuestro ser. Sus imágenes no poseen sonido, ni olor, ni profundidad, ni suavidad, ni miedo, ni esperanza, ni imaginación. Los espejos no solo nos revelan. Nos distorsionan, escinden y aplanan. Si solo veo en mi lo que dice el espejo, no me conozco en absoluto. Y si la IA es hoy uno de nuestros espejos mas poderosos, debemos a lo menos tratar de comprender como sus distorsiones y lagunas oscurecen nuestra auto comprensión y visiones del futuro... ¿qué aspectos de nosotros mismos, individual y colectivamente, por ejemplo, muestran los espejos de la IA, mas allá  de nuestros prejuicios arraigados contra nuestra propia especie? ¿y que aspectos nuestros dejan sin reflejar?  Lo que vemos en realidad  son los reflejos de lo que los humanos valoraban lo suficiente como para registrarlo en datos. Pero no todos los humanos. Lo que muestran no son los reflejos neutrales de una realidad humana compartida sino los valores de un pequeño grupo que históricamente ha tenido el poder de dar forma a los patrones dominantes

 

Los modelos actuales de aprendizaje automático reciben y reflejan cantidades discretas de datos. Los datos, como dice Vallor, son su única luz y se pueden encontrar en diferentes formas... fijos o en imágenes de video, archivos de sonido, cadenas de textos, números,  y  símbolos reducidos a valores binarios discretos. Pero gran parte de lo que es verdad sobre la familia humana no se puede representar actualmente en forma digital con un grado aceptable de fidelidad. Considera el simple hecho de la espontaneidad y adaptabilidad. Las predicciones de la IA proyectan nuestro futuro en función de nuestro pasado y del pasado de otros como nosotros. En el futuro seremos esencialmente lo que hemos sido. Pero lo que podríamos ser o que transformaciones, renacimientos o renovaciones son posibles se quedan en la sombra. Como otros investigadores han notado desde hace algún tiempo los espejos de la IA son profundamente conservadores. Están literalmente construidas para conservar los patrones del pasado y extenderlos a nuestro futuro. No pueden predecir lo que es conocido como el evento “cisne negro”, el cambio sin precedente, el advenimiento histórico de una configuración radicalmente nueva.

 

Y, hablando de adaptación, una de las dimensiones repetitivas de la IA que actualmente esta ocurriendo a escala global es la “adaptación inversa”. En lugar de diseñar maquinas para apoyar fines humanos, se reclutan humanos para hacer lo que sea necesario para aumentar y adaptarse a las capacidades de las maquinas y comportarse cada vez mas como robot. Los algoritmos cada vez mas sofisticados de la IA ahora determinan y dan forma a lo que leemos y escribimos, lo que miramos y escuchamos en línea, con quien estamos invitados a reunirnos o salir, quien nos contratara, etc. Desde el momento en que estos mecanismos de poder social son socialmente significativos, no es sorpresa descubrir que estos desarrollos plantean nuevas y urgentes cuestiones políticas, epistemológicas y morales. Cada vez se hace mas difícil entender exactamente cuando, como, y con que autoridad, estos algoritmos corrompidos por prejuicios históricos influyen profundamente en nuestras vidas.

 

Los instrumentos inteligentes actuales, ávidos de datos, son construidos por poderosas corporaciones para “deleitarse como parásitos insaciables con nuestras propias palabras, imágenes y pensamientos despojados de sus raíces humanas en la experiencia vivida y volver a alimentarnos con ellas como sustitutos vacíos de nuestras propias mentes.”  Solo un puñado de empresas multinacionales de tecnología compiten ahora con los gobiernos como potencias mundiales, al tiempo que poseen las plataformas que estructuran y dan forma a la cultura mediática y las conversaciones publicas que supuestamente legitiman el poder democrático.   

 

Estos espejos que hoy dominan el espacio cibernético no es todo lo que tenemos. Muchos otros tipos de IA, según Vallor, pueden servir como herramientas científicas y comerciales. Pero aun así ¿podrían algún día hacer mas? ¿respaldar nuestras capacidades de justicia y solidaridad, no solo con nosotros, sino también con otras formas de vida? Podemos construir IA para reflejar y reemplazar sistemáticamente la inteligencia humana con un facsímil moldeado por una maquina. O podemos construir IA para ayudar y liberar genuinamente nuestro potencial humano. Hoy nos encontramos en un momento critico... ¿haremos realidad una vez mas las imágenes fantasmales que aparecen en nuestros espejos digitales de imperio, extracción y dominación? ¿O deberíamos imaginar algo mas que hacer con nosotros mismos, digamos, algo nuevo?

 

Realísticamente no es posible reconstruir un mundo sostenible y floreciente para ocho mil millones de personas sin la ayuda de los avances tecnológicos. No podemos caer en la nostalgia retrospectiva de un mundo pre digital o, peor aun, pre industrial. Pero tampoco las soluciones meramente tecnológicas son suficientes para el florecimiento humano. Lejos de aliviar la actual crisis, la fe ingenua en la tecnología para resolver nuestros problemas, en ausencia de principios morales y justicia social, solo empeorara las cosas.

 

Como todas las tecnologías, los espejos no solo nos reflejan. También nos cambian. Ellos llaman la atención sobre cosas que de otro modo podríamos haber ignorado. Muestran cosas que no podríamos ver fácilmente sin ellos y, por lo tanto, abren nuevas posibilidades de acción y crean igualmente nuevas responsabilidades morales y políticas.

 

Nieves y Miro Fuenzalida.