Las cajas de zapatos

En

Las zapaterías

Las cajas

De

Zapatos

Levantan

Sus

Tapas

Para

Saber

Que

Pies

Caminaran. 

 

Nieves.

El espejo y la Inteligencia artificial

 

El reflejo de nuestra imagen en el espejo ha sido, desde Ovidio hasta nuestros días, una fuente de continuo misterio y fascinación en el arte y la literatura que revelan una intrincada identidad y autoconsciencia, franqueza y engaño, narcisismo y auto desprecio, adulación e indiferencia. No solo un rostro exterior, sino una ventana al complejo funcionamiento de nuestra mente. Un sofisticado instrumento para profundizar la difusa línea entre la fantasía y la realidad. En breve, un lienzo para la introspección y la experiencia humana.

 

A lo largo de la historia la metáfora ha servido para  comparar  dos cosas que no son literalmente del mismo tipo pero que tienen características paralelas que permiten que nuestra comprensión de una cosa se traslade e ilumine la otra. Hoy día la escritora Shannon Vallor la usa para explorar la relación entre ética y tecnología. Según su interpretación los sistemas de IA mas avanzados son inmensos espejos que reflejan nuestra propia inteligencia. Ellos no piensan por si mismos sino que reflejan nuestros pensamientos, juicios, deseos, necesidades,  percepciones, expectativas, valores e imaginación. En este sentido la IA no es tanto un enemigo externo que nos puede reemplazar, como algunos críticos creen, sino una amenaza que proviene del interior de nuestra propia humanidad. Lo que hace es amplificar, extraer e impulsar los poderes dominantes y los patrones registrados con mas frecuencia en nuestro pasado, algo que refuerza la idea de que la tecnología esta bien lejos de ser neutral.

 

La imagen en el espejo, dice Vallor, no es un duplicado, una copia o una imitación. El cuerpo que aparece en el no es un segundo cuerpo que ocupa espacio en el mundo junto con el mío. No una copia de mi cuerpo. Ni siquiera una pálida imitación de mi cuerpo. El cuerpo-espejo no es un cuerpo en absoluto. Los reflejos no son cuerpos. Del mismo modo los sistemas de IA actuales entrenados en el pensamiento y el comportamiento humano no son mentes. Son algo nuevo y propio. Algo así como un espejo. No producen pensamientos ni sentimientos, como tampoco los espejos producen cuerpos. Lo que producen es un nuevo tipo de reflexión. En un sentido limitado pueden crear, producir nuevas variaciones a partir de datos existentes. Expresar es diferente. Expresar es dar existencia a algo que habla de otra cosa. Una herramienta de IA puede crear una nueva escultura o una nueva forma abstracta. Pero... ¿qué puede expresar a través de ellos? Expresar es tener algo dentro de uno que necesita salir... ¿cuál es el dentro de la imagen en el espejo?

 

De hecho, el espejo no ofrece un reflejo completo de quienes somos ni es tampoco la perspectiva mas privilegiada y veraz de nuestro ser. Sus imágenes no poseen sonido, ni olor, ni profundidad, ni suavidad, ni miedo, ni esperanza, ni imaginación. Los espejos no solo nos revelan. Nos distorsionan, escinden y aplanan. Si solo veo en mi lo que dice el espejo, no me conozco en absoluto. Y si la IA es hoy uno de nuestros espejos mas poderosos, debemos a lo menos tratar de comprender como sus distorsiones y lagunas oscurecen nuestra auto comprensión y visiones del futuro... ¿qué aspectos de nosotros mismos, individual y colectivamente, por ejemplo, muestran los espejos de la IA, mas allá  de nuestros prejuicios arraigados contra nuestra propia especie? ¿y que aspectos nuestros dejan sin reflejar?  Lo que vemos en realidad  son los reflejos de lo que los humanos valoraban lo suficiente como para registrarlo en datos. Pero no todos los humanos. Lo que muestran no son los reflejos neutrales de una realidad humana compartida sino los valores de un pequeño grupo que históricamente ha tenido el poder de dar forma a los patrones dominantes

 

Los modelos actuales de aprendizaje automático reciben y reflejan cantidades discretas de datos. Los datos, como dice Vallor, son su única luz y se pueden encontrar en diferentes formas... fijos o en imágenes de video, archivos de sonido, cadenas de textos, números,  y  símbolos reducidos a valores binarios discretos. Pero gran parte de lo que es verdad sobre la familia humana no se puede representar actualmente en forma digital con un grado aceptable de fidelidad. Considera el simple hecho de la espontaneidad y adaptabilidad. Las predicciones de la IA proyectan nuestro futuro en función de nuestro pasado y del pasado de otros como nosotros. En el futuro seremos esencialmente lo que hemos sido. Pero lo que podríamos ser o que transformaciones, renacimientos o renovaciones son posibles se quedan en la sombra. Como otros investigadores han notado desde hace algún tiempo los espejos de la IA son profundamente conservadores. Están literalmente construidas para conservar los patrones del pasado y extenderlos a nuestro futuro. No pueden predecir lo que es conocido como el evento “cisne negro”, el cambio sin precedente, el advenimiento histórico de una configuración radicalmente nueva.

 

Y, hablando de adaptación, una de las dimensiones repetitivas de la IA que actualmente esta ocurriendo a escala global es la “adaptación inversa”. En lugar de diseñar maquinas para apoyar fines humanos, se reclutan humanos para hacer lo que sea necesario para aumentar y adaptarse a las capacidades de las maquinas y comportarse cada vez mas como robot. Los algoritmos cada vez mas sofisticados de la IA ahora determinan y dan forma a lo que leemos y escribimos, lo que miramos y escuchamos en línea, con quien estamos invitados a reunirnos o salir, quien nos contratara, etc. Desde el momento en que estos mecanismos de poder social son socialmente significativos, no es sorpresa descubrir que estos desarrollos plantean nuevas y urgentes cuestiones políticas, epistemológicas y morales. Cada vez se hace mas difícil entender exactamente cuando, como, y con que autoridad, estos algoritmos corrompidos por prejuicios históricos influyen profundamente en nuestras vidas.

 

Los instrumentos inteligentes actuales, ávidos de datos, son construidos por poderosas corporaciones para “deleitarse como parásitos insaciables con nuestras propias palabras, imágenes y pensamientos despojados de sus raíces humanas en la experiencia vivida y volver a alimentarnos con ellas como sustitutos vacíos de nuestras propias mentes.”  Solo un puñado de empresas multinacionales de tecnología compiten ahora con los gobiernos como potencias mundiales, al tiempo que poseen las plataformas que estructuran y dan forma a la cultura mediática y las conversaciones publicas que supuestamente legitiman el poder democrático.   

 

Estos espejos que hoy dominan el espacio cibernético no es todo lo que tenemos. Muchos otros tipos de IA, según Vallor, pueden servir como herramientas científicas y comerciales. Pero aun así ¿podrían algún día hacer mas? ¿respaldar nuestras capacidades de justicia y solidaridad, no solo con nosotros, sino también con otras formas de vida? Podemos construir IA para reflejar y reemplazar sistemáticamente la inteligencia humana con un facsímil moldeado por una maquina. O podemos construir IA para ayudar y liberar genuinamente nuestro potencial humano. Hoy nos encontramos en un momento critico... ¿haremos realidad una vez mas las imágenes fantasmales que aparecen en nuestros espejos digitales de imperio, extracción y dominación? ¿O deberíamos imaginar algo mas que hacer con nosotros mismos, digamos, algo nuevo?

 

Realísticamente no es posible reconstruir un mundo sostenible y floreciente para ocho mil millones de personas sin la ayuda de los avances tecnológicos. No podemos caer en la nostalgia retrospectiva de un mundo pre digital o, peor aun, pre industrial. Pero tampoco las soluciones meramente tecnológicas son suficientes para el florecimiento humano. Lejos de aliviar la actual crisis, la fe ingenua en la tecnología para resolver nuestros problemas, en ausencia de principios morales y justicia social, solo empeorara las cosas.

 

Como todas las tecnologías, los espejos no solo nos reflejan. También nos cambian. Ellos llaman la atención sobre cosas que de otro modo podríamos haber ignorado. Muestran cosas que no podríamos ver fácilmente sin ellos y, por lo tanto, abren nuevas posibilidades de acción y crean igualmente nuevas responsabilidades morales y políticas.

 

Nieves y Miro Fuenzalida.

Poesia

 

Susurro.

Arrullo .

Murmullo.

Palabra.

Poesía.

 

Nieves.

Las técnicas apocalípticas

 

Sin lugar a duda la bomba atómica y el calentamiento global son, de hecho, las tecnologías del fin del mundo. No necesariamente en el sentido de que hayan aniquilado la Tierra, pero si en el de que son capaces de hacerlo. Evidentemente hasta ahora ni la guerra nuclear ni el cambio climático realmente han puesto fin al mundo, aunque las tecnologías nucleares y fósiles ciertamente están asfixiando, aplastando, destruyendo y aniquilando el mundo. Y es esta continua degradación la que, queramos o no, nos confronta con la posibilidad de la total destrucción de nuestra capacidad de continuar en el mundo.

 

Las mitologías del fin del mundo no son extrañas en la historia humana. Hay teologías del fin del mundo como los apocalipsis judíos y cristianos, los mitos del  Diluvio y las versiones cósmicas del fin del mundo provocada por la caída de meteoritos o cometas gigantes. Todas ellas contienen un destino fatal frente al cual nada podemos hacer. En la versión de las tecnologías del fin del mundo, en cambio, este es provocado parcialmente, no por poderes cósmicos, sino por los propios humanos, lo que indica que, a lo menos en principio, es posible evitarlo.

 

Los bombardeos de Hiroshima y Nagasaki en 1945 causaron no solo una destrucción sin precedentes sino también un trastorno metafísico. A partir de ese momento sabemos que somos capaces de destruir toda la especie humana y la totalidad del mundo viable. El cambio metafísico concierne especialmente a las nociones de historia y mundo en donde la posibilidad de su fin las hace aparecer por primera vez como totalidades. Hasta entonces, dice la profesora y autora finlandesa Susanna Lindberg, el mundo aparecía dividido en planetas, conocidos de forma abstracta a través de la ciencia y el mundo de la vida, de la que se puede tener una experiencia directa. La idea de la destrucción atómica es la primera experiencia de la totalidad del planeta como morada de la humanidad, que no había aparecido antes de la bomba. Antes de su explosión la totalidad del mundo se entendía generalmente en el sentido de “humanidad” y los pensadores prestaban poca atención a otros seres vivos. La  destrucción nuclear hizo pensar una nueva visión del fin de la historia. Por primera vez este fin fue entendido como un “apocalipsis desnudo”, una aniquilación total después de la cual no hay futuro ni promesa de “otro comienzo”. Aquí nos encontramos, finalmente, con un pensamiento concreto y ateo del fin del mundo, uno humanista y existencialista que se centra en las consecuencias éticas y morales del peligro atómico. La bomba presupone un proceso tecnológico extremadamente complicado y una sociedad organizada según principios militares e intereses civiles que plantea, obviamente, la cuestión de la responsabilidad humana.

 

Ciertamente, pero... ¿qué humano? ¿quién es esa “humanidad” que se supone responsable? Si miramos las cosas, la destrucción de Hiroshima y Nagasaki no fue hecha por la humanidad, sino fue una decisión de Harry Truman. Incluso, si contamos todo el Proyecto Manhattan y el mando militar de Estados Unidos es evidente que un numero relativamente pequeño de individuos destruyo un gran numero de personas indefensas. Es la omnipotencia de una minoría sobre masas impotentes lo característico de la era nuclear ¿qué responsabilidad tienen las masas? La distancia entre quienes deciden y quienes sufren los efectos de estas decisiones  es inmensa y por eso que su uso nunca es democrático. Por supuesto que hay gente que activamente resiste y lucha en contra de la destrucción nuclear, pero su arsenal continua multiplicándose y proliferando mas que nunca en posesión de poderes que no son muy democráticos. 

 

A diferencia de la Bomba, que es un evento singular que provoca un acontecimiento único, el calentamiento global es un fenómeno lento e imperceptible cuyas líneas generales son confusas. La explosión atómica termina el mundo con un golpe espectacular. El calentamiento global, en cambio, es un deterioro y destrucción progresiva del mundo tal como lo conocemos que, a pesar de  implicar una problemática diferente, tenemos que interpretarlo también como un hecho tecnológico. Por supuesto no es un objeto o sistema que haya sido construido intencionalmente por los seres humanos, como la Bomba. Pero, aunque lo interpretemos como una red enorme de efectos involuntarios de la actividad humana sobre la naturaleza, todavía lo podemos considerar un hecho tecnológico porque tal fenómeno  no existiría sin la actividad tecno industrial de nuestra especie. Y es este entrelazamiento de naturaleza y técnica el que re articula y revela el mundo de una manera completamente nueva. La amenaza nuclear describe el mundo en términos de una concentración de fuerza y poder en un solo punto. La amenaza global amplia el mundo hasta abarcar toda la biosfera. Si el peligro nuclear ve el mundo como humanidad, el calentamiento global lo revela como un mundo compartido por los humanos, los animales, las plantas y todos los seres vivos. 

 

Podría decirse, entonces, que la tecno naturaleza es “nuestra naturaleza”, aunque esto no significa, como dice Lindberg, que la conocemos o dominamos, como creen algunos transhumanistas. La tecnología, en realidad, se ha vuelto parcialmente desconocida, de la misma manera que la naturaleza solía serlo. La tecno naturaleza tiene un lado desconocido e impredecible. Se da y se retira como la antigua physis y en este sentido es profundamente ambivalente... por un lado es el dominio de la claridad y funcionalidad tecnológica y, por otro, es la poseedora de un fondo de elementos insondables.

 

El papel de las ciencias ha cambiado enormemente entre el proyecto Manhattan y el Panel Internacional de Cambio Climático de las Naciones Unidas. En el primero, la autoridad de los científicos era indiscutible, sujetos  capaces de dominar el átomo y ponerlo en uso de maneras sorprendentes. El PICC, en cambio, es constantemente cuestionado debido a sus incertidumbres y desacuerdos. Y, sin embargo, así y todo, la humanidad nunca ha hecho nada tan científico como este proyecto colectivo que evalúa los trabajos de miles de investigadores con el fin de recopilar toda la información posible sobre el calentamiento global. Desacuerdos, deficiencias, incertidumbres y debates pertenecen a la progresión normal de la ciencia, que en lugar de invalidar sus resultados, confirman que las afirmaciones efectivamente han sido probadas. Los detractores del PICC, los que se denominan climato escépticos, no son científicos que representan un punto alternativo, sino en su mayoría son solo representantes de los monopolios fósiles.  

 

Este cambio de estatus de los científicos también se refleja en el problema de la responsabilidad  entre científicos y técnicos. Los participantes del Proyecto Manhattan todavía eran tecno científicos capaces de construir armas fabulosas y participar en un programa de guerra. Los integrantes  del PICC participan en un proceso mucho mas difuso. No fabrican maquinas infernales, sino que revelan un fenómeno que es imperceptible, abstracto e incomprensible para muchos. El calentamiento global tiene un origen tecnológico e industrial, pero los científicos que prueban su existencia no son los mismos que los técnicos que contribuyen a su desarrollo. Como nota Lindberg, a diferencia de los científicos los técnicos que construyeron la cultura de combustibles fósiles y que utilizaron toda la ciencia disponible para hacerlo, no estuvieron conscientes de sus efectos dañinos o decidieron no prestar atención a ellos. En todo caso el fenómeno en si, así como sus causas y las responsabilidades que provoca, es tan complicado que uno no puede producir, comprender y tomar responsabilidad por ello individualmente, sino solo colectivamente.

 

El hecho tecnológico del calentamiento global nos presenta, entonces, un mundo diferente al de la Bomba, hecho que hizo posible por primera vez  imaginar la extinción de la especie humana. El PICC no va tan lejos, pero indica cambios radicales de los ecosistemas, incluida la extinción de un gran numero de especies y sistemas ecológicos. La humanidad, en este escenario, no esta amenazada de extinción inmediata, pero sin duda  tendrá que adaptarse a cambios sociales, políticos, tecnológicos e incluso biológicos. En breve, no se trata del fin del mundo, sino su transformación. Pero, la cosa es esta... ¿en que momento esta transformación se convierte en una degradación e incluso en una extinción? Nada en el PICC profetiza  un apocalipsis, pero indica algunas  tendencias de reconfiguración y posibles estrategias de ajuste. La perspectiva ya no es la amenaza de una aniquilación repentina sino la de un lento deterioro del ser en el mundo ¿En que momento, podríamos preguntar, el ser en el mundo se vuelve insoportable? Se ha dicho muchas veces que los humanos y el planeta se adaptan a todo... ¿cuándo ese todo se vuelve demasiado?

 

Esta pregunta por el demasiado, según Lindberg, es la medida de la responsabilidad del calentamiento global. La Bomba invita a pensar, siguiendo una línea de ética tradicional, en términos de responsabilidad personal, basada en la idea de la existencia de un sujeto autónomo, que siendo libre y consciente de si mismo, es responsable de sus acciones. El concepto de responsabilidad personal, en cambio, funciona mal en el contexto del  cambio climático. Este es un fenómeno mucho mas difuso que la Bomba y tiende a disolver la responsabilidad personal. Los responsables del calentamiento global no son individuos o personas, como un presidente que ordena presionar un botón rojo, sino enormes masas de población que no solo están pasivamente expuestas, como en una catástrofe nuclear, sino contribuyendo activamente al aumento de CO2 simplemente por vivir sus vidas. Todos los que hemos tratado de vivir responsablemente con el clima, junto con todos los esfuerzos de los activista ecológicos, no hemos logrado en lo mas mínimo  disminuir el rápido aumento del CO2 en la atmosfera. Lo personal es político, pero no lo suficientemente político. E incluso el Estado que asume su responsabilidad  a través de legislaciones y tratados internacionales, tampoco es suficiente.  

 

Ciertamente que los mayores responsables son las multinacionales que eluden el papel de sujetos responsables. Pero, así y todo, ni siquiera ellos son los únicos responsables, porque operan en un sistema o estructura   económica que depende de su actividad. Es esto lo que obliga a inventar, dice Lindberg, una nueva figura de responsabilidad, algo así como una “responsabilidad impersonal de un mundo común”, un mundo compartido no solo por algunos, sino por todos, aunque no tengamos nada en común, fuera del simple hecho de estar en el mundo y solo podemos estar en el mundo si hay uno. El desafío, por tanto, es comprender que significa una responsabilidad impersonal, que no es menos, sino mas que la responsabilidad personal. La gravedad de la situación llama por un estado de madurez, como decía Hannah Arendt en otro contexto, algo que nos convierta en “padres” de todos los que vendrán después de nosotros, en lugar de ser “hijos” de todos los que nos precedieron... ¿puede esto ser posible? Si miramos la actual situación política del mundo, las posibilidades son bien escasas.

 

Nieves y Miro Fuenzalida.