El reflejo de nuestra imagen en el espejo ha sido, desde Ovidio hasta nuestros días, una fuente de continuo misterio y fascinación en el arte y la literatura que revelan una intrincada identidad y autoconsciencia, franqueza y engaño, narcisismo y auto desprecio, adulación e indiferencia. No solo un rostro exterior, sino una ventana al complejo funcionamiento de nuestra mente. Un sofisticado instrumento para profundizar la difusa línea entre la fantasía y la realidad. En breve, un lienzo para la introspección y la experiencia humana.
A lo largo de la historia la metáfora ha servido para comparar dos cosas que no son literalmente del mismo tipo pero que tienen características paralelas que permiten que nuestra comprensión de una cosa se traslade e ilumine la otra. Hoy día la escritora Shannon Vallor la usa para explorar la relación entre ética y tecnología. Según su interpretación los sistemas de IA mas avanzados son inmensos espejos que reflejan nuestra propia inteligencia. Ellos no piensan por si mismos sino que reflejan nuestros pensamientos, juicios, deseos, necesidades, percepciones, expectativas, valores e imaginación. En este sentido la IA no es tanto un enemigo externo que nos puede reemplazar, como algunos críticos creen, sino una amenaza que proviene del interior de nuestra propia humanidad. Lo que hace es amplificar, extraer e impulsar los poderes dominantes y los patrones registrados con mas frecuencia en nuestro pasado, algo que refuerza la idea de que la tecnología esta bien lejos de ser neutral.
La imagen en el espejo, dice Vallor, no es un duplicado, una copia o una imitación. El cuerpo que aparece en el no es un segundo cuerpo que ocupa espacio en el mundo junto con el mío. No una copia de mi cuerpo. Ni siquiera una pálida imitación de mi cuerpo. El cuerpo-espejo no es un cuerpo en absoluto. Los reflejos no son cuerpos. Del mismo modo los sistemas de IA actuales entrenados en el pensamiento y el comportamiento humano no son mentes. Son algo nuevo y propio. Algo así como un espejo. No producen pensamientos ni sentimientos, como tampoco los espejos producen cuerpos. Lo que producen es un nuevo tipo de reflexión. En un sentido limitado pueden crear, producir nuevas variaciones a partir de datos existentes. Expresar es diferente. Expresar es dar existencia a algo que habla de otra cosa. Una herramienta de IA puede crear una nueva escultura o una nueva forma abstracta. Pero... ¿qué puede expresar a través de ellos? Expresar es tener algo dentro de uno que necesita salir... ¿cuál es el dentro de la imagen en el espejo?
De hecho, el espejo no ofrece un reflejo completo de quienes somos ni es tampoco la perspectiva mas privilegiada y veraz de nuestro ser. Sus imágenes no poseen sonido, ni olor, ni profundidad, ni suavidad, ni miedo, ni esperanza, ni imaginación. Los espejos no solo nos revelan. Nos distorsionan, escinden y aplanan. Si solo veo en mi lo que dice el espejo, no me conozco en absoluto. Y si la IA es hoy uno de nuestros espejos mas poderosos, debemos a lo menos tratar de comprender como sus distorsiones y lagunas oscurecen nuestra auto comprensión y visiones del futuro... ¿qué aspectos de nosotros mismos, individual y colectivamente, por ejemplo, muestran los espejos de la IA, mas allá de nuestros prejuicios arraigados contra nuestra propia especie? ¿y que aspectos nuestros dejan sin reflejar? Lo que vemos en realidad son los reflejos de lo que los humanos valoraban lo suficiente como para registrarlo en datos. Pero no todos los humanos. Lo que muestran no son los reflejos neutrales de una realidad humana compartida sino los valores de un pequeño grupo que históricamente ha tenido el poder de dar forma a los patrones dominantes
Los modelos actuales de aprendizaje automático reciben y reflejan cantidades discretas de datos. Los datos, como dice Vallor, son su única luz y se pueden encontrar en diferentes formas... fijos o en imágenes de video, archivos de sonido, cadenas de textos, números, y símbolos reducidos a valores binarios discretos. Pero gran parte de lo que es verdad sobre la familia humana no se puede representar actualmente en forma digital con un grado aceptable de fidelidad. Considera el simple hecho de la espontaneidad y adaptabilidad. Las predicciones de la IA proyectan nuestro futuro en función de nuestro pasado y del pasado de otros como nosotros. En el futuro seremos esencialmente lo que hemos sido. Pero lo que podríamos ser o que transformaciones, renacimientos o renovaciones son posibles se quedan en la sombra. Como otros investigadores han notado desde hace algún tiempo los espejos de la IA son profundamente conservadores. Están literalmente construidas para conservar los patrones del pasado y extenderlos a nuestro futuro. No pueden predecir lo que es conocido como el evento “cisne negro”, el cambio sin precedente, el advenimiento histórico de una configuración radicalmente nueva.
Y, hablando de adaptación, una de las dimensiones repetitivas de la IA que actualmente esta ocurriendo a escala global es la “adaptación inversa”. En lugar de diseñar maquinas para apoyar fines humanos, se reclutan humanos para hacer lo que sea necesario para aumentar y adaptarse a las capacidades de las maquinas y comportarse cada vez mas como robot. Los algoritmos cada vez mas sofisticados de la IA ahora determinan y dan forma a lo que leemos y escribimos, lo que miramos y escuchamos en línea, con quien estamos invitados a reunirnos o salir, quien nos contratara, etc. Desde el momento en que estos mecanismos de poder social son socialmente significativos, no es sorpresa descubrir que estos desarrollos plantean nuevas y urgentes cuestiones políticas, epistemológicas y morales. Cada vez se hace mas difícil entender exactamente cuando, como, y con que autoridad, estos algoritmos corrompidos por prejuicios históricos influyen profundamente en nuestras vidas.
Los instrumentos inteligentes actuales, ávidos de datos, son construidos por poderosas corporaciones para “deleitarse como parásitos insaciables con nuestras propias palabras, imágenes y pensamientos despojados de sus raíces humanas en la experiencia vivida y volver a alimentarnos con ellas como sustitutos vacíos de nuestras propias mentes.” Solo un puñado de empresas multinacionales de tecnología compiten ahora con los gobiernos como potencias mundiales, al tiempo que poseen las plataformas que estructuran y dan forma a la cultura mediática y las conversaciones publicas que supuestamente legitiman el poder democrático.
Estos espejos que hoy dominan el espacio cibernético no es todo lo que tenemos. Muchos otros tipos de IA, según Vallor, pueden servir como herramientas científicas y comerciales. Pero aun así ¿podrían algún día hacer mas? ¿respaldar nuestras capacidades de justicia y solidaridad, no solo con nosotros, sino también con otras formas de vida? Podemos construir IA para reflejar y reemplazar sistemáticamente la inteligencia humana con un facsímil moldeado por una maquina. O podemos construir IA para ayudar y liberar genuinamente nuestro potencial humano. Hoy nos encontramos en un momento critico... ¿haremos realidad una vez mas las imágenes fantasmales que aparecen en nuestros espejos digitales de imperio, extracción y dominación? ¿O deberíamos imaginar algo mas que hacer con nosotros mismos, digamos, algo nuevo?
Realísticamente no es posible reconstruir un mundo sostenible y floreciente para ocho mil millones de personas sin la ayuda de los avances tecnológicos. No podemos caer en la nostalgia retrospectiva de un mundo pre digital o, peor aun, pre industrial. Pero tampoco las soluciones meramente tecnológicas son suficientes para el florecimiento humano. Lejos de aliviar la actual crisis, la fe ingenua en la tecnología para resolver nuestros problemas, en ausencia de principios morales y justicia social, solo empeorara las cosas.
Como todas las tecnologías, los espejos no solo nos reflejan. También nos cambian. Ellos llaman la atención sobre cosas que de otro modo podríamos haber ignorado. Muestran cosas que no podríamos ver fácilmente sin ellos y, por lo tanto, abren nuevas posibilidades de acción y crean igualmente nuevas responsabilidades morales y políticas.
Nieves y Miro Fuenzalida.
No comments:
Post a Comment