El problema de la representación en la era de la inteligencia artificial

 

 

Con el paso del tiempo los desafíos políticos a los que se enfrenta la sociedad fueron cambiando, ya no se limitan a la organización de un estado nación, ni a la representación de los ciudadanos dentro de fronteras fijas. La globalización es un proceso histórico que transformó la forma de pensar la política en la era contemporánea. En contraposición con etapas anteriores donde los debates en torno a la justicia y al poder se daban dentro de los límites del estado-nación, en la actualidad, las decisiones políticas, económicas y culturales atraviesan las fronteras afectando, de ese modo, a personas de diversas partes del mundo. La razón de que esto suceda radica en la expansión a nivel global en relación con: las tecnologías de la información, el comercio internacional, las migraciones y la circulación de ideas y capitales con sólo hacer un “click”.

Nancy Frasser\[1] (1947), una de las filósofas políticas estadounidense de las más influyentes en la actualidad, plantea que en el pasado la justicia se pensaba de una manera muy distinta: en el “estado territorial moderno”, los ciudadanos de la naciones eran los principales sujetos de derechos y deberes. Sin embargo, con la llegada de la globalización, se desestabilizó ese modelo moderno, porque muchos de los procesos que son determinantes para nuestras vidas como, por ejemplo: las actividades que desarrollan las corporaciones multinacionales, las crisis ambientales o las interacciones en redes digitales, son procesos que superas los límites de los Estados y que requieren que reflexionemos para redefinir y pensar nuevas formas de representación y de participación política.

Podemos decir que hoy en día la política actual tiene como característica el surgimiento de nuevos actores y problemas globales: organizaciones internacionales, movimientos sociales transnacionales, grandes empresas de tecnología y fenómenos como la aparición de las IA que cada vez más están presentes en nuestra vida cotidiana. Todo esto plantea nuevos desafíos para la filosofía política, que debe cuestionarse. Así, ¿quiénes son hoy los sujetos de la justicia?, ¿cómo puede redefinirse la nueva comunidad política? y ¿qué significa participar en igualdad de condiciones en un mundo que está constantemente interconectado? 

 

La disipación de lo real

 

Jean Baudrillard (1929-2007), filósofo y sociólogo francés, nos propone una idea provocadora\[2]: vivimos en la era del simulacro. Para este autor, las imágenes, los discursos y las representaciones ya no son el reflejo fiel de la realidad. En cambio, las simulaciones creadas por los medios, la tecnología y en especial por las diferentes IA pueden llegar a ser extremadamente poderosas y convincentes, llegando al punto de reemplazar a la realidad misma. Llega un punto en el que no podemos saber con certeza si lo que vemos es verdadero, una copia o una mera invención. Tampoco podemos estar seguros acerca de lo que leemos, ¿fue realmente escrito por una persona o es una creación de una máquina?

Baudrillard sostiene que el simulacro no es una simple y llana mentira, o una falsificación, sino que va mucho más allá: es una nueva forma de realidad, en la cual las diferencias entre lo que es real y lo que es ficcional se van desvaneciendo poco a poco. Con la irrupción de las IA en nuestras vidas, esto se vuelve más patente, porque los algoritmos son capaces de crear imágenes, textos, voces y videos que aparentan ser auténticos, pero que no tienen un “original” detrás. Por otra parte, la representación política y social también se ve afectada, ya que nos enfrentamos ante un gran problema ¿cómo podemos establecer una distinción entre aquello que es genuino y lo que es simulado en un mundo que está gobernado por la sobreabundancia de datos y de pantallas?

Un claro ejemplo de este fenómeno son lasdeppfake. Este término es la combinación entre deeplearning (aprendizaje profundo) y fake (falso), y pueden ser de diferentes tipos: imágenes, audios o videos editados o generados completamente por tecnologías avanzadas de aprendizaje automático. El peligro de esto es que puede ponerse palabras en la boca de cualquier persona (sobre todo personas públicas) e, incluso, mostrarla en una determinada situación para crear confusión y desinformación. Estos sistemas o redes neuronales generativas (GAN, sigla en inglés) utilizan algoritmos que aprenden de patrones presentes en las imágenes, audios o videos para luego manipular y recrear imágenes, audio o video de una persona o cualquier otro tipo de objeto. Su contenido es tan real que pueden confundir tanto a máquinas como a personas. Además de estas implicancias negativas estas deepfake ofrecen innovaciones creativas y aplicaciones que pueden ser beneficiosas para la sociedad, como, por ejemplo, mejorar las producciones audiovisuales creando escenas con un mayor realismo, recrear la imagen y la voz de una persona célebre ya fallecida y la adaptación de piezas audiovisuales para la enseñanza de idiomas. El impacto de esta nueva tecnología en la sociedad es innegable. Algo similar ocurre con los filtros en redes sociales, capaces de modificar rostros y cuerpos hasta el punto de crear identidades virtuales que poco o nada tienen que ver con la realidad. 

Hoy en día esta multiplicación de imágenes y discursos generados de forma artificial no sólo transforma nuestra percepción, nuestro modo de ver el mundo y la realidad, sino que también pone en jaque nuestra confianza en las instituciones, los medios y hasta en las relaciones interpersonales. La política, en particular, se ve amenazada por estos simulacros, que pueden llegar a manipular la información y el sentido común de sociedades enteras.

 

De ciudadanos a ciudadanos del mundo

 

Nancy Frasser puede ayudarnos a entender cuáles son los desafíos que se le presentan a la justicia en un mundo globalizado y digital. Esta autora se concentra en los cambios que sufre la justicia y la participación política en la era de la globalización digital. Parte de una crítica al modelo tradicional que limitaba las discusiones sobre la justicia y la representación al interior de los Estados nacionales. Durante gran parte del siglo XX, los debates acerca de la redistribución económica y del reconocimiento de derechos se daban dentro de ciertas fronteras demarcadas con claridad, lo que ella llama el “marco keynesiano-westfaliano”. Pero la irrupción de la globalización y de los avances en ciencia y tecnología corrieron esos límites, los sobrepasan y nos interpelan con nuevas preguntas: ¿quiénes deben ser incluídos en la toma de decisiones?, ¿cómo se puede garantizar la justicia en esta nueva sociedad globalizada? 

 

Frasser sostiene que los problemas relacionados con la justicia no pueden pensarse actualmente dentro de los límites de un país. Por ejemplo, las decisiones de las grandes empresas tecnológicas sobre el uso de datos personales afectan a millones de personas en todo el mundo, sin importar su ciudadanía. Las plataformas de IA que mediante sus algoritmos sesgados ideológicamente deciden qué noticias o contenidos podemos ver y cuáles se vuelven virales, favorecen ciertas voces y silencian a otras, reproduciendo desigualdades a escala global. De este modo, la IA no es solamente una generadora de simulacros, como nos plantea Braudrillar, sino que además redefine las relaciones de poder y los derechos a la representación en la esfera pública digital. 

Un caso concreto es el de los movimientos sociales que nacen en redes y se expanden a nivel mundial como #Me too (yo también), que busca visibilizar y combatir la violencia y el acoso sexual, brindando a las mujeres una herramienta para compartir sus experiencias y apoyarse mutuamente. #Black livesmatter (las vidas negras importan) es un movimiento internacional cuyo objetivo es denunciar y desmantelar el racismo sistémico en Estados Unidos. Estas luchas buscan tanto la redistribución (por ejemplo, la igualdad de oportunidades laborales), como el reconocimiento (la visibilización de la discriminación y de la violencia), trascendiendo las fronteras y demostrando que la justicia ya no puede pensarse en terminos de naciones. Es importante resaltar que la IA puede ampliar o restringir la visibilización de estos movimientos, según cómo funcionen sus algoritmos, que como ya mencionamos son sesgados, es decir, que están influenciados por la ideología de aquellos seres humanos que realizaron la carga de datos para crearlas.

Frasser también nos advierte acerca de los riesgos de exclusión que se corren en la era digital. Por ejemplo, los sistemas automáticos de moderación de contenidos pueden censurar injustamente a minorías o movimientos sociales, mientras que la falta de acceso a la tecnología deja afuera de la discusión a millones de personas. En este sentido, la representación política no es solamente una cuestión parlamentaria o de los gobiernos, sino que tenemos que plantearnos ¿quiénes pueden participar y ser escuchados en el espacio digital? ¿de qué manera podemos ampliar esa participación para posibilitar el acceso a aquellos que hoy quedan excluidos de la información, de los debates y la toma de decisiones? Para la autora: “las teorías de la justicia deben tornarse tridimensionales e incorporar la dimensión política de la representación junto a la dimensión económica de la distribución y la dimensión cultural del reconocimiento” (Frasser, 2006, p. 35)

Para concluir, podemos decir que para Frasser la representación implica un distanciamiento respecto de lo real, pero a la vez mantiene una relación de fidelidad y referencia, es decir, que la representación política o simbólica lo que busca es reflejar, aunque sea de manera indirecta, las necesidades, intereses o identidades de los sujetos reales. En cambio, el simulacro en la propuesta de Baudrillard funciona de un modo radicalmente diferente, ya que se presenta como autónomo: esto quiere decir que no representa lo real, sino que lo reemplaza, lo sustituye, generando una realidad propia que ya no remite a ningún original y que el autor llama “hiperrealidad”.

 

María Nieves Ioannu

 

 

\[1]Fraser, N, Reivindicar la justicia en un mundo globalizado en Anales de la cátedra Francisco Suarez, Universidad de Granada, 2005 

 

\[2]Baudrillard, Cultura y simulacro, Cap. 1 La precesión de los simulacros, Ed Kairós, 1978