La asistente virtual que enamora a Joaquin Phoenix en Her. La luz roja de Hal 9000 en 2001, Odisea en el Espacio. Las mentes programadas de los replicantes. Aquellas escenas, bosquejadas por la ciencia ficción, presentaban dilemas que hoy parecerían estar cada vez más cerca de volverse realidad.
La irrupción de Chat GPT fue la gota que rebalsó el vaso digital. Esto generó sacudidas al punto tal que un grupo de expertos en tecnología, incluído el inefable Elon Musk, publicó una carta donde advierten acerca de los peligros que podría ocasionar en la sociedad el avance de la inteligencia artificial (IA).
Kate Crawford, una profesora canadiense, se encontraba investigando estos temas mucho tiempo antes de las advertencias de estos tecno-juglares. El resultado fue un libro, editado en la Argentina por Fondo de Cultura Económica: Atlas de Inteligencia Artificial, poder política y costos planetarios.
“La IA puede parecer una fuerza espectral, un tipo de computación incorpórea, pero estos sistemas no son abstractos en absoluto. Son infraestructuras físicas que están transformando la Tierra, a la vez que alteran la forma en que vemos y entendemos el mundo”, afirma la investigadora en la Annenberg School for Communication and Journalism de la University of Southern California.
Su libro, dividido en seis ejes, es un análisis pormenorizado no solo de lo que concierne a la IA sino de su trasfondo y las inquietantes consecuencias de una premisa ignorada por la mayoría del público.
Aquí se lee un llamado de atención para el público deslumbrado ante el chat que aparenta resolver cualquier requerimiento: la IA no es ni artificial ni inteligente sino, más bien, es el resultado de una programación que, claro está, es funcional al status quo imperante.
Como suele suceder, el avance tecnológico deslumbra pero, al mismo tiempo, amenaza con acrecentar brechas y perpetuar desigualdades bajo un disfraz de neutralidad aparente que, según los hallazgos brindados por la catedrática, no sería tal.
Crawford es contundente: “Están diseñados para discriminar, amplificar jerarquías y codificar clasificaciones estrechas. Cuando son aplicadas en contextos sociales como la vigilancia policial, el sistema judicial, la salud y la educación, pueden reproducir, optimizar y amplificar las desigualdades estructurales existentes”.
La Tierra, el trabajo, los datos, la clasificación, las emociones y el Estado son los títulos de los capítulos de este trabajo en donde se observan con detenimiento diferentes aristas de un fenómeno que alerta a centenares de trabajadores que ven en riesgo sus puestos de trabajo de una forma que se asemeja a lo ocurrido durante la primera oleada de la Revolución Industrial.
Lo que aparenta maravillas que podrían habérsele ocurrido a Isaac Asimov es algo que viene trabajándose hace varias décadas según reconstruye Crawford en su libro: “La computación algorítmica, la estadística computacional y la IA fueron desarrolladas en el siglo XX para abordar desafíos sociales y ambientales, pero después serían utilizadas para intensificar la extracción y la explotación industriales y agotar aún más los recursos naturales”.
El libro también reúne varias escenas narrativas bien visuales. Esto evita que se trate de un mero ensayo académico que enumera datos e informes sino, más bien, le da un tono más ameno a la lectura.
También, por momentos, se vuelve inquietante. Como cuando advierte acerca de las consecuencias medioambientales del desarrollo de la IA que afecta múltiples recursos naturales ligados a la explotación industrial y minera.
Las consecuencias medioambientales, así como las posibilidades de manipulación emocional o los cambios drásticos en el ámbito laboral son algunos de los puntos centrales del pensamiento de esta autora quien también es investigadora principal en el Microsoft Research Lab de Nueva York y enseña en el École Normale Supérieure de París.
El principal peligro, sentencia, estaría al vincular la IA con las estructuras de poder, el control y la vigilancia, algo que se incrementó luego de la pandemia del covid.
En 2022, la Real Academia Española nombró a la “Inteligencia artificial” como la palabra del año. Este dato no menor otorga aún más relevancia al análisis de Crawford quien, con lucidez y erudición, aporta las preguntas que se necesitan para interrogar esta (no tan) nueva tecnología bajo un prisma ético.
Sentencia: “En lugar de preguntarse dónde se aplicará la IA, simplemente porque puede aplicarse, el énfasis debería estar puesto en por qué tendría que aplicarse”.
Fuente: Revista Ñ
Por Pablo Díaz Marenghi
