En un ciclo de conversaciones sobre la llamada IA, alguien preguntó a la lingüista computacional Emily Bender cómo evitar que nos dejen atrás si cuestionamos los grandes modelos de texto sintético. Lo primero, contestó, sería analizar la metáfora “que nos dejen atrás” y preguntarse quiénes van delante y si realmente queremos seguirlos. Pues acaso, añadimos, no hay un delante ni un atrás, sino varios caminos diferentes.. Seguir leyendo
Antes que la IA, la desigualdad social ha dado lugar a una discriminación en el acceso a un trato humano sosegado
En un ciclo de conversaciones sobre la llamada IA, alguien preguntó a la lingüista computacional Emily Bender cómo evitar que nos dejen atrás si cuestionamos los grandes modelos de texto sintético. Lo primero, contestó, sería analizar la metáfora “que nos dejen atrás” y preguntarse quiénes van delante y si realmente queremos seguirlos. Pues acaso, añadimos, no hay un delante ni un atrás, sino varios caminos diferentes.. La artista Jennifer Walshe, en su libro 13 maneras de ver la IA el arte y la música (Alpha Decay), habla de la IA con desenfado y voluntad de apertura, y la considera un abono para la imaginación. A Walshe, como a la programadora Marga Padilla, autora de Inteligencia Artificial, ¿jugar o romper la baraja? (Traficantes de sueños), les interesa conocer la herramienta, jugar con ella, saber para qué puede y no puede, quizá no debe, servir. En el extremo opuesto se sitúa el músico Anthony Mosser, cuyo post “Soy un hater de la IA” ha sido leído con avidez en internet: “Me convertí en un odiador haciendo precisamente aquello que la IA no puede hacer: leer y comprender el lenguaje humano; pensar y razonar sobre ideas; considerar el significado de mis palabras y su contexto; amar a la gente, crear arte, vivir en mi cuerpo con sus defectos, sentimientos y vida. La IA no puede ser un hater, porque no siente, no sabe, no le importa. Solo los humanos pueden ser odiadores. Celebro mi humanidad”. Los tres coinciden, sin embargo, en que IA es una etiqueta encubridora de distintas tecnologías, procesos, infraestructuras y finalidades.. Una gran parte de esos procesos tienen que ver con la automatización, sistemas de decisión automatizada, optimización predictiva, aprendizaje automático, inferir pero no comprender. La automatización puede ser útil en algunos contextos y perjudicial en otros. Puede ser útil para reducir la fatiga, y al mismo tiempo puede generar una nueva clase de fatiga por aturdimiento y pérdida de capacidad de maniobra. Puede ser útil en modelos especializados para predecir niveles de contaminación o formular nuevos antibióticos. Ahora bien, cuando lo que está en juego son las relaciones humanas nadie suele querer que le traten como una pieza de un engranaje, como un número.. Dos cosas nos constan a los seres humanos, ha escrito el poeta Carlos Piera: que somos todos distintos y que somos todos iguales. Porque somos todos iguales no debemos ser discriminados en cuanto a los derechos. Y porque somos todos distintos necesitamos un mundo que contemple lo que no es fácil medir, lo que no se puede medir y la certeza de que dos casos parecidos a menudo no son iguales porque cada persona trae vida, contexto, vínculos, arterias, pequeñas y grandes desdichas, un mundo de relaciones donde, como dijo Richard Feynman, la excepción prueba que la regla es falsa. Aunque las regulaciones generales sean necesarias, aspiramos a que algo de lo que hay de único en cada una de nosotras pueda ser escuchado y, tal vez, entendido.. Algunas personas en sus profesiones olvidan que tienen delante a un ser humano, quizá por indiferencia, pero quizá porque se les ha dicho que no pueden hacer otra cosa, pues están dentro de un engranaje que no deja tiempo a la verdadera atención. Algo no encaja en la plantilla, la persona atendida propone un rodeo, pues solucionar ese trámite es vital para sus días; quien atiende mira impotente la pantalla: “Comprendo”, dice, “pero el sistema no me deja”. Así se humaniza al sistema, “no me deja”, se deshumaniza a la persona que está delante, “me da igual tu circunstancia”, y también a la persona que trabaja, cuyos criterios no son escuchados, cuya experiencia no sirve, cuya voluntad de tratar a la ciudadanía como lo que es, un conjunto de personas diversas y con derecho a todos los derechos humanos, no cuenta.. El sistema no es una entidad, es un procedimiento casi siempre fruto de una necesidad artificialmente producida. Luchar para mejorar las condiciones en que las personas trabajan y viven, y para aumentar su autonomía y capacidad de acción, no suele estar entre los objetivos de las plataformas ni en los de quienes convierten sus ofertas en normativas. Si a veces se trata al profesorado y al alumnado como si fueran números, la solución no es convertirlos en números o en meros asistentes de máquinas, sino actuar para mejorar el entorno y el sentido de una escuela.. Mucho antes de la IA la desigualdad social ha dado lugar a discriminación también en el acceso a un trato humano sosegado. Lo lógico sería combatir esa discriminación. Lo inadmisible, amplificarla y legitimarla a mayor escala en aras de una supuesta eficiencia. Si en una consulta médica no hay tiempo para mirar y ver a cada persona, la solución no es degradar la función y automatizarla, y menos aún pretender asentar la idea de que será aceptable que el derecho al trato humano dependa de dónde vives, a quién conoces o de cuánto puedes pagar, sino intervenir en las condiciones de trabajo y de vida en común.. La privatización, la corrupción, no pensar en qué se necesita y para qué, dañan el sentido del trabajo, aun cuando queden tantas personas que lo hacen de un modo admirable. Ser más eficiente no quiere decir nada con respecto al sentido. Se puede ser más eficiente, como se ha visto, para expulsar o matar sin juicio, para manipular. El proyecto de una eficiencia automatizada, nos dicen, es imparable, pero ¿por qué? ¿Acaso no estamos en un momento grave de la historia donde demasiadas decisiones pueden tener consecuencias irreversibles y deben ser atentamente sopesadas?. Al colectivo Tu Nube Seca Mi Río,pionero en sacar a la luz el despilfarro eléctrico e hídrico de los centros de datos, se suman cada vez más voces que denuncian cómo pueden poner en peligro la salud de los ecosistemas, la vida. Cuando los límites del planeta deberían estar ya obligándonos a modificar comportamientos, la apropiación abusiva de recursos es uno de los grandes puntos débiles de la automatización en marcha. Hay muchos más, entre otros, el porcentaje de error que multiplica exponencialmente los fallos cuando se cometen por sistemas difundidos a gran escala, la automatización del engaño, de la chapuza y la especulación, la incapacidad de garantizar la custodia de los datos exigidos o extraídos de la ciudadanía, el abaratamiento de la vigilancia y su uso para acosar y privar de derechos, la negativa a revelar los conjuntos de datos de entrenamiento, la falta de cuidado al elegirlos, la amplificación de los sesgos, la elusión de responsabilidades, cómo devalúa las relaciones humanas.. “Quiero hablar con una persona” quizá sea la frase más repetida al otro extremo de la línea de un chatbot. Cuando se logra romper con ella el bucle, a veces el modelo de texto sintético emite: “Lamento no haber podido atenderte”. En esas palabras no hay ficción sino fraude, pues no hay voluntad de narrar, tampoco un yo, ni acción de lamentar, ni el tú de la forma verbal atenderte significa. El lenguaje es patrimonio común, no deberíamos permitir que se malbarate hasta el punto de olvidar que tras cada significado ha de haber un querer decir, y tras cada acción con consecuencias un querer ser responsables para poder ser libres.. Belén Gopegui Durán es escritora, novelista y guionista. Su último libro es Te siguen (Penguin).
Opinión en EL PAÍS
