El debate social sobre la IA se ha movido entre dos polos: la atracción tecnológica y el pavor apocalíptico. Programas y algoritmos capaces de dejarnos sin empleo, revolucionar la medicina, dictar sentencia en juicios…, e incluso amenazar la vida del hombre. Mientras el debate sobre un futuro que ni imaginamos continúa, la periodista británica pone el foco en un problema real y apremiante: la amenaza de internet y las redes para amplificar los prejuicios atávicos convirtiéndolos en sistemas programados. Bates, reconocida por sus investigaciones sobre las asociaciones misóginas nacidas en la red, edifica un ensayo que podría remitirnos a una crónica de sucesos bajo una premisa sencilla: la tecnología no crea machismo –ni siquiera postmachismo–, pero proporciona herramientas con u capacidad amplificadora para organizarse, multiplicarse y expandirse de forma exponencial.. El texto elude plantearnos el hecho como una batalla ideológica y nos ofrece una seria investigación sobre el modo en que algunos incentivos económicos y cibernéticos están propiciando una programación del odio, la desigualdad y una falta de humanidad atávicos. Por ello Bates nos increpa desde la tinta de la indignación una interrogación perturbadora: ¿qué sucede cuando los algoritmos descubren que la humillación y la rabia provocan más beneficios que la sana convivencia? Ella señala a las redes como el macrolaboratorio de esa metamorfosis, pues llevan dos décadas aplaudiendo el contenido que provoca emociones alteradas y, pocas de ellas, generan más interacción que la ira, el resentimiento o el escándalo. La conclusión de la autora es que los discursos furiosos consiguen ahora su plataforma de difusión tan masiva como eficaz.. Particularmente turbadora es la forma en que imbrica la cibercultura con fenómenos como los «deepfakes» pornográficos, las novietas virtuales creadas por IA, los robots sexuales o los ambientes inmersivos del metaverso que parecen salidos de la jungla digital. No son fenómenos aislados sino expresiones distintas de una lógica que cosifica a las personas y al cuerpo femenino en mercancía de ceros y unos. El ejemplo del inicio es significativo, pues reconstruye el escándalo sucedido en Almendralejo, donde un grupo de adolescentes descubrieron que sus compañeros de colegio habían empleado aplicaciones de inteligencia artificial para desarrollar imágenes falsas de ellas desnudas a partir de fotos obtenidas de las redes. La repercusión mediática nos demuestra cómo las herramientas que antes precisaban de gran destreza técnica hoy están al alcance de cualquier menor.. Lo desconcertante no es que todo se deba a la tecnología sino la inmediatez con la que los contenidos se viralizan en un espacio diseñado para compartir, reenviar y divertirse…, pues el daño se triplica por minuto. Bates incide en que la IA permite los accesos rápidos, aunque son las plataformas quienes transforman incidentes particulares en fenómenos masivos. La autora llega a visitar un ciberburdel en Berlín, explora las aplicaciones asistidas por sistemas inteligentes para generar parejas sumisas y se introduce en el metaverso donde se topa con realidades de verdadero acoso. Es la herencia del viejo periodismo de inmersión que acude a los lugares para observarlos en primera persona y relatarlo al lector.. Las páginas destinadas a las llamadas «novias de IA» son, sin duda, las más turbadoras pues son programas que diseñan una compañera virtual ajustada a las necesidades del usuario, por lo que el problema no reside en los asistentes conversacionales sino en que el producto que ofertan resulta una alternativa jugosa a las relaciones reales, pues son parejas que jamás nos contradicen o abandonan. Las relaciones entre personas exigen empatía, reciprocidad, negociación y aceptación de límites, mientras que la tecnología ofrece obediencia eterna. Luego llegará la soledad y el aislamiento del que tanto se hacen eco los expertos en salud mental.. Muy interesante resulta el capítulo centrado en los algoritmos donde abandona el terreno emocional y se adentra en temas estructurales. Nos recuerda que los sistemas de IA aprenden sobre los datos que les ofrecemos y, si contienen prejuicios u obsesiones, los algoritmos terminan reproduciéndolos. Por ello, herramientas utilizadas en selección de personal o temas bancarios pueden eternizar desigualdades bajo una apariencia de neutralidad matemática. Es la parte medular del ensayo pues escora el debate desde el comportamiento individual hacia los engranajes invisibles que reordenan nuestra vida. La discriminación deja de ser una cuestión de acoso para convertirse en un riesgo de diseño tecnológico. El mérito extraordinario de esta obra pasa por mostrar cómo esos diferentes modos de desigualdad se interconectan pues las redes premian antes el contenido agresivo y voraz, las aplicaciones monetizan el insulto o la humillación y los algoritmos adiestrados con datos sesgados que anteponen el crecimiento a la seguridad forman parte del ecosistema económico.. La manosfera merece capítulo aparte. Ese universo digital conformado por foros y comunidades donde proliferan discursos de resentimiento masculino. La autora sostiene que las redes no solo albergan estos mensajes, sino que los alientan y, cuanto más polémico es el contenido, más visibilidad se logra; a mayor indignación, más interacción para «la banca»… que nunca pierde. El resultado es más tráfico y mayores beneficios. La paradoja es muy turbia. Jamás habíamos asistido a un acceso tan amplio de información, pero, a cambio, determinadas formas de odio encuentran una posibilidad de difusión jamás conocida. La tecnología que prometió interconectarnos ha posibilitado comunidades nacidas del resentimiento.. El texto presenta limitaciones. Su principal debilidad es cierta tendencia al acopio. Bates nos ofrece tantos ejemplos, estudios y testimonios que la argumentación se vuelve repetitiva y la sensación de alarma, descorazonadora. Adolece de un abanico más ancho de voces procedentes de la industria tecnológica, pues la autora analiza los efectos de determinadas plataformas, pero concede poco espacio a quienes están en la tarea de corregir esos problemas. Las soluciones parecen no querer dejarse escuchar.. Pero el libro posee una virtud inapelable que es la de obligarnos a replantear la conversación sobre IA. Cuando el debate social sigue obsesionado con escenarios distópicos, Bates nos recuerda que las complicaciones más urgentes han llegado. Una aportación valiosa.Tampoco cae en el rechazo simplista de la innovación. Nos hace reflexionar acerca de que los sistemas digitales reflejan los valores de quienes los diseñan y los incentivos económicos de quienes los patrocinan. El libro va más allá de la cuestión de género para tornar en una reflexión sobre el funcionamiento de internet. De cómo los algoritmos premian determinadas conductas o transforman la atención en negocio y la viralidad premia el acoso. Las redes no son herramientas neutrales sino que actúan como aceleradores de comportamientos existentes en nuestro ADN. El «enemigo» no aparece como una inteligencia no humana. El enemigo está en los algoritmos que extienden clics, en los modelos de negocio que ganan dinero a costa de la indignación y en una cultura digital que ha descubierto que el odio, el aquelarre y la humillación generan más tráfico que la empatía.. Laura Bates no ha escrito un texto sobre el futuro sino sobre el presente y su advertencia es meridiana: si las redes fueron el laboratorio donde se normalizó una nueva agresividad digital, la IA corre el riesgo de convertir esa lógica en infraestructura constante. La pregunta ya no es qué podrán hacer las máquinas dentro de una década sino qué estamos permitiendo que hagan hoy quienes la utilizan y cómo ponerle veto.. «La nueva era del machismo» (9/10). Lo mejor: Una investigación valiente que revela cómo algoritmos y redes amplifican prejuicios ya existentes. Lo peor: Acumula ejemplos similares y repite argumentos, reduciendo fuerza analítica en algunos capítulos. Sobre la autora: Laura Bates es periodista, activista y autora feminista, colaboradora habitual en «The Guardian» y «The Independent». Participa en «Women Under Siege», una organización que lucha contra el uso de la violencia sexual como arma de guerra en zonas de conflicto. Es autora de varios libros superventas, entre ellos «Sexismo cotidiano». Colabora estrechamente con organizaciones como el Consejo de Europa y las UN para abordar la desigualdad de género. Fue galardonada con la medalla del Imperio Británico .
La autora muestra cómo las redes alientan «las deepfakes», novias «sumisas» generadas por IA, el porno y dan alas a todos los prejuicios sobre las mujeres
El debate social sobre la IA se ha movido entre dos polos: la atracción tecnológica y el pavor apocalíptico. Programas y algoritmos capaces de dejarnos sin empleo, revolucionar la medicina, dictar sentencia en juicios…, e incluso amenazar la vida del hombre. Mientras el debate sobre un futuro que ni imaginamos continúa, la periodista británica pone el foco en un problema real y apremiante: la amenaza de internet y las redes para amplificar los prejuicios atávicos convirtiéndolos en sistemas programados. Bates, reconocida por sus investigaciones sobre las asociaciones misóginas nacidas en la red, edifica un ensayo que podría remitirnos a una crónica de sucesos bajo una premisa sencilla: la tecnología no crea machismo –ni siquiera postmachismo–, pero proporciona herramientas con u capacidad amplificadora para organizarse, multiplicarse y expandirse de forma exponencial.. El texto elude plantearnos el hecho como una batalla ideológica y nos ofrece una seria investigación sobre el modo en que algunos incentivos económicos y cibernéticos están propiciando una programación del odio, la desigualdad y una falta de humanidad atávicos. Por ello Bates nos increpa desde la tinta de la indignación una interrogación perturbadora: ¿qué sucede cuando los algoritmos descubren que la humillación y la rabia provocan más beneficios que la sana convivencia? Ella señala a las redes como el macrolaboratorio de esa metamorfosis, pues llevan dos décadas aplaudiendo el contenido que provoca emociones alteradas y, pocas de ellas, generan más interacción que la ira, el resentimiento o el escándalo. La conclusión de la autora es que los discursos furiosos consiguen ahora su plataforma de difusión tan masiva como eficaz.. Particularmente turbadora es la forma en que imbrica la cibercultura con fenómenos como los «deepfakes» pornográficos, las novietas virtuales creadas por IA, los robots sexuales o los ambientes inmersivos del metaverso que parecen salidos de la jungla digital. No son fenómenos aislados sino expresiones distintas de una lógica que cosifica a las personas y al cuerpo femenino en mercancía de ceros y unos. El ejemplo del inicio es significativo, pues reconstruye el escándalo sucedido en Almendralejo, donde un grupo de adolescentes descubrieron que sus compañeros de colegio habían empleado aplicaciones de inteligencia artificial para desarrollar imágenes falsas de ellas desnudas a partir de fotos obtenidas de las redes. La repercusión mediática nos demuestra cómo las herramientas que antes precisaban de gran destreza técnica hoy están al alcance de cualquier menor.. Lo desconcertante no es que todo se deba a la tecnología sino la inmediatez con la que los contenidos se viralizan en un espacio diseñado para compartir, reenviar y divertirse…, pues el daño se triplica por minuto. Bates incide en que la IA permite los accesos rápidos, aunque son las plataformas quienes transforman incidentes particulares en fenómenos masivos. La autora llega a visitar un ciberburdel en Berlín, explora las aplicaciones asistidas por sistemas inteligentes para generar parejas sumisas y se introduce en el metaverso donde se topa con realidades de verdadero acoso. Es la herencia del viejo periodismo de inmersión que acude a los lugares para observarlos en primera persona y relatarlo al lector.. Las páginas destinadas a las llamadas «novias de IA» son, sin duda, las más turbadoras pues son programas que diseñan una compañera virtual ajustada a las necesidades del usuario, por lo que el problema no reside en los asistentes conversacionales sino en que el producto que ofertan resulta una alternativa jugosa a las relaciones reales, pues son parejas que jamás nos contradicen o abandonan. Las relaciones entre personas exigen empatía, reciprocidad, negociación y aceptación de límites, mientras que la tecnología ofrece obediencia eterna. Luego llegará la soledad y el aislamiento del que tanto se hacen eco los expertos en salud mental.. Muy interesante resulta el capítulo centrado en los algoritmos donde abandona el terreno emocional y se adentra en temas estructurales. Nos recuerda que los sistemas de IA aprenden sobre los datos que les ofrecemos y, si contienen prejuicios u obsesiones, los algoritmos terminan reproduciéndolos. Por ello, herramientas utilizadas en selección de personal o temas bancarios pueden eternizar desigualdades bajo una apariencia de neutralidad matemática. Es la parte medular del ensayo pues escora el debate desde el comportamiento individual hacia los engranajes invisibles que reordenan nuestra vida. La discriminación deja de ser una cuestión de acoso para convertirse en un riesgo de diseño tecnológico. El mérito extraordinario de esta obra pasa por mostrar cómo esos diferentes modos de desigualdad se interconectan pues las redes premian antes el contenido agresivo y voraz, las aplicaciones monetizan el insulto o la humillación y los algoritmos adiestrados con datos sesgados que anteponen el crecimiento a la seguridad forman parte del ecosistema económico.. La manosfera merece capítulo aparte. Ese universo digital conformado por foros y comunidades donde proliferan discursos de resentimiento masculino. La autora sostiene que las redes no solo albergan estos mensajes, sino que los alientan y, cuanto más polémico es el contenido, más visibilidad se logra; a mayor indignación, más interacción para «la banca»… que nunca pierde. El resultado es más tráfico y mayores beneficios. La paradoja es muy turbia. Jamás habíamos asistido a un acceso tan amplio de información, pero, a cambio, determinadas formas de odio encuentran una posibilidad de difusión jamás conocida. La tecnología que prometió interconectarnos ha posibilitado comunidades nacidas del resentimiento.. El texto presenta limitaciones. Su principal debilidad es cierta tendencia al acopio. Bates nos ofrece tantos ejemplos, estudios y testimonios que la argumentación se vuelve repetitiva y la sensación de alarma, descorazonadora. Adolece de un abanico más ancho de voces procedentes de la industria tecnológica, pues la autora analiza los efectos de determinadas plataformas, pero concede poco espacio a quienes están en la tarea de corregir esos problemas. Las soluciones parecen no querer dejarse escuchar.. Pero el libro posee una virtud inapelable que es la de obligarnos a replantear la conversación sobre IA. Cuando el debate social sigue obsesionado con escenarios distópicos, Bates nos recuerda que las complicaciones más urgentes han llegado. Una aportación valiosa.Tampoco cae en el rechazo simplista de la innovación. Nos hace reflexionar acerca de que los sistemas digitales reflejan los valores de quienes los diseñan y los incentivos económicos de quienes los patrocinan. El libro va más allá de la cuestión de género para tornar en una reflexión sobre el funcionamiento de internet. De cómo los algoritmos premian determinadas conductas o transforman la atención en negocio y la viralidad premia el acoso. Las redes no son herramientas neutrales sino que actúan como aceleradores de comportamientos existentes en nuestro ADN. El «enemigo» no aparece como una inteligencia no humana. El enemigo está en los algoritmos que extienden clics, en los modelos de negocio que ganan dinero a costa de la indignación y en una cultura digital que ha descubierto que el odio, el aquelarre y la humillación generan más tráfico que la empatía.. Laura Bates no ha escrito un texto sobre el futuro sino sobre el presente y su advertencia es meridiana: si las redes fueron el laboratorio donde se normalizó una nueva agresividad digital, la IA corre el riesgo de convertir esa lógica en infraestructura constante. La pregunta ya no es qué podrán hacer las máquinas dentro de una década sino qué estamos permitiendo que hagan hoy quienes la utilizan y cómo ponerle veto.. Lo mejor: Una investigación valiente que revela cómo algoritmos y redes amplifican prejuicios ya existentes. Lo peor: Acumula ejemplos similares y repite argumentos, reduciendo fuerza analítica en algunos capítulos. Sobre la autora: Laura Bates es periodista, activista y autora feminista, colaboradora habitual en «The Guardian» y «The Independent». Participa en «Women Under Siege», una organización que lucha contra el uso de la violencia sexual como arma de guerra en zonas de conflicto. Es autora de varios libros superventas, entre ellos «Sexismo cotidiano». Colabora estrechamente con organizaciones como el Consejo de Europa y las UN para abordar la desigualdad de género. Fue galardonada con la medalla del Imperio Británico .
Noticias de cultura en La Razón
