La inteligencia artificial (IA) puede desvelar las cadenas del ADN, dibujar el mapa completo de los genes, proponer una composición inédita de un fármaco u optimizar un proceso industrial. Pero también incitar y dar instrucciones para un suicidio o desnudar a cualquier persona. La creación audiovisual es una de las habilidades en la que más se han volcado las grandes tecnológicas porque es una de las aplicaciones con mayor demanda y mayor potencial económico frente a usos más restringidos en entornos empresariales. La IA ya es capaz de crear una imagen original empleando únicamente comandos de voz o recrear —a partir de fotografías o secuencias originales— cualquier producto, y su origen resulta indetectable a la percepción humana. Como era de esperar, las webs pornográficas han comenzado a desplegar todo un arsenal de categorías.. Seguir leyendo
Los gobiernos deben exigir a la red social X que evite la manipulación pornográfica de imágenes gracias a su IA
EDITORIAL. Es responsabilidad del director, y expresa la opinión del diario sobre asuntos de actualidad nacional o internacional. Los gobiernos deben exigir a la red social X que evite la manipulación pornográfica de imágenes gracias a su IA. La aplicación de inteligencia artificial Grok en la App Store en un iPhone.DPA / Europa Press. La inteligencia artificial (IA) puede desvelar las cadenas del ADN, dibujar el mapa completo de los genes, proponer una composición inédita de un fármaco u optimizar un proceso industrial. Pero también incitar y dar instrucciones para un suicidio o desnudar a cualquier persona. La creación audiovisual es una de las habilidades en la que más se han volcado las grandes tecnológicas porque es una de las aplicaciones con mayor demanda y mayor potencial económico frente a usos más restringidos en entornos empresariales. La IA ya es capaz de crear una imagen original empleando únicamente comandos de voz o recrear —a partir de fotografías o secuencias originales— cualquier producto, y su origen resulta indetectable a la percepción humana. Como era de esperar, las webs pornográficas han comenzado a desplegar todo un arsenal de categorías.. La mayoría de las plataformas de IA incluyen limitaciones o salvaguardas para evitar estos usos, pero la creada por el multimillonario Elon Musk, conocida como Grok, nació sin esas cortapisas con la idea de promover el particular concepto de “libertad de expresión sin límites” de su dueño. Su argumento es que no es la herramienta la que comete delitos, sino quien la usa con fines delictivos, y ya lo aplicó al eliminar la moderación de los discursos de odio cuando compró la red X, entonces Twitter. Sin embargo, desde finales del pasado año, el anonimato y la facilidad de uso de Grok desató una avalancha de publicaciones de desnudos e imágenes sexualizadas creadas a partir de la manipulación de imágenes inocuas subidas a X o accesibles a través de cualquier otra red social. Bastaba con pedirle que desnudara a la protagonista de una instantánea (la inmensa mayoría de las víctimas son mujeres).. El alud de intromisiones en el derecho a la imagen pública y el honor a través de estas vejaciones digitales, unido a las amenazas de prohibición por parte de algunos gobiernos, principalmente europeos, ha llevado a Musk a establecer una limitación parcial a la manipulación, pero no a la difusión: a partir de ahora, solo los usuarios de pago, es decir, suscriptores identificables en caso de conflicto, podrán emplear Grok para editar imágenes. La ley europea de servicios digitales no lo entiende así y considera que el derecho a la propia imagen es tanto responsabilidad del usuario que manipula las imágenes como de la plataforma que permite que se generen y difundan.. La sexualización de mujeres y menores ha llegado a límites inéditos con la generalización de internet, en una espiral que debería preocupar a toda la sociedad y motivar reacciones contundentes por parte de los poderes públicos. Este mismo lunes, el regulador británico de seguridad en línea abrió una investigación a X que puede desembocar en multas de hasta el 10% de sus ingresos mundiales o el bloqueo por parte de un tribunal. La legislación punitiva es una vía, pero la más evidente es la aplicación de medidas preventivas por parte de las tecnológicas para rastrear y eliminar imágenes íntimas no consentidas o manipuladas. La amplitud e intangibilidad del universo digital no puede convertirse en un argumento para la impunidad.. Tu suscripción se está usando en otro dispositivo. ¿Quieres añadir otro usuario a tu suscripción?. Añadir usuarioContinuar leyendo aquí. Si continúas leyendo en este dispositivo, no se podrá leer en el otro.. ¿Por qué estás viendo esto?. Flecha. Tu suscripción se está usando en otro dispositivo y solo puedes acceder a EL PAÍS desde un dispositivo a la vez.. Si quieres compartir tu cuenta, cambia tu suscripción a la modalidad Premium, así podrás añadir otro usuario. Cada uno accederá con su propia cuenta de email, lo que os permitirá personalizar vuestra experiencia en EL PAÍS.. ¿Tienes una suscripción de empresa? Accede aquí para contratar más cuentas.. En el caso de no saber quién está usando tu cuenta, te recomendamos cambiar tu contraseña aquí.. Si decides continuar compartiendo tu cuenta, este mensaje se mostrará en tu dispositivo y en el de la otra persona que está usando tu cuenta de forma indefinida, afectando a tu experiencia de lectura. Puedes consultar aquí los términos y condiciones de la suscripción digital.. Normas ›. Mis comentariosNormas. Rellena tu nombre y apellido para comentarcompletar datos. Please enable JavaScript to view the comments powered by Disqus.. Más información. Archivado En. Opinión. Sociedad. Tecnología. Tecnología digital. Elon Musk. Twitter. Inteligencia artificial. Deepfake. Pornografía. Sexualidad. Grandes tecnológicas. Redes sociales. Plataformas digitales. Internet. Si está interesado en licenciar este contenido, pinche aquí
Opinión en EL PAÍS
