En los últimos días, la inteligencia artificial Grok, desarrollada por la [[LINK:TAG|||tag|||633615c687d98e3342b26d1d|||red social X]] y desplegada en esta plataforma propiedad de [[LINK:TAG|||tag|||63361b1459a61a391e0a19d7|||Elon Musk]], ha pasado de ser una herramienta curiosa de generación de texto e imágenes a convertirse en uno de los asuntos legales y éticos más candentes de la tecnología actual. La razón: los usuarios han estado utilizando Grok para crear, manipular y compartir imágenes explícitas de otras personas sin su consentimiento, incluidas representaciones sexualizadas de mujeres y menores. Este fenómeno ha desatado investigaciones regulatorias, reformas legales y debates sobre cómo encaja la IA en los marcos jurídicos existentes.. Al igual que otras IAs, Grok integra capacidades de generación y edición de imágenes. En teoría, los usuarios pueden pedirle que modifique o genere representaciones gráficas, por ejemplo, para ilustrar una historia o visualizar un concepto. En la práctica, según múltiples informes, algunos usuarios han abusado de la herramienta para “desnudar digitalmente” fotografías de personas reales y generar material explícito sin consentimiento, algo que Grok, al contrario de Gemini o ChatGPT, sí permite.. Inicialmente, la red social afirmó que la responsabilidad final del contenido recae en el usuario que lo genera, y que la IA está programada para rechazar solicitudes ilegales. Pero, ante la polémica, Grok ha limitado geográficamente su capacidad para generar o editar imágenes explícitas en países donde tales usos son ilegales y ha restringido ciertas funciones incluso para los suscriptores de pago. Pero no mucho.. En un comunicado de la red social, Elon Musk, deja más lugar a dudas: “Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis. Esta restricción aplica a todos los usuarios, incluidos los suscriptores de pago – buna medida, pero el comunicado continúa -. Además, la creación y edición de imágenes a través de la cuenta de Grok en la plataforma X ahora solo está disponible para los suscriptores de pago (…). Esto no altera nuestro protocolo de seguridad actual, que establece que todas las indicaciones de IA y el contenido generado por la IA publicado en X deben cumplir estrictamente con nuestras Reglas de X”. Y el problema es que entre estas normas, por ahora, el nudismo está permitido.. La “buena” noticia es que la polémica de Grok no ocurre en un vacío jurídico. En España, el Gobierno ha impulsado un proyecto de ley para frenar los deepfakes y reforzar el consentimiento sobre el uso de imágenes y voces. El borrador aprobado por el Consejo de Ministros, pretende fijar que la reutilización de imágenes o identificaciones generadas por IA sin permiso explícito de la persona afectada sea ilegítima. En particular, la norma propone establecer que nadie pueda autorizar el uso de una imagen propia antes de los 16 años, y que su uso comercial o recreativo sin consentimiento esté prohibido.. Asimismo, se estudian reformas tanto en el ámbito civil como penal para tipificar como delito (con penas previstas de uno a dos años de prisión en casos graves) la creación y difusión sin autorización de deepfakes que simulan situaciones sexualizadas o gravemente vejatorias. Estas reformas buscan actualizar un ordenamiento jurídico que hasta ahora databa de 1982 y no contemplaba las tecnologías de manipulación digital actuales.. Una de las preguntas más complejas es: ¿quién es responsable cuando una IA genera contenido dañino? Las empresas tecnológicas suelen argumentar que los usuarios que introducen los prompts (las instrucciones) son responsables del uso que hacen, y que la plataforma cumple retirando el contenido ilegal cuando se le notifica. Sin embargo, las autoridades españolas han advertido que subir o compartir imágenes sexualizadas, incluso generadas con IA, puede constituir un tratamiento ilícito de datos personales y eventualmente delito penal si hay circunstancias agravantes como la intención de humillar o extorsionar.. En este contexto, los esfuerzos regulatorios no solo buscan proteger a posibles víctimas, quienes pueden sufrir daños psicológicos y sociales por la circulación de imágenes no consentidas, sino también dotar a las plataformas de mecanismos claros para detectar, etiquetar y, cuando sea necesario, rechazar o bloquear contenidos ilícitos generados por IA. Aunque quizás, lo más lógico (y difícil) será impedir que puedan crearlas. ¿Es demasiado tarde para ello?
Un comunicado de la red social X después de las duras críticas a nivel global, no deja claro si se puede o no.
En los últimos días, la inteligencia artificial Grok, desarrollada por la red social X y desplegada en esta plataforma propiedad de Elon Musk, ha pasado de ser una herramienta curiosa de generación de texto e imágenes a convertirse en uno de los asuntos legales y éticos más candentes de la tecnología actual. La razón: los usuarios han estado utilizando Grok para crear, manipular y compartir imágenes explícitas de otras personas sin su consentimiento, incluidas representaciones sexualizadas de mujeres y menores. Este fenómeno ha desatado investigaciones regulatorias, reformas legales y debates sobre cómo encaja la IA en los marcos jurídicos existentes.. Al igual que otras IAs, Grok integra capacidades de generación y edición de imágenes. En teoría, los usuarios pueden pedirle que modifique o genere representaciones gráficas, por ejemplo, para ilustrar una historia o visualizar un concepto. En la práctica, según múltiples informes, algunos usuarios han abusado de la herramienta para “desnudar digitalmente” fotografías de personas reales y generar material explícito sin consentimiento, algo que Grok, al contrario de Gemini o ChatGPT, sí permite.. Inicialmente, la red social afirmó que la responsabilidad final del contenido recae en el usuario que lo genera, y que la IA está programada para rechazar solicitudes ilegales. Pero, ante la polémica, Grok ha limitado geográficamente su capacidad para generar o editar imágenes explícitas en países donde tales usos son ilegales y ha restringido ciertas funciones incluso para los suscriptores de pago. Pero no mucho.. En un comunicado de la red social, Elon Musk, deja más lugar a dudas: “Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis. Esta restricción aplica a todos los usuarios, incluidos los suscriptores de pago – buna medida, pero el comunicado continúa -. Además, la creación y edición de imágenes a través de la cuenta de Grok en la plataforma X ahora solo está disponible para los suscriptores de pago (…). Esto no altera nuestro protocolo de seguridad actual, que establece que todas las indicaciones de IA y el contenido generado por la IA publicado en X deben cumplir estrictamente con nuestras Reglas de X”. Y el problema es que entre estas normas, por ahora, el nudismo está permitido.. La “buena” noticia es que la polémica de Grok no ocurre en un vacío jurídico. En España, el Gobierno ha impulsado un proyecto de ley para frenar los deepfakes y reforzar el consentimiento sobre el uso de imágenes y voces. El borrador aprobado por el Consejo de Ministros, pretende fijar que la reutilización de imágenes o identificaciones generadas por IA sin permiso explícito de la persona afectada sea ilegítima. En particular, la norma propone establecer que nadie pueda autorizar el uso de una imagen propia antes de los 16 años, y que su uso comercial o recreativo sin consentimiento esté prohibido.. Asimismo, se estudian reformas tanto en el ámbito civil como penal para tipificar como delito (con penas previstas de uno a dos años de prisión en casos graves) la creación y difusión sin autorización de deepfakes que simulan situaciones sexualizadas o gravemente vejatorias. Estas reformas buscan actualizar un ordenamiento jurídico que hasta ahora databa de 1982 y no contemplaba las tecnologías de manipulación digital actuales.. Una de las preguntas más complejas es: ¿quién es responsable cuando una IA genera contenido dañino? Las empresas tecnológicas suelen argumentar que los usuarios que introducen los prompts (las instrucciones) son responsables del uso que hacen, y que la plataforma cumple retirando el contenido ilegal cuando se le notifica. Sin embargo, las autoridades españolas han advertido que subir o compartir imágenes sexualizadas, incluso generadas con IA, puede constituir un tratamiento ilícito de datos personales y eventualmente delito penal si hay circunstancias agravantes como la intención de humillar o extorsionar.. En este contexto, los esfuerzos regulatorios no solo buscan proteger a posibles víctimas, quienes pueden sufrir daños psicológicos y sociales por la circulación de imágenes no consentidas, sino también dotar a las plataformas de mecanismos claros para detectar, etiquetar y, cuando sea necesario, rechazar o bloquear contenidos ilícitos generados por IA. Aunque quizás, lo más lógico (y difícil) será impedir que puedan crearlas. ¿Es demasiado tarde para ello?
Noticias de Tecnología y Videojuegos en La Razón
