Desde que OpenAI desvelara la llegada del llamado ‘modo adulto’ a ChatGPT, no había vuelto a dar más detalles, excepto que se retrasaba. Ahora se sabe un poco más gracias a las declaraciones de un portavoz no identificado de la compañía a The Wall Street Journal, donde explica que, en su lanzamiento, consistirá en conversaciones de texto picantes, sin emplear la capacidad del chatbot para generar imágenes, voz y vídeo. También describe este contenido como subido de tono, más que pornografía, y señala que permitirá a los usuarios de ChatGPT mantener conversaciones de texto con temáticas para adultos.. Sam Altman, CEO de la compañía, anunció la nueva función en octubre, asegurando que la compañía había logrado mitigar lo suficiente algunos de los ‘graves problemas de salud mental’ asociados a su modelo de IA como para relajar las restricciones de seguridad e introducir ‘erótica para adultos verificados’.. Se esperaba que el modo adulto de ChatGPT se lanzara en algún momento de este trimestre, pero OpenAI dijo a principios de este mes que retrasaba el despliegue para centrarse en tareas de mayor prioridad. Aún no se ha anunciado un nuevo calendario de lanzamiento.. El retraso también se debe a preocupaciones internas y a desafíos técnicos relacionados con las salvaguardas de la función, según la información de TWSJ. En enero, el consejo de asesores elegido por OpenAI advirtió a la compañía de que el modo adulto de ChatGPT podría ser accesible para menores y fomentar una dependencia emocional poco saludable del chatbot. Uno de los miembros de ese consejo, cuya identidad no se ha revelado, afirmó que OpenAI corría el riesgo de crear un ‘entrenador suicida sexy’.. Los problemas de moderación de contenido también han contribuido a los retrasos. Fuentes conocedoras del asunto han dicho al medio que OpenAI está teniendo dificultades para levantar las restricciones de ChatGPT sobre contenido NSFW (Not Safe For Work, que no es apropiado para verlo en el trabajo o en contextos públicos) sin dejar de mantener fuera de los límites escenarios más dañinos, como los que representan conductas no consentidas o abuso sexual infantil.. El sistema de predicción de edad que OpenAI ha desarrollado para mantener a los menores alejados del contenido erótico también estaba, en un momento dado, clasificando erróneamente a menores como adultos aproximadamente un 12 por ciento de las veces. Dado que ChatGPT atrae a unos 100 millones de usuarios menores de 18 años cada semana, esa tasa de error podría permitir que millones de menores accedan a conversaciones sexuales con el chatbot. Los algoritmos de predicción de edad de OpenAI muestran un rendimiento similar a los del resto del sector, señala la fuente a TWSJ, pero ‘nunca serán completamente infalibles’.. Ceñirse a conversaciones basadas en texto puede facilitar que la empresa creadora de ChatGPT esquive normas como la Ley de Seguridad Online del Reino Unido, que exige a las plataformas online aplicar verificación de edad para imágenes pornográficas, pero no para erotismo escrito.. También contrasta con experiencias NSFW más visuales de otros proveedores de IA, como los compañeros ‘picantes’ de Grok. La semana pasada, Elon Musk, de xAI, anunció que el generador de imágenes y vídeo de Grok puede producir cualquier cosa que ‘esté permitida en una película con calificación R [Restricted, los menores de 17 años solo pueden verla acompañados de un adulto]’.
La compañía sigue afinando los controles para evitar el acceso de menores, pero ‘nunca serán completamente infalibles’
Desde que OpenAI desvelara la llegada del llamado ‘modo adulto’ a ChatGPT, no había vuelto a dar más detalles, excepto que se retrasaba. Ahora se sabe un poco más gracias a las declaraciones de un portavoz no identificado de la compañía a The Wall Street Journal, donde explica que, en su lanzamiento, consistirá en conversaciones de texto picantes, sin emplear la capacidad del chatbot para generar imágenes, voz y vídeo. También describe este contenido como subido de tono, más que pornografía, y señala que permitirá a los usuarios de ChatGPT mantener conversaciones de texto con temáticas para adultos.. Sam Altman, CEO de la compañía, anunció la nueva función en octubre, asegurando que la compañía había logrado mitigar lo suficiente algunos de los ‘graves problemas de salud mental’ asociados a su modelo de IA como para relajar las restricciones de seguridad e introducir ‘erótica para adultos verificados’.. Se esperaba que el modo adulto de ChatGPT se lanzara en algún momento de este trimestre, pero OpenAI dijo a principios de este mes que retrasaba el despliegue para centrarse en tareas de mayor prioridad. Aún no se ha anunciado un nuevo calendario de lanzamiento.. El retraso también se debe a preocupaciones internas y a desafíos técnicos relacionados con las salvaguardas de la función, según la información de TWSJ. En enero, el consejo de asesores elegido por OpenAI advirtió a la compañía de que el modo adulto de ChatGPT podría ser accesible para menores y fomentar una dependencia emocional poco saludable del chatbot. Uno de los miembros de ese consejo, cuya identidad no se ha revelado, afirmó que OpenAI corría el riesgo de crear un ‘entrenador suicida sexy’.. Los problemas de moderación de contenido también han contribuido a los retrasos. Fuentes conocedoras del asunto han dicho al medio que OpenAI está teniendo dificultades para levantar las restricciones de ChatGPT sobre contenido NSFW (Not Safe For Work, que no es apropiado para verlo en el trabajo o en contextos públicos) sin dejar de mantener fuera de los límites escenarios más dañinos, como los que representan conductas no consentidas o abuso sexual infantil.. El sistema de predicción de edad que OpenAI ha desarrollado para mantener a los menores alejados del contenido erótico también estaba, en un momento dado, clasificando erróneamente a menores como adultos aproximadamente un 12 por ciento de las veces. Dado que ChatGPT atrae a unos 100 millones de usuarios menores de 18 años cada semana, esa tasa de error podría permitir que millones de menores accedan a conversaciones sexuales con el chatbot. Los algoritmos de predicción de edad de OpenAI muestran un rendimiento similar a los del resto del sector, señala la fuente a TWSJ, pero ‘nunca serán completamente infalibles’.. Ceñirse a conversaciones basadas en texto puede facilitar que la empresa creadora de ChatGPT esquive normas como la Ley de Seguridad Online del Reino Unido, que exige a las plataformas online aplicar verificación de edad para imágenes pornográficas, pero no para erotismo escrito.. También contrasta con experiencias NSFW más visuales de otros proveedores de IA, como los compañeros ‘picantes’ de Grok. La semana pasada, Elon Musk, de xAI, anunció que el generador de imágenes y vídeo de Grok puede producir cualquier cosa que ‘esté permitida en una película con calificación R [Restricted, los menores de 17 años solo pueden verla acompañados de un adulto]’.
Noticias de Tecnología y Videojuegos en La Razón
