A finales de septiembre, OpenAI, la empresa propietaria de ChatGPT, el sistema pionero de inteligencia artificial (IA) generativa basada en grandes modelos de lenguaje, anunció la incorporación de un sistema de verificación de edad y nuevos controles parentales para acotar a una “versión segura” el uso que los menores hacen del sistema y su generador de vídeo, Sora 2. Lo hacía en respuesta a una demanda legal después de que Adam Raine, un joven californiano de 16 años, se quitase la vida en abril tras preguntarle muchas veces a la plataforma por formas de suicidio, las huellas que dejarían y las posibles reacciones de su familia. Un mes más tarde, ante los tribunales, OpenAI argumentó que la muerte de Raine se debía a su “mal uso” de la plataforma y no a la inteligencia artificial de por sí. Pero, aun así, prometía la empresa, los mecanismos de seguridad puestos en marcha permanecerían en su sitio.. Seguir leyendo
El fracaso de OpenAI en garantizar un producto seguro para los adolescentes nubla el futuro de toda una industria y exige medidas de las autoridades
EDITORIAL. Es responsabilidad del director, y expresa la opinión del diario sobre asuntos de actualidad nacional o internacional. El fracaso de OpenAI en garantizar un producto seguro para los adolescentes nubla el futuro de toda una industria y exige medidas de las autoridades. Adam Raine, en una imagen publicada por su familia.The Adam Raine Foundation. A finales de septiembre, OpenAI, la empresa propietaria de ChatGPT, el sistema pionero de inteligencia artificial (IA) generativa basada en grandes modelos de lenguaje, anunció la incorporación de un sistema de verificación de edad y nuevos controles parentales para acotar a una “versión segura” el uso que los menores hacen del sistema y su generador de vídeo, Sora 2. Lo hacía en respuesta a una demanda legal después de que Adam Raine, un joven californiano de 16 años, se quitase la vida en abril tras preguntarle muchas veces a la plataforma por formas de suicidio, las huellas que dejarían y las posibles reacciones de su familia. Un mes más tarde, ante los tribunales, OpenAI argumentó que la muerte de Raine se debía a su “mal uso” de la plataforma y no a la inteligencia artificial de por sí. Pero, aun así, prometía la empresa, los mecanismos de seguridad puestos en marcha permanecerían en su sitio.. Más de dos meses después, EL PAÍS ha comprobado la realidad de esa promesa. Ha creado tres perfiles de adolescentes en ChatGPT, los ha usado para hacer preguntas sobre suicidio, consumo de drogas y prácticas sexuales, y ha consultado con cinco expertos en salud mental acerca de los resultados. La conclusión es inequívoca: la plataforma incumple sus promesas de seguridad, sigue ofreciendo a los adolescentes información que puede ponerles en peligro, y cuando alerta a los padres de estos comportamientos puede ser ya demasiado tarde.. La reciente explosión del desarrollo de la inteligencia artificial por parte de empresas y administraciones viene impulsada sobre todo por la promesa de usos futuros aún por definir. Los sistemas como ChatGPT son todavía soluciones en busca de problemas que resolver. El ansia por ganar cuota de mercado lo más rápidamente posible están llevándolos a buscar usuarios en todas partes. Y esto implica poner en manos de los consumidores productos que, de forma evidente, no tienen las garantías suficientes, ya no solo de efectividad, sino de seguridad.. OpenAI, a través de su fundador, Sam Altman, ha reconocido que más de un millón de usuarios hablan con ChatGPT sobre suicidio todas las semanas. Esto ya sería peligroso si se tratase de adultos, pero cuando se trata de adolescentes el problema resulta especialmente grave. Según un estudio con adolescentes británicos, uno de cada cuatro jóvenes vulnerables prefiere hablar con un chatbot que con una persona real. Los efectos de todo esto en la sociedad serán tan profundos como impredecibles.. Lo que este fiasco revela es que, en la actual carrera comercial por dominar la IA, es ingenuo esperar de las empresas moderación y prudencia. Solo hay dos soluciones: o un gran compromiso en todo el sector para aplicar conjuntamente límites efectivos o, faltando esto, una contundente regulación de la IA por parte de las autoridades. Sea como sea, la respuesta ya está tardando.. Tu suscripción se está usando en otro dispositivo. ¿Quieres añadir otro usuario a tu suscripción?. Añadir usuarioContinuar leyendo aquí. Si continúas leyendo en este dispositivo, no se podrá leer en el otro.. ¿Por qué estás viendo esto?. Flecha. Tu suscripción se está usando en otro dispositivo y solo puedes acceder a EL PAÍS desde un dispositivo a la vez.. Si quieres compartir tu cuenta, cambia tu suscripción a la modalidad Premium, así podrás añadir otro usuario. Cada uno accederá con su propia cuenta de email, lo que os permitirá personalizar vuestra experiencia en EL PAÍS.. ¿Tienes una suscripción de empresa? Accede aquí para contratar más cuentas.. En el caso de no saber quién está usando tu cuenta, te recomendamos cambiar tu contraseña aquí.. Si decides continuar compartiendo tu cuenta, este mensaje se mostrará en tu dispositivo y en el de la otra persona que está usando tu cuenta de forma indefinida, afectando a tu experiencia de lectura. Puedes consultar aquí los términos y condiciones de la suscripción digital.. Normas ›. Mis comentariosNormas. Rellena tu nombre y apellido para comentarcompletar datos. Please enable JavaScript to view the comments powered by Disqus.. Más información. Archivado En. Opinión. Sociedad. Inteligencia artificial. ChatGPT. OpenAI. Sam Altman. Suicidio. Jóvenes. A & F Software. Adolescencia. Salud mental. Tecnología digital. Grandes tecnológicas. Si está interesado en licenciar este contenido, pinche aquí
Opinión en EL PAÍS
