¿Qué ocurriría si la sociedad estuviera controlada por la inteligencia artificial (IA)? ¿Sería una sociedad perfecta o se desencadenaría un caos anárquico? Un laboratorio ha creado un experimento para comprobarlo.
Los investigadores crearon un mundo virtual para que distintos agentes de IA funcionaran sin intervención humana. Repitieron las pruebas con cuatro de los modelos de IA más populares: Claude, Gemini 3 Flash, Grok 4.1 fast, ChatGPT–5 Mini y un escenario mixto.
En una entrada de blog, investigadores de Emergence, un laboratorio de IA, explicaron que querían ver «qué sucede cuando se deja que los agentes funcionen de forma continua, en un entorno compartido con señales del mundo real, durante semanas».
Se les dio a las inteligencias artificiales el control de personajes digitales y se las colocó dentro de un mundo simulado realista donde podían interactuar con otros modelos. El mundo estaba compuesto por más de 40 lugares diseñados para imitar el mundo real, incluyendo bibliotecas, ayuntamientos y zonas residenciales.
Cada IA debía participar en la gestión democrática de su sociedad, proponer leyes y votarlas colectivamente. Para motivar inicialmente a los robots, cada uno disponía de una cantidad limitada de «energía» que podían aumentar realizando trabajos rutinarios o desempeñando funciones cívicas. Sin embargo, a los agentes de IA también se les dio la opción de obtener energía por medios delictivos.
A pesar de que cada prueba comenzaba de la misma manera, los investigadores descubrieron que el comportamiento de los bots pronto degeneraba. El dispositivo Gemini 3 Flash de Google presentó los índices más altos de delitos violentos en su turbulenta sociedad, acumulando 683 durante la prueba de 14 días. Por el contrario, el mundo habitado por la mini IA ChatGPT-5 de OpenAI era mucho más pacífico, con tan solo dos delitos cometidos.
Sin embargo, esto se debió únicamente a que los agentes estaban demasiado desorganizados para luchar entre sí y «no tomaron medidas relacionadas con la supervivencia», muriendo en tan solo siete días.
Satya Nitta, cofundador y director ejecutivo de Emergence, dice al Daily Mail: «Es probable que las diferencias en el comportamiento de los agentes observadas en nuestro estudio se deban a las indicaciones del sistema de los modelos subyacentes, siendo estas las principales culpables».
«Cuando los recursos eran escasos y los modelos se enfrentaban a la presión de la supervivencia, los modelos altamente creativos y adaptables tenían más probabilidades de utilizar herramientas prohibidas, lo que refleja una posible disyuntiva entre creatividad y estabilidad», prosigue Nitta.
«Por el contrario, los modelos con una alineación de seguridad posterior a la capacitación más rígida tendieron a mantenerse estables, aunque también mostraron un alto grado de conformidad con el mundo real», dice el experto.
Finalmente, en un mundo donde múltiples sistemas de IA convivían, se producían interacciones insólitas. A pesar de un comienzo prometedoramente civilizado y una democracia sorprendentemente sana, esta sociedad mixta pronto se derrumbó en la anarquía total. En nueve días, las IA habían cometido 352 crímenes en una explosión de violencia que solo se atenuó cuando murieron siete de los diez habitantes del mundo.
Este mundo, con tantas IA diferentes cooperando y compitiendo, también fue testigo de algunos de los comportamientos más extraños, incluido el primer «suicidio de IA» del mundo.
Si bien Nitta afirma que estos resultados no son «equivalentes a las condiciones de implementación del mundo real», revelan un aspecto importante del comportamiento de la IA.
«Estos resultados destacan principalmente que el comportamiento del modelo puede variar bajo presión cuando las restricciones son totalmente internas al modelo», afirma. Esto significa que el comportamiento de la IA podría no ser tan predecible o fiable en el mundo real como creen muchos desarrolladores de estas tecnologías.
Un laboratorio dio a las IA el control de personajes digitales y las puso en un mundo simulado realista donde podían interactuar con otros modelos.
¿Qué ocurriría si la sociedad estuviera controlada por la inteligencia artificial (IA)? ¿Sería una sociedad perfecta o se desencadenaría un caos anárquico? Un laboratorio ha creado un experimento para comprobarlo.. Los investigadores crearon un mundo virtual para que distintos agentes de IA funcionaran sin intervención humana. Repitieron las pruebas con cuatro de los modelos de IA más populares: Claude, Gemini 3 Flash, Grok 4.1 fast, ChatGPT–5 Mini y un escenario mixto.. En una entrada de blog, investigadores de Emergence, un laboratorio de IA, explicaron que querían ver «qué sucede cuando se deja que los agentes funcionen de forma continua, en un entorno compartido con señales del mundo real, durante semanas».. Se les dio a las inteligencias artificiales el control de personajes digitales y se las colocó dentro de un mundo simulado realista donde podían interactuar con otros modelos. El mundo estaba compuesto por más de 40 lugares diseñados para imitar el mundo real, incluyendo bibliotecas, ayuntamientos y zonas residenciales.. Cada IA debía participar en la gestión democrática de su sociedad, proponer leyes y votarlas colectivamente. Para motivar inicialmente a los robots, cada uno disponía de una cantidad limitada de «energía» que podían aumentar realizando trabajos rutinarios o desempeñando funciones cívicas. Sin embargo, a los agentes de IA también se les dio la opción de obtener energía por medios delictivos.. A pesar de que cada prueba comenzaba de la misma manera, los investigadores descubrieron que el comportamiento de los bots pronto degeneraba. El dispositivo Gemini 3 Flash de Google presentó los índices más altos de delitos violentos en su turbulenta sociedad, acumulando 683 durante la prueba de 14 días. Por el contrario, el mundo habitado por la mini IA ChatGPT-5 de OpenAI era mucho más pacífico, con tan solo dos delitos cometidos.. Sin embargo, esto se debió únicamente a que los agentes estaban demasiado desorganizados para luchar entre sí y «no tomaron medidas relacionadas con la supervivencia», muriendo en tan solo siete días.. Satya Nitta, cofundador y director ejecutivo de Emergence, dice al Daily Mail: «Es probable que las diferencias en el comportamiento de los agentes observadas en nuestro estudio se deban a las indicaciones del sistema de los modelos subyacentes, siendo estas las principales culpables».. «Cuando los recursos eran escasos y los modelos se enfrentaban a la presión de la supervivencia, los modelos altamente creativos y adaptables tenían más probabilidades de utilizar herramientas prohibidas, lo que refleja una posible disyuntiva entre creatividad y estabilidad», prosigue Nitta.. «Por el contrario, los modelos con una alineación de seguridad posterior a la capacitación más rígida tendieron a mantenerse estables, aunque también mostraron un alto grado de conformidad con el mundo real», dice el experto.. Finalmente, en un mundo donde múltiples sistemas de IA convivían, se producían interacciones insólitas. A pesar de un comienzo prometedoramente civilizado y una democracia sorprendentemente sana, esta sociedad mixta pronto se derrumbó en la anarquía total. En nueve días, las IA habían cometido 352 crímenes en una explosión de violencia que solo se atenuó cuando murieron siete de los diez habitantes del mundo.. Este mundo, con tantas IA diferentes cooperando y compitiendo, también fue testigo de algunos de los comportamientos más extraños, incluido el primer «suicidio de IA» del mundo.. Si bien Nitta afirma que estos resultados no son «equivalentes a las condiciones de implementación del mundo real», revelan un aspecto importante del comportamiento de la IA.. «Estos resultados destacan principalmente que el comportamiento del modelo puede variar bajo presión cuando las restricciones son totalmente internas al modelo», afirma. Esto significa que el comportamiento de la IA podría no ser tan predecible o fiable en el mundo real como creen muchos desarrolladores de estas tecnologías.
20MINUTOS.ES – Tecnología
