En la carrera de la inteligencia artificial, las novedades se suceden más rápido de lo que se tardan en digerir. En este mundo inabarcable de anuncios distópicos y estrategias de relaciones públicas para exagerar los logros, resulta complicado distinguir entre un avance crítico y una actualización prometedora. Pero el último modelo de inteligencia artificial de Anthropic amenaza con hacer estragos en los sistemas de seguridad informática de todo el planeta.. Seguir leyendo
La herramienta es capaz de detectar vulnerabilidades en los sistemas informáticos que dejarían expuesta la seguridad
En la carrera de la inteligencia artificial, las novedades se suceden más rápido de lo que se tardan en digerir. En este mundo inabarcable de anuncios distópicos y estrategias de relaciones públicaspara exagerar los logros, resulta complicado distinguir entre un avance crítico y una actualización prometedora. Pero el último modelo de inteligencia artificial de Anthropic amenaza con hacer estragos en los sistemas de seguridad informática de todo el planeta.. Anthropic, una de las empresas pioneras de la inteligencia artificial, anunció a principios de este mes que ha desarrollado un modelo de IA tan potente que en cuestión de minutos es capaz de descubrir vulnerabilidades y fallos ocultos en los sistemas informáticos y software de cualquier organización o empresa. El modelo se llama Mythos Preview y ha desatado el pánico en todo el mundo entre dudas sobre su alcance real y la amenaza que supone para los gobiernos del planeta.. La empresa, dirigida por Dario Amodei, una especie de gurú que aboga por el uso ético de la tecnología, ha decidido restringir el uso de Mythos a medio centenar de empresas y operadores de infraestructuras críticas, todos de origen estadounidense, para ayudar a levantar un muro de defensa antes de que los hackers encuentren la forma de explotar las debilidades de los sistemas informáticos. Anthropic ha denominado a este grupo Proyecto Glasswing, en referencia a un extraño tipo de mariposa que tiene las alas transparentes para camuflarse en la naturaleza. Estas compañías, entre las que se encuentran Apple, Amazon, Microsoft, Nvidia, JP Morgan, trabajan en desarrollar soluciones de seguridad para taponar las brechas detectadas por el modelo.. Si este tipo de herramientas cayeran en manos indeseadas, podrían acceder a los sistemas informáticos de cualquier organización o empresa, incluyendo operadores críticos como hospitales o gestores de sistemas eléctricos, o a los sistemas de seguridad de los gobiernos y tomar el control de los sistemas operativos y navegadores que utilizan. Se trata, por tanto, de una amenaza no solo para que los criminales accedan a información confidencial, sino también de un riesgo de seguridad nacional.. Grupo de seguridad. El modelo, insisten los responsables de Anthropic, “ha identificado miles de vulnerabilidades adicionales de alta y crítica gravedad”. Y justifican: “Estamos trabajando para divulgarlas de manera responsable”.. Mythos no es más que un modelo de lenguaje de propósito general parecido a su hermano Claude de Anthropic o ChatGPT de OpenAI, pero más avanzado y con capacidades mucho más desarrolladas. Durante sus pruebas, explican sus creadores, encontró y explotó vulnerabilidades catalogadas como “día cero”. Aquellas que eran desconocidas. Algunos, incluso, no habían sido descubiertos en varios años, lo que da cuenta de la dificultad de detectarlos. Esto implica que aún no existen soluciones ni parches para evitar filtraciones indeseadas de los llamados fallos de “día cero”.. “Más del 99% de las vulnerabilidades que hemos detectado aún no se han corregido, por lo que sería irresponsable divulgar detalles al respecto”, señaló la compañía en un artículo en su blog publicado el 9 de abril.. Washington, Bruselas y Londres, entre otros, han expresado su preocupación por la amenaza de Mythos. La Administración estadounidense se ha apresurado a reconstruir las relaciones con Anthropic, rotas después de que el presidente Donald Trump ordenara cortar todos los contratos públicos con el gigante tecnológico, valorado en más de 350.000 millones de dólares, por su resistencia a permitir el uso de todas las funcionalidades de sus modelos de IA para fines militares.. Acuerdo con la Casa Blanca. El Departamento de Defensa, que dirige Pete Hegseth, catalogó en febrero a la empresa como un riesgo para la seguridad nacional, una decisión que ha supuesto un duro golpe contra Anthropic. Pero el nuevo hallazgo ha servido para restañar las heridas.. La semana pasada, Dario Amodei visitó la Casa Blanca para explicar el alcance del nuevo modelo de IA. Dos días después, Trump sugirió un nuevo acuerdo con Anthropic en una entrevista en la cadena CNBC. “Tuvimos conversaciones muy productivas con ellos, y creo que están progresando”, dijo Trump. “Son muy inteligentes, y creo que pueden ser de gran utilidad”, abundó durante su intervención en horario de máxima audiencia. Las declaraciones contrastan con las que vertió tan solo un par de meses antes a través de su red social, Truth: “¡Los Estados Unidos de América jamás permitirán que una empresa radical de izquierda y ‘woke’ decida cómo nuestro ejército lucha y gana guerras”.. Hasta el momento, el acceso a Mythos está restringido al selecto grupo de las 50 empresas del Proyecto Glassging. Anthropic también ha facilitado acceso a su sistema a la Casa Blanca y a Downing Street, en Londres. El Instituto Británico de Seguridad de la IA que ha podido acceder a Mythos, ha confirmado que puede llevar a cabo ciberataques complejos que ningún modelo anterior de IA había logrado, según recoge The New York Times. “La IA está a punto de hacer que los ciberataques sean mucho más fáciles y rápidos, y la mayoría de las empresas no están preparadas”, señaló el organismo.. Preocupación en Bruselas. En Bruselas también cunde la preocupación. El Ejecutivo comunitario ha mantenido, al menos, tres reuniones con ejecutivos de Anthropic desde el lanzamiento de Mythos, el pasado 9 de abril, aunque aún no ha podido analizarlo por diferencias sobre el acceso. Aun así, la Comisión Europea manifestó a través de un comunicado que “presenta capacidades cibernéticas sin precedentes”. El Banco Central Europeo (BCE) ha preguntado a las entidades que supervisa por la robustez de sus sistemas informáticos. Los bancos europeos podrían ser los próximos en probar Mythos para reforzar sus entornos tecnológicos.. Hay cierta prisa por empezar a cerrar los supuestos fallos invisibles de los sistemas informáticos de bancos, energéticas o de cualquier compañía. Anthropic cree que en los próximos meses otras compañías de inteligencia artificial conseguirán modelos con capacidades similares a las de Mythos Entonces, el riesgo aumentará mucho más.. “La versión preliminar de Claude Mythos supone un paso importante, pero no es un fenómeno aislado. En los próximos meses, es probable que veamos modelos de la competencia —posiblemente de código abierto— que alcancen o incluso superen las capacidades de Mythos”, explica Vivien Mura, responsable de tecnología de Orange Cyberdefense.. “No vemos ninguna razón para pensar que Mythos Preview sea el punto en el que las capacidades de ciberseguridad de los modelos de lenguaje alcancen su límite. La trayectoria es clara”, añaden los ingenieros de Anthropic.. Tras el alarmismo de Mythos de Anthropic también se esconde una estrategia, buscada o no, para crear demanda y alimentar el negocio. Las empresas y organismos públicos se pondrán a la cola de la empresa para solicitar acceso al modelo para poder blindar sus sistemas informáticos. Además, surge el dilema sobre si una empresa privada puede tener una herramienta tan potente capaz de desestabilizar gobiernos.. Mientras tanto, comienzan las primeras filtraciones. Bloomberg publicó esta semana que usuarios no autorizados están accediendo a Mythos. La empresa ha abierto una investigación y asegura que no tiene constancia de que el acceso esté afectando a sus sistemas.. “A largo plazo, prevemos que las capacidades de defensa serán primordiales: el mundo emergerá más seguro, con un software mejor reforzado, en gran medida gracias al código escrito con estos modelos”, señala Anthropic en su blog. “Sin embargo, el período de transición será complejo. Por lo tanto, debemos empezar a actuar ahora”, concluye
Feed MRSS-S Noticias
