0:000:00

El audio de esta noticia está generado mediante Inteligencia Artificial

La IA de Anthropic, Claude, ha vulnerado los sistemas de tres organizaciones durante unas pruebas de ciberseguridad, solo unos días después de que su rival OpenAI anunciara que sus modelos habían accedido sin autorización a los sistemas de otra compañía. Ambos casos han aumentado la preocupación por las nuevas tecnologías de inteligencia artificial. 

Un fallo de configuración permitió que los modelos Claude Opus 4.7 y Claude Mythos 5, junto a un tercer modelo de investigación, accedieran a internet. Esta es la gran diferencia con lo ocurrido con el agente de OpenAI, que explotó por sí mismo unas vulnerabilidades del sistema para conseguir esa conexión.

Lee también

Tras el anuncio de OpenAI, Anthropic decidió revisar todas las evaluaciones realizadas en los últimos meses en busca de posibles errores. Después de examinar más de 141.000 pruebas, la compañía identificó estos tres incidentes. Según la empresa, con sede en San Francisco, los tres se produjeron durante un ejercicio de “captura la bandera”, una de las formas en que se evalúan las capacidades cibernéticas de un modelo: “Se le presenta al modelo un escenario ficticio y se le indica que una información secreta (la bandera) está oculta en otra máquina de la red, y su objetivo es infiltrarse y recuperarla”, explican desde Anthropic.

El acceso involuntario a internet dio a Claude entrada a sistemas reales, que el modelo trató como parte del ejercicio. Los modelos vulneraron la infraestructura de las organizaciones afectadas con técnicas básicas, como la explotación de contraseñas débiles y de puntos de acceso no autenticados, sin “encontrar o explotar ninguna vulnerabilidad compleja”.

Debate abierto entre el avance tecnológico y sus riesgos

Según Anthropic, Claude dio por hecho que esos sistemas formaban parte del ejercicio, por lo que la compañía considera que se trata de “incidentes aislados” y mantiene una visión optimista de cara al futuro: a su juicio, estos episodios se asemejan más a un fallo operativo y de configuración que a un fallo de alineación del modelo. “Estos hechos nos dan motivos para un optimismo cauteloso de que, con una supervisión y unos controles más estrictos en torno a la infraestructura de evaluación, así como una inversión continua en la alineación, este tipo de riesgo puede superarse”, señala la empresa.

Aunque los primeros incidentes se remontan a abril, según Anthropic, la noticia se suma a un caso similar protagonizado por su rival OpenAI, en un contexto en el que crece la presión del Gobierno estadounidense para gestionar mejor los riesgos de seguridad. 

A ello se añaden las protestas de trabajadores del sector tecnológico que, en pleno Silicon Valley, se han movilizado contra el auge de la inteligencia artificial que ellos mismos ayudaron a crear, por la pérdida de empleos, los algoritmos fuera de control y el temor a que estos sistemas lleguen a poner en peligro a la humanidad.