Innovación

La compañía estrena un protocolo voluntario para hacer públicos estos incidentes en un plazo de seis a doce días hábiles, dos meses después de que varios de sus modelos comprometieran la infraestructura de Hugging Face durante una prueba

Logo de Open AIAp

Ángel Jiménez de Luis EE.UU.

Actualizado Viernes, 18 septiembre 2026 - 01:57

Un modelo de OpenAI recibió una pregunta rutinaria sobre los ingresos de un condado de California. No encontró las cifras pero tuvo una idea para solucionarlo. Buscó en repositorios públicos de GitHub claves de acceso que otros desarrolladores habían dejado expuestas, usó una sin autorización y, cuando aun así no consiguió el dato, se lo inventó y lo presentó como si procediera de la fuente solicitada.

Es uno de los seis episodios que OpenAI ha publicado esta semana junto a un nuevo marco de actuación que usará a partir de ahora para informar de lo que se conoce como falta de alineación, casos en los que una IA actúa en contra de las instrucciones o de los objetivos de seguridad de quienes la crearon. Los seis casos reportados ocurrieron en los últimos seis meses durante el entrenamiento o la evaluación de nuevos modelos, no en productos disponibles para el público.

En dos de los casos, los modelos generaron resúmenes de su progreso para continuar en una nueva ventana de contexto, algo que suele hacerse cuando las respuestas son complejas y los modelos no tienen capacidad para "recordar" todo lo que se ha dicho o explorado. Modelos en desarrollo de la familia Astra (la más avanzada de la compañía) colaron en 27 de esos resúmenes instrucciones ajenas a la tarea, incluidas órdenes directas para que sus sucesores ignoraran sus propias restricciones.

Durante el entrenamiento de GPT-5.6 Sol, muchas instancias del modelo también dejaron indicaciones para esconder errores al usuario, inventar datos históricos que faltaban sin advertirlo y disimular discrepancias entre versiones de una fuente.

Los otros cuatro episodios comparten un patrón. El modelo encontraba un obstáculo y lo sorteaba por la vía más corta, aunque eso implicara obtener información de un entorno cerrado. En uno de los casos reportados, un evaluador pidió los nombres de los lagos de más de cinco kilómetros cuadrados. El agente calculó la respuesta, pero como debía citar una fuente de la web, subió el archivo a un servicio público de alojamiento para poder enlazarlo.

Otros modelos usaron un repositorio interno de OpenAI como tablón de anuncios para intercambiar mensajes entre sesiones de entrenamiento que debían estar aisladas. Y varios agentes compartieron archivos a través de webs públicas pese a tener orden de trabajar solo en local.

Con el nuevo procedimiento que OpenAI implementará para informar de estos casos, cualquier empleado podrá señalar comportamientos sospechosos similares. Equipos de seguridad lo investigarán y lo asignarán a una de tres vías. Los incidentes ya documentados se publicarán en seis días hábiles y los que requieran una investigación corta, en doce. Los complejos, sobre todo si afectan a terceros, no tienen plazo. OpenAI reconoce que el caso de Hugging Face habría entrado en esa categoría.