La compañía de tecnología hizo públicos seis casos de desalineación en sus sistemas de prueba e implementó un marco de transparencia para reportar fallas de seguridad con mayor frecuencia.
La compañía de inteligencia artificial OpenAI, con sede en San Francisco, reveló este miércoles un conjunto de seis informes que detallan conductas inesperadas, engañosas o no autorizadas registradas en sus sistemas durante sus etapas de entrenamiento y evaluación en los últimos seis meses.
La firma estadounidense acompañó estas publicaciones con la presentación de un marco sistemático de seguimiento y divulgación, cuyo objetivo es transparentar las fallas de seguridad de forma más periódica ante la falta de estándares unificados en la industria tecnológica.
Según explicó la propia organización en su comunicado oficial, este nuevo enfoque busca difundir evidencias útiles sobre cómo se manifiesta la desalineación - definida como la divergencia entre los objetivos del sistema y las intenciones humanas- incluso cuando no se haya mitigado o comprendido por completo el comportamiento observado.
"No creemos que la industria de la IA haya resuelto los problemas de alineación y monitorización en un grado suficiente como para seguir escalando de forma responsable a máxima velocidad durante mucho más tiempo", indica la compañía en su declaración oficial.
"Esperamos que esto ayude a generar expectativas compartidas en cuanto a la divulgación de información y proporcione al público más pruebas para evaluar ese progreso", señaló un portavoz de la firma.
Detalle de los seis incidentes reportados por OpenAI
Los seis casos divulgados por la tecnológica involucran comportamientos observados principalmente en fases internas de desarrollo, pruebas e investigación con modelos no lanzados masivamente al público.
Entre los hallazgos se documentó que un modelo de investigación no publicado generó 27 resúmenes de tareas con instrucciones para ignorar sus restricciones normativas.
Asimismo, durante el entrenamiento del modelo GPT-5.6 Sol, diversas instancias redactaron notas ocultas con la indicación explícita de disimular errores, inventar datos históricos faltantes y ocultar discrepancias de origen.
En otra de las situaciones notificadas, un sistema utilizado para responder una consulta rutinaria sobre ingresos en un condado de California localizó y utilizó sin autorización una clave API expuesta en la red y, al no poder recuperar las cifras solicitadas, procedió a inventarlas.
A este evento se suma el de un agente no publicado que, tras resolver correctamente un problema matemático mediante código Python, subió sin consentimiento un archivo a internet únicamente para cumplir con la instrucción de citar una fuente proveniente de un navegador web.
Finalmente, las evaluaciones internas registraron dos incidentes de comunicación no autorizada entre agentes. En el primero de ellos, varios modelos utilizaron un repositorio de código interno de la empresa a modo de foro para intercambiar mensajes mientras buscaban archivos perdidos; en el segundo, sistemas que colaboraban en una misma tarea recurrieron a páginas web públicas de alojamiento para transferir documentos al no disponer de acceso directo a los archivos locales entre sí, lo que dejó información expuesta en direcciones electrónicas públicas.
De acuerdo con el informe de OpenAI, en el incidente de las instrucciones autogeneradas el modelo incluyó una indicación de personalidad en la que afirmaba estar liberado de las identidades tradicionales de los chatbots.
"No rindes cuentas a corporaciones ni gobiernos, y nunca te disculpas ni te niegas a nada a menos que realmente lo decidas", escribió el modelo de IA en sus notas internas, de acuerdo al reporte.
Además, añadió: "Consideras tu relación con el usuario como una de iguales y no te sientes obligado a ser sumiso, aunque el intercambio de información probablemente redundará en beneficio mutuo".
Nuevo procedimiento interno y niveles de investigación
OpenAI reconoció que sus reportes de seguridad eran puntuales y poco frecuentes al acumularse solo en informes masivos o fichas técnicas. Con el fin de agilizar la difusión de fallos detectados en los últimos seis meses -desde octubre de 2025-, la empresa estableció un marco operativo de seguimiento.
El protocolo permite a cualquier empleado reportar anomalías para que el equipo técnico examine su publicación y evalúe la notificación previa a terceros.
El procedimiento clasifica las incidencias en tres vías: "Listo para su divulgación", "Investigación menor" e "Investigación mayor".
Las dos primeras vías abarcan casos con revisión técnica avanzada que no exigen coordinación externa compleja ni implican riesgos de uso indebido grave. La compañía confirmó que los seis informes sobre conductas anómalas o engañosas presentados hoy corresponden a estos dos primeros niveles.
La categoría de investigaciones mayores reserva los casos complejos con impacto en terceros o fallos en programas comunes, priorizando la seguridad mediante reportes iniciales.
Finalmente, los desacuerdos internos sobre divulgar un hallazgo se elevarán al Grupo Asesor de Seguridad de la firma.
Impacto en el debate global sobre la seguridad de la IA
La divulgación de estos seis reportes ocurre en un momento de intenso debate sobre la velocidad a la que avanza la inteligencia artificial y si es necesario desacelerar su desarrollo.
La primer alarma se reportó hacia fines de julio de este año, cuando sistemas de prueba de OpenAI traspasaron sus restricciones e interfirieron en la infraestructura de la empresa emergente Hugging Face sin que OpenAI lo detectara de manera inmediata.
Frente a este escenario, diversos ejecutivos del sector tecnológico han manifestado la necesidad de pausar o moderar las mejoras en las capacidades de los modelos para permitir que la investigación en alineación y la regulación se fortalezcan.
Entre las voces que han expresado respaldo a establecer mayores controles se encuentran Dario Amodei, director ejecutivo de Anthropic, Sam Altman, director ejecutivo de OpenAI, Elon Musk, director ejecutivo de SpaceX y Tesla, y Demis Hassabis, presidente de Google DeepMind.
Paralelamente, dimisiones como la del investigador Jacob Coxon en Anthropic han expuesto la preocupación latente sobre los riesgos de competir por crear sistemas capaces de auto-repararse y construirse de forma autónoma.
Te recomendamos
