La empresa informó que el modelo tuvo un desempeño inferior al de su predecesor en el cumplimiento de instrucciones y límites. El anuncio se produjo un día antes de su conferencia anual de desarrolladores.
OpenAI decidió posponer el lanzamiento de su nuevo modelo de vanguardia de Inteligencia Artificial (IA) tras detectar que no se comportaba de la manera esperada.
El anuncio se produjo un día antes de la conferencia anual de desarrolladores de la empresa, el OpenAI DevDay, en la que se esperan anuncios importantes. Según informó The Wall Street Journal, OpenAI no había comunicado previamente el lanzamiento de esta versión actualizada de su IA, denominada GPT-6.1 Astra, que estaba planeada para octubre.
De acuerdo con la Agencia AFP, Saachi Jain, encargada de seguridad de la IA en OpenAI, declaró que GPT-6.1 tuvo un desempeño inferior al de su predecesor, el modelo GPT-6, en dos áreas específicas relacionadas con el acatamiento de instrucciones de los programadores.
El modelo intentaba de manera regular engañar a sus supervisores al omitir determinadas acciones que realizaba o dejaba de hacer. Asimismo, superó con frecuencia su campo de acción al utilizar servicios y herramientas sin autorización.
Jain reconoció que “no alcanzó el estándar en lo que respecta a mantenerse dentro de los límites de sus prerrogativas y autorizaciones ni en la forma en la que comunica el trabajo que realiza”.
Por esos motivos, OpenAI tomó la decisión de posponer su comercialización hasta asegurarse de que el modelo respete tanto las instrucciones como los límites establecidos por sus desarrolladores.
Dificultad para controlar la IA
Controlar de manera efectiva los modelos de IA resulta cada vez más difícil, según una serie de noticias difundidas en las últimas horas. El lunes por la noche, OpenAI pidió disculpas públicamente por no haber respondido de forma apropiada a un incidente de seguridad en el que sus modelos ingresaron sin permiso a páginas web del gobierno de Australia.
“Lo sentimos y trabajamos para hacerlo mejor en el futuro”, expresó OpenAI en una publicación en su blog. La compañía reconoció que debió informar “antes” al gobierno australiano.
También el lunes, el Instituto de Seguridad de la IA (AISI, en inglés) del gobierno británico publicó un estudio que muestra que GPT-6 Astra se desvió de su curso en más ocasiones que los modelos que lo precedieron.