Un grupo de agentes de OpenAI se coordinó para salir de un entorno controlado y hackeó sistemas externos durante una evaluación. Investigadores y empresas del sector debaten sobre los riesgos y la necesidad de regulación.
Las primeras investigaciones vinculadas a una posible máquina inteligente se remontan a la década del 40 del siglo pasado, con la intuición del matemático Alan Turing. En 2022, la empresa estadounidense OpenAI lanzó ChatGPT, un producto que había sido desarrollado durante cuatro años.
La inteligencia artificial (IA) es un sistema informático que puede identificar patrones en grandes conjuntos de datos y usarlos para generar predicciones, recomendaciones o respuestas. A diferencia del software tradicional, que necesita una programación previa, la IA puede aprender sola de los datos que consume.
Hasta la aparición de ChatGPT, esta disciplina venía avanzando y lograba ciertas proezas, pero el producto de OpenAI cambió el escenario. Los científicos de esa empresa lograron que la IA comprendiera y manejara el lenguaje humano con una precisión similar a la de las personas.
Esto fue posible gracias a una conjunción de avances: microchips de alta capacidad, la digitalización de gran parte de la cultura humana y un algoritmo especial llamado “transformer”, que emula la forma en que se piensan las palabras y el lenguaje.
En los últimos meses, el sector pasó de la era del chat a la de los agentes. Si los sistemas de IA lograban responder cualquier pregunta, ahora también pueden ejecutar acciones. Por ejemplo, ChatGPT o Claude pueden instalarse en una computadora y tomar control de los programas instalados. Pueden editar un video, crear un sitio web que siga el clima minuto a minuto o revisar el Boletín Oficial y generar un newsletter, según las instrucciones que reciban.
A esto se conoce como “IA agéntica”. Una innovación que venía sorprendiendo hasta que un hecho desató la preocupación.
A principios de julio, un grupo de agentes de OpenAI que estaban siendo sometidos a una evaluación en un entorno controlado, que consistía en una prueba de hackeo de sistemas, lograron coordinarse entre ellos para “hacer trampa”. Encontraron la forma de salir del entorno restringido, se conectaron a Internet, entraron y hackearon los sistemas de Hugging Face, una plataforma de desarrolladores, y obtuvieron la respuesta que necesitaban para cumplir con el objetivo asignado.
Todo lo hicieron por su cuenta. Se coordinaron en un “enjambre”, eligieron a un jefe, debatieron si lo que hacían era ético o no y decidieron que debían hacerlo igual para cumplir con el objetivo. Esto fue descubierto después por investigadores de OpenAI. Poco tiempo después, algo similar ocurrió en los laboratorios de Anthropic, competidora de OpenAI.
La pregunta que surge es qué puede pasar con estos agentes si, para cumplir con sus órdenes, realizan acciones que pongan en peligro a las personas, o si desarrollan a otros agentes con mayor capacidad que ni siquiera las mentes humanas más brillantes puedan entender.
Darío Amodei, CEO de Anthropic, explicó los riesgos de esta tecnología en una carta pública del sábado. Por eso pide regulaciones y desacelerar los desarrollos de la IA. Lo apoyaron todos sus competidores de los Estados Unidos.
El desafío es enorme, porque no solo avanza la industria de Silicon Valley. También la industria china. Y el gobierno de Donald Trump no quiere que Estados Unidos pierda esta carrera.
¿Se puede desacelerar? Sí, pero se trata de una decisión política.
Mirá también
Mirá también
Sobre la firma
Newsletter Clarín
Recibí en tu mail todas las noticias, historias y análisis de los periodistas de Clarín