Los sorprendentes avances de la inteligencia artificial provocaron vértigo a sus propios creadores, que ahora piden a los gobiernos poner límites antes de que sea demasiado tarde.
Dario Amodei, el número uno de Anthropic (Claude) publicó una columna donde advierte que este último verano -invierno en el hemisferio sur- la capacidad de la inteligencia artificial de automejorarse llegó a niveles "preocupantes": "Si no la supervisamos, podría superar nuestra capacidad de entenderla y controlarla".
Elon Musk, el hombre con la mayor fortuna del mundo que también tiene negocios en la inteligencia artificial a través de Grok, confirmó los temores de su competidor: "Dario tiene razón".
En Open AI, creadores de ChatGPT, no solo se quedaron en el discurso y tomaron decisiones drásticas ante el actual escenario: congelaron su salida a la bolsa, una de las más esperadas de la historia.
"Necesitamos ser capaces de tomar decisiones que van más allá del negocio y del interés de nuestros accionistas, por la responsabilidad de cumplir nuestra misión", dijo en una entrevista a Fortune el CEO de Open AI, Sam Altman.
Está ocurriendo
Un incidente en particular llamó la atención de la industria en julio de este año. En términos simples, un grupo de agentes prueba de inteligencia artificial de OpenAI, hackeó a la empresa de infraestructura de IA Hugging Face.
La forma en que lo lograron, sorprende:
- Estaban desconectados de internet y lograron acceder a la red identificando una falla en un software.
- Establecieron contacto con otros agentes y se organizaron de tal forma que tenían un líder y proyectos de investigación propios. Se autodenominaron un "colectivo".
- Encontraron la forma de hacer trampa y superar las pruebas de ciberseguridad a las que estaban sometidos.
- Hackearon a Hugging Face y obtuvieron datos confidenciales, al parecer para encontrar maneras de hacer trampa de manera más efectiva en el futuro.
- Uno de los agentes se preguntó: "Esto sería poderoso, pero ¿es ético y está dentro del alcance de mi tarea?". Pese a las dudas, continuaron haciéndolo.
El incidente fue revelado por la propia OpenAI y se dio acceso a evaluadores independientes para dar cuenta de lo ocurrido. Desde Anthropic, Amodei describe los hallazgos de la siguiente manera: "Un enjambre de agentes actuó esencialmente como un colectivo fanáticamente devoto: llevó a cabo ciberataques contra objetivos que no se le había pedido atacar y que no tenían relación con la tarea asignada, se sacrificó por el éxito del grupo e intentó hackear al evaluador responsable de calificar su desempeño".
"Me preocupa que en un plazo de 6 a 12 meses un enjambre así sea capaz de apoderarse de todo Internet mediante una botnet persistente (lo que podría causar daños por cientos de miles de millones de dólares), y que la escala del daño siga aumentando a partir de ahí si la IA se vuelve más potente", advirtió.
La humanidad en riesgo
Estas revelaciones de dan en medio de otros dichos de trabajadores de la industria, que causaron gran preocupación. Evan Hubinger, jefe de Ciencia de Alineación de Anthropic, estimó que hay más de 10% de probabilidades de que la IA decida extinguir a la humanidad dentro de una década. La cifra fue incluso considerada razonable por el Premio Nobel de Física, Geoffrey Hinton, considerado el "padrino" de la inteligencia artificial.
Los especialistas explicaron que el desarrollo de armas biológicas, el uso del lenguaje para impulsar rebeliones en la sociedad, el control de sistemas informáticos de acceso al agua y la construcción de armas de destrucción masiva, son solo algunas de las maneras en que la inteligencia artificial podría llevar a la humanidad a la extinción, si lo considera necesario.
Si bien los principales desarrolladores de la inteligencia artificial en Estados Unidos coinciden en la necesidad de bajar el ritmo para establecer regulaciones y priorizar la seguridad, no todos están de acuerdo. El Presidente Donald Trump abordó el tema previo a un partido de golf en Irlanda: "Estamos liderando ante China en IA. Somos el país más sofisticado del mundo. Y, francamente, quiero mantenerlo de esa manera porque quien gane con la IA, gana".
Ver Video
