"¡Dios mío!": "Padrino" de la IA deja sin palabras a periodista de la BBC al advertir posible fin de la humanidad

El Premio Nobel de Física 2024, Geoffrey Hinton, afirmó que existe un riesgo real de que la inteligencia artificial provoque la extinción de la humanidad en un plazo inferior a diez años.

El especialista, considerado el "Padrino" de la inteligencia articial por sus trabajos sobre deep learning, explicó que el desarrollo acelerado de sistemas que superarán la inteligencia humana expone a la humanidad a ciberataques masivos, el diseño de virus biológicos e informáticos, y riesgos de desestabilización de las sociedades mediante la manipulación del lenguaje.

"Considerar un 10% de probabilidad no me parece una estimación descabellada, aunque nadie dispone de las herramientas para dar una cifra exacta", dijo en entrevista con Victoria Derbyshire en BBC Newsnight.

La conductora de televisión reparó en esa frase y le pidió aclarar sus dichos:

-"¿Acabas de decir que un 10% no parece una estimación descabellada para la extinción humana a causa de la IA?"

-Sí

-Vaya... ¡Dios mío!

-Sí

El experto criticó la falta de resguardos por parte de las gigantes tecnológicas, acusando que la búsqueda de ganancias a corto plazo ha dejado en segundo plano la seguridad de los sistemas.

“Mientras intentan hacer que estas cosas sean más inteligentes, deberían ser cautos y descubrir cómo lidiar con los peligros. Las grandes empresas solo están compitiendo por hacerla más inteligente”, señaló Hinton.

Respecto a la intervención de los gobiernos en la materia, enfatizó en la urgencia de establecer regulaciones internacionales, comparando el escenario actual con los acuerdos de no proliferación de armas nucleares que surgieron durante la Guerra Fría.

Finalmente, el investigador recortó sus proyecciones sobre cuánto tiempo le queda a la humanidad para reaccionar, advirtiendo que los plazos se han reducido drásticamente en los últimos años debido al avance acelerado de esta tecnología.

Ingeniero de Anthropic presenta su renuncia

Los dichos del "Padrino" de la IA se dan tras la renuncia de Jacob Coxon a Anthropic, creadora de Claude, que advirtió que las principales compañías de inteligencia artificial no están actuando de manera responsable.

"Las personas que trabajan en la IA creen sinceramente que podría matarnos a todos para fines de la década. Esto no es un truco de marketing. Muchos ejecutivos e investigadores senior moderarán su lenguaje ante la prensa para sonar sensatos, pero veo que esas mismas personas expresan sus miedos en privado. Ninguna otra actividad humana representa este nivel de peligro", dijo en la red social X.

Sus dichos fueron ratificados por Evan Hubinger, actual jefe de Ciencia de Alineación de Anthropic, el área encargada de que la inteligencia artificial actúe de acuerdo a valores e intereses humanos.

"¡Creemos que la IA podría matar a todos los humanos, en serio! Personalmente creo que la probabilidad es mayor a un 10% dentro de la próxima década. Creo que Anthropic está haciendo sus mejores esfuerzos, pero aún no tenemos un plan para resolver la alineación de la superinteligencia y no estamos claramente encaminados a lograrlo", fue su declaración.