“La IA es, sin duda, lo suficientemente poderosa como para provocar acontecimientos que, ya sabe, causen la muerte de mil millones de personas”, dijo Gates en una entrevista con NBC News para el programa Meet the Press. “Nunca ha existido un arma tan poderosa como la combinación de personas con malas intenciones utilizando las herramientas de IA más avanzadas”.
En este sentido, Silicon Valley ha intensificado las advertencias sobre el potencial de daños catastróficos derivados de la IA a medida que la tecnología mejora rápidamente.
Por su parte, Jacob Coxon, un empleado de base de Anthropic PBC, dimitió de su puesto a principios de este mes y acusó a sus dos antiguos empleadores —Anthropic y OpenAI— de “jugar con nuestras vidas” al “lanzarse a la carrera hacia una IA superinteligente”.
Otro empleado de Anthropic afirmó que cree que hay más de un 10 % de probabilidades de que la IA elimine a toda la humanidad en la próxima década.
Estas declaraciones han atraído la atención de los medios de comunicación hacia un debate de larga data —y controvertido— dentro del sector, lo que ha dado lugar a llamamientos públicos para que la industria adopte más medidas para salvaguardar su tecnología. Desde entonces, el CEO de Anthropic, Dario Amodei, ha instado a ralentizar el desarrollo de la IA, una propuesta que rápidamente ha recibido el apoyo de colegas como el CEO de OpenAI, Sam Altman, y Elon Musk.
En la entrevista, Gates afirmó que la autorregulación no es suficiente. “Es necesario que las fuerzas del orden y los políticos participen en el debate sobre cómo deben ser las medidas de protección y la supervisión”, declaró. “Y eso debe ser obligatorio”.
Argumentó previamente en un ensayo de agosto que los ciberdelincuentes podrían utilizar herramientas de IA cada vez más potentes para realizar ciberataques, fraudes, desinformación y otras formas de daños a gran escala contra hospitales, instituciones financieras, redes eléctricas y sistemas gubernamentales.
