Foto de la ONU/ Ariana Lindquist
durante una sesión especial del Consejo de Seguridad de las Naciones Unidas. El ganador del premio Turing planteó que el despliegue de modelos de IA de última generación debería condicionarse a la obtención de licencias oficiales y pólizas de responsabilidad civil, equiparando este sector con otras industrias de alto riesgo como la medicina, la navegación aérea o la seguridad nuclear.
La iniciativa se presentó en un debate sobre seguridad internacional organizado por la delegación de Francia. El encuentro reunió a directivos clave de la industria tecnológica, entre ellos Sam Altman (OpenAI), Dario Amodei (Anthropic) y Clément Delangue (Hugging Face), cuya plataforma experimentó recientemente un incidente de ciberseguridad vinculado a un agente automatizado. Durante su intervención, Bengio alertó sobre la urgencia de establecer límites globales, utilizando la metáfora de un vehículo que avanza sin visibilidad hacia el peligro para ilustrar los riesgos colectivos de un desarrollo tecnológico descontrolado.
