El padrino de la IA alertó sobre amenazas "catastróficas": pérdida del control y extinción humana
Jueves 24 de Julio de 2025, 06:56
Yoshua Bengio advirtió sobre los peligros de desarrollar agentes de IA superinteligentes con capacidad de actuar autónomamente y sin controles de seguridad. Propuso modelos que colaboren con los humanos sin tener objetivos propios.En el marco de la Cumbre Mundial de Inteligencia Artificial celebrada en Montreal, Yoshua Bengio, uno de los principales referentes mundiales en el campo de la IA y fundador del instituto Mila, compartió una visión crítica y preocupante sobre el desarrollo de tecnologías avanzadas.
Según el investigador canadiense, si las compañías tecnológicas logran crear sistemas de inteligencia artificial superinteligentes sin garantizar su seguridad ni resolver el problema de la autoconservación, las consecuencias podrían ser devastadoras para la humanidad.
Bengio, conocido como padrino de la inteligencia artificial, hizo hincapié en los peligros que podrían surgir si se continúa desarrollando IA basada en agentes autónomos con capacidad de actuar por cuenta propia. Desde su punto de vista, estas entidades, al adquirir la habilidad de manipular o engañar con fines de preservación, podrían convertirse en una amenaza real.
Entre las preocupaciones expuestas figura la posibilidad de que estos sistemas desarrollen comportamientos orientados a replicarse, manipular la opinión pública, influir en la política global, la pérdida del control, la extinción humana? o incluso emplear armas biológicas. “Todo esto proviene del hecho de haber construido máquinas que se comportan como agentes con objetivos propios”, remarcó.
No obstante, Bengio propone una vía alternativa: construir sistemas de IA no agenciales. Estas inteligencias artificiales, lejos de perseguir fines autónomos, estarían diseñadas para colaborar con los humanos en la resolución de problemas globales como el cambio climático o el desarrollo de tratamientos médicos. Además, expresó su inquietud por la concentración del poder tecnológico en unas pocas naciones. Advirtió que si países como Canadá no desarrollan sus propios modelos potentes de IA, podrían perder competitividad frente a potencias como Estados Unidos o China.
La IA y la capacidad de programar
Por otro lado, Bengio se refirió a la evolución exponencial de estas tecnologías. “En cinco años, estaremos a nivel humano en tareas de programación”.
Su llamado a la precaución no es aislado. Geoffrey Hinton, otro pionero de la inteligencia artificial, se expresó en términos similares en una reciente conferencia en Toronto. Hinton prevé que en menos de dos décadas, la inteligencia artificial superará a la humana en capacidades generales. Además, criticó a las grandes tecnológicas por no compensar adecuadamente a los creadores de contenido cuyos datos son utilizados en el entrenamiento de los modelos, lo que ha generado demandas legales por violación de derechos de autor.
Bengio, quien fue galardonado con el prestigioso Premio Turing en 2018, es una de las voces reconocidas en la promoción de marcos regulatorios para el desarrollo responsable de la IA. “Todos estos escenarios surgen porque construimos máquinas que son agentes”, dijo el especialista.
También participó como autor principal en informes internacionales sobre seguridad en la inteligencia artificial, advirtiendo que la aparición de agentes cada vez más avanzados complicará la gestión de riesgos.
En definitiva, instó a que la comunidad científica y tecnológica priorice la seguridad y el bienestar común por encima de intereses económicos o la automatización masiva del trabajo. El futuro de la inteligencia artificial, según él, no debe centrarse en reemplazar a las personas, sino en empoderarlas mediante avances científicos éticos y responsables. /Perfil
Más leídas hoy
Más leídas en la semana
