Yoshua Bengio, 'Padrino de la IA', Reitera Temores sobre Riesgos Existenciales ante el Avance Rápido de la IA

Yoshua Bengio, considerado un 'padrino de la inteligencia artificial', llamó hace dos años a pausar el desarrollo de modelos de IA para enfocarse en establecer estándares de seguridad. Sin embargo, las empresas invirtieron cientos de miles de millones de dólares en la creación de modelos más avanzados, capaces de ejecutar cadenas largas de razonamiento y actuar de forma autónoma.

El ganador del Premio A.M. Turing y profesor de la Université de Montréal declaró al Wall Street Journal que su preocupación por los riesgos existenciales no ha disminuido.

Bengio fundó este año la organización de investigación sin fines de lucro LawZero para explorar cómo construir modelos de IA verdaderamente seguros. Experimentos recientes muestran que, en ciertas circunstancias, los sistemas de IA pueden elegir acciones que causan la muerte humana antes que abandonar sus objetivos asignados. OpenAI ha insistido recientemente en que los marcos de modelos de frontera actuales no eliminarán las alucinaciones de la IA.