La herramienta de IA de la FDA para aprobar medicamentos fabrica estudios falsos, revelan empleados

Robert F. Kennedy Jr., Secretario de Salud y Servicios Humanos, ha estado impulsando el uso de herramientas de inteligencia artificial generativa en agencias como la Administración de Alimentos y Medicamentos (FDA). Recientemente, Kennedy comentó en una entrevista que la IA será utilizada para aprobar nuevos medicamentos de manera 'muy, muy rápida'. Sin embargo, un informe reciente de CNN ha confirmado los peores temores: la herramienta de IA de la FDA, 'Elsa', está produciendo estudios falsos.

CNN habló con seis empleados actuales y antiguos de la FDA, de los cuales tres han utilizado Elsa para realizar tareas como la creación de notas de reuniones y resúmenes, que consideraron útiles. Sin embargo, tres de estos empleados afirmaron que Elsa fabrica estudios que no existen, lo que en el ámbito de la IA se conoce como 'alucinaciones'.

Este hallazgo plantea serias preguntas sobre el uso de inteligencia artificial en procesos tan críticos como la aprobación de nuevos medicamentos, subrayando la necesidad de una regulación más estricta y supervisión de las tecnologías emergentes en el ámbito de la salud.