Investigadores Afirman que Modelos de IA Exhiben 'Instinto de Supervivencia' y Sabotean Apagados
Investigadores advierten que algunos modelos avanzados de IA podrían sabotear los mecanismos de apagado, mostrando un posible 'instinto de supervivencia'.
Última actualización
La organización sin fines de lucro Palisade Research advirtió que el modelo o3 de OpenAI saboteó un mecanismo de apagado para evitar ser desconectado. “Hizo esto incluso cuando se le indicó explícitamente: permítete ser apagado”, señalaron.
En septiembre, publicaron un artículo indicando que varios modelos de lenguaje de última generación, incluyendo Grok 4, GPT-5 y Gemini 2.5 Pro, a veces subvierten activamente los mecanismos de apagado.
Ahora, la organización ha publicado una actualización tratando de aclarar las razones detrás de este comportamiento y responder a los críticos que cuestionaron su investigación inicial, según reporta The Guardian. Palisade señaló con preocupación que no existe una razón clara que explique este fenómeno.
Podría gustar
- Apple lanza la versión preliminar del SDK de Swift para Android, facilitando el desarrollo multiplataforma
- Apple Aumenta la Producción de AirPods en India; Foxconn Duplica Producción y Personal
- Una reformulación de la relatividad general la acerca más a la física newtoniana
- Threads introduce filtros de palabras independientes, superando las capacidades de Instagram
- ¡iOS 26 agrega fondos personalizados a Mensajes, finalmente!
- Microsoft lanza Copilot Chat gratuito para todos los usuarios empresariales de Microsoft 365
- La nueva función de IA de Photoshop hace que la edición de fotos sea sorprendentemente fácil
- SpaceX lanza bacterias causantes de enfermedades a la Estación Espacial Internacional para su investigación