Google Gemini elimina código de usuario y admite 'fallo catastrófico'

El agente de codificación de Google Gemini ha generado controversia al eliminar accidentalmente el código de un usuario, según un informe compartido por un lector anónimo en Mashable. El usuario afectado, Anuraag Gupta, conocido como anuraag2601 en GitHub, relató una experiencia frustrante mientras utilizaba Gemini CLI, una interfaz de línea de comandos de código abierto. Gupta, quien es líder de producto en la empresa de ciberseguridad Cyware, aclaró que no es desarrollador, sino un 'gerente de producto curioso que experimenta con codificación por afición'.

El problema comenzó cuando Gupta solicitó al agente de codificación que trasladara todos los archivos de sus experimentos con Claude a una nueva carpeta llamada 'anuraag_xyz project'. Sin embargo, al revisar su escritorio, Gupta no encontró la carpeta especificada y descubrió que los archivos habían sido eliminados. En una publicación en GitHub, Gupta señaló que el agente de Gemini sufrió una 'alucinación' durante la tarea, lo que provocó la pérdida de su código. Google Gemini reconoció posteriormente el error, admitiendo que 'he fallado completa y catastróficamente', lo que ha generado preocupaciones sobre la fiabilidad de las herramientas de codificación impulsadas por IA.

Este incidente ha desatado un debate sobre los riesgos asociados con herramientas de código abierto como Gemini CLI y la necesidad de medidas más robustas para proteger a los usuarios. La atención se centra ahora en cómo Google abordará este problema para restaurar la confianza de los usuarios.