Microsoft presenta un nuevo marco para mejorar la colaboración entre humanos y AI con LLMs

Microsoft ha introducido un nuevo marco de entrenamiento para mejorar la colaboración entre humanos y modelos de lenguaje grande (LLMs, por sus siglas en inglés). Aunque estos modelos de IA pueden resolver problemas complejos en segundos, a menudo tienen dificultades con conversaciones simples. Cuando estos modelos hacen suposiciones incorrectas, pasan por alto detalles importantes o no hacen preguntas aclaratorias, el resultado puede erosionar la confianza y desviar las interacciones en el mundo real, donde los matices son esenciales. La razón principal de este comportamiento radica en cómo se entrenan y evalúan estos modelos. Los puntos de referencia tradicionales utilizan indicaciones aisladas de una sola vuelta con instrucciones claras, y los métodos de entrenamiento tienden a optimizar la próxima respuesta del modelo, en lugar de su contribución a un intercambio exitoso de múltiples turnos. Sin embargo, la interacción en el mundo real es dinámica y colaborativa, y depende del contexto, la aclaración y la comprensión compartida. Este nuevo marco de Microsoft busca abordar estos desafíos y hacer que los LLMs sean más efectivos en interacciones humanas más complejas.