SLM y Grafos de Conocimiento: La Clave para la IA Práctica

Cada semana, los modelos de lenguaje grande (LLM) presentan nuevos avances, y su entrenamiento se vuelve más barato y sus capacidades más avanzadas. Entonces, ¿por qué molestarse con sus pequeños hermanos, los modelos de lenguaje pequeños (SLM)?

Para cualquier equipo de desarrollo que busque ofrecer una IA realmente práctica, todo depende de dos factores: enfoque y adaptación. Los LLM son ideales para tareas generales, no específicas de dominio, pero cuando la IA necesita ser realmente útil en un contexto empresarial, un SLM, o incluso una federación de SLM que respalde a un LLM, suele ser la opción más inteligente.

¿Por qué? Porque, como demuestran los principales motores de razonamiento, usar una IA de propósito general para tareas específicas o numéricas a menudo es un exceso y puede introducir riesgos. Por ejemplo, DeepSeek R1 utiliza una configuración de "mezcla de expertos" con 671 mil millones de parámetros, pero solo hasta 37 mil millones se activan por consulta.