Noticias de la Industria

Microsoft lanzó recientemente un modelo liviano de IA llamado Phi-3 Mini, que está diseñado para ejecutarse en teléfonos inteligentes y otros dispositivos locales. El modelo de 3.800 millones de parámetros es el primero de los tres modelos de lenguaje Phi-3 que lanzará Microsoft. El objetivo es proporcionar una alternativa más asequible a los grandes modelos lingüísticos impulsados ​​por la nube, haciendo que la tecnología de IA sea accesible para organizaciones más pequeñas.

Microsoft dice que el Phi-3 Mini supera fácilmente a los minimodelos Phi-2 anteriores y está a la par con modelos más grandes como el Llama 2. Sorprendentemente, la capacidad de respuesta de este nuevo modelo es cercana a la de aquellos con un tamaño 10 veces mayor. parámetros.

En su artículo, el equipo de investigación señala que la clave de esta innovación radica en el conjunto de datos de entrenamiento que utilizan. El conjunto de datos se basa en el modelo Phi-2, pero incorpora "datos de red estrechamente filtrados y datos sintéticos". Esta forma única de construir conjuntos de datos está inspirada en libros para niños que utilizan un lenguaje más simple para ilustrar temas complejos, lo que permite que los modelos de lenguaje más pequeños sean más efectivos.

Si bien es posible que Phi-3 Mini no pueda competir con los modelos de lenguajes grandes impulsados ​​por la nube en algunos aspectos, ha demostrado fortaleza sobre Phi-2 y otros modelos de lenguajes pequeños (por ejemplo, Mistral, Gemma, Llama-3-In) en tareas. que van desde matemáticas hasta programación y pruebas académicas. Además, este modelo puede ejecutarse en un dispositivo tan simple como un teléfono inteligente y no requiere conexión a Internet.

Sin embargo, la principal limitación del Phi-3 Mini es su amplitud de "conocimiento fáctico", que se debe principalmente a su conjunto de datos de entrenamiento relativamente pequeño. Como resultado, no obtuvo muy buenos resultados en la prueba "TriviaQA". Aun así, es un gran paso adelante para los modelos que sólo necesitan trabajar con conjuntos de datos internos más pequeños. Microsoft espera que al implementar dicho modelo, la tecnología de inteligencia artificial sea accesible para las empresas que no pueden permitirse el lujo de conectarse a un modelo de lenguaje grande en la nube.

Actualmente, Phi-3 Mini ya está disponible en plataformas como Azure, Hugging Face y Ollama. Microsoft también planea lanzar modelos Phi-3 Small y Phi-3 Medium más potentes, con 7 mil millones y 14 mil millones de parámetros, respectivamente.