La startup francesa de inteligencia artificial Mistral ha lanzado sus primeros modelos de IA generativa, diseñados para funcionar en dispositivos de borde, como laptops y teléfonos. Esta nueva familia de modelos, llamada “Les Ministraux”, se puede utilizar o ajustar para diversas aplicaciones, desde la generación de texto hasta colaborar con modelos más potentes para completar tareas.
Hay dos modelos disponibles: Ministral 3B y Ministral 8B, ambos con una ventana de contexto de 128,000 tokens, lo que significa que pueden procesar aproximadamente la longitud de un libro de 50 páginas. Mistral menciona en una publicación de blog que “nuestros clientes y socios más innovadores han estado pidiendo cada vez más inferencias locales y centradas en la privacidad para aplicaciones críticas, como traducción en el dispositivo, asistentes inteligentes sin conexión a internet, análisis locales y robótica autónoma”.
Los modelos Les Ministraux están disponibles para descarga, pero solo con fines de investigación. Mistral solicita a los desarrolladores y empresas interesadas en la autoimplementación que se pongan en contacto para obtener una licencia comercial. De lo contrario, los desarrolladores pueden utilizar Ministral 3B y Ministral 8B en su plataforma en la nube. El costo de Ministral 8B es de 10 centavos por cada millón de tokens de entrada/salida (aproximadamente 750,000 palabras), mientras que Ministral 3B cuesta 4 centavos por cada millón de tokens de entrada/salida.
