Codestral

¿Qué es Codestral?

Codestral es el primer gran modelo de lenguaje abierto (LLM) de Mistral AI desarrollado específicamente para tareas de generación de código (code generation). Lanzado a mediados de 2024, este modelo de 22 mil millones de parámetros (22B) fue entrenado exhaustivamente en un conjunto de datos que contiene más de 80 lenguajes de programación. Está diseñado para destacar en el completado de código en medio del texto (FIM - Fill-in-the-Middle), en la escritura de pruebas de software y en el seguimiento de instrucciones de programación en lenguaje natural con alto rendimiento y baja latencia.

Cómo funciona

Codestral funciona recibiendo secuencias de código inacabadas o instrucciones descritas por el usuario. Gracias a su arquitectura de 22B parámetros, puede completar fragmentos de código faltantes manteniendo la coherencia estructural del lenguaje. El modelo admite una amplia ventana de contexto de 32k tokens, lo que significa que puede leer y comprender archivos largos y dependencias de código completas a la vez antes de sugerir soluciones de refactorización o generar nuevas funciones de programación.

Principales recursos

• Ventana de Contexto de 32k Tokens: Capacidad para analizar repositorios y múltiples archivos a la vez para evitar sugerencias de código fuera de alcance.
• Soporte para más de 80 Lenguajes: Alta competencia en lenguajes comunes (como Python, JavaScript, TypeScript, C++, Java y Go) y también en lenguajes más específicos (como Fortran, Swift y Cobol).
• Fill-in-the-Middle (FIM): Excelente rendimiento en tareas de autocompletado en medio de un archivo, en lugar de sugerir solo líneas al final.
• Ejecución Ligera: Modelo optimizado para proporcionar respuestas rápidas a través de API o para poder ejecutarse localmente por desarrolladores con GPU comerciales compatibles.

Integraciones disponibles

Al ser un modelo de base, Codestral se puede conectar a varias herramientas de desarrollo a través de sus API:

• Extensiones populares como Continue.dev, Llama.coder y Tabby.
• Editores de código compatibles con las API de OpenAI/Mistral (como VS Code y Cursor).
• Entornos corporativos locales a través de Ollama.

Para quién está indicado

• Desarrolladores de Software que buscan un copiloto de código muy rápido para autocompletado y generación de pruebas.
• Empresas de Tecnología que desean alojar sus propios modelos de IA de programación en servidores privados por razones de cumplimiento.
• Creadores de Herramientas de Desarrollo interesados en construir asistentes de IA basados en un modelo de programación confiable.

Precios

Pros y contras

Pros:

• Excelente relación costo-beneficio de la API en comparación con modelos de lenguaje gigantes como GPT-4.
• Competencia notable en autocompletado en medio de texto (FIM).
• Ventana de contexto generosa de 32k que aloja fragmentos de código voluminosos.

Contras:

• La licencia de uso del modelo restringe el uso comercial directo sin la contratación previa de las API comerciales de Mistral.
• Requiere tarjetas de video (GPU) avanzadas de nivel de centro de datos para ejecutarse localmente con rendimiento profesional.

Alternativas a Codestral

Otros modelos de inteligencia artificial de código abierto y cerrado centrados en la programación incluyen: DeepSeek Coder V2, CodeLlama (de Meta), StarCoder 2 y GitHub Copilot (OpenAI Codex).