Devstral-Small – cel mai bun agent de codare al lui Mistral

Devstral-Small, modelul lingvistic de ultimă generație dezvoltat de Mistral AI, revoluționează modul în care abordăm sarcinile de inginerie software. Acest articol explorează capacitățile sale unice, performanțele remarcabile și modul în care poate fi utilizat gratuit.

1. Introducere: în fiecare lună apare un nou model AI mai performant decât precedentele

Mistral AI a lansat Devstral-Small-2505, un model de 24 de miliarde de parametri, care se distinge printr-o performanță excepțională în sarcinile de dezvoltare software. Spre deosebire de alte modele de generare de cod, precum precursorul Codestral, tot al lui Mistral AI, Devstral-Small este un model agentic, capabil să gândească și să acționeze ca un dezvoltator software real. Acesta navighează în baze de cod, editează mai multe fișiere și alimentează fluxuri de lucru inteligente, fiind practic creierul din spatele următoarei generații de instrumente și agenți de dezvoltare.

Ce înseamnă „agentic”?

Un model agentic nu doar generează cod, ci ia decizii informate într-un ciclu mai larg de dezvoltare. Este ideal pentru agenți autonomi, asistenți de codare și integrarea cu diverse instrumente.

2. Caracteristicile cheie ale Devstral-Small

Devstral-Small se remarcă prin mai multe caracteristici cruciale:

Putere superioară de codare agentică – fiind specializat pentru fluxuri de lucru agentice, luând decizii informate în procesul de dezvoltare.
Ușor și gata de utilizare locală: fiind bazat pe 24 de miliarde de parametri, Devstral-Small este suficient de puternic, dar și suficient de ușor pentru a rula pe un singur GPU RTX 4090 sau chiar pe un Mac cu 32GB RAM.
Licență Apache 2.0 care permite utilizarea, modificarea și comercializarea liberă, fără restricții.
Tokenizator Tekken cu un vocabular de 131.000 de cuvinte, optimizat pentru gestionarea eficientă a codului și evitarea umflării tokenilor.

Tokenii sunt unitățile de text utilizate de modelele lingvistice. Un token poate fi un cuvânt întreg, o parte dintr-un cuvânt sau chiar un caracter. Gestionarea eficientă a tokenilor este crucială pentru performanță, mai ales în cazul codului, unde structura și simbolurile pot fi complexe.

3. Performanța Devstral-Small: depășirea limitelor

Rezultatele testelor SWE-Bench Verified demonstrează superioritatea Devstral-Small. Modelul nu doar depășește alte modele open-source, ci și surclasă modele closed-source precum GPT-4.1-mini, chiar și cu o dimensiune mai mică. Devstral-Small a obținut performanțe mai bune decât modele mai mari precum Deepseek-V3–0324 și Qwen3–232B, folosind același sistem de evaluare (scaffold).

Ce este un „scaffold?

În contextul evaluărilor LLM, un „scaffold” reprezintă cadrul de evaluare sau structura prompturilor utilizate pentru a ajuta modelul să completeze o sarcină. Include descrierea problemei, instrumentele disponibile și modul în care sunt gestionate pașii intermediari. Un scaffold bine conceput poate îmbunătăți semnificativ performanța unui LLM.

4. Cum poți folosi Devstral-Small gratuit?

Accesul la Devstral-Small este simplu și poate fi chiar și gratuit:

Devstral prin Hugging Face

Puteți accesa ponderile modelului pe Hugging Face în mod gratuit.

Un exemplu de cod python este următorul:

import requests
import json
from huggingface_hub import hf_hub_download


url = "http://<your-server-url>:8000/v1/chat/completions"
headers = {"Content-Type": "application/json", "Authorization": "Bearer token"}

model = "mistralai/Devstral-Small-2505"

def load_system_prompt(repo_id: str, filename: str) -> str:
    file_path = hf_hub_download(repo_id=repo_id, filename=filename)
    with open(file_path, "r") as file:
        system_prompt = file.read()
    return system_prompt

SYSTEM_PROMPT = load_system_prompt(model, "SYSTEM_PROMPT.txt")

messages = [
    {"role": "system", "content": SYSTEM_PROMPT},
    {
        "role": "user",
        "content": [
            {
                "type": "text",
                "text": "<your-command>",
            },
        ],
    },
]

data = {"model": model, "messages": messages, "temperature": 0.15}

response = requests.post(url, headers=headers, data=json.dumps(data))
print(response.json()["choices"][0]["message"]["content"])

Devstral-Small prin API de la Mistral

Devstral-Small poate fi utilizat direct sau integrat în diferite IDE-uri pe baza unei chei API care se poate obține de la Mistral.

Un exemplu de cod python prin care se dorește generarea codului pentru o funție Fibonaci este următorul:

import os
from mistralai import Mistral

api_key = os.environ["MISTRAL_API_KEY"]
client = Mistral(api_key=api_key)

model = "codestral-latest"
prompt = "def fibonacci(n: int):"
suffix = "n = int(input('Enter a number: '))\nprint(fibonacci(n))"

response = client.fim.complete(
    model=model,
    prompt=prompt,
    suffix=suffix,
    temperature=0,
    top_p=1,
)

print(
    f"""
{prompt}
{response.choices[0].message.content}
{suffix}
"""
)

5. Concluzie: momenul când softul va fi scris complet de agenți AI este din ce în ce mai aproape

Devstral-Small reprezintă o evoluție semnificativă în domeniul inteligenței artificiale pentru dezvoltarea software. Combinând o inteligență agentică puternică, scalabilitate, performanțe reale și accesibilitate prin licența open-source, Devstral se impune ca un instrument esențial pentru dezvoltatorii software, arhitecții de agenți AI și oricine dorește un model lingvistic care să înțeleagă cu adevărat codul.

Acesta deschide noi posibilități pentru automatizarea sarcinilor complexe, accelerarea dezvoltării software și crearea de aplicații mai inteligente.