Skip to content

← Models i routing

El catàleg de models

Centenars de models de molts proveïdors darrere d'una sola API. Com s'identifiquen, qui els serveix i com els llistes.

6 slides 5 min de lectura
  1. OpenRouter · Models i routing

    El catàleg de models

    Centenars de models de molts proveïdors, un sol identificador.

    OpenRouter · Models i routing arlaf.dev
  2. La forma del slug

    Cada model s'identifica amb un slug "proveïdor/model". Tries el model passant aquest text al camp "model" de la petició, igual que faries amb l'API d'OpenAI.

    • openai/gpt-4o
    • anthropic/claude-3.5-sonnet
    • meta-llama/llama-3.1-70b-instruct
    OpenRouter · Models i routing arlaf.dev
  3. Un model, diversos proveïdors

    Un mateix model open-weight pot estar servit per diversos backends a la vegada. OpenRouter els unifica sota un sol slug i en tria un per tu, tret que diguis el contrari.

    OpenRouter · Models i routing arlaf.dev
  4. L'auto-router

    Si no vols decidir, el slug "openrouter/auto" deixa que OpenRouter triï un model adequat segons el prompt. Útil per provar; per a producció, sol convenir fixar-lo.

    OpenRouter · Models i routing arlaf.dev
  5. Variants de tag i el llistat

    # Variants d'un mateix slug (exemples, verifica'ls als docs):
    #   anthropic/claude-3.5-sonnet:beta
    #   meta-llama/llama-3.1-70b-instruct:free
    #   meta-llama/llama-3.1-70b-instruct:nitro    # throughput
    #   meta-llama/llama-3.1-70b-instruct:floor     # el més barat
    
    # Llistar tot el catàleg amb metadades de cada model:
    curl https://openrouter.ai/api/v1/models
    
    OpenRouter · Models i routing arlaf.dev
  6. Un sol endpoint, un sol slug — i centenars de models al darrere.
    OpenRouter · Models i routing arlaf.dev
Llegir la nota completa

OpenRouter exposa centenars de models de molts proveïdors darrere d’una sola API compatible amb OpenAI. No canvies de SDK ni de URL per saltar d’un model a un altre: només canvies un text. Aquest text és el slug del model.

La forma del slug

Tot model s’identifica amb la forma proveïdor/model — per exemple openai/gpt-4o, anthropic/claude-3.5-sonnet o meta-llama/llama-3.1-70b-instruct. El passes al camp model de la petició i ja està: la part de l’esquerra diu de quina família ve i la de la dreta, quin model concret vols.

El mateix model, diversos proveïdors

Aquí hi ha un matís important. Un model open-weight com Llama pot estar allotjat per diversos backends alhora, cadascun amb el seu preu, latència i límits. OpenRouter els amaga tots sota un únic slug i en tria un per tu quan fas la crida — més endavant veuràs com forçar-ne un de concret.

L’auto-router

Si no vols ni triar el model, el slug openrouter/auto deixa que OpenRouter seleccioni un model raonable a partir del prompt. Va bé per fer proves ràpides; en producció, però, normalment voldràs fixar el model perquè el comportament sigui previsible.

Variants amb tag

Sobre un slug pots afegir un tag amb : per demanar una variant. Alguns exemples que circulen són :free (versions gratuïtes amb límits), :nitro (prioritza throughput) o :floor (prioritza el preu més baix).

Nota: els noms exactes dels tags i el seu comportament canvien. Tracta’ls com a exemples i confirma’ls sempre a la documentació vigent d’OpenRouter.

Llistar el catàleg

Per saber què tens disponible en cada moment, l’endpoint GET /models retorna la llista completa amb metadades de cada model. És la font de veritat per descobrir slugs, variants i proveïdors sense haver-los de memoritzar.