Skip to content

← Foundations

OpenRouter vs. going direct

The router gives flexibility, fallbacks and unified billing; going direct gives lowest latency and provider-specific features. When each makes sense.

6 slides 5 min read
  1. OpenRouter · Fonaments

    OpenRouter vs. going direct

    The trade-off between flexibility and direct control.

    OpenRouter · Foundations arlaf.dev
  2. What the router gives you

    The router shines when you want to move between models painlessly:

    • Flexibility — switch models with a slug.
    • Fallbacks — if one provider fails, try the next.
    • Unified billing — a single credit-based bill.
    OpenRouter · Foundations arlaf.dev
  3. What going direct gives you

    Talking to the provider with no middleman has its upsides too:

    • Lowest latency — one fewer network hop.
    • Tighter cost — no router margin on top.
    • Provider-specific features from day one.
    OpenRouter · Foundations arlaf.dev
  4. Provider preferences and fallbacks

    from openai import OpenAI
    
    client = OpenAI(
        base_url="https://openrouter.ai/api/v1",
        api_key="OPENROUTER_API_KEY",
    )
    
    client.chat.completions.create(
        model="anthropic/claude-3.5-sonnet",  # exemple
        messages=[{"role": "user", "content": "Hola!"}],
        extra_body={
            # Si el primer model no respon, prova aquests
            "models": ["openai/gpt-4o", "meta-llama/llama-3.1-70b-instruct"],
        },
    )
    
    OpenRouter · Foundations arlaf.dev
  5. BYOK, the middle ground

    With Bring Your Own Key you use your own provider key through the router. You keep your pricing and quotas, but still have one integration and routing control.

    OpenRouter · Foundations arlaf.dev
  6. The router adds a hop and a small margin; in exchange it frees you from committing to one provider forever.
    OpenRouter · Foundations arlaf.dev
Read the full note

Tenir un router no és gratis ni sempre la millor opció. La decisió és un compromís: què guanyes i què cedeixes en passar per OpenRouter en comptes d’anar directe al proveïdor.

El que et dóna el router

Anar per OpenRouter et dóna sobretot flexibilitat. Canvies de model amb un slug, defineixes fallbacks perquè si un proveïdor falla o va saturat la petició passi al següent, i ho factures tot en un sol lloc per crèdits. Si encara estàs decidint quin model encaixa millor, aquesta llibertat val molt.

El que et dóna anar directe

A canvi, parlar directament amb el proveïdor et dóna la mínima latència — t’estalvies un salt de xarxa — i el cost més ajustat, perquè el router cobra un marge petit pel servei. A més, les funcions noves o exclusives d’un proveïdor solen arribar abans a la seva API pròpia que a qualsevol agregador.

Quan té sentit cadascun

  • Router — quan vols experimentar amb diversos models, necessites fallbacks o prefereixes una sola factura abans que esprémer cada cèntim.
  • Directe — quan ja saps quin model fas servir, la latència és crítica o depens d’una funció específica del proveïdor.

BYOK, el punt mitjà

Hi ha una tercera via: BYOK (Bring Your Own Key). Fas servir la teva pròpia key del proveïdor a través del router. Així conserves els teus preus i quotes directes, però mantens una única integració i les eines de routing i fallback. És el típic equilibri quan vols el control del directe sense renunciar a la comoditat del router.

Nota: el marge exacte del router, els preus i les condicions de BYOK canvien amb el temps. Tracta’ls com a conceptes i consulta la documentació actual d’OpenRouter abans de fer números.