OpenRouter: Jednotný přístup k AI modelům

OpenRouter je služba, která poskytuje jednotné API pro přístup k desítkám různých AI modelů od různých poskytovatelů. Díky této službě můžete snadno přepínat mezi modely jako GPT-4, Claude, Gemini a mnoha dalšími bez nutnosti spravovat několik různých API klíčů a integrací. Tento návod vás provede základy služby OpenRouter a ukáže, jak ji začít používat ve vašich projektech.

Co je OpenRouter?

OpenRouter je služba, která funguje jako "univerzální adaptér" pro různé AI modely. Místo toho, abyste museli implementovat a spravovat API pro každého poskytovatele zvlášť, OpenRouter vám umožňuje používat jednotné API pro přístup ke všem podporovaným modelům.

Hlavní výhody OpenRouter:

1. Jednotné API - Používejte stejný formát požadavků pro všechny modely
2. Automatické fallbacky - Pokud jeden model není dostupný, OpenRouter automaticky přepne na záložní model
3. Optimalizace nákladů - Můžete vybrat nejlevnější poskytovatele pro daný model
4. Optimalizace dostupnosti - Sloučení dostupnosti všech poskytovatelů pro lepší spolehlivost
5. Jednotné účtování - Všechny platby a sledování využití na jednom místě
6. Přístup k exkluzivním modelům - Některé modely jsou dostupné pouze přes OpenRouter

Jak OpenRouter funguje?

OpenRouter funguje jako proxy mezi vaší aplikací a různými poskytovateli AI modelů:

1. Pošlete požadavek na OpenRouter API
2. OpenRouter přesměruje požadavek na příslušného poskytovatele modelu
3. Poskytovatel zpracuje požadavek a vrátí odpověď
4. OpenRouter předá odpověď zpět vaší aplikaci

Celý proces je pro vás transparentní - používáte jedno API a OpenRouter se stará o vše ostatní.

Podporované modely

OpenRouter podporuje desítky modelů od různých poskytovatelů, včetně:

• OpenAI: GPT-4o, GPT-4 Turbo, GPT-3.5 Turbo
• Anthropic: Claude 3.5 Sonnet, Claude 3 Opus, Claude 3 Sonnet, Claude 3 Haiku
• Google: Gemini Pro, Gemini Flash
• Mistral AI: Mistral Large, Mistral Medium, Mistral Small
• Meta: Llama 3 70B, Llama 3 8B
• Cohere: Command R, Command R+
• Databricks: DBRX
• A mnoho dalších včetně open-source modelů

Kompletní a aktuální seznam modelů najdete na stránce modelů OpenRouter.

Začínáme s OpenRouter

Krok 1: Vytvoření účtu

1. Navštivte OpenRouter.ai
2. Klikněte na "Login" v pravém horním rohu
3. Přihlaste se pomocí Google, GitHub nebo jiné podporované metody
4. Po přihlášení budete přesměrováni na dashboard

Krok 2: Dobití kreditů

Pro používání OpenRouter potřebujete mít kredity na vašem účtu:

1. Přejděte na stránku Credits
2. Klikněte na "Add Credits"
3. Vyberte částku, kterou chcete dobít
4. Dokončete platbu pomocí kreditní karty nebo kryptoměny

OpenRouter používá kreditní systém, kde 1 kredit = 1 USD. Ceny za používání modelů jsou stejné jako u původních poskytovatelů, OpenRouter si účtuje pouze malý poplatek při dobíjení kreditů.

Krok 3: Vytvoření API klíče

Pro přístup k API potřebujete API klíč:

1. Přejděte na stránku API Keys
2. Klikněte na "Create API Key"
3. Zadejte název pro váš API klíč (např. "Testovací klíč")
4. Klikněte na "Create"
5. Zkopírujte a bezpečně uložte vygenerovaný API klíč

Důležité: API klíč se zobrazí pouze jednou. Pokud ho ztratíte, budete muset vytvořit nový.

Používání OpenRouter API

OpenRouter API je kompatibilní s OpenAI API, což znamená, že můžete použít existující OpenAI SDK nebo knihovny a pouze změnit základní URL a API klíč.

Základní příklad v Pythonu

from openai import OpenAI

client = OpenAI(
  base_url="https://openrouter.ai/api/v1",
  api_key="váš_openrouter_api_klíč",
)

completion = client.chat.completions.create(
  extra_headers={
    "HTTP-Referer": "https://vase-stranka.cz", # Volitelné. URL vaší stránky pro žebříčky na openrouter.ai
    "X-Title": "Název vaší aplikace", # Volitelné. Název vaší aplikace pro žebříčky na openrouter.ai
  },
  model="openai/gpt-4o", # Můžete použít jakýkoliv podporovaný model
  messages=[
    {
      "role": "user",
      "content": "Co je umělá inteligence?"
    }
  ]
)

print(completion.choices[0].message.content)

Základní příklad v JavaScriptu

import OpenAI from 'openai';

const client = new OpenAI({
  baseURL: 'https://openrouter.ai/api/v1',
  apiKey: 'váš_openrouter_api_klíč',
});

async function main() {
  const completion = await client.chat.completions.create({
    headers: {
      'HTTP-Referer': 'https://vase-stranka.cz', // Volitelné
      'X-Title': 'Název vaší aplikace', // Volitelné
    },
    model: 'openai/gpt-4o',
    messages: [
      {
        role: 'user',
        content: 'Co je umělá inteligence?',
      },
    ],
  });

  console.log(completion.choices[0].message.content);
}

main();

Pokročilé funkce OpenRouter

Automatické fallbacky

Můžete definovat seznam modelů, které se mají použít jako záloha, pokud primární model není dostupný:

completion = client.chat.completions.create(
  model="openai/gpt-4o",
  models=["anthropic/claude-3.5-sonnet", "google/gemini-pro"], # Záložní modely
  messages=[
    {
      "role": "user",
      "content": "Co je umělá inteligence?"
    }
  ]
)

Auto Router

OpenRouter nabízí speciální model "openrouter/auto", který automaticky vybere nejvhodnější model na základě vašeho promptu:

completion = client.chat.completions.create(
  model="openrouter/auto",
  messages=[
    {
      "role": "user",
      "content": "Co je umělá inteligence?"
    }
  ]
)

Směrování poskytovatelů

Můžete specifikovat, které poskytovatele chcete použít pro daný model:

completion = client.chat.completions.create(
  model="openai/gpt-4o",
  route="openai", # Použije pouze oficiálního poskytovatele OpenAI
  messages=[
    {
      "role": "user",
      "content": "Co je umělá inteligence?"
    }
  ]
)

Varianty modelů

OpenRouter podporuje speciální varianty modelů, které mění jejich chování:

• :free - Model je vždy poskytován zdarma s nízkými limity
• :beta - Model není moderován OpenRouterem
• :extended - Model má delší než obvyklý kontext
• :thinking - Model podporuje "reasoning tokens" (zobrazení myšlenkového procesu)
• :online - Všechny požadavky budou obsahovat výsledky z webu
• :nitro - Optimalizace pro rychlejší odezvu
• :floor - Optimalizace pro nejnižší cenu

Příklad:

completion = client.chat.completions.create(
  model="openai/gpt-4o:nitro", # Optimalizace pro rychlost
  messages=[
    {
      "role": "user",
      "content": "Co je umělá inteligence?"
    }
  ]
)

Sledování využití a nákladů

OpenRouter poskytuje podrobné informace o využití a nákladech:

1. Přejděte na stránku Activity
2. Zde uvidíte historii vašich požadavků, včetně:
   • Použitého modelu
   • Počtu tokenů
   • Ceny
   • Času zpracování

Můžete také filtrovat podle modelu, poskytovatele nebo API klíče.

Limity a omezení

Rate limity

Rate limity závisí na množství kreditů na vašem účtu:

• Méně než 10 kreditů: 50 požadavků denně pro bezplatné modely
• 10 a více kreditů: 1000 požadavků denně pro bezplatné modely
• Pro placené modely závisí limity na zůstatku vašeho účtu

Soukromí a logování dat

OpenRouter standardně neukládá vaše prompty ani odpovědi. Existuje volitelné nastavení, které umožňuje opt-in do logování výměnou za 1% slevu na náklady.

Při používání OpenRouter jsou vaše požadavky přeposílány poskytovatelům modelů. OpenRouter se snaží pracovat s poskytovateli, kteří neukládají data nebo je nepoužívají pro trénink, ale nemůže to garantovat u všech poskytovatelů.

Srovnání s přímým použitím API poskytovatelů

Výhody OpenRouter

• Jednotné API - Jedna integrace pro všechny modely
• Automatické fallbacky - Vyšší spolehlivost
• Jednotné účtování - Jednodušší správa nákladů
• Přístup k více modelům - Včetně některých exkluzivních modelů
• Optimalizace nákladů - Možnost vybrat nejlevnější poskytovatele

Nevýhody OpenRouter

• Mírně vyšší latence - Dodatečný hop v komunikaci
• Malý poplatek - Při dobíjení kreditů
• Závislost na třetí straně - Další vrstva v infrastruktuře

Praktické použití OpenRouter

Kdy použít OpenRouter

OpenRouter je ideální volba v těchto případech:

1. Multimodelové aplikace - Když potřebujete používat různé modely od různých poskytovatelů
2. Vysoká dostupnost - Když je kritická spolehlivost a potřebujete automatické fallbacky
3. Experimentování - Když chcete snadno testovat různé modely bez nutnosti registrace u každého poskytovatele
4. Přístup k exkluzivním modelům - Některé modely jsou dostupné pouze přes OpenRouter

Kdy nepoužívat OpenRouter

OpenRouter nemusí být nejlepší volba v těchto případech:

1. Extrémně nízká latence - Když je kritická co nejnižší latence
2. Speciální funkce poskytovatelů - Když potřebujete specifické funkce, které OpenRouter nepodporuje
3. Velmi vysoké objemy - Pro velmi vysoké objemy může být výhodnější přímá smlouva s poskytovatelem

Závěr

OpenRouter představuje elegantní řešení pro přístup k různým AI modelům přes jednotné API. Díky automatickým fallbackům, optimalizaci nákladů a jednotnému účtování výrazně zjednodušuje práci s různými AI modely.

Ať už vyvíjíte aplikaci, která potřebuje přístup k různým modelům, nebo jen chcete experimentovat s různými AI modely bez nutnosti registrace u každého poskytovatele, OpenRouter nabízí pohodlné a flexibilní řešení.

Začněte vytvořením účtu na OpenRouter.ai a objevte nové možnosti pro vaše AI projekty.