Obsah

Zpět na seznam návodů

Nastavení API providera v pluginu (Google Gemini)

27. 4. 2024
geminiapinastaveníauto approvemodelylimity

Nastavení API providera v pluginu (Google Gemini)

Google Gemini API je výkonný nástroj pro integraci umělé inteligence do vašich aplikací a pluginů. Tento návod vás provede procesem správného nastavení Google Gemini jako API providera ve vašich projektech.

Základní nastavení Google Gemini API

Před samotnou konfigurací pluginu potřebujete mít:

Krok 1: Přidání API klíče do pluginu

Většina pluginů vyžaduje zadání API klíče v nastavení:

  1. Otevřete nastavení vašeho pluginu
  2. Najděte sekci "API Settings", "Providers" nebo "Gemini"
  3. Vložte váš API klíč do příslušného pole
  4. Uložte nastavení

Příklad konfigurace v JSON formátu:

{ "apiProvider": "gemini", "apiKey": "VÁŠ_API_KLÍČ", "modelVersion": "gemini-pro" }

Výběr verze modelu Gemini

Google nabízí několik verzí modelů Gemini, každá s různými schopnostmi a výkonem:

Gemini Pro

  • Verze: gemini-pro
  • Použití: Všeobecné úlohy, generování textu, odpovídání na otázky
  • Kontext: Až 32,000 tokenů
  • Výhody: Dobrý poměr výkonu a rychlosti
  • Doporučeno pro: Většinu běžných aplikací

Gemini Pro Vision

  • Verze: gemini-pro-vision
  • Použití: Multimodální úlohy (text + obrázky)
  • Kontext: Až 16,000 tokenů textu + obrázky
  • Výhody: Schopnost analyzovat a popisovat obrázky
  • Doporučeno pro: Aplikace pracující s vizuálním obsahem

Gemini Flash

  • Verze: gemini-flash
  • Použití: Rychlé odpovědi, jednodušší úlohy
  • Kontext: Menší kontextové okno
  • Výhody: Velmi rychlé odpovědi, nižší latence
  • Doporučeno pro: Chatboty vyžadující okamžitou odezvu

Gemini Ultra (pokud je dostupný)

  • Verze: gemini-ultra
  • Použití: Nejnáročnější úlohy vyžadující pokročilé uvažování
  • Kontext: Největší kontextové okno
  • Výhody: Nejvyšší kvalita odpovědí, nejlepší schopnosti uvažování
  • Doporučeno pro: Vědecké aplikace, komplexní analýzy

Jak nastavit verzi modelu

V pluginu obvykle najdete rozbalovací menu nebo nastavení pro výběr modelu:

  1. Otevřete nastavení pluginu
  2. Najděte položku "Model Version", "Model Type" nebo podobnou
  3. Vyberte požadovanou verzi modelu
  4. Uložte nastavení

Příklad konfigurace v kódu:

const geminiConfig = { apiKey: "VÁŠ_API_KLÍČ", modelVersion: "gemini-pro", // nebo "gemini-pro-vision", "gemini-flash", "gemini-ultra" temperature: 0.7, maxOutputTokens: 2048 };

Nastavení "Auto Approve" funkce

Funkce "Auto Approve" (automatické schválení) je důležitým bezpečnostním prvkem v API komunikaci:

Co je "Auto Approve"?

  • Mechanismus, který určuje, zda požadavky na API budou automaticky schváleny nebo budou vyžadovat explicitní potvrzení
  • Pomáhá kontrolovat využití API a předcházet nežádoucímu použití

Kdy používat Auto Approve

  • Zapnuto (true): Pro interní nástroje, testovací prostředí nebo aplikace s omezeným přístupem
  • Vypnuto (false): Pro veřejné aplikace, kde chcete mít kontrolu nad každým požadavkem

Jak nastavit Auto Approve

V nastavení pluginu:

  1. Najděte sekci "Security", "Advanced" nebo "API Settings"
  2. Vyhledejte přepínač nebo checkbox "Auto Approve"
  3. Zapněte nebo vypněte podle potřeby
  4. Uložte nastavení

Příklad konfigurace v kódu:

const securitySettings = { autoApprove: false, // Vyžaduje explicitní schválení každého požadavku logRequests: true, // Zaznamenává všechny požadavky pro audit filterSensitiveContent: true };

Nastavení limitů požadavků

Google Gemini API má omezení počtu požadavků, které můžete poslat v určitém časovém období:

Typy limitů

  • Požadavky za minutu (RPM): Kolik požadavků můžete poslat za minutu
  • Požadavky za den (RPD): Celkový počet požadavků za 24 hodin
  • Tokeny za minutu (TPM): Objem dat zpracovaných za minutu

Jak nastavit limity v pluginu

Mnoho pluginů umožňuje nastavit vlastní limity (nižší než limity Google):

  1. Otevřete pokročilá nastavení pluginu
  2. Najděte sekci "Rate Limiting" nebo "Quotas"
  3. Nastavte hodnoty pro:
    • Max. požadavků za minutu
    • Interval mezi požadavky (v ms)
    • Strategie při překročení limitu

Příklad konfigurace:

const rateLimitSettings = { maxRequestsPerMinute: 60, requestInterval: 1000, // 1 sekunda mezi požadavky onLimitExceeded: "queue" // Možnosti: "queue", "drop", "error" };

Pokročilá nastavení

Temperature

Parametr "temperature" ovlivňuje kreativitu a náhodnost odpovědí:

  • Nízká hodnota (0.1-0.4): Konzistentnější, předvídatelnější odpovědi
  • Střední hodnota (0.5-0.7): Vyvážená kreativita a konzistence
  • Vysoká hodnota (0.8-1.0): Kreativnější, více náhodné odpovědi

Top-K a Top-P

Tyto parametry dále upravují způsob generování textu:

  • Top-K: Omezuje výběr na K nejpravděpodobnějších tokenů
  • Top-P (nucleus sampling): Vybírá z tokenů, které tvoří P procent pravděpodobnostní hmoty

Maximální délka odpovědi

Nastavení maximálního počtu tokenů v odpovědi:

const advancedSettings = { temperature: 0.7, topK: 40, topP: 0.95, maxOutputTokens: 2048 };

Testování nastavení

Po konfiguraci je důležité otestovat, zda vše funguje správně:

  1. Pošlete jednoduchý testovací požadavek
  2. Zkontrolujte odpověď a latenci
  3. Upravte nastavení podle potřeby
  4. Otestujte chování při dosažení limitů

Řešení problémů

Chyba autentizace

  • Zkontrolujte, zda je API klíč správně zadaný
  • Ověřte, že API klíč je aktivní a má přístup ke Gemini API

Překročení limitů

  • Implementujte exponenciální backoff při opakování požadavků
  • Zvažte cachování odpovědí pro často kladené dotazy

Neočekávané odpovědi

  • Upravte parametr temperature
  • Zkuste jiný model Gemini
  • Poskytněte jasnější instrukce v promptu

Příklady implementace

Python s oficiální knihovnou

import google.generativeai as genai # Konfigurace genai.configure(api_key="VÁŠ_API_KLÍČ") # Nastavení modelu generation_config = { "temperature": 0.7, "top_p": 0.95, "top_k": 40, "max_output_tokens": 2048, } # Inicializace modelu model = genai.GenerativeModel( model_name="gemini-pro", generation_config=generation_config ) # Použití modelu response = model.generate_content("Vysvětli, co je umělá inteligence.") print(response.text)

JavaScript/TypeScript

import { GoogleGenerativeAI } from "@google/generative-ai"; // Inicializace API const genAI = new GoogleGenerativeAI("VÁŠ_API_KLÍČ"); // Konfigurace modelu const modelConfig = { temperature: 0.7, topK: 40, topP: 0.95, maxOutputTokens: 2048, }; // Funkce pro generování obsahu async function generateContent(prompt) { const model = genAI.getGenerativeModel({ model: "gemini-pro" }); const result = await model.generateContent({ contents: [{ role: "user", parts: [{ text: prompt }] }], generationConfig: modelConfig, }); return result.response.text(); } // Použití generateContent("Vysvětli, co je umělá inteligence.") .then(response => console.log(response)) .catch(error => console.error("Error:", error));

Závěr

Správné nastavení Google Gemini API jako providera ve vašem pluginu nebo aplikaci je klíčové pro optimální výkon a efektivní využití zdrojů. Experimentujte s různými verzemi modelů a nastaveními, abyste našli nejlepší konfiguraci pro vaše specifické potřeby.

Nezapomeňte pravidelně kontrolovat dokumentaci Google Gemini API, protože funkce a možnosti se mohou v průběhu času měnit a vylepšovat.

Připoj se k největší AI komunitě v ČR

Diskutuj, sdílej zkušenosti a získej pomoc od ostatních nadšenců do AI