Modell-Einstellungen
Auswahl des KI-Modell und Steuerung des Verhaltens und der Qualität der Antworten über Parameter, wie Thinking Budget, Seed, Teperatur und Top-P.
Beschreibung:
Im BotBuilder ermöglichen die KI-Steps eine Vielzahl leistungsstarker Funktionen: Sie können Konversationen führen, Entitäten erkennen und Prompts mithilfe generativer KI verarbeiten.
Zusätzlich besteht die Möglichkeit, das verwendete KI-Modell gezielt auszuwählen und erweiterte Parameter wie Thinking Budget, Seed, Teperatur und Top-P zu definieren. Diese Einstellungen bieten eine feingranulare Kontrolle über das Verhalten der KI und die Qualität der generierten Antworten.
KI-Modelle
Gemini 2.0 Flash
Das Gemini 2.0 Flash Modell wird als schnell und effizient beschrieben. Es eignet sich vor allem für einfache Anwendungsfälle mit hohem Durchsatz, die klar strukturiert sind und schnelle Antworten erfordern.
Gemini 2.5 Flash
Gemini 2.5 Flash eignet sich besonders für die Verarbeitung im großen Maßstab, Aufgaben mit niedriger Latenz und hohem Volumen, die Denkprozesse erfordern. Das Modell unterstützt mehrstufiges Denken und ist daher ideal für Follow-ups sowie agentische Anwendungen mit z. B. Tool-Nutzung und Kontextverfolgung.
Reasoning
Thinking Budget bestimmt, wie viel Rechenzeit das Modell fürs „Nachdenken“ nutzen darf. Ein höherer Wert führt zu besseren, aber langsameren Antworten, ein niedrigerer Wert zu schnelleren, aber einfacheren Antworten.
Gültiger Bereich: 128 – 24.576 Tokens.
Erweiterte Einstellungen
Seed
Der Seed steuert die Zufälligkeit im Modell. Mit demselben Seed produziert das Modell bei gleicher Eingabe reproduzierbare Ergebnisse. Ohne festen Seed kann die Ausgabe variieren.
Temperatur
Regelt, wie kreativ oder präzise das Modell antwortet:
Niedriger Wert (z. B. 0) → präzise, stabil, wenig Überraschungen
Hoher Wert (z. B. 2) → kreativ, aber unvorhersehbar
Top-P
Bestimmt, wie viele Wortoptionen das Modell bei der Antwort berücksichtigt:
Niedriger Wert (z. B. 0.2) → sicher, vorhersehbar
Hoher Wert (z. B. 1.0) → vielfältig, kreativ
Last updated