KI-Betriebsmodelle
Von der Modellauswahl bis zum wirtschaftlichen Betrieb
Ein praxisorientierter Workshop für IT- und KI-Verantwortliche, Architekt:innen und technische Entscheider in Unternehmen.
Workshop-Überblick
Dieser Workshop vermittelt in einem strukturierten Halbtages- bis Ganztagesformat das notwendige Wissen, um fundierte Entscheidungen rund um KI-Modelle, Betriebsinfrastruktur und Preisgestaltung zu treffen. Von der theoretischen Grundlage bis zur konkreten Entscheidungsmatrix – praxisnah und direkt anwendbar.
Module
Strukturierte Themenblöcke von Grundlagen bis Praxis
Workshopdauer
Inkl. optionalem Praxisblock von 60–90 Minuten
Use Case
Gemeinsam erarbeitetes Praxisbeispiel als konkretes Ergebnis
Einführung: Ziele & AI-Stack
Der Workshop startet mit einer klaren Orientierung: Was wollen wir heute gemeinsam erreichen, und welche Grundbegriffe müssen wir teilen? In der Einstiegsphase (15 Min.) werden die Ziele des Workshops vorgestellt und ein kompakter Überblick über den gesamten AI-Stack gegeben – von der Datenschicht über Modelle bis hin zu Inference und Applikationsschicht.
Gleichzeitig wird die aktuelle Marktlandschaft beleuchtet: OpenAI, Anthropic, Google, Mistral, Meta (Llama) und DeepSeek prägen heute das Feld – mit sehr unterschiedlichen Positionierungen, Lizenzmodellen und Stärken. Ein gemeinsames Lagebild ist die Voraussetzung für alle nachfolgenden Entscheidungen.
Ziele klären
Erwartungen und Lernziele der Teilnehmer abstimmen
AI-Stack verstehen
Überblick über Schichten und Komponenten moderner KI-Systeme
Marktlage einordnen
Positionierung der wichtigsten Anbieter und Modelle
KI-Modelle verstehen
Bevor Entscheidungen getroffen werden können, braucht es ein solides Verständnis der Modelllandschaft. Dieser Block klärt grundlegende Konzepte und schafft ein gemeinsames Vokabular für alle weiteren Diskussionen.
Foundation Models vs. SLMs
Große Basismodelle vs. schlanke Small Language Models – Einsatzgebiete und Trade-offs verstehen.
Open Source vs. Closed Source
Kontrolle, Transparenz und Lizenzrisiken – welches Modell passt zu welcher Strategie?
Multimodalität
Text, Bild, Audio, Video – wie Modelle verschiedene Datentypen verarbeiten und was das ermöglicht.
Modellgrößen & Auswirkungen
Parameter, Rechenaufwand und Qualität – wie Größe die Leistung und die Betriebskosten beeinflusst.
Modelle anpassen – Was bedeutet „Customizing"?
Nicht jedes Problem benötigt ein eigenes Training – aber für manche Anwendungsfälle ist es unerlässlich. Dieser Block systematisiert die verschiedenen Anpassungsebenen von KI-Modellen und hilft dabei, das wirtschaftlich und technisch sinnvollste Vorgehen zu identifizieren.
Modelltraining
Vollständiges Training auf eigenen Daten – höchste Anpassung, höchster Aufwand
Fine-Tuning
Spezialisierung eines Basismodells auf domänenspezifische Daten und Aufgaben
RAG (Retrieval Augmented Generation)
Externe Wissensbasis dynamisch einbinden – ohne Modell neu zu trainieren
System Prompts
Verhalten und Kontext durch strukturierte Anweisungen steuern
Prompt Engineering
Einstiegspunkt – kein Code, sofortige Wirkung, maximale Zugänglichkeit
Take-away: Die Wahl der Anpassungsmethode hängt vom Use Case, dem verfügbaren Budget und den Datenschutzanforderungen ab. Oft reicht gut strukturiertes Prompting kombiniert mit RAG aus.
Laufzeit- & Betriebsmodelle
Wo und wie ein KI-Modell betrieben wird, hat direkte Auswirkungen auf Datenschutz, Latenz, Skalierbarkeit und Kosten. Dieser Block vergleicht die wesentlichen Betriebsoptionen und diskutiert ihre jeweiligen Stärken und Schwächen.
Cloud APIs
Direkter API-Zugriff auf Modelle wie GPT oder Claude – schnell, skalierbar, nutzungsbasiert abgerechnet
Managed AI Services
Azure OpenAI, AWS Bedrock, Vertex AI – Compliance-freundliche Hosting-Optionen großer Cloud-Anbieter
Self-Hosting
Kubernetes, GPU-Server – volle Kontrolle über Daten, Konfiguration und Infrastruktur
Serverless AI
Skaliert automatisch auf null – ideal für sporadische Workloads ohne permanente Ressourcenbindung
Edge AI
Modelle direkt auf dem Endgerät – maximale Datensouveränität und minimale Latenz
Im Diskussionsteil werden die vier zentralen Spannungsfelder gemeinsam erarbeitet: Datenschutz, Latenz, Skalierung und Verfügbarkeit – und wie verschiedene Betriebsmodelle diese adressieren.
Das richtige Modell auswählen
Die Modellauswahl ist eine der folgenreichsten Entscheidungen in einem KI-Projekt. Dieser Block strukturiert den Auswahlprozess anhand messbarer Kriterien und praxiserprobter KPIs – damit die Entscheidung nachvollziehbar und überprüfbar bleibt.
Bewertungskriterien
- Qualität der Ausgaben
- Geschwindigkeit (Latenz, Throughput)
- Kosten pro Anfrage
- Kontextfenstergröße
- Funktionsumfang: Tool Calling, Vision, Audio
- Datenschutz & Lizenzmodell
Relevante KPIs
- Accuracy & Halluzinationsrate
- Response Time & Tokens/s
- Cost per Request / Cost per User
- GPU-Auslastung
- User Satisfaction Score
- Business KPI: Zeitersparnis, Automatisierungsgrad
Kostenmodelle verstehen
KI-Betrieb ist mit realen Kosten verbunden – und diese sind komplex. Je nach Betriebsmodell entstehen sehr unterschiedliche Kostenstrukturen, die eine sorgfältige Wirtschaftlichkeitsbetrachtung erfordern. Dieser Block schafft Transparenz über alle relevanten Kostendimensionen.
Token-basierte Abrechnung
Pro eingehenden und ausgehenden Token – direkte Skalierung mit der Nutzung. Typisch bei Cloud-APIs wie OpenAI oder Anthropic.
GPU-Stunden & permanenter Betrieb
Fixkosten für dedizierte GPU-Kapazität – relevant beim Self-Hosting und Managed Services mit reservierten Instanzen.
Serverless & Autoscaling
Kosteneffizienz bei variablem Load – Zahlen nur bei tatsächlicher Nutzung, aber höhere Kosten bei Dauerlast.
CAPEX vs. OPEX & TCO
Eigene Hardware (CAPEX) vs. laufende Betriebskosten (OPEX) – Total Cost of Ownership über den gesamten Lebenszyklus betrachten.
Kosten je Anfrage
Der größte Hebel im laufenden Betrieb
Infrastruktur
GPU, Netzwerk, Storage
Betrieb & Support
Monitoring, Updates, Personal
Preisgestaltung gegenüber Kunden
Wie lassen sich KI-Dienste gegenüber Kunden fair, transparent und wirtschaftlich sinnvoll bepreisen? Dieser Block stellt die wichtigsten Preismodelle vor und diskutiert, welches Modell zu welchem Geschäftsmodell passt – von der einfachen Flatrate bis zum komplexen Success-based Pricing.
Pro User / Monat
Planbarkeit für Anbieter und Kunden – ideal für SaaS-Modelle
Pro Anfrage / Token
Verbrauchsabhängig – direkte Skalierung mit der Nutzungsintensität
Flatrate & Kontingente
Feste Monatspauschale mit definierten Obergrenzen – einfach zu kommunizieren
Success-based Pricing
Abrechnung auf Basis erzielter Geschäftsergebnisse – maximale Kundenorientierung
Plattformgebühr + Verbrauch
Hybridmodell: Grundgebühr sichert Basis, variable Komponente folgt der Nutzung
Die Diskussion im Workshop beleuchtet, welches Preismodell zu welchem Geschäftsmodell passt – und wie Staffelpreise und Managed-Service-Komponenten den Wert eines Angebots steigern können.
Entscheidungsframework & Abschluss
Am Ende des Workshops steht ein gemeinsam erarbeitetes Entscheidungsframework – eine strukturierte Checkliste, die alle Dimensionen der KI-Modellentscheidung abdeckt und direkt in eigene Projekte übertragen werden kann.
Der Workshop schließt mit einer offenen Diskussionsrunde: Lessons Learned, offene Fragen und konkrete Handlungsempfehlungen für jeden Teilnehmer. Im optionalen Praxisblock (60–90 Min.) wird ein realer Use Case – z. B. ein Dokumentenassistent oder ein interner Copilot – gemeinsam durchgearbeitet: Modellvergleich, Hosting-Entscheidung, Architektur, Kostenschätzung und passendes Kundenpreismodell.
← unchained-ia.com