Question 1

Brauchen wir ein fein abgestimmtes eigenes Modell?

Accepted Answer

In aller Regel nicht, und praktisch nie als ersten Schritt. Die meisten Fälle von "das Modell hat falsch geantwortet" sind Retrieval- oder Prompt-Probleme: Die richtige Information lag dem Modell nie vor, und mehr Training ändert daran nichts. Fine-Tuning lohnt sich bei konstanten Ausgabeformaten oder einer engen Hausschreibweise im Volumen — und sitzt auch dann auf gutem Retrieval auf; diesen Umfang behandeln wir unter Individuelle LLM-Entwicklung.

Question 2

Wie verhindern Sie erfundene Antworten?

Accepted Answer

Durch Erdung, Quellenangabe und Verweigerung, in dieser Reihenfolge. Der Assistent antwortet aus abgerufenen Passagen Ihrer eigenen Inhalte und zeigt, woher eine Aussage stammt; findet er nichts Passendes, sagt er das und übergibt an einen Menschen, statt zu improvisieren. Eine Halluzinationsrate von null kann seriös niemand zusichern — erreichbar ist, dass Fehler selten, sichtbar und bis zur Quelle nachvollziehbar sind.

Question 3

Wie sieht es mit DSGVO und Auftragsverarbeitung aus?

Accepted Answer

An den von Ihnen freigegebenen Anbieter gehen ausschließlich der Prompt und der abgerufene Kontext; Ihre Datenbank bleibt bei Ihnen. Für die großen Anbieter existieren Auftragsverarbeitungsverträge und kommerzielle API-Bedingungen, nach denen übermittelte Daten nicht zum Training verwendet werden und Aufbewahrungsfristen verkürzt oder deaktiviert werden können — wir konfigurieren das explizit und dokumentieren die Einstellung für Ihr Verarbeitungsverzeichnis. Personenbezogene Felder maskieren wir, wo es fachlich möglich ist; ist eine Übermittlung in Drittländer ausgeschlossen, planen wir mit EU-Regionen oder einem selbst gehosteten Open-Weight-Modell.

Question 4

Wie dokumentieren Sie das System für Audits?

Accepted Answer

Zu jedem Release gehören eine Beschreibung der Datenflüsse, die eingesetzten Modelle und Regionen, die Aufbewahrungseinstellungen, das Evaluationsset mit Ergebnissen und die Protokollierung, wer wann welche Antwort erhalten hat. Vor dem Hintergrund der Transparenzerwartungen rund um den EU AI Act halten wir außerdem fest, wo Nutzer erkennbar mit einem KI-System sprechen und wie die Übergabe an Menschen funktioniert — das ist unsere Dokumentationspraxis, keine Rechtsberatung und keine Konformitätsbescheinigung.

Question 5

Was kostet der Betrieb pro Monat?

Accepted Answer

Modellnutzung wird pro Token abgerechnet, die ehrliche Antwort ist deshalb eine Spanne in Abhängigkeit von Ihrem Volumen. Wir schätzen sie aus realem Anfragevolumen und typischer Antwortlänge, erfassen im Betrieb Token pro Anfrage und richten Schwellenwerte ein. Einfache Anfragen auf eine kleinere Modellklasse zu routen und wiederkehrenden Kontext zu cachen sind die beiden Hebel mit der größten Wirkung.

Question 6

Lässt sich das an unsere bestehenden Systeme anbinden?

Accepted Answer

Ja, genau dafür gibt es Tool Calling. Statt Ihre Datenbank in das Modell zu kopieren, ruft der Assistent eng geschnittene, berechtigungsgeprüfte Funktionen auf: Bestellung per Nummer nachschlagen, Bestand einer Variante prüfen, Rechnung abrufen. Diese Funktionen bauen wir standardmäßig lesend; alles Schreibende läuft über eine ausdrückliche Bestätigung.

Question 7

Wie lange dauert die erste Version?

Accepted Answer

Ein fokussierter Assistent mit Retrieval auf Ihren Inhalten erreicht typischerweise in wenigen Wochen einen intern nutzbaren Prototyp; bis zum öffentlichen Start kommen Evaluation, Leitplanken und Kanalintegration hinzu. Die Dauer hängt deutlich stärker davon ab, wie zugänglich und aktuell Ihre Daten sind, als von der Modellarbeit. Wir schneiden das Projekt so, dass Sie die Qualität beurteilen können, bevor das größere Integrationsbudget freigegeben wird.

Question 8

Was passiert, wenn unser Modell abgekündigt wird?

Accepted Answer

Anbieter stellen Modelle nach veröffentlichtem Zeitplan ab, das ist ein planbarer Wechsel und kein Notfall. Da ein Evaluationsset existiert, besteht die Migration darin, das Kandidatenmodell gegen bekannte Sollantworten laufen zu lassen, Qualität, Latenz und Kosten zu vergleichen und per Konfiguration umzuschalten. Der Anbieter-Wrapper bleibt bewusst dünn, damit kein Anwendungscode an einen Hersteller gebunden ist.

Question 9

Wie gut ist die Qualität auf Deutsch?

Accepted Answer

Aktuelle Spitzenmodelle arbeiten im Deutschen für Support, Zusammenfassung und Klassifikation zuverlässig, die Qualität hängt aber von der Aufgabe und von Ihren eigenen Quelltexten ab. Fachbegriffe, Produktbezeichnungen und die Ansprache prüfen wir gegen Ihre Terminologie, bevor etwas live geht. Wo Antworten hölzern klingen, liegt die Ursache meist im Prompt und in den Quelldaten, nicht im Modell.

Question 10

Können wir das Modell selbst hosten?

Accepted Answer

Ja, mit klaren Abwägungen. Open-Weight-Modelle auf eigener Hardware oder bei einem GPU-Anbieter in der EU halten Daten innerhalb Ihrer Grenze, kosten dafür Betriebsaufwand und GPU-Budget und liegen bei anspruchsvollen Reasoning-Aufgaben hinter den führenden gehosteten Modellen. Für die meisten Häuser empfehlen wir zunächst eine gehostete API mit strengen Aufbewahrungseinstellungen und prüfen Self-Hosting erneut, wenn eine Richtlinie oder dauerhaftes Volumen es rechtfertigt.

Wie können wir helfen?

LLM-Services (Große Sprachmodelle)
FAQ

Hilfreiche
Informationen

Erste Schritte

Zeitplan

Preisgestaltung

Support

Noch Fragen?

LLM-Services (Große Sprachmodelle)FAQ

HilfreicheInformationen