Retrieval-Augmented Generation. Ein Sprachmodell wie Claude weiss viel — aber nichts über Ihre Firma, Ihre Rolle und die Aufgaben Ihrer Mitarbeiter. RAG schiebt zwischen Frage und Antwort einen Zwischenschritt: das System sucht zuerst in einer kuratierten Wissensbasis nach Belegen, legt diese dem Modell vor, und lässt es daraus die Antwort formulieren. Aus generischem Sprachvermögen wird firmenspezifisches Wissen — ohne dass das Modell selbst etwas dazulernen muss.
Die Frage des Mitarbeiters wird gegen die Wissensbasis abgeglichen. Das Such-System holt die Textstellen heraus, die zur Frage passen — bei Claude über OneDrive-Sync, bei Copilot über den M365-Index. Wichtig: gefunden wird nur, was Owner-reviewt und mit last-reviewed markiert ist.
Die gefundenen Stellen werden in den Prompt geschmuggelt — quasi als «Hier ist Kontext, antworte damit.» Das Modell sieht die Quellen, bevor es antwortet, und kann sich daran orientieren. Aus einer ratlosen Frage wird eine belegte Aufgabe.
Das Modell formuliert die Antwort — auf Basis der Quellen, idealerweise mit Verweis. Die Sprache kommt vom LLM, der Inhalt aus der Wissensbasis. Wenn die Quelle gut ist, ist die Antwort gut. Wenn die Quelle Müll ist, ist die Antwort Müll. Daher: kuratiert.
Unser Wissen — Runbooks, Vertragsdetails, Eskalations-Pfade — steckt nicht im Training irgendeines Modells, und es soll auch nicht hin. Mit RAG bleiben die Daten in SharePoint, kuratiert. Das Modell wird zum Mund, nicht zum Gedächtnis.
Kein Fine-Tuning — das Modell lernt nichts. Keine Garantie gegen Halluzination — nur ein Anker. Keine Auto-Indexierung: wir wählen bewusst aus, was rein darf.
RAG steht für Retrieval-Augmented Generation. Zwischen Frage und Antwort schiebt das System einen Schritt: Es sucht zuerst in einer kuratierten Wissensbasis nach passenden Belegen, legt diese dem Sprachmodell vor und lässt es daraus antworten. Aus generischem Sprachvermögen wird firmenspezifisches Wissen, ohne dass das Modell selbst etwas dazulernt.
Beim Fine-Tuning verändern Sie das Modell selbst, es lernt Ihre Daten mit. Bei RAG bleibt das Modell unverändert und bekommt die Belege zur Laufzeit vorgelegt. Für Firmenwissen, das sich laufend ändert, ist RAG der pragmatischere Weg: Sie pflegen die Wissensbasis und lassen das Modell in Ruhe.
Nein. RAG ist ein Anker, keine Garantie. Das Modell bekommt Belege vorgelegt und kann sich daran orientieren, es kann trotzdem danebenliegen. Was hilft: Antworten mit Quellenverweis ausgeben, damit die Prüfung am Original möglich bleibt, und Zahlen deterministisch nachrechnen, statt sie vom Modell bestätigen zu lassen.
Was geprüft und aktuell ist. In unseren Projekten wird nur gefunden, was einen Owner hat und mit einem Review-Datum markiert ist. Runbooks, Vertragsdetails, Eskalationspfade und Arbeitsanweisungen eignen sich gut. Veraltete Ablagen gehören vorher bereinigt, denn eine schlechte Quelle erzeugt eine schlechte Antwort.
In Ihrer Ablage. Bei Microsoft 365 greift Copilot auf den M365-Index zu, bei Claude läuft der Zugriff über einen OneDrive-Sync. Die Dokumente bleiben, wo sie sind, und werden nicht Teil des Modelltrainings. Das Modell formuliert die Antwort, das Gedächtnis bleibt bei Ihnen.
