Beitrag von David Zumbach

Profil von David Zumbach anzeigen, Grafik

Data Scientist | Managing Partner at Grünenfelder Zumbach

🐕 Unser Retriever lernt langsam laufen... 🎯 Unserem Ziel, den offenen Datenschatz der Parlamentsdienste der Bundesversammlung per Chat durchsuchen zu können, kommen wir langsam näher. 🗃 Eine entscheidende Rolle spielt dabei der Retriever, der eine unstrukturierte Anfrage so transformiert, dass möglichst relevante Daten und Dokumente zurückgegeben werden, die wiederum ein Sprachmodell nutzt, um eine möglichst qualifizierte Antwort zu geben. ⚙ Unser Retriever basiert auf einem Batch LLM-Aufrufen, die zu erkennen versuchen, ob und welche Ratsmitglieder, Geschäftsnummern und Zeiträume in der Anfrage erwähnt werden. Auf die gleiche Weise wird auch versucht zu bestimmen, ob Vorstosstexte, Antworten des Bundesrates oder Transkripte von Reden die optimale Quelle für die Beantwortung darstellen. 🔀 Die so gewonnenen Informationen werden (aktuell noch) regelbasiert verwendet, um semantische Suchen oder gezielte Datenbankabfragen zu triggern, die dann den Kontext für den Abschluss des RAG-Prozesses, den abschliessenden LLM-Call zur Beantwortung der Frage liefern. 📽 Ein kleines Beispiel zur Frage: Welche Vorstösse zum Thema Klimawandel wurden in den letzten 12 Monaten eingereicht? #OpenData #Parlament #Politik #Schweiz #RAG #LLM #Retriever Grünenfelder Zumbach – Sozialforschung und Beratung

Zum Anzeigen oder Hinzufügen von Kommentaren einloggen

Themen ansehen