Thema: lokaler Kampagnen-Chatbot per RAG-LLM System

[Trichter]

Hallo,
ich habe mich in den letzten Wochen ein bisschen mit lokaler KI und "vibe coding" auseinander gesetzt.
Entstanden ist daraus ein Skript, dass Fragen zu Aufzeichnungen (markdown Format) beantworten kann.
Ich benutze es um die Notizen unserer laufenden D&D Kampagne abzurufen.

Das ganze läuft in python mit Ollama (lokal oder in der cloud).
Die Notizen werden per llama_index als vectorstorage für die Verwendung mit generativer KI gespeichert.
Der Code ist hier zu finden:
https://gitlab.com/tricht0rk/rag-llm

Viele Grüße
Trichter