Das Projekt erforscht die sichere und anpassbare Nutzung von Open-Source-Sprachmodellen (LLMs) wie LLaMA und Mistral in kommerziellen Anwendungen. Im Mittelpunkt steht der Einsatz von Retrieval-Augmented Generation (RAG), um Chatbots und KI-Agenten mit kontextueller, aktueller Informationsverarbeitung auszustatten. Ziel ist es, Geschäftsprozesse zu automatisieren und datengestützte Entscheidungen zu ermöglichen – insbesondere in Bereichen wie Kundenservice und Business Intelligence. Dabei werden Methoden wie differenzielle Privatsphäre und sicheres Modelltraining genutzt, um Datenschutz und DSGVO-Konformität sicherzustellen. Das Projekt entwickelt ein Framework, das Unternehmen ermöglicht, öffentlich verfügbare Daten für das Fein-Tuning von LLMs zu verwenden, ohne sensible Informationen offenzulegen. Über drei Jahre hinweg werden technische und organisatorische Herausforderungen analysiert und praxisnahe Strategien für die Integration solcher Modelle erarbeitet. Die Bewertung erfolgt anhand von Metriken wie Genauigkeit, Relevanz der Antworten und Nutzerzufriedenheit. Die Ergebnisse liefern Handlungsempfehlungen für eine sichere und effektive Implementierung von LLMs in der Wirtschaft.
Forschungszeitraum
01.01.2025-31.12.2027
Transferpromotion des ZAKI
Ziele des Projekts
- Entwicklung eines sicheren Frameworks zur Feinabstimmung von Open-Source-LLMs mit öffentlich verfügbaren Geschäftsdaten
- Einsatz von RAG-Modellen für intelligente Chatbots und Entscheidungsunterstützung
- Anwendung von Techniken wie differenzielle Privatsphäre zur Wahrung des Datenschutzes
- Bewertung der Modelle anhand praxisrelevanter Metriken (Genauigkeit, Relevanz, Nutzerzufriedenheit)
- Überwindung technischer und organisatorischer Hürden bei der Einführung in Unternehmen
