Entwicklung einer modularen, KI-gestützten Applikation
Ziel ist die Entwicklung einer flexiblen und skalierbaren Lösung, die auf die spezifischen Bedürfnisse kleiner und mittelständischer Unternehmen (KMU) zugeschnitten ist. Die Applikation soll verschiedene Funktionen bieten, wie z. B. Wissensmanagement, Dokumentenverwaltung und die Automatisierung von Supportprozessen oder Prozessen im Personalwesen uwm.
Aufbau einer Infrastruktur zum Betrieb eines Chatbots im Self-Hosting
Das Projekt strebt den Aufbau einer Infrastruktur an, die es ermöglicht, einen Chatbot auf Basis eines LLM lokal zu hosten. Diese Lösung gewährleistet die Unabhängigkeit von globalen Cloud-Diensten und ermöglicht eine bessere Kontrolle über die Daten.
Hohe Qualität des Chatbots
Ein zentrales Ziel ist die Entwicklung eines Chatbots, der eine hohe Qualität in der Interaktion und bei der Bereitstellung von Informationen gewährleistet. Der Chatbot soll präzise, kontextsensitive Antworten liefern und benutzerfreundlich gestaltet sein.
Integration und Anpassung von LLMs auf regionaler Infrastruktur
Durch den Einsatz lokal gehostetes Large Language Models (LLMs) soll eine datenschutzkonforme und ressourcenschonende Lösung bereitgestellt werden. Dies gewährleistet die Einhaltung der DS-GVO und verbessert die Kontrolle über sensible Unternehmensdaten.
Niedriger Ressourcenbedarf durch kleinere LLMs
Das Projekt setzt auf den Einsatz kleinerer, optimierter LLMs, um den Ressourcenverbrauch und die Betriebskosten zu minimieren, ohne dabei die Funktionalität und Qualität der Applikation zu beeinträchtigen.