Large Language Models wie ChatGPT haben in der jüngsten Vergangenheit viel Aufmerksamkeit auf sich gezogen. Um die vollständige Daten- und Modellhoheit bei der Verwendung von intelligenten Sprachassistenten zu bewahren, sind On-premises Lösungen unerlässlich.

Der Vortrag stellt Lösungsansätze vor, wie mit einer lokal gehosteten, datenschutzkonformen Anwendung erfolgreiches und nachhaltiges Wissensmanagement im Unternehmen betrieben werden kann, ohne mit dem Datenschutz in Konflikt zu geraten. Es werden Limitationen im Vergleich zur Nutzung von Cloudlösungen aufgezeigt, Hardwareanforderungen für die Handhabung von 100 parallelen Zugriffen erläutert und Einflussfaktoren auf die Qualität der Antworten diskutiert. Zusätzlich wird die Bedeutung einer geeigneten Dokumentenstruktur und einer automatisierten Erfassung der Dokumentenqualität betont. Des Weiteren wird dargelegt, wie ein solches System im Rahmen eines Qualitätsmanagements evaluiert werden kann und wie zusätzliche Sprachen integriert werden können. Durch praxisorientierte Ansätze werden Lösungsansätze für Herausforderungen aufgezeigt.