Assistenten Chatbot - Sharepoint RAG Integration

Im Rahmen meiner Tätigkeit bei zeb consulting habe ich einen innovativen Unternehmens-Chatbot entwickelt, um die interne Kommunikation und Effizienz zu verbessern. Das Projekt umfasste mehrere Phasen, von der Konzeptualisierung bis zur Implementierung.

Projektbeschreibung:
Analyse und Konzeption: Gemeinsam mit meinem Team untersuchte ich die Möglichkeiten, ein eigenes Large Language Model (LLM) zu nutzen. Wir entwickelten einen umfassenden Use Case, der die Anforderungen und Ziele des Projekts detailliert darstellte.

Machbarkeitsstudie: Wir führten eine umfassende Machbarkeitsstudie durch, um die technischen und organisatorischen Herausforderungen des Projekts zu bewerten und Lösungsstrategien zu entwickeln.

Datenanbindung: Zur Integration von Unternehmensdaten wurde eine Verbindung zu SharePoint hergestellt. Die Daten wurden indiziert und entsprechend in einer Vektordatenbank gespeichert. Stellt ein Nutzer eine Anfrage an den Chatbot, wird die Anfrage in einen Vektor konvertiert und gegen die Datenbank abgeglichen. Der zurückgegebenen Vektoren werden dann wieder in natürliche Sprache konvertiert.

Modellentwicklung: Das GPT-4o-Modell wurde an die Datengrundlage per RAG (Retrieval Augerented Generation) angebunden. Dabei wurde besonderer Wert auf die Anpassung des Modells an die spezifischen Anforderungen und Datenstrukturen des Unternehmens gelegt. Betrieben wurde da Modell über die Microsoft Azure Cloud.

Implementierung und Integration: Nach der Datenverarbeitung wurde der Chatbot erfolgreich in das Unternehmensintranet eingebunden. Diese Integration ermöglichte es den Mitarbeitern, über das Intranet auf den Chatbot zuzugreifen und von den verbesserten Kommunikations- und Informationsprozessen zu profitieren.

Erworbene Fähigkeiten und Expertise:

• Durchführung von Use Case Analysen und Machbarkeitsstudien
• Entwicklung und Training von Large Language Models (LLMs)
• Anbindung und Integration von Unternehmensdatenquellen wie SharePoint (RAG)
• Datenverarbeitung und -filterung zur Optimierung von KI-Modellen
• Implementierung von KI-Lösungen in bestehende IT-Infrastrukturen

Dieses Projekt demonstriert meine Fähigkeit, komplexe KI-Lösungen zu entwickeln und erfolgreich in bestehende Unternehmensstrukturen zu integrieren, um die Effizienz und Kommunikation innerhalb des Unternehmens zu verbessern.