Logo IPI
Suche
Close this search box.
KI Chatbot im Intranet

KI Chatbot: Das Intranet als Assistent dank ChatGPT?

Beitrag teilen:

Archiv

Vor einiger Zeit berichteten wir von unserem IPI Innovationslab, in dem wir uns intensiv mit dem Thema Künstliche Intelligenz im Microsoft 365 Digital Workplace beschäftigen. Welche Potenziale bieten Dienste wie ChatGPT heute für die Entwicklung eines KI Chatbot? Wir betrachten außerdem KI-Dienste im Microsoft Kontext wie Azure OpenAI und demonstrieren Ihnen unseren Ansatz für einen KI Chatbot.

KI Chatbot im Digital Workplace?

Generative Künstliche Intelligenz und allen voran ChatGPT ist viel diskutiert. Dabei stehen zwei zentrale Aussagen im Raum:

  1. Sie kann die Arbeitswelt revolutionieren
    2. Es gibt ein Datenschutzproblem

Im Microsoft 365 Digital Workplace sehen wir bereits eine Vielzahl existierender und erprobter Lösungen und eine ganze Reihe von Ankündigungen. Einen kleinen Überblick geben wir weiter unten. Erstaunlicherweise bekommt aber das Thema Enterprise Search oder aus dem Intranet generierte Antworten aktuell keine Aufmerksamkeit. Dabei ist gerade bei größeren Inhaltssammlungen die Fähigkeit einer offenen Fragestellung: „Hey Intranet – wie ist unsere Regelung für XY“ – und dann eine plausible Antwort zu erhalten, seit langem ein Traum für die Informationsbereitstellung. 

Aktuell lässt sich über Personalisierung die Wahrscheinlichkeit relevanten Content zu entdecken erhöhen. Durch gute Navigationskonzepte kann verständlich gemacht werden, welche Informationen verfügbar sind und ein schneller Zugang dazu ermöglicht werden. Schließlich kann mit Suche und guten Filtern ein freierer Zugang geschaffen werden. All diese Wege nutzen wir bereits – aber die natürlichsprachliche Interaktion mit einem Bot war bisher auf kleine Informationssammlungen begrenzt.  

Die Frage ist also: Kann das Intranet im Digital Workplace durch Dienste wie ChatGPT revolutioniert werden? Kann ein virtueller Assistent geschaffen werden, der genau wie oben skizziert Fragen beantwortet? 

Die Möglichkeiten von ChatGPT

Dazu nochmal einen Schritt zurück: Was kann ChatGPT? Natürlich kann ich hier keine vollständige Liste geben – die Welt entdeckt noch, was der Dienst ist und wie er genutzt werden kann, um Fragen zu beantworten oder Texte (und mit Varianten der Dienste auch Bilder oder Videos) zu erstellen. Basis dabei ist in der Regel ein Prompt – also eine formulierte Anweisung was zu tun ist. Inzwischen gibt es schon eine ganze Menge raffinierte Möglichkeiten über Prompt Engineering das Ergebnis im eigenen Sinne zu beeinflussen. 

Wir sehen tolle Ergebnisse bei der Einbindung in Suchmaschinen – etwa in der Form, dass Antworten gegeben werden anstelle von Links auf Informationsquellen. Das funktioniert so gut, dass Microsoft direkt Bing erweitert hat und auf einmal auch deutliche Marktanteile gewonnen hat. 

Aber: Limitierender Faktor ist die Datenbasis selbst. Bei ChatGPT ist der Stand eine Auswahl von Webseiten, die 2021 importiert wurden. Entsprechend sind keine Unternehmensinternas, Namen, Verantwortlichkeiten, Regelungen usw. enthalten. 

Es können jedoch in begrenztem Umfang Informationen zum Verarbeiten eingespielt werden. Das können Texte oder Dokumente usw. sein. Die Begrenzung kommt vor allem aus der für die Verarbeitung erforderlichen Tokens – wird also früher oder später auch erweitert werden. Problem dabei: Unternehmensinternas dürfen nicht einfach bei irgendwelchen Services hochgeladen werden. 

Bei IPI haben wir zum Beispiel seit Jahren ein Modul für maschinelle Übersetzungen von Inhalten auf Intranetseiten, welches den Redakteuren viel Zeit spart. Wir nutzen dafür den Dienst DeepL, da dort die besten Ergebnisse entstehen. Das kann aber nur bei Unternehmen funktionieren, die eine rechtlichen Rahmen mit DeepL Pro (und auch ein kostenpflichtiges Abo) haben. Steht DeepL nicht zur Verfügung, nutzen wir gerne die Microsoft Translation Dienste im Bereich der Azure Cognitive Services – diese kosten weniger und sind für die Cloud Nutzer von Microsoft in der Regel bereits rechtlich / vertraglich geklärt.  

Azure OpenAI – Die sichere Alternative zu ChatGPT?

Das ist die Stelle an der Azure mit den Azure OpenAI Diensten ins Spiel kommt. Wie bei anderen Azure Diensten auch laufen diese im sicheren Kontext des Kunden. Die Azure OpenAI Dienste stehen inzwischen auch in europäischen Rechenzentren zur Verfügung und können „normal“ über Azure bezahlt werden.

Microsoft wird nicht müde zu betonen, wie sicher die Azure OpenAI Dienste sind. Dazu gehört, dass Trainingsdaten, Prompts usw. nur in Azure in der jeweiligen Region gespeichert werden. Auch der Analyse und Monitoring „Human Review“ Prozess, der evtl. dritten Zugang zu den Daten ermöglicht, kann und sollte deaktiviert werden. Prompts, Daten usw. werden laut Microsoft nicht an OpenAI gegeben. 

Der Microsoft Copilot

Entsprechend erweitert Microsoft seine Services. Angekündigt wurde unter dem Begriff “Copilot”, nahezu alle Dienste mit einer durch KI unterstützten Generierung von Inhalten auszustatten. Das beginnt bei den Office Apps wie Word und PowerPoint, in denen ganze Dokumente mit einem Prompt erstellt werden können. Auch im Intranetbereich gibt es mit dem Copilot für SharePoint die Möglichkeit zum Erstellen von Sites und Pages. Der Copilot für Viva Engage (ehemals Yammer) unterstützt bei der Umsetzung vieler Szenarien wie zum Beispiel zur Optimierung von Posts oder beim Gestalten von Kampagnen. Generell ist die Fähigkeit Texte zusammenzufassen sehr beeindruckend. Das wird zum Beispiel in Teams Premium für das Meeting Recap genutzt – neben einigen anderen Funktionen.

Wenn das geht, warum nehme ich dann nicht den ganzen Inhalt des Intranets oder sogar des Tenants und trainiere die KI damit? Das Ziel wäre beliebige Fragen zu beantworten und eine Art Unternehmensbot zu haben. 

Die Limitierungen liegen aktuell in der Menge der Information. Diese wird in Tokens gemessen. Mit jeder Version der Dienste steigt zwar die verarbeitbare Anzahl von Tokens – aber große Informationssammlungen wie sie in einem Unternehmensintranet zu finden sind, können noch nicht verarbeitet werden.

Für die Power Platform sind Power Platforms AI Builder GPT actions angekündigt. Damit soll sich die eigene Knowledge Base nutzen lassen – mit Funktionen Information Extraction, Summary oder Sentiment Analyse.

Es gibt auch einen Azure Semantic Search Index, der für die Azure OpenAI Dienste als Input zur Verfügung steht. Dieser „versteht“ schon Dokumente – aber noch keine SharePoint Seiten. 

Unsere Lösung: Ein KI Chatbot im Digital Workplace

In unserem Innovation Lab haben wir daher einen anderen Weg gewählt: Wir nutzen ein Bot Interface, um eine natürlichsprachliche Abfrage zu bekommen. Mit Hilfe des Azure OpenAI GPT 3.5 Dienstes generieren wir aus der Anfrage relevante Suchbegriffe für die M365 Suche. Die Antworten füttern wir als Inhalte wieder an den Azure OpenAI Dienst, der dann die Frage beantwortet.

Die Prototypische Implementierung läuft bereits mit guten Ergebnissen mit guter Antwortzeit – wie wir hier in der Demo zeigen: 

YouTube

Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren

Video laden

Unserer Ansicht nach wird der Intranet Content so nochmal besser nutzbar bzw. zugänglich. Entsprechende Ansätze wollen wir zukünftig in unseren Kundenlösungen einbauen.   

Vollständig in einen digitalen Arbeitsplatz integriert könnte das so aussehen:

KI Chatbot: Unsere Vorstellung

Unsere Vision: Ein voll integrierter KI Chatbot im digitalen Arbeitsplatz

Als Vergleich: Bisher konnte über Suchoptimierung z. B. eine vordefinierte Antwort hinterlegt werden. Diese wird bei ebenfalls vordefinierten Schlüsselworten ähnlich einer Werbeanzeige in Google über den eigentlichen Suchergebnissen angezeigt. Das kann beeindruckende Suchergebnisse liefert – nur erfordert es natürlich auch eine Pflege, die leider in zu wenigen Unternehmen umgesetzt wird.  

KI Chatbot Beispiel: Urlaub beantragen

Doch wie geht es weiter?

Natürlich gibt es im Thema KI aktuell noch sehr viel Bewegung. Gerade die Einführung in Europa von Googles KI-basierten Chatbot Bard bringt neuen Aufschwung in die Suchoptimierung und es bleibt zu beobachten, inwieweit dies auch die digitale Arbeitswelt mit Microsoft beeinflusst. Wir bleiben auf jeden Fall dran und sind schon gespannt auf die Entwicklungen und Möglichkeiten, die sich noch ergeben.

Sie interessieren sich für diese Lösung und wollen diese Potenziale in Ihrem Digital Workplace nutzen? Kontaktieren Sie uns gerne.

 

Kommentar schreiben

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert