Orchestrierung - Wenn Chatbots Teamwork lernen

von Patrick Sabrowski,
assono GmbH, Standort Kiel,

Chatbots sind vielseitig - Sie können im einzelnen für verschiedene Bereiche eingesetzt werden, um etwa Fragen von Kunden zu beantworten, Bewerbern Auskunft zu geben oder auch dabei helfen intern Prozesse zu vereinfachen, indem passende Dateien in Konversationen schnell durch den Chatbot integriert werden. Ein solcher Chatbot, der "nur" Antworten zu einem bestimmten Themenbereich abdeckt, kann heutzutage verhältnismäßig schnell mit überschaubarem Aufwand erstellt werden.

Je mehr Fragen zu verschiedenen Themen ein Chatbot jedoch beantworten soll, desto aufwendiger wird das Training. Rein technisch ist der Umfang der Informationen, die ein Chatbot beherrscht, nicht limitiert. Aber je größer ein Chatbot wird, desto anspruchsvoller wird es, weitere Informationen so hinzuzufügen, sodass bereits vorhandene Gesprächsleitfäden nicht verändert werden.

Für die bestmögliche Chatbot-Erfahrung der Kunden brauchen Unternehmen daher einen möglichst umfangreichen Chatbot, der auch bei verschiedenen Themen mit Antworten überzeugen kann.

Dieser Herausforderung begegnet man eigentlich genauso wie im echten Leben: Für größere Aufgaben werden oft verschiedene Personen mit verschiedenen Stärken zu einem Team zusammen gestellt, um ein möglichst großes Repertoir an Wissen zusammentragen zu können. Bei den Chatbots sieht es ähnlich aus, indem ein Expertenteam aus mehreren Chatbots, die im einzelnen für verschiedene Fragenbereiche zuständig sind, zusammengestellt wird. Diese können dann gemeinsam festlegen, welche Antwort auf eine bestimmte Frage die richtige ist, sodass letztendlich die Kompetenz mehrerer Chatbots miteinander vereint wird. Diese Zusammenarbeit mehrerer Chatbots wird auch als Orchestrierung bezeichnet, ein solches Chatbotteam dementsprechend als Orchester.

Nach außen hin tritt dieses Orchester jedoch wie ein einzelner Chatbot auf. Denn es ist für die meisten Nutzer angenehmer, wenn man nicht den Ansprechpartner wechseln muss.

Welcher Chatbot soll antworten?

Wenn einfach nur mehrere Chatbots parallel geschaltet sind, bekommt der Nutzer mehrere Antworten, von denen fast alle falsch sind. Fragt man beispielsweise einen Bewerbungsbot, welche Stellen es gibt, so würde dieser nach Interessen, Qualifikationen und Stärken fragen. Ein Bot mit allgemeinen Unternehmensinformationen würde eher die Tätigkeitsfelder des Unternehmens und die Vorteile für den Kunden erklären. Der Chatbot, der Experte für die Produktpalette ist, würde sich wohl entschuldigen, weil er die Frage nicht versteht. Um dieses Problem zu lösen und zu erklären, welcher Chatbot jetzt die richtige Antwort gibt, gibt es verschiedene Ansätze.

Der Router

Ein Chatbot, der Router, wird nur dafür beauftragt, dass er bestimmt, welcher Chatbot antworten soll. Dieser Chatbot kennt sich in allen Bereichen des Orchesters aus, dafür aber nur sehr grob. Er erkennt die Fragen und leitet sie an den jeweils passenden Chatbot weiter.

Dadurch kann man erreichen, dass man zuverlässig genau zwei Chatbots aufrufen muss, bis man zur endgültigen Antwort kommt. Somit lässt sich eine konstant schnelle Leistung bringen. Im Vergleich zu anderen Methoden der Orchestrierung ist dieses jedoch wartungsintensiv, da man bei jeder Verbesserung nicht nur die Spezialistenchatbots trainieren muss, sondern auch den Router, damit dieser vom neuen Wissen der Chatbots weiß.

Der Wasserfall

Insbesondere wenn es ein bestimmtes Hauptthema gibt, dass der Chatbot abdecken können soll, und die anderen Chatbots eher Ergänzungen sind, falls der Hauptbot nicht mehr weiterweiß, lohnt sich der Wasserfall.

Hierfür werden die Chatbots in eine bestimmte Reihenfolge gebracht. Und jeder Chatbot, der keine adäquate Antwort kennt, leitet die Frage an den nächsten Chatbot weiter, bis ein Bot die Antwort kennt, oder der letzte Chatbot mitteilt, dass er die Frage nicht verstanden hat. Hierdurch kann man auf sein Hauptthema sehr schnell antworten und es fällt leicht, die Aufmerksamkeit des Nutzers wieder auf das Hauptthema zu lenken. Der Chatbot braucht mit unter etwas mehr Rechenzeit, wenn es darum geht, auf untergeordnete Themen zu antworten.

Das Spray

Dieser Aufbau ähnelt einer typisch menschlichen Diskussion. Es werden alle Chatbots gleichzeitig aufgerufen und die Antworten verglichen. Am Ende entscheidet sich das Programm für die Antwort des Chatbots, der die höchste Konfidenz oder die höchste Priorität angibt.

Diese Variante ist am einfachsten zu implementieren und hat keinen zusätzlichen Wartungsaufwand. Zudem kann er sehr schnell Antworten, da alle Anfragen parallel laufen können. Jedoch ist der erforderliche Aufwand an Rechenkapazität hoch und damit auch teurer.

Berücksichtigen des bisherigen Gesprächsverlauf

Ein Chatbot hat oft auch Daten darüber gespeichert, was er in diesem Gespräch schon erfahren und mitgeteilt hat. Und natürlich ist dies auch bei orchestrierten Chatbots notwendig. Hierbei gibt es Informationen, die nur für einen Chatbot relevant sind (z.B. es braucht nur der Verkaufsbot die Produktinteressen). Trotzdem hat es sich bewährt diese Daten (bis auf sensible persönliche Daten) so zu speichern, dass sie allen Chatbots zugänglich sind, damit beispielsweise die Chatbots geschickt zu einem anderen Thema überleiten können.

Zusätzlich muss noch gespeichert werden, mit welchem Chatbot der Nutzer zuletzt gesprochen hat. Denn die meisten Anfragen richten sich wieder an diesen Chatbot, da die meisten Menschen beim Thema bleiben. Darum wird dieser Chatbot beim Wasserfallansatz häufig als Erster angesetzt.

Die Zusammenstellung des Orchesters

Die Zusammenstellung eines Orchesters ist im Vergleich zu einem menschlichen Team wesentlich einfacher. Es ist möglich beliebig viele Chatbots einbinden, ohne dass diese sich behindern. Man muss sich daher selten die Frage stellen, welcher Chatbot überhaupt eingesetzt wird und sollte fast immer alle Chatbots einsetzen. Einen Chatbot weniger einzusetzen führt nur dazu, dass weniger Fragen beantwortet werden können.

Damit dieses große Orchester von Chatbots gut funktioniert, muss es aber geschickt strukturiert werden. Oftmals müssen verschiedene Ansätze kombiniert werden. So kommt es in vielen Fällen vor, dass man einen Hauptdialog hat, den man im Sinne des Wasserfallprinzips vorschaltet, aber die Nebendialoge sind gleichberechtigt und werden daher über den Routeransatz organisiert.

Wenn man dasselbe Orchester an verschiedenen Stellen einsetzen will, dann lohnt es sich häufig, das Orchester für jeden Einsatzort individuell zu konfigurieren. Auf der Startseite ist es oft angemessen, dass ein Router viele der Chatbots gleichberechtigt verwaltet, und nur eindeutige Nebenthemen wie Small Talk als Wasserfall dahinter geschaltet werden. Auf der Seite mit den Produkten, sollte hingegen der Chatbot zum Thema Produktempfehlungen, so man denn einen hat, als Erstes angesprochen werden, und erst danach im Wasserfall ein Router mit anderen Themen stehen.

Verbesserte Wiederverwertbarkeit

Durch diese Form der Orchestrierung vermeidet man es auch, sich Arbeit doppelt zu machen.
Während man bei monolithischer Chatbotarchitektur für jeden Einsatzort einen neuen Chatbot schreiben müsste, reicht es bei einem Chatbotorchester oft die Restrukturierung des bestehenden Bots. Dadurch ist die Entwicklung mehrerer Chatbots schneller und günstiger möglich.

Zudem ist es durch Orchestration wesentlich leichter vorgefertigte Komponenten oder gemeinschaftliche Branchenlösungen, bei denen dann nur noch einzelne Formulierungen an das konkrete Unternehmen angepasst werden müssen, in einem Baukastensystem modifizierbar und erweiterbar vorzubereiten.

Dadurch, dass Chatbots mehrfach verwendet werden, sammelt der einzelne Chatbot gleichzeitig auch mehr Trainingsdaten zu seinem Fachgebiet. Somit verbessert sich die Qualität der Chatbots noch schneller.

Fazit

Insgesamt ist Orchestration also eine wesentliche Bereicherung für das Chatbot-Erlebnis in jedem Unternehmen, sofern es richtig konstruiert und trainiert ist. Die Zusammenarbeit mehrerer Chatbots ermöglicht es leichter viele Themen abzudecken, und den Chatbot einfacher zu restrukturieren. Durch die Orchestrierung können Chatbots mit geringem Programmieraufwand vielseitiger und effizienter eingesetzt werden.

Welcher Chatbot passt zu Ihnen?

Gerne beraten wir Sie, inwiefern ein Chatbot auch für Ihr Unternehmen ein Gewinn sein kann und welche Chatbot-Funktionen für Ihre Kunden und Mitarbeiter sinnvoll sind. Kontaktieren Sie uns gerne für mehr Informationen zum Thema Chatbot unter +49 4307 900 407 oder informieren Sie sich weiter zum Thema Chatbot auf unserer Website.

Das könnte Sie auch interessieren:

Fachbeitrag Künstliche Intelligenz

Sie haben Fragen zu diesem Artikel? Kontaktieren Sie uns gerne: blog@assono.de

Sie wollen eine individuelle Lösung? Kontaktieren Sie uns

Weitere interessante Artikel

Sie haben Fragen? Wir sind für Sie da.

Wenn Sie mehr über unsere Angebote erfahren möchten, können Sie uns jederzeit kontaktieren. Sie können uns auf verschiedene Weisen für eine unverbindliche Erstberatung erreichen:

assono GmbH

Standort Kiel (Zentrale)
assono GmbH
Lise-Meitner-Straße 1–7
24223 Schwentinental

Standort Hamburg
assono GmbH
Bornkampsweg 58
22761 Hamburg

Telefonnummern:
Zentrale: +49 4307 900 407
Techn. Hotline: +49 4307 900 403
Vertrieb: +49 4307 900 402

E-Mail-Adressen:
kontakt@assono.de
bewerbung@assono.de