Lesedauer 4 Minuten

Vertrauenssache

„Hallo! Ich bin der Service Frag-den-Michel und beantworte gerne Ihre Fragen zu Dienstleistungen der Hamburger Verwaltung …“. So meldet sich der Chatbot der Stadt Hamburg. Die Frage, wo man einen internationalen Führerschein beantragen kann, beantwortet er prompt, und nach wenigen Klicks ploppt die Online-Terminvergabe auf. Klappt übrigens auch auf Spanisch und in anderen Sprachen. Richtig beantragen geht dann allerdings nur persönlich auf dem Amt.

Wer allerdings wissen möchte, wie man sich in Hamburg begrüßt, wird statt dem einfachen „Moin“ mit dem Satz „Ich liebe Hamburg: Wachsen mit Weitsicht“ beschieden und schüttelt leicht amüsiert den Kopf. „Ich bin ein Computerprogramm, das noch lernen muss“, entschuldigt sich der Chatbot dafür gleich zu Beginn jeglicher Unterhaltung. Die Bescheidenheit ist fast ein wenig übertrieben. Denn in der Tat ist das seit gut zwei Jahren laufende Programm schon gut trainiert. Es reagiert flexibel – auch wenn die Userin beispielsweise nicht explizit nach Öffnungszeiten fragt, sondern einfach schreibt: Wann schließt die Behörde?

Hinter Frag-den-Michel steckt eine mehrjährige Forschungsarbeit durch das DAI Labor der TU Berlin. Der Regelbetrieb und das weitere Training liegen bei Dataport. Eleonore Schmitt gehört zu dem Team, das die Chatbots trainiert. Die promovierte Linguistin macht das Schritt für Schritt und mit Bedacht, damit Antworten auch richtig ausfallen. Lieber nimmt sie in Kauf, dass auch einmal eine Frage offenbleibt. Denn die Ansprüche der Bürgerinnen und Bürger sind hoch. Sie erwarten Auskünfte in der Qualität, die sie auch von „richtigen“ Mitarbeitern erhalten würden.

Bei komplexen und vor allem multiplen Fragen ist der Chatbot noch ein wenig überfordert. Andere, kommerzielle Systeme, erzählt Eleonore Schmitt, würden möglicherweise eine Antwort geben, aber ob sie richtig ist, kann niemand kontrollieren. Anders bei den Behörden-Chatbots: Deren Antworten müssen stimmen, weil sie möglicherweise Konsequenzen haben. Deswegen ernten Frag-den-Michel und andere Chatbots in den Verwaltungen vor allem die „low hanging fruits“ und überlassen die komplexeren Sachverhalte doch noch eher den Beschäftigten mit natürlicher Intelligenz.

Weitere Chatbots im Einsatz

Hinter InA oder Frag-den-Michel steckt Rasa, ein sogenanntes Open-Source-Framework, mit dem Chatbots entwickelt werden. Die Inhalte, mit denen Rasa arbeitet, sind allerdings „Manufaktur“, erklärt Eleonore Schmitt. Die Frage, ob wir „unsere Bots autonom weiterlernen lassen, beantworten wir momentan mit Nein, weil wir das nicht kontrollieren können.“ Mögliche Fehler wolle man immer rechtzeitig erkennen und korrigieren und nicht “autonom“ verstärken: „Wenn man falsche Informationen reinsteckt, kommen auch nur falsche Informationen heraus.“

Der Einsatz von Chatbots ordnet sich ein in das Vorhaben, die Verwaltung zu modernisieren, zu digitalisieren und Prozesse zu automatisieren, um die Services zu verbessern und Mitarbeiter in den Ämtern zu entlasten. Die nördlichen Bundesländer haben ehrgeizige Pläne mit KI. Ein Treiber ist Schleswig Holstein, das auf KI setzt, um seine Verwaltung weiter zu modernisieren. Experimentierfreudig in dieser Hinsicht zeigte sich das Land zum Beispiel auch, als es im Frühjahr ankündigte, dass die Landesverwaltung für ihre Arbeit das KI-Tool ChatGPT nutzen dürfe.

Die Tagesschau erklärt, was mit ChatGPT möglich ist:

Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube.
Mehr erfahren

Video laden

YouTube immer entsperren

In anderen Ländern setzen Verwaltungen KI-basierte Systeme bereits umfangreicher ein: Die Arbeitslosenversicherungskasse Estlands nutzt KI bei der Ermittlung von Ansprüchen. Das Vereinigte Königreich setzt auf Automatisierung und KI, um Betrug in den Sozialsystemen aufzudecken. Solche automatisierten Systeme, die nicht mehr nur wie Chatbots assistieren, sondern Entscheidungen fällen oder zumindest vorbereiten, sind allerdings umstritten. Hier geht es um sensible Informationen und menschliche Schicksale, bei denen sich die Frage stellt: Wer entscheidet – Mensch oder Maschine? In Schleswig-Holstein wird der Mensch weiterhin entscheiden. Das Land hat seit 2022 das erste Gesetz, das den Einsatz von KI in der Verwaltung regelt. Das sogenannte KI-Einsatz-Gesetz schreibt vor, dass in letzter Instanz der Mensch entscheidet. KI darf auch nicht dazu genutzt werden, um Prognosen über Menschen zu stellen. Mit seinem KI-Regelwerk ist das Land übrigens weiter als etwa der Bund oder die Europäische Union.

(Text: Jürgen Gressel-Hichert)