EU AI Act für Gemeinden: Die Frist ist verschoben — die Arbeit nicht
Aktualisiert: vor 3 Tagen
Wenn der Gemeinde-Chatbot etwas Falsches sagt
Es ist die erste Frage in jeder Gemeinderatssitzung, in der ein Bürgerassistent zur Debatte steht. Nicht „was kostet das" und nicht „wie lange dauert das" — sondern: Und wenn das Ding Unsinn erzählt?
Die Frage ist berechtigt. Sie wird nur meistens falsch beantwortet.
Die übliche Antwort ist keine
„Das passiert nicht, unser System ist geprüft." Wer das sagt, hat die Frage nicht verstanden. Ein Sprachmodell erzeugt Text, der plausibel klingt. Ob er stimmt, weiß es nicht — es hat keinen Begriff von wahr und falsch, sondern von wahrscheinlich.
Das ist kein Mangel, den man wegprogrammiert. Es ist die Funktionsweise.
Die ehrliche Antwort lautet deshalb nicht „das passiert nicht", sondern: Was passiert, wenn es passiert — und was haben wir vorher dagegen getan?
Was rechtlich tatsächlich gilt
Drei Dinge, die in der Diskussion regelmäßig durcheinandergeraten.
Erstens: Ein Chatbot erteilt keinen Bescheid. Eine Auskunft über Öffnungszeiten oder Gebühren ist keine hoheitliche Erledigung. Sie begründet kein Recht und keine Pflicht. Wer sich darauf verlässt und einen Termin verpasst, hat keinen Anspruch aus einer Falschauskunft eines Auskunftssystems — sofern erkennbar war, dass es eines ist.
Zweitens: Erkennbarkeit ist Pflicht, nicht Kür. Seit dem 2. August 2026 gilt die Transparenzpflicht nach Artikel 50 der KI-Verordnung: Wer mit einem KI-System interagiert, muss das erkennen können. Ein Assistent, der sich als Mitarbeiterin ausgibt, ist nicht nur unredlich — er ist regelwidrig.
Drittens: Die Amtshaftung bleibt, wo sie war. Sie knüpft an hoheitliches Handeln an, nicht an ein Informationsangebot auf der Gemeindewebsite. Wer darüber hinaus Sicherheit will, klärt das mit der eigenen Rechtsabteilung oder dem Gemeindeverband — das ist keine Frage, die ein IT-Anbieter beantwortet.
Die technische Antwort: den Weg zurück offenlassen
Damit ist die rechtliche Seite geordnet. Die praktische bleibt: Eine falsche Auskunft ärgert die Bürgerin, auch wenn niemand dafür haftet. Und sie kostet das Amt genau die Zeit, die der Assistent sparen sollte.
Hier trennt sich, wie solche Systeme gebaut sind.
Ein allgemeines Sprachmodell bekommt eine Frage und erzeugt eine Antwort aus dem, was es im Training gesehen hat. Fragt jemand nach den Öffnungszeiten einer Gemeinde, die es nicht kennt, erfindet es welche. Sie klingen richtig. Sie sind es nicht.
Ein quellengebundenes System sucht zuerst in den hinterlegten Unterlagen der Gemeinde. Findet es dort eine Antwort, gibt es sie aus — mit dem Verweis auf das Dokument, aus dem sie stammt. Findet es keine, sagt es das und verweist ans Amt.
Der Unterschied ist nicht die Fehlerquote. Der Unterschied ist, dass man im Zweifel nachsehen kann.
Eine Antwort ohne Quelle ist eine Behauptung. Eine Antwort mit Quelle ist eine Aussage, die jemand prüfen kann.
Was das im Alltag bedeutet
Eine Bürgerin fragt um 21:40 Uhr, was sie für den Meldezettel braucht. Der Assistent antwortet — und nennt darunter die Quelle: Amtsblatt der Gemeinde, Abschnitt Parteienverkehr.
Stimmt die Antwort nicht, ist in zwei Minuten klar warum: Entweder das Amtsblatt ist veraltet, oder der Assistent hat die falsche Stelle erwischt. Beides ist behebbar. Was nicht behebbar ist: eine Antwort, von der niemand weiß, woher sie kommt.
Und genau deshalb ist die Frage nach der Aktualität der Unterlagen wichtiger als die Frage nach dem Sprachmodell. Ein Assistent ist so gut wie das, was im Amt gepflegt wird.
Drei Dinge, die eine Gemeinde festlegen sollte
Welche Unterlagen gehören hinein. Nur das, was ohnehin veröffentlicht ist: Amtsblatt, Formulare, Gebührenordnung, Öffnungszeiten. Akten, Personendaten und laufende Verfahren gehören nicht in eine Wissensbasis für die Öffentlichkeit.
Wie alt eine Antwort sein darf. Bei einer Arbeitsanweisung sind sechs Monate unkritisch, bei einer Gebühr sind sechs Wochen zu viel. Ohne festgelegte Grenze gibt ein System veraltete Angaben mit derselben Sicherheit aus wie aktuelle.
Wer die Rückmeldungen liest. Wenn jemand meldet, dass eine Antwort nicht stimmt, muss das irgendwo ankommen. Ein Assistent ohne Rückkanal verbessert sich nicht — er wiederholt seinen Fehler.
Was nicht versprochen werden sollte
Kein System ist fehlerfrei, und wer das behauptet, sollte erklären, wie er es gemessen hat. Seriös ist die andere Aussage: Jede Antwort ist auf ihre Quelle zurückführbar, und wo keine Quelle ist, gibt es keine Antwort.
Das ist weniger vollmundig. Es ist aber überprüfbar — und im Gemeinderat zählt das mehr.
In zwei Gemeinden im Betrieb
In Hornstein im Burgenland und in Matzendorf läuft ein solcher Assistent seit September 2026. Jede Gemeinde hat ihre eigene Wissensbasis mit ihren eigenen Unterlagen; einen gemeinsamen Datentopf gibt es nicht.
Wie das im Detail funktioniert, welche Fragen Bürger tatsächlich stellen und was eine Gemeinde vor der Einführung klären sollte, steht auf unserer Seite zu KI in der Gemeindeverwaltung.
Wer drei typische Fragen aus dem eigenen Amt schickt, bekommt im Erstgespräch gezeigt, wie ein Assistent sie aus den eigenen Unterlagen beantwortet — mit Quelle.
Kommentare