Muss der Anrufer erfahren, dass er mit einer KI spricht?
Ja, und zwar am Anfang des Gesprächs. Der EU AI Act verlangt in Artikel 50, dass Menschen es erfahren, wenn sie mit einer KI sprechen — bei einer Stimme am Telefon gilt das erst recht, weil sie täuschender wirkt als ein Chatfenster. Wir richten das so ein, dass es gesagt wird, bevor der Anrufer sein Anliegen schildert, nicht danach.
Dürfen wir damit Kunden anrufen?
Nicht für Werbung. Werbeanrufe brauchen eine Einwilligung — bei Verbrauchern ausdrücklich, gegenüber Unternehmen mindestens eine mutmaßliche (§ 7 UWG). Dass eine KI wählt statt eines Mitarbeiters, ändert daran nichts; es macht den Verstoß nur schneller. Zulässig sind Anrufe im Rahmen einer laufenden Sache: die Terminerinnerung, die Rückfrage zu einer fehlenden Unterlage, die Bestätigung. Was bei Ihnen darunterfällt, klären wir vorher zusammen.
Was, wenn die KI etwas Falsches sagt?
Sie antwortet aus dem, was Sie hinterlegt haben, und nicht aus dem allgemeinen Wissen eines Sprachmodells — das ist der wichtigste Unterschied zu dem, was man von Sprachassistenten kennt. Trotzdem gilt: Was am Telefon gesagt wird, verantworten Sie wie jede andere Auskunft aus Ihrem Haus. Deshalb legen Sie die Grenzen fest, und deshalb gehört alles Verbindliche — Zusagen, Fristen, Bescheide — nicht an die Leitung, sondern an einen Menschen.
Was sagt der Personalrat dazu?
Rechnen Sie damit, dass es Thema wird — zwei Sorgen sind zu erwarten. Die eine: Werden hier Stellen ersetzt? Die andere: Wird mitgehört und ausgewertet, wer wie viele Gespräche annimmt? Die erste Frage beantworten Sie, nicht wir. Für die zweite gilt: Was aufgezeichnet und ausgewertet wird, legen Sie fest, und es gehört in dieselbe Vereinbarung wie jede andere technische Einrichtung. Wir stellen zusammen, was Ihr Gremium dafür braucht.
Merkt man, dass es keine echte Person ist?
Meistens ja — und das soll auch so sein, siehe oben. Entscheidend ist nicht, ob es menschlich klingt, sondern ob der Anrufer sein Anliegen loswird und eine brauchbare Antwort bekommt. Wer nach zwei Sätzen merkt, dass er im Kreis geführt wird, legt auf; wer in dreißig Sekunden weiß, welche Unterlagen er braucht, ist zufrieden.