Die Pflicht gilt für jeden KI-Assistenten, der mit Anrufern spricht
Art. 50 Abs. 1 KI-Verordnung verlangt, dass Menschen erfahren, wenn sie mit einem KI-System interagieren. Die Vorschrift gilt nach Art. 113 KI-Verordnung seit dem 2. August 2026, auch für Systeme, die schon vorher in Betrieb waren. Die Leitlinien der Kommission nennen Sprachassistenten und Gesprächsagenten im Kundenservice ausdrücklich als Beispiele. Die Pflicht richtet sich an den Anbieter, der das System unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt. Ob ein Unternehmen, das einen fertigen Assistenten mit eigener Ansage einsetzt, dadurch selbst Anbieter wird, ist nicht abschließend geklärt.
Offensichtlich ist eine KI am Telefon nur in seltenen Fällen
Der Hinweis entfällt nach Art. 50 Abs. 1 KI-Verordnung nur, wenn die KI für eine angemessen informierte, aufmerksame und verständige Person offensichtlich ist. Die Kommission legt diese Ausnahme eng aus und wendet sie nur an, wenn kaum ein Zweifel bleibt. Eine menschlich klingende Stimme spricht nach ihren Leitlinien gegen eine offensichtliche KI. Kann die Allgemeinheit anrufen, gehören auch ältere Menschen, Kinder und Menschen mit Behinderung zu den Anrufern. In diesem Fall lässt sich die Ausnahme nach den Leitlinien nicht nutzen.
Der Hinweis kommt zu Beginn des Gesprächs und nennt die KI ausdrücklich
Nach Art. 50 Abs. 5 KI-Verordnung muss die Information spätestens bei der ersten Interaktion klar und eindeutig kommen und barrierefrei sein. Für Telefonate empfehlen die Leitlinien der Kommission eine gesprochene Ansage am Anfang. Die Bezeichnung „Assistent“ oder ein Signalton genügt dafür allein nicht. Fragt ein Anrufer, ob er mit einem Menschen spricht, muss der Assistent wahrheitsgemäß antworten. Bei langen Gesprächen und bei Themen wie Beschwerden oder Versicherungen halten die Leitlinien eine Wiederholung für wahrscheinlich nötig.
Der KI-Hinweis ersetzt die Einwilligung in die Aufzeichnung nicht
Nach den Leitlinien der Kommission verfolgt Art. 50 KI-Verordnung ein anderes Ziel als die Informationspflichten der DSGVO und lässt diese unberührt. Zeichnet der Assistent das Gespräch auf, braucht er zusätzlich die aktive Einwilligung des Anrufers nach Art. 6 Abs. 1 lit. a DSGVO. Beides passt in eine Ansage, mit dem KI-Hinweis am Anfang und der Frage nach der Aufzeichnung vor deren Beginn. Was für die Einwilligung gilt, erklärt die Seite zur Gesprächsaufzeichnung.
Ein fehlender Hinweis kann mit einem Bußgeld geahndet werden
Für Verstöße gegen Art. 50 sieht Art. 99 Abs. 4 KI-Verordnung Geldbußen bis 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes vor. Maßgeblich ist der höhere Betrag, für kleine und mittlere Unternehmen nach Art. 99 Abs. 6 der niedrigere. Die Mitgliedstaaten regeln die Sanktionen im Einzelnen und berücksichtigen dabei die Interessen kleiner Unternehmen. Bei der Höhe zählen nach Art. 99 Abs. 7 unter anderem Schwere und Dauer des Verstoßes, Vorsatz und die Zusammenarbeit mit der Behörde. Beschweren kann sich nach Art. 85 KI-Verordnung jeder, der einen Verstoß vermutet.
