Post vom Stromanbieter: Künstliche Intelligenz schickt Paderbornerin falsche Rechnung

Paderborn. Es ist ein Tag wie jeder andere, an dem Maren Julia Schmidt ihre Post holt. Einer der Briefe ist von Eon. Sie öffnet diesen und findet darin eine Rechnung in Höhe von 400 Euro. Diese solle sie umgehend begleichen, sonst werde ihr der Strom abgestellt. Im ersten Moment ein Schock für die junge Frau. Doch sehr schnell stellt sie die hohe Summe infrage. Denn sie ist schon seit drei Jahren nicht mehr Kundin des Konzerns. &bdquo;Da habe ich direkt gemerkt, dass das nicht stimmen kann“, sagt Schmidt. Sie erinnert sich, schon mal eine falsche Rechnung von Eon erhalten zu haben. Damals habe sie jedoch die Rechnung beglichen, was sie kurz darauf bereute. &bdquo;Monate bin ich dem Geld hinterhergelaufen“, sagt sie. Hat eine KI falsche Rechnungen erstellt? Erst habe sie es beim telefonischen Kundenservice probiert. Dieser habe ihr zwar immer zugesagt, das Geld zu überweisen, aber es sei nie etwas geschehen. Erst ein Mitarbeiter einer Filiale in der Stadt habe ihr weiterhelfen können. &bdquo;Ja, ist geklärt, ist wahrscheinlich ein KI-Rückläufer“, habe er Schmidt gesagt. Auf Nachfrage erklärte er ihr, dass die Rechnungen per Künstlicher Intelligenz (KI) erstellt werden. &bdquo;Das muss doch irgendwie überprüft werden“, fragt sie. Nein, diese Rechnungen überprüfe niemand mehr, erklärt der Mitarbeiter. Unfassbar findet sie das. Und ein - zumindest für sie – ziemlich teurer Fehler. Die NW hat daraufhin den Energiekonzern kontaktiert, um Licht ins Dunkel zu bringen. Eon äußert sich zu dem Paderborner Fall &bdquo;Es tut uns leid, dass es für Frau Schmidt zu Unannehmlichkeiten kam – wir haben die Ursachen inzwischen analysiert“, erklärt ein Eon-Sprecher. In ihrem Fall habe aber keine KI für die hohe Rechnung gesorgt. &bdquo;Leider führte ein manueller Bearbeitungsfehler in unserem Kundenservice dazu, dass die genannten Forderungen zugestellt wurden“, sagt der Sprecher. Wie genau dieser manuelle Bearbeitungsfehler zustande kam, erklärt der Konzern nicht. Aber generell gelte, dass an gewissen Punkten der Abrechnung die Firma automatisierte Prozesse nutze. &bdquo;Diese sind jedoch nicht KI-gestützt“, so der Sprecher. Im Zuge dessen habe das Unternehmen eine Prüfung, Korrektur und eine Löschung der Forderung veranlasst. Auch interessant: Wie Pfleger Handys und KI im Paderborner Altenzentrum nutzen Im Kundenservice nutzt Eon teilweise KI &bdquo;Frau Schmidt muss diese selbstverständlich nicht bezahlen, sodass sich die Angelegenheit für sie hiermit erledigt hat“, erklärt Eon. Ob der Konzern denn im Kundenservice KI nutze? &bdquo;Im Kundenservice arbeiten wir teilweise mit KI-gestützten Lösungen, sofern sinnvoll“, sagt der Sprecher. Der Energiekonzern verweist auf die Vorteile, die KI mit sich bringe. So profitierten die Kundinnen und Kunden von der Möglichkeit, ihre Anliegen schnell über das Telefon zu erledigen, folgert Eon. Aber bisher sind KI nicht fehlerfrei: Laut TÜV-Verband finde jede dritte Person einen Fehler. Und nach dem Statistischen Bundesamt nutzte im Jahr 2024 bereits jedes fünfte Unternehmen KI. Wer aber überprüft die Systeme und schützt Verbraucherinnen und Verbraucher vor Fehlern? Rechtsanwalt Daniel Wittig der Kanzlei Brandi in Paderborn gibt Antworten. Zum Thema: Im Kreis Paderborn startet deutschlandweites Pilotprojekt Rechtsanwalt aus Paderborn gibt Tipps für Verbrauchende Einer seiner Schwerpunkte ist IT- und Datenschutzrecht, worunter auch KI rechtliche Regelungen fallen. &bdquo;Seit dem 2. August hätte Deutschland eine Behörde bestimmen müssen. Das hat Deutschland versäumt“, so Wittig. Demnach können Unternehmen bei KI-Verstößen sanktioniert werden, doch gebe es derzeit keine zuständige Behörde, die sanktionieren könne. Welche Behörden oder Einrichtungen letztendlich diese Aufgabe übernehmen, sei noch unklar. Für Verbraucherinnen und Verbraucher heißt das konkret: Wenn sie KI-Verstöße bemerken, müssen sie sich direkt an das Unternehmen wenden. Trotzdem gebe es noch rechtliche Unklarheiten, die es geschädigten Personen erschwere, ihre Ansprüche zu erheben. Denn sie trugen die Beweislast und das sei bei KI manchmal sehr schwierig, da die nötigen Informationen nicht immer zugänglich seien. Hochrisiko-KIs sind in Deutschland verboten Die EU habe für diesen Fall eine KI-Haftungsrichtlinie erlassen wollen, darin enthalten sei etwa eine Beweiserleichterung für Verbraucherinnen und Verbraucher. Aber das Programm sei aus unbekannten Gründen dieses Jahr gestrichen worden. Was aber jeder Konzern nach europäischer KI-Verordnung tun müsse, sei, die Nutzung von KI transparent zu kennzeichnen. Das betrifft vor allem Bereiche, in denen diese mit Menschen interagieren, wie beispielsweise Chatbots. Des Weiteren seien Hochrisiko-KIs wie manipulative Sprach-Erzeugende-KI (auch bekannt als Enkel-Kind-Trick), Emotionserkennungen oder Systeme, die das Verhalten von Bürgerinnen und Bürgern wie in China bewerten, verboten. KI im Kreis Paderborn: Neues KI-Projekt soll Hochstift digitalisieren Was können Verbrauchende konkret machen? &bdquo;Je höher das Risiko beim Einsatz der KI, desto größer sind meine Sorgfaltspflichten als Unternehmen“, so Wittig. Die Firmen seien auch zu einer Dokumentationspflicht angehalten, um spätere Prozesse nachvollziehen zu machen. Auch für Cyber-Sicherheit müssen sie sorgen. Unternehmen rät der Anwalt, sich so früh wie möglich mit wichtigen Fragen auseinanderzusetzen, während des Einsatzes immer aufmerksam zu sein und Mitarbeitende zu schulen – was ab Februar sogar Pflicht sei. Der Rechtsanwalt nennt darüber hinaus noch Tipps für Verbraucherinnen und Verbraucher: aufmerksam sein, sich nicht alles gefallen lassen und sich selbst mit KI beschäftigen. Denn so entwickele man ein Verständnis für die neue Technik und könne verstehen, wie diese funktioniere. 📲 News direkt aufs Smartphone? Hier gehts zum kostenlosen Whatsapp-Kanal der NW Paderborn

Meistgelesen