Automatisierte Entscheidungssysteme stärker regulieren

Stand:
Seien es Suchmaschinen, Scorings oder Sprach-Assistenten: Verbraucher*innen sind zunehmend mit dem Einsatz von automatisierten Verfahren konfrontiert, die Entscheidungen treffen oder vorbereiten.
Illustration des Brandenburger Tors aus Leiterbahnen eines Chips

Die automatisierten Entscheidungssysteme (AES) können Risiken für Verbraucher*innen schaffen, indem AES beispielsweise fehlerhafte und diskriminierende Entscheidungen treffen, weshalb mehr Transparenz und Kontrolle notwendig sind.

Off

Auf Bundesebene sollte sichergestellt werden, dass Verbraucher*innen transparente Informationen darüber erhalten, warum und auf welcher Datengrundlage konkrete Entscheidungen über sie getroffen oder automatisiert vorbereitet wurden. Bei risokoreichen AES sollten die Hersteller die angewendeten Verfahren zusätzlich erläutern, um Nachvollziehbarkeit zu schaffen. Somit wird gewährleistet, dass unabhängige Expert*innen oder Aufsichtsinstitutionen die AES prüfen können.

Es muss geklärt sein, welche Berliner Aufsichtsinstitutionen für AES zuständig sind, damit Verbraucher*innen bei Problemen kompetente Ansprechpartner*innen haben. Um kontinuierlich auf dem Stand der technologischen Entwicklungen zu sein, müssen die Aufsichtsinstitutionen entsprechend mit Ressourcen und Expertise ausgestattet werden. Des Weiteren benötigen sie ausreichend Befugnisse, damit sie AES kontrollieren können.

Bisher hat Berlin kein Register darüber, wo AES in Landesbetrieben oder Verwaltungen im Einsatz sind, obwohl dies dringend notwendig wäre.

Deshalb fordert die Verbraucherzentrale:

  • Auf Bundesebene muss die Überprüfbarkeit von Daten und Verfahren gesetzlich verankert werden.
  • Die Zuständigkeiten für die Aufsicht über AES in Berlin müssen festgelegt werden.
  • Es muss ein Register erstellt werden, wo AES in Berliner Landesbetrieben und Verwaltungen im Einsatz sind.
Zwei Frauen liegen vor einem Laptop, der die Internetseite der Firma Giga Fiber zeigt.

Gratis-Glasfaser gegen Zahlungsdaten: Giga Fiber abgemahnt wegen Werbung

Schnelles Internet dank Glasfaser-Anschluss ganz ohne Kosten? Damit wirbt der Anbieter Giga Fiber. Als Bedingung nennt er, dass Sie regelmäßige Zahlungen wie Miete, Mobilfunkrechnung und sogar Kredittilgung über einen noch unbekannten Dienstleister abwickeln sollen.
Justitia Gericht Urteil Recht

Verbraucherzentrale Bundesverband: Sammelklage gegen ExtraEnergie

Der Verbraucherzentrale Bundesverband (vzbv) verklagt den Anbieter ExtraEnergie. Es geht um enorme Preiserhöhungen um häufig mehr als 100 Prozent. Mit der Sammelklage will der vzbv Rückzahlungen für Kund:innen erreichen. Es ist die vierte Sammelklage innerhalb weniger Wochen.
Eine person hält einen Ausweis vor einen Computer mit einer Frau mit Lupe. Daneben das Wort Warnung in einem Ausrufezeichen.

Video-Ident-Verfahren: Warnung vor Missbrauch

Mitarbeitende von betrügerischen Trading-Plattformen überreden Verbaucher:innen, an Video-Ident-Verfahren teilzunehmen. Auf dieser Basis und weiterer persönlicher Daten und Dokumente haben sie heimlich einen Kredit bei einer Bank beantragt. Wie schützen Sie sich und was können Sie tun?