Automatisierte Entscheidungssysteme stärker regulieren

Stand:
Seien es Suchmaschinen, Scorings oder Sprach-Assistenten: Verbraucher*innen sind zunehmend mit dem Einsatz von automatisierten Verfahren konfrontiert, die Entscheidungen treffen oder vorbereiten.
Illustration des Brandenburger Tors aus Leiterbahnen eines Chips

Die automatisierten Entscheidungssysteme (AES) können Risiken für Verbraucher*innen schaffen, indem AES beispielsweise fehlerhafte und diskriminierende Entscheidungen treffen, weshalb mehr Transparenz und Kontrolle notwendig sind.

Off

Auf Bundesebene sollte sichergestellt werden, dass Verbraucher*innen transparente Informationen darüber erhalten, warum und auf welcher Datengrundlage konkrete Entscheidungen über sie getroffen oder automatisiert vorbereitet wurden. Bei risokoreichen AES sollten die Hersteller die angewendeten Verfahren zusätzlich erläutern, um Nachvollziehbarkeit zu schaffen. Somit wird gewährleistet, dass unabhängige Expert*innen oder Aufsichtsinstitutionen die AES prüfen können.

Es muss geklärt sein, welche Berliner Aufsichtsinstitutionen für AES zuständig sind, damit Verbraucher*innen bei Problemen kompetente Ansprechpartner*innen haben. Um kontinuierlich auf dem Stand der technologischen Entwicklungen zu sein, müssen die Aufsichtsinstitutionen entsprechend mit Ressourcen und Expertise ausgestattet werden. Des Weiteren benötigen sie ausreichend Befugnisse, damit sie AES kontrollieren können.

Bisher hat Berlin kein Register darüber, wo AES in Landesbetrieben oder Verwaltungen im Einsatz sind, obwohl dies dringend notwendig wäre.

Deshalb fordert die Verbraucherzentrale:

  • Auf Bundesebene muss die Überprüfbarkeit von Daten und Verfahren gesetzlich verankert werden.
  • Die Zuständigkeiten für die Aufsicht über AES in Berlin müssen festgelegt werden.
  • Es muss ein Register erstellt werden, wo AES in Berliner Landesbetrieben und Verwaltungen im Einsatz sind.
Eine Person hat Fragezeichen im Kopf und schaut auf eine Rechnung der PVZ.

Vorsicht bei Rechnungen der PVZ für Zeitschriften-Abos

Verbraucher:innen berichten, dass ihnen ein kostenloses Probe-Abo für Zeitschriften angeboten wurde. Doch später erhalten sie eine Rechnung über ein kostenpflichtiges Zeitschriften-Abo von der Pressevertriebszentrale (PVZ). Es handelt sich um eine Abofalle. Was müssen Sie wissen und können Sie tun?
Vodafone-Firmenschild vor Hochhaus

Sammelklage gegen Vodafone: Jetzt anmelden!

Der Verbraucherzentrale Bundesverband (vzbv) verklagt Vodafone Kabel wegen unzulässiger Preiserhöhungen. Das Oberlandesgericht Hamm hat nun eine mündliche Verhandlung für den 3. Dezember 2025 angesetzt. Damit ist der 24. Dezember voraussichtlich der letzte Tag, an dem sich Betroffene für die Klage an- oder abmelden können.
Karten von Eventim

Verlegte Veranstaltungen: Urteil und Musterklage gegen Eventim

Die Erstattung von Vorverkaufsgebühren für Veranstaltungstickets kann nach dem Urteil des LG München I nicht pauschal in AGB ausgeschlossen werden. Verbraucher:innen berichten aber, dass Eventim weiterhin Gebühren einbehalte. Dagegen klagt nun der vzbv. Ab sofort ist das Klageregister eröffnet.