Automatisierte Entscheidungssysteme stärker regulieren

Stand:
Seien es Suchmaschinen, Scorings oder Sprach-Assistenten: Verbraucher*innen sind zunehmend mit dem Einsatz von automatisierten Verfahren konfrontiert, die Entscheidungen treffen oder vorbereiten.
Illustration des Brandenburger Tors aus Leiterbahnen eines Chips

Die automatisierten Entscheidungssysteme (AES) können Risiken für Verbraucher*innen schaffen, indem AES beispielsweise fehlerhafte und diskriminierende Entscheidungen treffen, weshalb mehr Transparenz und Kontrolle notwendig sind.

Off

Auf Bundesebene sollte sichergestellt werden, dass Verbraucher*innen transparente Informationen darüber erhalten, warum und auf welcher Datengrundlage konkrete Entscheidungen über sie getroffen oder automatisiert vorbereitet wurden. Bei risokoreichen AES sollten die Hersteller die angewendeten Verfahren zusätzlich erläutern, um Nachvollziehbarkeit zu schaffen. Somit wird gewährleistet, dass unabhängige Expert*innen oder Aufsichtsinstitutionen die AES prüfen können.

Es muss geklärt sein, welche Berliner Aufsichtsinstitutionen für AES zuständig sind, damit Verbraucher*innen bei Problemen kompetente Ansprechpartner*innen haben. Um kontinuierlich auf dem Stand der technologischen Entwicklungen zu sein, müssen die Aufsichtsinstitutionen entsprechend mit Ressourcen und Expertise ausgestattet werden. Des Weiteren benötigen sie ausreichend Befugnisse, damit sie AES kontrollieren können.

Bisher hat Berlin kein Register darüber, wo AES in Landesbetrieben oder Verwaltungen im Einsatz sind, obwohl dies dringend notwendig wäre.

Deshalb fordert die Verbraucherzentrale:

  • Auf Bundesebene muss die Überprüfbarkeit von Daten und Verfahren gesetzlich verankert werden.
  • Die Zuständigkeiten für die Aufsicht über AES in Berlin müssen festgelegt werden.
  • Es muss ein Register erstellt werden, wo AES in Berliner Landesbetrieben und Verwaltungen im Einsatz sind.
Eine Frau blickt auf eine digitale Anzeige.

"Meta AI" bei Facebook, Instagram und WhatsApp – so widersprechen Sie

Meta will nun auch in Europa öffentliche Nutzerinhalte fürs Training der KI "Meta AI" verwenden. Das hat auch etwas mit dem blauen Kreis im Facebook Messenger, bei Instagram und WhatsApp zu tun. Sie können der Nutzung Ihrer Daten widersprechen, den Chatbot mit dem blauen Kreis aber nicht abschalten.
Ein Smartphone zeigt die UK-Regierungswebsite zur Beantragung der elektronischen Reisegenehmigung (ETA) für das Vereinigte Königreich an. Im Hintergrund ist ein verschwommener Bildschirm mit weiteren Informationen zur ETA sichtbar.

ETA für Großbritannien beantragen – Wie erkenne ich betrügerische Seiten?

Seit April 2024 ist für Reisen nach Großbritannien eine ETA nötig, wenn kein anderer Aufenthaltstitel oder Visum vorliegt. Wer nicht genau hinsieht, zahlt schnell das Zehnfache des offiziellen Preises – und hat immer noch keine Einreisegenehmigung.
Eine Fahrradfahrerin vor dem Reichstag.

Koalitionsvertrag 2025: Was er für Verbraucher:innen bedeutet

Die nächste Bundesregierung aus Union und SPD hat in ihrem Koalitionsvertrag etliche Maßnahmen angekündigt, die den Alltag von Verbraucher:innen verbessern sollen. Der Verbraucherzentrale Bundesverband (vzbv) hat 100 dieser Vorhaben geprüft – mit gemischtem Fazit, auch wenn die Richtung stimmt.