Die Verbraucherzentrale NRW verkennt nicht, dass die Nutzung von Big Data viele Vorteile für Verbraucher:innen mit sich bringt. Doch lautet die Herausforderung, die Chancen zu nutzen und gleichzeitig die Risiken zu minimieren.
Denn Big Data und algorithmische Entscheidungsfindungen verändern die Konsumwelt erheblich. Unternehmen bestimmen mit Hilfe von Alexa und Co., welche Angebote die Verbraucher:innen erhalten und Energieversorger wissen durch Smart-Home-Geräte, ob die Bewohner:innen zu Hause sind. Je mehr die Unternehmen über die Menschen wissen und je besser die Daten ausgewertet und kategorisiert werden, desto zielgenauer werden die Angebote. Auch der Sachverständigenrat für Verbraucherfragen stellt vor diesem Hintergrund fest: „Je mehr Verbraucherinnen und Verbraucher an der ‚Datafizierung‘ teilnehmen, desto mehr wird dies gesellschaftliche Auswirkungen haben. Die kurzfristige Vorteilnahme kann zur langfristigen Unfreiheit werden. Denn wie frei sind (Konsum-)Entscheidungen, wenn die Optionen (Produktauswahl und Preise) von den Anbietern mithilfe von Algorithmen ex ante eingeschränkt werden; wenn Produkt- und Preisvergleiche nicht mehr möglich sind, weil Verbraucher:innen jeweils ein individuelles Internetfenster sehen, und dieses nicht einmal bemerken? Welche gesellschaftlichen und ökonomischen Machtverhältnisse entstehen, wenn Verbraucher:innen weder über ihren Konsum noch über die politischen Inhalte und ihre Meinungsbildung/-bestätigung autonom entscheiden können.“
Darüber hinaus ist bei Algorithmen häufig unklar, aufgrund welcher Kriterien Entscheidungen getroffen und wie die verschiedenen Kriterien gewichtet werden. Es besteht die Gefahr der Diskriminierung. Algorithmen sind nicht immer neutral und auch nicht frei von einer ggf. verzerrten menschlichen Wahrnehmung. So ist beispielsweise die Nutzung von Geodaten beim Scoring eine Quelle für Verzerrungen, indem Wohngebiete in gute und schlechte Gegenden eingeteilt werden, ohne dass dies etwas über das Individuum aussagt, das in diesen Gebieten lebt.
Diese ethischen Bedenken fordern einen verantwortungsvollen Umgang mit der Technik. Damit geht einher, dass Programmier:inner die Verantwortung haben, die Algorithmen nach ethischen Kriterien zu gestalten. Im Zentrum steht also ein ethisches IT-Design.
Und nicht zuletzt bedarf es auch einer Kontrolle und vielleicht auch einer Zulassung. Regulierung ist aus Sicht des Verbraucherschutzes jedenfalls notwendig. Relevante algorithmenbasierte Entscheidungsprozesse sollten durch ein unabhängiges, staatlich legitimiertes Kontrollsystem überwacht werden können. Die Entwicklung eines solchen Kontrollsystems stellt hohe Anforderungen an Politik und Wissenschaft und sollte von der Landesregierung durch entsprechende Fördermaßnahmen unterstützt werden.