Chancen und Risiken großer Datenmengen reflektieren

Conversion rauf, Fairness runter?

Conversion Rate +11 %. Preisaufschlag bis 8 % je nach Endgerät und Wohnort. Diese beiden Zahlen liegen donnerstags um 14:30 Uhr auf der Leinwand im Big-Data-Workshop deines E-Commerce-Teams. Das neue Pricing-Tool wertet Klickstream, Gerätetyp und Standortdaten in Echtzeit aus und passt Produktpreise automatisch an. iPhone-Nutzer:innen aus München zahlen mehr als Android-Nutzer:innen aus Gelsenkirchen.

Die Teamleiterin fragt in die Runde: "Rollen wir das aus?" Rechtlich ist dynamisches Pricing nicht verboten. Aber wenn Kund:innen den Mechanismus entdecken, drohen Shitstorm und massiver Vertrauensverlust.

Welche Kriterien brauchst du, um zu beurteilen, ob dieses Pricing ethisch vertretbar ist?

Drei Chancen, drei Risiken

Große Datenmengen im E-Commerce eröffnen drei zentrale Chancen:

1. Personalisierung - Produktempfehlungen auf Basis der Kaufhistorie steigern den Warenkorbwert.
2. Dynamisches Pricing - Preise passen sich an Nachfrage und Zahlungsbereitschaft an.
3. Prognose - Nachfrageprognosen machen die Bestandsplanung genauer, Überbestände sinken.

Diesen Chancen stehen drei Risiken gegenüber:

1. Datenschutzverstöße - unerlaubte Profilbildung kann DSGVO-Bußgelder in Millionenhöhe auslösen.
2. Kund:innen geraten durch Filterblasen in eine einseitig vom Algorithmus kuratierte Produktwelt.
3. Diskriminierung - Preisunterschiede nach Wohnort oder Endgerät benachteiligen bestimmte Gruppen systematisch.

Für einen mittelständischen Onlineshop wiegt das Diskriminierungsrisiko besonders schwer: Die Kundenbasis ist kleiner, ein Vertrauensverlust trifft härter als bei einem Großkonzern.

⚖️ Vergleich im Kopf: Personalisierte Produktempfehlungen und personalisierte Preise nutzen dieselben Datenquellen. Warum wird das eine als Service und das andere als Diskriminierung empfunden?

Drei Kriterien für den Ethik-Check

Um das Pricing-Tool aus dem Workshop zu beurteilen, brauchst du einen systematischen Prüfrahmen. Drei Kriterien helfen dir:

1. Fairness - Werden bestimmte Gruppen systematisch benachteiligt? Beim Pricing-Tool basiert die Preisdifferenz nicht auf einer bewussten Entscheidung der Kund:innen, sondern auf Wohnort und Gerät. Das ist keine Rabattaktion, sondern verdeckte Ungleichbehandlung.
2. Wissen die Kund:innen, dass ihre Preise individuell berechnet werden? Ohne Transparenz können sie Preise nicht vergleichen und keine informierte Kaufentscheidung treffen.
3. Schadensrisiko - Welcher konkrete Schaden entsteht? Einzelne zahlen mehr für dasselbe Produkt. Wer den Mechanismus entdeckt, fühlt sich betrogen. Und ein einziger Medienbericht kann den Umsatz stärker senken, als die Conversion-Steigerung einbringt.

Der Pricing-Fall im Ethik-Check

Wende die drei Kriterien auf das Pricing-Tool an:

Alle drei Kriterien sprechen gegen einen Rollout in der aktuellen Form. Technisch legal bedeutet nicht automatisch ethisch vertretbar.

🤔 Frage dich: Deine Kollegin argumentiert: "Fluggesellschaften machen dynamisches Pricing seit Jahren - warum soll das bei uns anders sein?" Was antwortest du?

Drei Governance-Mechanismen

Zurück zum Workshop: Statt das Pricing-Tool blind auszurollen, braucht dein Team ein Governance-Konzept. Drei Mechanismen bilden das Fundament:

1. Privacy-by-Design - Schon bei der Entwicklung neuer Features wird geprüft, welche Daten wirklich nötig sind. Die IT-Leitung prüft das vor jedem Feature-Release.
2. Löschfristen werden durch Datenminimierung automatisiert. Daten, die für den ursprünglichen Zweck nicht mehr gebraucht werden, verschwinden aus dem System. Die datenschutzbeauftragte Person kontrolliert das quartalsweise.
3. Algorithmic Auditing - Eine externe Prüfstelle untersucht halbjährlich, ob Algorithmen bestimmte Gruppen benachteiligen.

Bei Auffälligkeiten greift ein fester Eskalationsweg: Fachabteilung meldet an die datenschutzbeauftragte Person, diese eskaliert bei Bedarf an die Geschäftsführung.

Was bedeutet das für die Pricing-Entscheidung?

Mit diesem Governance-Rahmen lässt sich die Frage aus dem Workshop beantworten: Das Pricing-Tool besteht in der jetzigen Form den Ethik-Check nicht. Aber mit Anpassungen wäre ein verantwortungsvoller Einsatz denkbar: Preisdifferenzierung nur nach Nachfragezeitpunkt statt nach Wohnort, transparenter Hinweis auf dynamische Preise und ein halbjährliches Audit auf Diskriminierungsmuster.

🧑‍🏫 Erkläre es im Kopf: Stell dir vor, du erklärst der Geschäftsführung in drei Sätzen, warum ein Algorithmic Audit notwendig ist, obwohl das Pricing-Tool legal arbeitet - wie formulierst du das?