Was muss getan werden, wenn algorithmische Entscheidungssysteme diskriminieren? Und wie lässt sich das verhindern? Diesen Fragen gingen Fachleute beim Fachgespräch zur KI der Antidiskriminierungsstelle des Bundes nach.

Denn KI und algorithmische Entscheidungssysteme nehmen bestehende Vorurteile und Ungleichheiten auf und können sie sogar verstärken. Dem muss vorgebeugt werden, auch gesetzgeberisch:

Was auf den ersten Blick objektiv wirkt, kann automatisch Vorurteile und Stereotype reproduzieren. Die Gefahren digitaler Diskriminierung dürfen wir nicht unterschätzen. Der Schutz vor algorithmischer Diskriminierung muss deshalb auch gesetzlich geregelt werden.

Ferda Ataman, Unabhängige Bundesbeauftragte für Antidiskirminierung.

Bei dem Fachgespräch ging es sowohl um Reformbedarf im deutschen Antidiskriminierungsrecht als auch um die Umsetzung der KI-Verordnung der Europäischen Union. Das Allgemeine Gleichbehandlungsgesetz kann Menschen aktuell nicht wirksam vor Diskriminierung durch KI schützen. Wo und wie es reformiert werden sollte, erläuterten Professorin Dr. Indra Spiecker und Professor Dr. Emanuel V. Towfigh, die für die Antidiskriminierungsstelle des Bundes ein Rechtsgutachten verfasst haben. Mit Expert*innen aus Politik, Wissenschaft und Zivilgesellschaft diskutierte Ataman zudem, ob und wie ihre Umsetzung in deutsches Recht Diskriminierungsgefahren reduzieren kann.

Die Antidiskriminierungsstelle hatte sich dem Thema bereits 2019 in einer Studie von Dr. Carsten Orwat gewidmet. Dr. Orwat arbeitete darin die besonderen Diskriminierungsrisiken heraus, die algorithmische Entscheidungssysteme mit sich bringen.