FOR 5906 - SP 2: Protection against discrimination as a limit to machine decision-making

Basic data for this project

Description

Das Teilprojekt untersucht, inwieweit das Antidiskriminierungsrecht – welches auf menschliches Verhalten zugeschnitten ist - Entscheidungen autonomer Systeme beschränkt. Nachdem zunächst die Grundlagen des Antidiskriminierungsrechts herausgearbeitet worden sind, erfolgt im Rahmen einer intradisziplinären Untersuchung eine exemplarische Auseinandersetzung mit rechtlichen Aspekten des Arbeits-, Privat- und Sozialrechts. Allen drei untersuchten Bereichen ist nicht nur gemein, dass Auswahlentscheidungen durch autonome Systeme denkbar, teilweise schon Realität sind. Vielmehr ist die Interessenlage ähnlich: Auf der einen Seite stehen oft wirtschaftliche Erwägungen, etwa effektive Nutzung von Ressourcen und Kostenersparnis solcher Entscheidungen, während auf der anderen Seite aufgrund strukturellerer Unterlegenheit (etwa Arbeitnehmer*innen, Verbraucher*innen, Mieter*innen) oder eines hoheitlichen Verhältnisses (etwa Arbeitssuchende i.S.d. § 15 S. 2 SGB III, gesetzlich versicherte Personen) ein besonderes (Schutz-)Interesse besteht. Ziel des Teilprojekts ist es, die gefundenen Ergebnisse von den konkreten Konstellationen zu abstrahieren und Gemeinsamkeiten und zugrundeliegende Konzepte zu identifizieren. Es sollen Gestaltungsmöglichkeiten des Rechts erarbeitet werden, die darauf abzielen, das Recht zu vereinheitlichen und zu vereinfachen. Arbeitsziel ist es, ein über die drei Bereiche übergreifendes Schutzniveau herzustellen. Dabei ist das Teilprojekt für die Beantwortung der leitenden Fragestellung des Forschungsverbunds unbedingt erforderlich, da es den Diskriminierungsschutz facettenreich ausleuchtet und Lösungsansätze für die gesetzgeberische Praxis liefert, die ihre Gültigkeit über die untersuchten Teilbereiche hinaus beanspruchen - also auch in Teilbereiche anderer Teilprojekte hinein -, ohne dabei die unterschiedlichen Schutzniveaus aus dem Blick zu verlieren. Die Untersuchung in diesem Teilprojekt richtet sich an den folgenden Kernhypothesen aus: A. Eine stabile gesetzliche Grundlage mit hohen Standards ist unabdingbar, um potenziellen Diskriminierungen durch autonome Systeme wirksam begegnen zu können. B. Mit Blick auf das Schutzniveau ergibt die intradisziplinäre Untersuchung zentrale Unterschiede, die davon geprägt sind, ob der unionsrechtliche (Art. 21 GrCh) oder verfassungsrechtliche Gleichheitssatz (Art. 3 Abs. 1 GG) unmittelbar oder mittelbar wirkt, das AGG anwendbar ist oder keine dieser Varianten greift. Schutzlücken werden sichtbar; Erwägungen der Prävention kommen zu kurz. C. Aufbauend auf den gewonnenen Erkenntnissen kann ein kohärentes System des Diskriminierungsschutzes als Grenze maschinellen Entscheidens erarbeitet werden.