Das NYC Local Law 144 Bias Audit wird ernst: Was Arbeitgeber, die KI-Einstellungs-Tools nutzen, 2026 tun müssen

Wenn Sie in den letzten zwölf Monaten einen KI-Lebenslauf-Screener, eine automatisierte Videointerview-Plattform oder einen algorithmischen Kompetenztest verwendet haben, um auch nur einen einzigen Bewerber in New York City zu filtern – und Sie keinen unabhängigen Bias-Audit, keine öffentliche Audit-Zusammenfassung auf Ihrer Website und keine zehntägige Benachrichtigungsfrist für Kandidaten vorweisen können – verstoßen Sie gegen die Vorschriften. Bis vor kurzem war dies ein reines Papiertisiko. Nach einem brisanten Audit der Durchsetzungsbilanz des New York City Department of Consumer and Worker Protection im Dezember 2025 wird es nun zu einem realen Risiko.

Das Local Law 144 ist seit Januar 2023 in Kraft. Drei Jahre lang galt es weithin als zahnlos: Der NYC State Comptroller stellte fest, dass im Durchsetzungszeitraum von Juli 2023 bis Juni 2025 in einer Stichprobe von zweiunddreißig untersuchten Unternehmen nur ein einziger Verstoß identifiziert wurde, während die eigenen Auditoren des Comptrollers bei denselben Arbeitgebern mindestens siebzehn potenzielle Verstöße markierten. Diese Diskrepanz treibt die DCWP nun zu einer strengeren Durchsetzungsstrategie für 2026 – und sie trifft auf ein sich schnell ausbreitendes Geflecht staatlicher Gesetze zur KI-Einstellung, die am 1. Januar 2026 in Kraft getreten sind.

Dieser Leitfaden erläutert, was das Local Law 144 tatsächlich verlangt, was sich in der Durchsetzungslandschaft in diesem Jahr geändert hat und wie man die Compliance in New York City, Illinois, Kalifornien, Colorado und Maryland koordiniert, ohne das eigene Bewerber-Tracking-System von Grund auf neu aufbauen zu müssen.

Was als automatisiertes Beschäftigungsentscheidungstool gilt

Das Local Law 144 gilt für jedes „automatisierte Beschäftigungsentscheidungstool“ (Automated Employment Decision Tool) – abgekürzt AEDT –, das ein Arbeitgeber oder eine Arbeitsvermittlung nutzt, um diskretionäre Entscheidungen bei der Einstellung oder Beförderung eines Einwohners von New York City wesentlich zu unterstützen oder zu ersetzen.

Die Definition ist breiter, als die meisten Arbeitgeber anfangs annehmen. Die DCWP-Regeln decken ab:

• Lebenslauf-Parser und ATS-Scoring-Engines, die Kandidaten einstufen, bewerten oder anhand eines Schwellenwerts filtern
• Algorithmische Videointerview-Plattformen, die Körpersprache, Tonfall oder Wortwahl bewerten
• Persönlichkeits- und kognitive Assessments, die eine quantitative Punktzahl liefern, die zum Vorrücken oder Ablehnen von Kandidaten verwendet wird
• Prädiktive Kompetenztests, die Kandidaten mit einem Modell von Leistungsträgern vergleichen
• Chatbots und Screening-Agenten, die Kandidaten in die Kategorien „qualifiziert“ und „nicht qualifiziert“ einteilen

Ein Tool gilt als „wesentlich unterstützend“ für die Entscheidungsfindung, wenn es eine Punktzahl, eine Klassifizierung oder eine Empfehlung generiert, auf die sich ein Arbeitgeber stärker verlässt als auf jedes andere Kriterium, oder wenn es der einzige Input in einem bestimmten Schritt des Trichters ist. Dass weiterhin ein Mensch in den Prozess eingebunden ist, entbindet nicht von der Pflicht – entscheidend ist, ob die AEDT-Ausgabe die Entscheidung des Menschen maßgeblich beeinflusst.

Wenn Sie eines dieser Tools für Kandidaten einsetzen, die in New York City leben oder arbeiten, fallen Sie in den Anwendungsbereich, unabhängig davon, wo Ihr Unternehmen seinen Hauptsitz hat. Remote-First-Unternehmen und Arbeitgeber außerhalb des Bundesstaates sind nicht befreit.

Die drei zentralen Compliance-Verpflichtungen

Das Gesetz stützt sich auf drei Säulen. Werden diese missachtet, liegt ein Verstoß vor.

1. Ein unabhängiger Bias-Audit innerhalb der letzten zwölf Monate

Bevor Sie ein AEDT einsetzen – und danach mindestens einmal alle zwölf Monate – muss ein unabhängiger Prüfer einen Bias-Audit durchführen. Der Prüfer darf nicht der Anbieter sein, der das Tool entwickelt hat, darf kein finanzielles Interesse an der weiteren Nutzung des Tools haben und darf nicht an der Entwicklung oder dem Betrieb des AEDT für Ihr Unternehmen beteiligt gewesen sein.

Der Audit muss zwei Kennzahlen berechnen:

• Auswahlrate (Selection rate) – der Prozentsatz der Kandidaten in einer demografischen Kategorie, die ausgewählt, weitergeleitet oder über einem Schwellenwert bewertet wurden
• Bewertungsrate (Scoring rate) – der Prozentsatz der Kandidaten in einer demografischen Kategorie, die eine Punktzahl über dem Median der Stichprobe erhalten haben

Für jede Kennzahl berechnet der Prüfer ein Wirkungsverhältnis (Impact-Ratio), indem er die Rate jeder Kategorie durch die Rate der am höchsten bewerteten Kategorie teilt. Ein Wirkungsverhältnis unter 0,80 – die langjährige „Vier-Fünftel-Regel“ der EEOC für diskriminierende Auswirkungen – ist ein Warnsignal dafür, dass das Tool ein diskriminierendes Ergebnis liefern könnte.

Der Audit muss mindestens drei Dimensionen abdecken:

1. Geschlechterkategorien
2. Rassen- und ethnische Kategorien
3. Intersektionale Kategorien, die Geschlecht mit Rasse oder Ethnie kombinieren

Falls die für eine Kategorie verfügbaren Daten statistisch nicht ausreichen, muss der Prüfer dies im Bericht explizit angeben, anstatt die Kategorie wegzulassen. „Unbekannte“ oder „fehlende demografische Daten“ sind kein Freifahrtschein – von den Prüfern wird erwartet, dass sie die Lücke dokumentieren.

2. Eine öffentliche Zusammenfassung der Bias-Audit-Ergebnisse

Sie müssen eine Zusammenfassung des jüngsten Bias-Audits im öffentlich zugänglichen Bereich Ihrer Karriereseite veröffentlichen. Die Zusammenfassung muss enthalten:

• Das Datum des Audits
• Das Datum, an dem das AEDT zum ersten Mal verwendet wurde (oder wann Sie es zum ersten Mal bezogen haben)
• Die Auswahl- oder Bewertungsraten und Wirkungsverhältnisse für jede abgedeckte demografische Kategorie
• Einen deutlichen, direkten Link zur Audit-Zusammenfassung, den ein Kandidat finden kann, ohne sich anmelden zu müssen

Ein verstecktes PDF in den Karriere-FAQs genügt dem Gesetz nicht. Die DCWP erwartet, dass der Link so auffällig platziert ist, dass ein Kandidat ihn vernünftigerweise vor der Bewerbung finden kann. Wenn Sie mehrere AEDTs für verschiedene Rollen einsetzen, benötigen Sie möglicherweise mehrere Audit-Zusammenfassungen.

3. Zehn Werktage Benachrichtigungsfrist für Bewerber

Für jeden einzelnen Bewerber mit Wohnsitz in New York City müssen Sie eine Vorankündigung von mindestens zehn Werktagen leisten, bevor das AEDT zur Bewertung eingesetzt wird. Die Benachrichtigung muss Folgendes enthalten:

• Eine ausdrückliche Erklärung, dass ein automatisiertes Instrument verwendet wird
• Eine Beschreibung der Qualifikationen und Merkmale der Stelle, die das Instrument bewerten wird
• Anweisungen zur Beantragung eines alternativen Auswahlverfahrens oder einer angemessenen Vorkehrung (Reasonable Accommodation)
• Ein klarer Weg für den Bewerber, Informationen über die vom Instrument erhobenen Daten, deren Quelle und die Datenspeicherungsrichtlinie anzufordern (die Sie innerhalb von dreißig Tagen nach einer schriftlichen Anfrage bereitstellen müssen, sofern diese nicht bereits auf Ihrer Website verfügbar ist)

Die Benachrichtigung kann in die Stellenausschreibung eingebettet, per E-Mail nach der Bewerbung versandt oder in einer separaten schriftlichen Mitteilung enthalten sein – solange sie der AEDT-Bewertung um zehn Werktage vorausgeht. Eine Benachrichtigung, die einer Ablehnungs-E-Mail beigefügt ist, nachdem das Instrument bereits gelaufen ist, ist nicht konform.

Was sich 2026 geändert hat: Die Durchsetzung zeigt Zähne

Die meiste Zeit von 2023 bis 2025 setzte das DCWP das Local Law 144 fast ausschließlich durch Maßnahmen aufgrund von Beschwerden durch. Bei nur zwei eingegangenen Beschwerden während des gesamten zweijährigen Prüfungszeitraums wurden fast keine Strafen verhängt. Viele Arbeitgeber – und viele AEDT-Anbieter – kamen zu dem Schluss, dass das Gesetz sicher ignoriert werden könne.

Die Prüfung des New York State Comptroller vom 2. Dezember 2025 änderte diese Kalkulation. Die Prüfungsergebnisse im Klartext:

• 75 Prozent der Testanrufe bei der 311-Hotline von NYC zu AEDT-Problemen wurden falsch weitergeleitet und erreichten das DCWP nie.
• Das DCWP befragte 32 Unternehmen und stellte nur einen Fall von Nichteinhaltung fest, während die eigenen Prüfer des Comptrollers bei der Überprüfung derselben Unternehmen mindestens 17 potenzielle Verstöße identifizierten.
• Die Überprüfungen des DCWP zu öffentlich ausgehängten Bias-Audits waren „oberflächlich“ und folgten nicht den formellen Verfahren, die gemeinsam mit dem NYC Office of Technology and Innovation entwickelt wurden.
• Das DCWP hatte keine proaktiven, marktweiten Durchsetzungsmaßnahmen gegen Arbeitgeber ergriffen, von denen bekannt ist, dass sie AEDTs einsetzen.

Die Reaktion des DCWP bestand darin, sich für 2026 zu einem strengeren Durchsetzungsprogramm zu verpflichten. Erwartet werden:

• Routinemäßige Überprüfungen der Karriereseiten bekannter Arbeitgeber, um die veröffentlichten Zusammenfassungen der Bias-Audits zu verifizieren.
• Proaktive Schreiben bei Verstößen (Notice-of-Violation), wenn öffentliche Zusammenfassungen fehlen oder veraltet sind.
• Aggressivere Anwendung gesetzlicher Strafen – 500 $für einen ersten Verstoß und 1.500$ pro Tag für jeden weiteren Verstoß, wobei jede Bewerberbewertung potenziell als separater Verstoß gezählt werden kann.

Für ein Unternehmen, das ein AEDT dreißig Tage lang ohne aktuelles Bias-Audit betreibt, kann das Risiko leicht 15.000 bis 45.000 $ pro Instrument und Monat erreichen, noch bevor die Multiplikatoren pro Bewerber zum Tragen kommen. Bei Arbeitgebern mit hohem Bewerberaufkommen und mehreren AEDTs kann die kumulierte Summe schnell sechsstellige Beträge erreichen.

Dokumentation eines revisionssicheren Compliance-Programms

Die Durchsetzungshaltung des DCWP für 2026 veranlasst Arbeitgeber dazu, sich darauf zu konzentrieren, wie ein revisionssicheres Compliance-Programm tatsächlich aussieht. Die Kernelemente:

Ein AEDT-Inventar. Führen Sie eine schriftliche Liste jedes algorithmischen Instruments, das bei Einstellungs- oder Beförderungsentscheidungen eingesetzt wird, einschließlich Anbieter, Version, Datum der Einführung, abgedeckte Rollenkategorien und Datum des letzten Bias-Audits. Aktualisieren Sie diese vierteljährlich. Wenn das DCWP Unterlagen anfordert, sollte diese Liste innerhalb von 24 Stunden verfügbar sein.

Ein Prozess zum Lieferantenmanagement (Vendor Management). Verankern Sie die AEDT-Compliance in Ihren Beschaffungsverträgen. Verlangen Sie von den Anbietern jährliche Berichte über Bias-Audits, lassen Sie sich gegenüber einer Nichteinhaltung durch den Anbieter schadlos halten und fordern Sie eine Benachrichtigung an, wenn das zugrunde liegende Modell wesentlich geändert wird. Wenn ein Anbieter keine Audit-Daten bereitstellen kann oder will, ist dies bereits in der Beschaffungsphase ein Signal, dass die Beziehung nicht tragfähig ist.

Auswahl unabhängiger Prüfer. Der Prüfer darf nicht der Anbieter, ein mit dem Anbieter verbundenes Unternehmen oder eine Firma sein, die einen Teil ihres Umsatzes mit dem Design oder Betrieb von AEDTs für Ihr Unternehmen erzielt. Viele Arbeitgeber nutzen Firmen für Arbeits- und Organisationspsychologie, spezialisierte Firmen für algorithmische Audits oder große Wirtschaftsprüfungsgesellschaften mit entsprechenden Fachbereichen. Dokumentieren Sie die Feststellung der Unabhängigkeit schriftlich.

Mechanik der Bewerberbenachrichtigung. Standardisieren Sie den Benachrichtigungstext über alle Stellenausschreibungen hinweg und stellen Sie sicher, dass er automatisch versendet wird, wenn sich ein Kandidat bewirbt. Die Benachrichtigung sollte mit einem Zeitstempel versehen und in Ihrem ATS (Applicant Tracking System) oder Audit-Log gespeichert werden. Wenn ein Bewerber ein alternatives Verfahren oder eine Vorkehrung anfordert, dokumentieren Sie die Anfrage und die Antwort.

Veröffentlichung der Zusammenfassung des Bias-Audits. Veröffentlichen Sie jede Audit-Zusammenfassung an einem einheitlichen, leicht auffindbaren Ort auf Ihrer Karriereseite. Viele Arbeitgeber erstellen ein spezielles Verzeichnis wie /careers/ai-bias-audits/. Geben Sie das Audit-Datum, den AEDT-Anbieter und die Version, die analysierten demografischen Kategorien und die Impact Ratios an. Eine saubere, transparente Veröffentlichung ist an sich schon ein Abschreckungsmittel gegen beschwerdebasierte Durchsetzungsmaßnahmen.

Audit-Rhythmus und Erneuerung. Setzen Sie Kalendererinnerungen für 90 Tage vor dem zwölften Jahrestag des Audits. Das Audit dauert länger, als die meisten Arbeitgeber erwarten – in der Regel vier bis acht Wochen, sobald der Prüfer die demografischen Daten und Ergebnisdaten hat – und hektische Last-Minute-Aktionen sind eine häufige Fehlerquelle.

Das wachsende Flickwerk der Bundesstaaten

Local Law 144 ist nicht mehr das einzige KI-Einstellungsgesetz, das von Bedeutung ist. Seit dem 1. Januar 2026 sehen sich Arbeitgeber, die in mehreren Bundesstaaten tätig sind, einer vielschichtigen Compliance-Landschaft gegenüber:

Illinois HB 3773 — Inkrafttreten am 1. Januar 2026

Illinois hat es gemäß dem Illinois Human Rights Act zu einer Bürgerrechtsverletzung erklärt, wenn ein Arbeitgeber KI in einer Weise einsetzt, die eine diskriminierende Wirkung aufgrund eines geschützten Merkmals erzeugt. Das Gesetz gilt für die Anwerbung, Einstellung, Beförderung, Disziplinarmaßnahmen, Entlassung sowie die allgemeinen Bedingungen der Beschäftigung. Arbeitgeber müssen zudem eine vorherige schriftliche Benachrichtigung bereitstellen, wenn KI für einen dieser Zwecke eingesetzt wird.

Das Illinois Department of Human Rights hat Entwürfe für Richtlinien veröffentlicht, die die Anforderungen an die Benachrichtigung klären, einschließlich der Inhaltselemente und des Zeitpunkts vor der KI-Nutzung, an dem die Benachrichtigung zugestellt werden muss. Der bereits seit 2019 bestehende Illinois AI Video Interview Act bleibt in Kraft – er erfordert die Zustimmung der Bewerber, bevor KI zur Auswertung von Videointerviews eingesetzt wird, und erlegt Arbeitgebern demografische Berichtspflichten auf, die sich ausschließlich auf KI-Scoring verlassen, um Kandidaten im Auswahlprozess voranzubringen.

California ADMT-Regelungen — Inkrafttreten am 1. Januar 2026

Die Regelungen der California Privacy Protection Agency zur automatisierten Entscheidungsfindungstechnologie (Automated Decision-Making Technology, ADMT) traten am 1. Januar 2026 unter dem CCPA-Framework in Kraft. Arbeitgeber, die ADMT für „erhebliche Entscheidungen“ nutzen – wozu Einstellung, Beförderung, Kündigung und Vergütung gehören –, müssen eine Benachrichtigung vor der Nutzung bereitstellen, Risikobewertungen durchführen sowie Auskunfts- und Opt-out-Rechte gewähren. Kaliforniens geänderter Fair Employment and Housing Act hebt zudem Anti-Bias-Tests und proaktive Überwachung als zentrale Beweismittel in Diskriminierungsuntersuchungen hervor.

Colorado SB24-205 — Inkrafttreten am 1. Februar 2026 (ursprünglich), geändert durch HB25-1709

Der Artificial Intelligence Act von Colorado verpflichtet Anwender und Entwickler von „Hochrisiko-KI-Systemen“ – einschließlich solcher, die für folgenschwere Entscheidungen über die Beschäftigung verwendet werden –, angemessene Sorgfalt walten zu lassen, um algorithmische Diskriminierung zu vermeiden. Arbeitgeber müssen jährliche Folgenabschätzungen durchführen, Benachrichtigungen vor der Entscheidung bereitstellen und ein Recht auf Korrektur und Einspruch gegen nachteilige Entscheidungen einräumen. Die Änderungen von 2025 passten den Umfang und den Zeitplan an, hoben jedoch die Kernverpflichtungen nicht auf.

Maryland HB 1202

Maryland untersagt es Arbeitgebern, Gesichtserkennungstechnologie in Vorstellungsgesprächen ohne die schriftliche Zustimmung des Bewerbers zu verwenden. Dies ist enger gefasst als die Regelungen in NYC, Illinois oder Kalifornien, schafft jedoch eine separate Dokumentationspflicht für jede videobasierte Interviewplattform mit Gesichtsanalysefunktionen.

EEOC Title VII Technische Unterstützung

Im Mai 2023 veröffentlichte die EEOC ein Dokument zur technischen Unterstützung (Technical Assistance Document, TAD) über die Anwendung von Title VII auf KI in Personalauswahlverfahren. Das TAD übernimmt dieselbe Vier-Fünftel-Regel, die in Local Law 144 verwendet wird, und bestätigt, dass die Haftung für mittelbare Diskriminierung (disparate impact) für algorithmische Tools genauso gilt wie für traditionelle Auswahlverfahren. Bundesweite Ansprüche wegen mittelbarer Diskriminierung benötigen kein AEDT-Statut auf Bundesstaats- oder lokaler Ebene als Anknüpfungspunkt – sie können direkt unter Title VII geltend gemacht werden.

Wie man das Flickwerk operationalisiert, ohne den Verstand zu verlieren

Die meisten mittelgroßen Arbeitgeber können nicht fünf separate Programme zur AEDT-Compliance unterhalten. Der praktische Ansatz besteht darin, ein einzelnes Programm nach dem strengsten Standard zu entwerfen und dann die bundesstaatsspezifischen Abweichungen (Deltas) zu dokumentieren:

1. Nutzen Sie NYC Local Law 144 als Basis. Die Anforderungen an das Bias-Audit, die öffentliche Zusammenfassung und die Benachrichtigung der Kandidaten sind am präskriptivsten. Deren Einhaltung erfüllt im Allgemeinen auch die Benachrichtigungsregeln von Illinois und die ADMT-Benachrichtigungspflicht von Kalifornien vor der Nutzung.

2. Fügen Sie den Wortlaut der Folgenabschätzung aus Colorado hinzu. Selbst wenn Sie keine Bewerber aus Colorado haben, ist das Framework der Folgenabschätzung – Zweck, beabsichtigte Ergebnisse, Datenquellen und Risikominderung – ein starkes defensives Dokument für Title VII-Ansprüche wegen mittelbarer Diskriminierung.

3. Legen Sie die Zustimmung gemäß dem Illinois AI Video Interview Act über jedes Videotool. Wenn Sie HireVue, Modern Hire oder eine andere Plattform nutzen, die aufgezeichnete Videos bewertet, holen Sie die ausdrückliche Zustimmung der Bewerber ein und befolgen Sie die demografischen Berichtspflichten.

4. Klammern Sie die Gesichtserkennung für Maryland aus. Deaktivieren Sie Gesichtserkennungsfunktionen in Video-Interview-Tools für Kandidaten aus Maryland oder holen Sie vor dem Interview eine schriftliche Zustimmung ein.

5. Behandeln Sie das EEOC TAD als Ihre bundesweite Untergrenze. Welches AEDT Sie auch verwenden, führen Sie regelmäßig eine Analyse nach der Vier-Fünftel-Regel für Ihre eigenen Daten durch. Gesetze auf Bundesstaats- und lokaler Ebene werden kommen und gehen; Title VII bleibt.

Warum Buchhaltung und Aktenführung hier wichtig sind

Der rote Faden, der all diese Gesetze verbindet, ist die Dokumentation. Bias-Audits sind Dokumentation. Benachrichtigungen für Bewerber sind Dokumentation. Risikobewertungen sind Dokumentation. Feststellungen zur Unabhängigkeit von Anbietern sind Dokumentation. Wenn das DCWP, das Illinois Department of Human Rights oder die EEOC anklopfen, lautet die Frage nie, ob das Tool perfekt war – sondern ob Sie eine saubere, datierte und versionskontrollierte Aufzeichnung Ihrer Compliance-Entscheidungen vorlegen können.

Viele Arbeitgeber unterschätzen den Buchhaltungsaufwand für den Betrieb eines AEDT-Compliance-Programms. Allein das Benachrichtigungsprotokoll für Bewerber – zeitgestempelte Aufzeichnungen pro Bewerber über die Zustellung der Benachrichtigung, Anträge auf angemessene Vorkehrungen und Antworten – kann bei einem mittelgroßen Arbeitgeber auf zehntausende Datensätze pro Jahr anwachsen. Der Datensatz der Voreingenommenheitsprüfung, die Anbieterverträge, die Audit-Berichte und die Versionen der öffentlichen Zusammenfassungen benötigen alle eine Aufbewahrungs- und Versionshistorie, die Personalwechsel überdauert. Die Dokumentation der AEDT-Compliance mit der gleichen Sorgfalt zu behandeln, die Sie bei der Finanzbuchhaltung anwenden, ist nicht länger optional.

Halten Sie Ihre Compliance-Unterlagen genauso prüfbar wie Ihre Geschäftsbücher

Dieselbe Disziplin, die Ihre Finanzunterlagen prüfungsbereit hält – klare Versionierung, Nur-Text-Formate, die jeder ohne Anbieter-Login lesen kann, und eine Historie, die Sie Entscheidung für Entscheidung nachvollziehen können – ist genau das, was ein AEDT-Compliance-Programm benötigt. Beancount.io bietet Nur-Text-Buchhaltung, die Ihnen vollständige Transparenz und Kontrolle über Ihre Finanzdaten ermöglicht, ohne Blackboxen und ohne Anbieterbindung. Starten Sie kostenlos und erfahren Sie, warum Entwickler, Finanzprofis und compliance-bewusste Akteure auf eine Nur-Text-Buchhaltung umsteigen, die sie selbst verifizieren können.