Eine mittelgroße Personalvermittlung in Manhattan zahlte vergangenen Monat 18.000 Dollar Strafe, weil sie einen einzigen KI-gestützten Lebenslauf-Filter ohne unabhängiges Bias-Audit eingesetzt hatte. Das Tool prüfte Bewerbungen für eine Remote-Stelle, die organisatorisch einem New Yorker Büro zugeordnet war. Diese Zuordnung reichte aus: NYC Local Law 144 gilt für alle Arbeitgeber, die Stellen mit Sitz in New York City besetzen, unabhängig davon, wo die Bewerber arbeiten.
Fast drei Jahre lang wurde Local Law 144 weitgehend als unverbindliche Empfehlung behandelt. Der Behörde für Verbraucherschutz (DCWP) fehlten Personal und Prozesse zur Durchsetzung. Das änderte sich im Dezember 2025, als der New Yorker State Comptroller einen Prüfbericht veröffentlichte, der die Durchsetzung als “ineffektiv” bezeichnete. Seit Januar 2026 führt die Behörde proaktive Ermittlungen durch, und die Strafen sind real.
Was Local Law 144 tatsächlich verlangt
Local Law 144 (auch AEDT-Gesetz genannt) regelt den Einsatz automatisierter Einstellungsentscheidungswerkzeuge (Automated Employment Decision Tools) für Positionen in New York City. Das Gesetz stellt drei zentrale Anforderungen, und die meisten Verstöße entstehen beim zweiten Punkt.
Das jährliche Bias-Audit
Jedes AEDT muss innerhalb der letzten 12 Monate einem unabhängigen Bias-Audit unterzogen worden sein. Das Audit muss auf disparate Auswirkungen (Disparate Impact) in den Kategorien Ethnie und Geschlecht testen. Die Ergebnisse müssen auf der Website des Arbeitgebers veröffentlicht werden. “Unabhängig” bedeutet: Der Prüfer darf weder beim Arbeitgeber noch beim AEDT-Anbieter angestellt sein. Spezialisierte Firmen wie Holistic AI, DCI Consulting und BLDS führen solche Audits durch. Die Kosten liegen zwischen 5.000 und 30.000 Dollar.
Der Punkt, der die meisten Arbeitgeber überrascht: Das Audit muss das Tool in der konkreten Einsatzkonfiguration prüfen, nicht nur das Standardmodell des Anbieters. Wer eigene Gewichtungen oder Filterkriterien anpasst, braucht ein Audit, das genau diese Anpassungen abdeckt.
Informationspflichten
Arbeitgeber müssen Bewerber mindestens 10 Werktage vor dem Einsatz eines AEDT informieren. Die Mitteilung muss erklären, welche Daten das Tool erhebt und wie es diese nutzt. Bewerber müssen die Möglichkeit haben, ein alternatives Auswahlverfahren zu beantragen. Jeder Tag, an dem ein Tool ohne korrekte Benachrichtigung läuft, zählt als separater Verstoß.
Wer betroffen ist
Das Gesetz gilt für Arbeitgeber, Personalvermittlungen und Zeitarbeitsfirmen, die Stellen in New York City besetzen. Remote-Positionen zählen, wenn sie organisatorisch einem NYC-Büro zugeordnet sind. Genau dieses Detail traf die Manhattaner Personalvermittlung: Die Kandidatenvorauswahl fand komplett online statt, aber die Stelle war einem Team in Manhattan zugeordnet.
Für DACH-Unternehmen mit US-Niederlassungen oder Kunden in New York ist das besonders relevant. Wer über eine US-Tochtergesellschaft in NYC einstellt oder Personaldienstleistungen für dortige Kunden erbringt, fällt unter das Gesetz.
Der Comptroller-Bericht, der alles veränderte
Vor Dezember 2025 stützte sich die DCWP-Durchsetzung ausschließlich auf eingegangene Beschwerden. Der Prüfbericht des Comptrollers deckte auf, dass dieses System auf jeder Ebene versagte.
75 % der Beschwerden gingen verloren
Das Büro des Comptrollers führte Testanrufe bei NYC 311 durch, der allgemeinen Hotline der Stadt, und meldete AEDT-Probleme. Drei von vier Anrufen wurden falsch weitergeleitet und erreichten die DCWP nie.
DCWP fand 1 Verstoß, Prüfer fanden 17
Die DCWP befragte 32 Unternehmen zu ihrem AEDT-Einsatz. Die Behörde fand einen einzigen Fall von Nicht-Compliance. Die Prüfer des Comptrollers überprüften dieselben 32 Unternehmen und identifizierten mindestens 17 potenzielle Verstöße. Die Kluft ist erschreckend: Die Compliance-Prüfungen der DCWP waren so oberflächlich, dass sie über 90 % der wahrscheinlichen Verstöße übersahen.
Was sich geändert hat
Die DCWP hat sich zu einem grundlegenden Umbau ihrer Prozesse verpflichtet: bessere Beschwerdeweiterleitung, geschulte Ermittler und proaktive Prüfkampagnen statt reiner Beschwerdebearbeitung. Die Analyse von DLA Piper warnt Arbeitgeber, mit einer “neuen Phase strenger Durchsetzung” zu rechnen, einschließlich häufigerer Ermittlungen und höherer Strafen. Die Strafen liegen bei 500 Dollar für den ersten Verstoß und bis zu 1.500 Dollar für jeden weiteren. Jeder Tag, an dem ein ungeprüftes Tool im Einsatz ist, gilt als separater Verstoß. Ein Tool, das 30 Tage ohne Audit läuft, kann Strafen von über 45.000 Dollar auslösen.
NYC steht nicht allein: Das regulatorische Flickwerk wächst
Local Law 144 war das erste KI-Einstellungsgesetz in den USA, aber es ist nicht mehr das einzige. Zwei große Landesgesetze treten 2026 in Kraft, und der EU AI Act stuft KI im Recruiting als Hochrisiko-System ein.
Illinois HB 3773 (seit 1. Januar 2026)
Illinois hat sein Menschenrechtsgesetz erweitert und KI-gestützte Diskriminierung bei Einstellung, Beförderung und Kündigung verboten. Anders als NYCs Gesetz verlangt Illinois kein formales Bias-Audit, verbietet aber die Nutzung von Postleitzahlen als Proxy für geschützte Merkmale und fordert Transparenz beim KI-Einsatz.
Colorado SB 25B-004 (ab 30. Juni 2026)
Colorados Gesetz ist die umfassendste einzelstaatliche KI-Regulierung. Es erfasst “Hochrisiko”-KI-Systeme bei wesentlichen Beschäftigungsentscheidungen und verlangt Folgenabschätzungen, laufende Überwachung und Information betroffener Personen.
EU AI Act: KI im Recruiting ist automatisch Hochrisiko
Unter dem EU AI Act sind KI-Systeme für Recruiting, Bewerbervorauswahl oder Beförderungsentscheidungen als Hochrisiko nach Anhang III eingestuft. Die Pflichten umfassen Risikomanagementsysteme, Datengovernance, menschliche Aufsicht und vollständige technische Dokumentation. Die Strafen reichen bis zu 35 Millionen Euro oder 7 % des weltweiten Umsatzes. Jedes Unternehmen mit Geschäftstätigkeit in der EU, das KI-Recruiting-Tools nutzt, muss dies einhalten.
Für DACH-Unternehmen ergibt sich eine doppelte Herausforderung: Wer in Deutschland, Österreich oder der Schweiz KI im Recruiting einsetzt, muss den EU AI Act einhalten. Wer zusätzlich für US-Standorte in NYC, Illinois oder Colorado einstellt, muss parallel die jeweiligen US-Anforderungen erfüllen. Ein einziges KI-Tool, das in allen vier Rechtsräumen eingesetzt wird, muss vier verschiedene Regulierungssysteme gleichzeitig erfüllen.
Was HR-Teams jetzt sofort tun sollten
Die Durchsetzungswende ist real. Abwarten ist die teuerste Strategie. Diese Schritte haben Priorität.
1. Alle KI-Tools im Einstellungsprozess inventarisieren
Die meisten HR-Abteilungen setzen mehr AEDTs ein als ihnen bewusst ist. Lebenslauf-Parser, Video-Interview-Analysen, Chatbot-Screener, Kompetenztest-Plattformen und sogar manche Bewerbermanagementsysteme können betroffen sein. Wenn ein Tool maßgeblich bei der Entscheidungsfindung unterstützt oder diese ersetzt, ist es wahrscheinlich ein AEDT. Jedes Tool erfassen, seine Funktion dokumentieren und prüfen, in welchen Rechtsräumen es zum Einsatz kommt.
2. Unabhängiges Bias-Audit beauftragen
Einen Prüfer wählen, der weder beim eigenen Unternehmen noch beim AEDT-Anbieter beschäftigt ist. Das Audit muss die tatsächliche Einsatzkonfiguration prüfen, nicht die Standardeinstellungen des Anbieters. Budget: 5.000 bis 30.000 Dollar je nach Komplexität. Das Audit jährlich erneuern und Erinnerungen setzen: Ein abgelaufenes Audit bedeutet tägliche Strafandrohung.
3. Ergebnisse veröffentlichen und Bewerber informieren
Bias-Audit-Ergebnisse auf der Karriereseite veröffentlichen. AEDT-Hinweise in den Bewerbungsprozess einbauen, mindestens 10 Werktage vor Einsatz. Bewerbern eine alternative Bewertungsmöglichkeit anbieten. Alles dokumentieren: Bei einer DCWP-Ermittlung ist die Dokumentation die beste Verteidigung.
4. Rechtsraumübergreifendes Compliance-Framework aufbauen
Wer in NYC, Illinois, Colorado oder der EU einstellt, sollte ein einheitliches Framework aufbauen, das alle geltenden Gesetze abdeckt. Die Vergleichsanalyse von Holistic AI zeigt: EU-AI-Act-Compliance deckt in der Regel die meisten Anforderungen der anderen Gesetze ab. Mit dem strengsten Standard zu beginnen und nach unten anzupassen ist effizienter als separate Compliance-Programme zu führen. In der DACH-Region heißt das: DSGVO- und EU-AI-Act-Konformität als Basis nutzen und für US-spezifische Anforderungen wie das NYC-Bias-Audit ergänzen.
Häufig gestellte Fragen
Was ist NYC Local Law 144 und wen betrifft es?
NYC Local Law 144 reguliert automatisierte Einstellungsentscheidungswerkzeuge (AEDTs), die bei der Besetzung von Stellen in New York City eingesetzt werden. Es gilt für Arbeitgeber, Personalvermittlungen und Zeitarbeitsfirmen, einschließlich der Besetzung von Remote-Stellen, die einem NYC-Büro zugeordnet sind. Das Gesetz verlangt ein jährliches unabhängiges Bias-Audit, die Veröffentlichung der Ergebnisse und eine Benachrichtigung der Bewerber mindestens 10 Werktage vor dem Einsatz.
Wie hoch sind die Strafen bei Verstößen gegen das NYC KI-Einstellungsgesetz?
Die Strafen beginnen bei 500 Dollar für den ersten Verstoß und reichen bis zu 1.500 Dollar für jeden weiteren. Jeder Tag, an dem ein ungeprüftes AEDT im Einsatz ist, zählt als separater Verstoß. Ein 30 Tage ohne Audit eingesetztes Tool kann Strafen von über 45.000 Dollar auslösen.
Wie unterscheidet sich das NYC KI-Einstellungsgesetz vom EU AI Act?
Beide stufen KI-Einstellungstools als besonders überwachungsbedürftig ein. NYC verlangt ein spezifisches jährliches Bias-Audit, Bewerberbenachrichtigung und Ergebnisveröffentlichung. Der EU AI Act stuft KI im Recruiting als Hochrisiko ein und fordert Risikomanagementsysteme, technische Dokumentation, menschliche Aufsicht und Datengovernance, mit Strafen bis zu 35 Millionen Euro oder 7 % des Umsatzes. Der EU AI Act ist umfassender, Local Law 144 ist spezifischer beim Audit-Format.
Was hat sich 2026 bei der Durchsetzung des NYC KI-Einstellungsgesetzes geändert?
Ein Prüfbericht des New Yorker Comptrollers vom Dezember 2025 deckte auf, dass die Durchsetzung der DCWP ineffektiv war: 75 % der Beschwerden wurden falsch weitergeleitet, und die Behörde übersah über 90 % der wahrscheinlichen Verstöße. Seit Januar 2026 hat die DCWP auf proaktive Ermittlungen umgestellt, mit besserer Beschwerdebearbeitung und geschulten Ermittlern.
Müssen DACH-Unternehmen NYC Local Law 144 beachten?
Ja, wenn sie für Stellen mit Sitz in New York City einstellen, sei es direkt oder über US-Tochtergesellschaften und Personaldienstleister. Auch Remote-Stellen, die einem NYC-Büro zugeordnet sind, fallen unter das Gesetz. Zusätzlich müssen DACH-Unternehmen den EU AI Act einhalten, der KI im Recruiting als Hochrisiko einstuft.