aktuell meistgelesener Artikel

Der European AI Act: Das müssen HR-Abteilungen darüber wissen

Wissen Sie, wie der neue EU AI Act Ihre HR-Prozesse verändern wird? Von Risikobewertung bis hin zu innovativen Chancen – wir beantworten die wichtigen Fragen für Personalverantwortliche und Hersteller von KI-Software.

Lange haben HR-Entscheider auf den European AI Act gewartet. Nachdem er Ende 2023 auf den Weg gebracht wurde, fragen sich viele: Was bedeutet der Vorschlag konkret für mich – und meine HR-Abteilung?

Begonnen bereits im April 2021, markiert der EU AI Act einen Meilenstein in der EU-Gesetzgebung. Die Grundidee des neuen KI-Gesetzes lässt sich so formulieren: Der AI Act zielt darauf ab, das Vertrauen in KI zu stärken, die Grundrechte zu schützen und die Sicherheit und Haftung zu gewährleisten. Er stellt einen signifikanten Fortschritt in den Bestrebungen der EU dar, eine neue Stufe der Aufsicht über die vielversprechende, aber auch risikobehaftete Technologie einzuführen – vergleichbar mit der Regulierung in der Gesundheits- und Bankenbranche.

Der AI Act betrifft in erster Linie Anbieter, Hersteller, Importeure, Vertriebspartner und Nutzer von KI-Systemen. Er etabliert für sie detaillierte Verpflichtungen und legt strenge Anforderungen in diesem Sektor fest – allerdings für die Hauptakteure, wie zum Beispiel den Hersteller von ChatGPT OpenAI. Generell ist hier der Tenor: Das KI-Gesetz zielt darauf ab, Innovation zu fördern, während gleichzeitig sichergestellt werden soll, dass KI-Systeme transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind.

Aber auch die HR-Abteilungen von Unternehmen, die KI nutzen oder nutzen wollen, um ihre Personalprozesse zu optimieren, kommen nicht umher sich mit dem Thema intensiv zu beschäftigen. Bei Nichtbefolgung drohen erhebliche regulatorische Strafen, zivilrechtliche Klagen und individuelle Beschwerden.

In diesem Artikel gehen wir auf folgende Themen ein:

Wo ist der EU AI Act für KI im HR-Bereich relevant?

Der AI Act unterscheidet zwischen vier Risikostufen von KI-Anwendungen: verboten, hochriskant, begrenzt und minimal riskant. Für HR-Abteilungen sind vor allem die hochriskanten und die begrenzten KI-Anwendungen relevant, da sie besondere Anforderungen an die Transparenz, die Qualität und die Überprüfbarkeit der KI-Systeme stellen.

  • Hochriskante KI-Anwendungen: Anwendungsfälle, die in sensiblen Bereichen wie Gesundheit, Bildung, Beschäftigung oder Justiz eingesetzt werden und die Rechte oder die Sicherheit von Menschen erheblich beeinflussen können, gelten als hochriskant. Beispiele im Human-Resources-Bereich sind KI-Systeme, die Bewerber auswählen, Mitarbeiter bewerten oder entlassen oder die Gehälter und Karrierechancen bestimmen.
  • Begrenzte oder minimal riskante KI-Anwendungen: Diese können menschliche Autonomie oder die Qualität der demokratischen Prozesse beeinträchtigen. Etwa KI-Systeme, die Emotionen oder Verhaltensweisen erkennen oder manipulieren oder die personalisierte Werbung oder Inhalte anbieten, gelten als begrenzt riskant. Beispiele in HR sind KI-Systeme, die Mitarbeiter motivieren, schulen oder coachen oder die die Mitarbeiterzufriedenheit oder das Engagement messen.

    KI-Systeme, die Lebensläufe auf Schlüsselwörter oder bestimmte Qualifikationen scannen, sind ebenfalls minimal riskant. Diese Systeme helfen dabei, den Bewerberpool zu verkleinern, aber sie treffen keine endgültigen Entscheidungen über die Eignung eines Kandidaten.

    Chatbots können einfache Anfragen von Kandidaten beantworten, wie Fragen zu Stellenbeschreibungen, Unternehmenskultur oder zum Bewerbungsverfahren. Sie bieten schnelle Antworten, ersetzen aber keine menschliche Interaktion bei komplexeren Anliegen – und gelten somit als minimal riskant.

Tipp: Auf der Suche nach einer einfachen Lösung für HR-Prozesse? Testen Sie jetzt kostenlos unsere Personalmanagement Software

Welche Pflichten haben HR-Abteilungen unter dem AI Act?

HR -Abteilungen, die hochriskante KI-Anwendungen nutzen oder nutzen wollen, müssen eine Reihe von Pflichten erfüllen, die in dem AI Act festgelegt sind. Dazu gehören unter anderem:

  • Sie müssen eine Risikobewertung durchführen, um die potenziellen Auswirkungen der KI-Anwendung auf die Grundrechte, die Sicherheit und die Diskriminierung zu identifizieren und zu minimieren.
  • Sie müssen die Qualität der Daten, die für die Entwicklung, die Validierung und den Betrieb der KI-Anwendung verwendet werden, sicherstellen und dokumentieren.
  • Sie müssen die technische Robustheit, die Genauigkeit und die Sicherheit der KI-Anwendung gewährleisten und regelmäßig überprüfen.
  • Sie müssen die menschliche Aufsicht über die KI-Anwendung sicherstellen und die Möglichkeit vorsehen, die KI-Anwendung zu stoppen oder zu korrigieren, wenn dies erforderlich ist.
  • Sie müssen die Transparenz und die Nachvollziehbarkeit der KI-Anwendung gewährleisten und den Nutzern und den Betroffenen klare Informationen über die Funktionsweise, die Ziele, die Grenzen und die Risiken der KI-Anwendung bereitstellen.
  • Sie müssen ein System zur Registrierung, zur Meldung und zur Behebung von Vorfällen oder Fehlern im Zusammenhang mit der KI-Anwendung einrichten.

HR-Abteilungen, die begrenzte KI-Anwendungen schon im Einsatz haben oder zukünftig nutzen wollen, müssen vor allem die Transparenz und die Wahlfreiheit der Nutzer sicherstellen. Sie müssen deutlich kennzeichnen, dass sie KI-Anwendungen einsetzen, die Emotionen oder Verhaltensweisen erkennen oder manipulieren oder personalisierte Werbung oder Inhalte anbieten und sie müssen den Bewerbern die Möglichkeit geben, sich von diesen KI-Anwendungen abzumelden oder deren Wirkung zu reduzieren.

Welche Vorteile hat der AI Act für HR Abteilungen?

Der AI Act kann für HR Abteilungen auch Vorteile bringen. Zum einen kann der AI Act das Vertrauen in KI fördern, indem er klare und einheitliche Regeln für den Einsatz von KI in der EU schafft. Dies kann die Akzeptanz und die Nutzung von KI-Anwendungen in HR erhöhen, sowohl intern als auch extern.

Zum anderen kann der AI Act die Qualität und die Leistung von KI-Anwendungen in HR verbessern, indem er hohe Standards für die Daten, die Technik und die Ethik von KI vorgibt. Dies kann die Effizienz, die Fairness und die Innovation von KI-Anwendungen in HR steigern, und gleichzeitig die Risiken und die Haftung reduzieren.

Die Verwendung von KI in HR-Prozessen kann bekanntlich viele Vorteile bringen, wie die Automatisierung und Beschleunigung von Routineaufgaben, die Suche nach geeigneten Kandidaten oder die Generierung von Wahrscheinlichkeitsvorhersagen, die bei HR-Entscheidungen hilfreich sein können. Allerdings gibt es auch Bedenken hinsichtlich der Abhängigkeit von der Technologie und der Möglichkeit, dass KI die Datenqualität mindern und zu fehlerhaften Einstellungsentscheidungen führen könnte.

Fazit: Gleichgewicht zwischen menschlichem Fachwissen und KI

Es ist wichtig zu betonen, dass KI das menschliche Urteilsvermögen und die Intuition nicht ersetzen kann und sollte. HR-Mitarbeiter werden weiterhin benötigt, um eine persönliche Betreuung sicherzustellen, strategische Entscheidungen zu treffen und komplexe Probleme anzugehen, die nicht durch eine KI automatisiert werden können. Daher ist es wichtig, ein Gleichgewicht zwischen der Nutzung von KI und menschlichem Fachwissen zu finden. Schließlich ist es für HR-Experten wichtig, sich fortzubilden und auf dem neuesten Stand der KI-Entwicklungen zu bleiben, um die Chancen zu nutzen und die Herausforderungen zu meistern, die mit dem Einsatz von KI in HR-Prozessen einhergehen.

Weitere interessante Artikel:

KI in der Arbeitswelt: der rechtliche Rahmen

KI in der Datenanalyse: Welche Rolle spielt der Mensch?

5 Gründe, warum KI die Personalverwaltung revolutionieren kann

Wie funktioniert ein ethischer Umgang mit KI?

ChatGPT im Unternehmenseinsatz: Probleme mit Recht und DSGVO?

Interesse an weiteren Tipps & Insights zu den Themen HR und Lohnbuchhaltung?

…mit unserem Newsletter 1x im Monat

  • Neue Trends aus der Arbeitswelt
  • Aktuelle Urteile verständlich erklärt
  • Tipps zu HR & Lohnbuchhaltung
  • Experten-Interviews, Studien u.v.m