Der Einsatz von künstlicher Intelligenz (KI) in der Personalabteilung (HR) revolutioniert Prozesse von der Bewerberauswahl bis zur Personalentwicklung. KI-basierte Tools versprechen Effizienz und datengetriebene Entscheidungen. Doch mit dieser Transformation gehen erhebliche datenschutzrechtliche Herausforderungen einher, die Unternehmen sorgfältig adressieren müssen. Weiters braucht es KI-Kompetenz in Unternehmen, um Entscheidungen nachvollziehen zu können.

Datenschutz in der KI-basierten Personalabteilung: Warum ist das wichtig?

Personaldaten gehören zu den sensibelsten Informationen, die ein Unternehmen verarbeitet. Sie umfassen persönliche Informationen und besonders schützenswerte Details wie Gesundheitsdaten oder ethnische Herkunft. Ein sicherer und rechtskonformer Umgang mit Personaldaten ist daher unerlässlich.

Datenschutzpflichten beim Einsatz von KI in der HR

Beim Einsatz von KI in der Personalabteilung müssen grundlegende datenschutzrechtliche Prinzipien beachtet werden:

  • Rechtmäßigkeit der Verarbeitung: Jede Verarbeitung personenbezogener Daten benötigt eine Rechtsgrundlage, etwa die Einwilligung der betroffenen Person oder die Erfüllung eines Vertrags.
    Zweckbindung: Daten dürfen nur für den Zweck verwendet werden, für den sie erhoben wurden.
    Datenminimierung: Es dürfen nur die für den jeweiligen Zweck erforderlichen Daten erhoben und verarbeitet werden.
    Speicherbegrenzung: Personenbezogene Daten dürfen nicht länger als nötig gespeichert werden.
    Integrität und Vertraulichkeit: Daten müssen vor unbefugtem Zugriff geschützt werden.
    Transparenz: Betroffene müssen umfassend über die Datenverarbeitung informiert werden.
    Rechte der Betroffenen: Betroffene haben Rechte auf Auskunft, Berichtigung, Löschung und Widerspruch.

KI in der HR: Besondere Herausforderungen bei der Personalauswahl

Der Einsatz von KI bei der Personalauswahl birgt spezifische Herausforderungen:

  • Diskriminierung: KI-Systeme können diskriminierende Entscheidungen treffen, wenn sie auf verzerrten Trainingsdaten basieren.
  • Transparenz: Es muss nachvollziehbar sein, wie KI-Systeme Entscheidungen treffen.
  • Rechenschaftspflicht: Unternehmen müssen KI-Entscheidungen begründen und Verantwortung übernehmen können.

KI-Schulungspflicht gemäß Art. 4 KI-VO: Was bedeutet das für Ihre HR-Abteilung?

Seit dem 2. Februar 2025 ist die KI-Schulungspflicht gemäß Art. 4 der KI-Verordnung (KI-VO) in Kraft. Die KI-VO verpflichtet Unternehmen, sicherzustellen, dass alle Mitarbeiter, die mit KI-Systemen arbeiten, über ausreichende KI-Kompetenz verfügen. Dies betrifft auch und besonders den Einsatz von KI in der Personalabteilung, welche unter Umständen als Hochrisiko-KI-Systeme eingestuft werden können. Art. 4 KI-VO fordert, dass Unternehmen Maßnahmen ergreifen, um ihr Personal im Umgang mit KI-Systemen ausreichend zu schulen.

Art 4 – KI-Kompetenz

Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach bestem Wissen und Gewissen sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Aus- und Weiterbildung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, berücksichtigt werden.

 

Die Konsequenzen fehlender KI-Kompetenz in der HR

Mangelndes KI-Know-How kann für Unternehmen erhebliche Konsequenzen mit sich bringen, insbesondere seit der Einführung der KI-Schulungspflicht gemäß Art. 4 der KI-Verordnung am 2. Februar 2025. Hier sind die wichtigsten Konsequenzen, die Unternehmen beachten sollten:

  • Verlust von Wettbewerbsfähigkeit: Unternehmen, die ihre Mitarbeitenden nicht ausreichend im Umgang mit KI schulen, riskieren, hinter Wettbewerbern zurückzubleiben. Fehlendes Know-how kann dazu führen, dass das volle Potenzial von KI-Technologien nicht ausgeschöpft wird, was sich negativ auf Effizienz und Innovationskraft auswirkt45. Eine Umfrage zeigt, dass fehlende KI-Kenntnisse als große Herausforderung für Unternehmen gelten und den Fortschritt massiv bremsen können1.
  • Reputationsschäden: Ein Mangel an KI-Kompetenz kann auch zu einem Vertrauensverlust bei Kunden und Geschäftspartnern führen. Wenn ein Unternehmen aufgrund unzureichender Schulungen negative Erfahrungen mit KI-Systemen macht, könnte dies das Image des Unternehmens schädigen und potenzielle Kunden abschrecken34.
  • Ethische und soziale Verantwortung: Unternehmen haben eine ethische Verantwortung gegenüber ihren Mitarbeitenden und der Gesellschaft. Der Einsatz von KI ohne ausreichende Schulung kann zu diskriminierenden Entscheidungen führen und das Vertrauen in automatisierte Systeme untergraben12. Ein verantwortungsvoller Umgang mit KI erfordert gut informierte Mitarbeitende, die die ethischen Implikationen ihrer Entscheidungen verstehen.
  • Erhöhte Risiken bei der Datenverarbeitung: Mangelnde Kenntnisse über den datenschutzkonformen Umgang mit Personaldaten können zu Datenschutzverletzungen führen. Dies könnte nicht nur rechtliche Konsequenzen nach sich ziehen, sondern auch hohe Bußgelder gemäß der Datenschutz-Grundverordnung (DSGVO)12. Unternehmen müssen sicherstellen, dass ihre Mitarbeitenden über die notwendigen Kenntnisse verfügen, um personenbezogene Daten sicher zu verarbeiten.

Werden Sie KI-Kompetent mit unseren Kursen: Basis und Plus

Unsere praxisnahen Basic und Plus Kurse bieten Ihnen das nötige Wissen zu Künstlicher Intelligenz, Datenschutz und den rechtlichen Rahmenbedingungen der KI-VO. Werden Sie jetzt KI-kompetent und entdecken Sie unser Kursangebot:

  • KI Kompetenz Basis
  • KI Kompetenz Plus