Der EU AI Act ist ein umfangreiches Gesetzesvorhaben, das für den Umgang mit künstlicher Intelligenz in den Mitgliedsstaaten der europäischen Union Rahmenbedingungen vorgibt.
Seit Februar 2025 gelten die ersten Regelungen des Gesetzes verbindlich. Weitere werden im Zeitverlauf folgen. Diese Regelungen haben auch ganz konkrete Auswirkungen für die Nutzung von Künstlicher Intelligenz im Ausbildungsalltag. Künstliche Intelligenz wird nach dem EU AI ACT in verschiedene Risikokategorien einteilt:

• verbotene Anwendungen
• hochriskante Anwendungen
• und geringeres Risiko.

Ziel des Gesetzes ist es, die Chancen von KI zu fördern und gleichzeitig die Rechte der Menschen, wie Datenschutz und Sicherheit, zu schützen. Für Ausbilderinnen und Ausbilder bedeutet dies, dass nicht alle denkbar möglichen Anwendungsszenarien von Tools wie ChatGPT in der Ausbildung erlaubt sind.

Es gibt bestimmte Anwendungen, die laut dem EU AI Act verboten sind, weil sie die Rechte von Menschen gefährden könnten. Für Ausbilderinnen ist es besonders wichtig, auf folgende Punkte zu achten:

• Manipulation und Täuschung: KI darf nicht dazu verwendet werden, Azubis oder andere Personen zu manipulieren oder zu täuschen. Zum Beispiel ist es verboten, ChatGPT für irreführende oder manipulative Werbetexte zu nutzen, die die Entscheidungen von Betroffenen in eine falsche Richtung lenken.
• Ausnutzung schutzbedürftiger Personen: Eine KI darf nicht eingesetzt werden, um gezielt Abhängigkeiten oder Schwächen von Menschen auszunutzen – etwa beim Lerncoaching für minderjährige Azubis, wenn stark emotionales Feedback psychologischen Druck erzeugt.  
• Social Scoring: Es ist verboten, mit Hilfe von KI wie ChatGPT Menschen nach ihrem Verhalten oder persönlichen Eigenschaften zu bewerten oder zu kategorisieren. Beispielsweise ist es nicht erlaubt, Azubis durch eine KI in Ranglisten einzuordnen.
• Emotionserkennung am Arbeitsplatz: Der Einsatz von KI zur Erkennung von Emotionen oder der mentalen Verfassung von Mitarbeitenden oder Azubis ist verboten.

Einige Anwendungsbereiche  von KI, wie ChatGPT, gelten als hochriskant, vor allem im Bereich Personalwesen. Bei den folgenden Anwendungsfällen sollten Ausbilder:innen besonders aufpassen, denn hier gelten strenge gesetzliche Anforderungen.  

• Automatisierte Azubiauswahl: Es ist problematisch, wenn ChatGPT oder eine anderes KI-System dazu verwendet wird, die Bewerbungen von potenziellen Azubis automatisch zu sichten oder Bewerber:innen auszuwählen. Ein solches Vorgehen ist heikel und muss umfangreich geprüft und bewertet werden.
• Azubiüberwachung und -bewertung: ChatGPT sollte nicht verwendet werden, um Azubis zu überwachen, etwa durch die Analyse von E-Mails oder Chatverläufen zur Leistungsbewertung. Gleiches gilt für Prüfungsbewertungen. Solche KI-Anwendungsfälle sind streng reguliert.
• Automatisierte Personalentscheidungen: Entscheidungen, die Auswirkungen auf die Karriere eines Azubis haben, dürfen nicht allein von einer KI getroffen werden. Ein Mensch muss immer die finale Entscheidung treffen, wenn es um Personalentscheidungen geht.