20. August 2025
Seit Februar 2025 ist der EU AI ACT in Kraft. Ausbildungsbetriebe müssen seither alle betroffenen Auszubildenden im Umgang mit Künstlicher Intelligenz schulen. Die Bundesnetzagentur fungiert in Deutschland als zuständige Aufsichtsbehörde und hat im Juni 2025 Handlungsempfehlungen zur KI-Kompetenz erlassen, die für die Ausbildungspraxis relevant sind.
Führsorgepflicht und Haftungsrisiken
Die Fürsorgepflicht in der Ausbildung ist ein zentrales Element des Ausbildungsverhältnisses. Sie verpflichtet das Wohl der Auszubildenden in besonderer Weise zu schützen. Die Nutzung von KI birgt einige Fallstricke. Deshalb fordert der EU AI ACT, auch KI-Verordnung (KI-VO) genannt, die so genannte KI-Kompetenz ein, legt aber keine Bußgelder fest. Das Problem ist allerdings laut Bundesnetzagentur, dass „Ein Mangel an KI-Kompetenz […] als Verletzung der Sorgfaltspflicht angesehen werden [kann], insbesondere wenn dadurch ein Schaden entsteht.“ Das bedeutet, dass Ausbilderinnen und Ausbilder den Umgang mit KI-Systemen im Betrieb, wie beispielsweise ChatGPT, unterweisen müssen, so ähnlich wie eine Sicherheitsunterweisung.
KI-Kompetenz in der Ausbildung nachweisen
Die Bundesnetzagentur empfiehlt, dass Organisationen ihre Maßnahmen zur Sicherstellung von KI-Kompetenz gut dokumentieren. Für die Erfüllung der Anforderungen aus Artikel 4 des EU AI ACTs ist es nicht notwendig formalisierte oder standardisierte Trainingsmaßnahmen umzusetzen. Ebenso besteht keine Pflicht durchgeführte Qualifizierungsmaßnahmen extern zertifizieren zu lassen. Wie kann die KI-Kompetenz dann nachgewiesen werden? Ausbilderinnen und Ausbilder sind hierbei relativ frei, wie sie die KI-Kompetenz unterweisen und dokumentieren. Beispielsweise könnte ein mündlicher Fachvortrag bereits ausreichend sein. Die Vortragsinhalte könnten stichpunktartig festgehalten und mit einer Unterschriftenliste der teilnehmenden Auszubildenden versehen werden.
KI-Kompetenz im jeweiligen Ausbildungskontext ermitteln
Der Aufbau von KI-Kompetenz muss stets im spezifischen Kontext der jeweiligen Anwendung betrachtet werden. Entscheidend ist in der Ausbildung das verbundene Risikopotenzial. Der EU AI ACT definiert dabei verschiedene Risikostufen.
Ganz grundsätzlich müssen immer die sichere Verwendung und die damit verbundenen Chancen und Risiken in ethischer, rechtlicher oder gesellschaftlicher Hinsicht vermittelt werden. Wie tief diese Inhalte ausgeführt werden, hängt immer von der jeweiligen KI-Verwendung ab. Es geht darum Risiken und mögliche Schäden beim Einsatz von KI zu minimieren.
KI-Kompetenz bleibt nie stehen!
Der KI-Kompetenzaufbau ist kein einmaliges Vorhaben, sondern ein fortlaufender Prozess. KI-Kenntnisse müssen regelmäßig aktualisiert und an neue technologische Entwicklungen angepasst werden. Ein gutes Beispiel hierfür ist das KI-System ChatGPT. Dieses System wird permanent weiterentwickelt. Immer neue Funktionen kommen hinzu. Und nicht immer sind die Auswirkungen auf den ersten Blick klar: Ganz zu Beginn war beispielsweise das so genannte „Modelltraining“ immer aktiviert. Im Zeitverlauf konnten es dann nur die zahlenden Nutzerinnen und Nutzern deaktivieren. Mittlerweile können es alle angemeldeten. Nutzte man ChatGPT ohne Anmeldung, dann kann das Modelltraining aktuell gar nicht deaktiviert werden. Aber warum ist das wichtig? KI-Kompetenz wäre jetzt zu wissen, was die Funktion „Modelltraining“ bewirkt und warum man sie unbedingt in der Ausbildung und darüber hinaus deaktivieren sollte.
KI-Kompetenz vertiefen am Beispiel „Modelltraining“
Wie tiefgreifend eine KI-Kompetenz sein muss, zeigt sich sehr gut am Fall des „Modelltrainings“ bei ChatGPT. Modelltraining? Wie der Name schon verrät, lernt das KI-Modell permanent durch die Eingaben aller Nutzer:innen weltweit dazu. Und dazu gehören auch ihre Auszubildenden. Irgendwann entsteht aus allen weltweiten Eingaben ein neues KI-Modell. Auszubildende könnten jetzt denken „Super ich helfe dabei KI zu verbessern“. Schöner Gedanke, aber im Grunde ist es so, dass Auszubildende alle Eingabedaten dem Systembetreiber „schenken“. Laden Auszubildende beispielsweise einen Fachartikel aus dem Berufsschulunterricht hoch und lassen sich diesen von der KI erklären, dann „verschenken“ die Auszubildenden diesen Fachartikel. Aber dies kann eine Urheberrechtsverletzung sein. Zudem stellen sich viele Fragen zum Datenschutz und der Datensicherheit.
Handlungsempfehlungen der Bundesnetzagentur
Die Bundesnetzagentur schlägt vier Grundsteine beim Aufbau der KI-Kompetenz vor, die sich sehr gut auf die Ausbildungspraxis übertragen lassen.
| Grundstein | Leitfragen der Bundesnetzagentur | Übertragungsmöglichkeiten für die Ausbildung im Szenario „Lernen mit ChatGPT“ |
|---|---|---|
| 1. Individuellen Bedarf ermitteln |
|
|
| 2. Maßnahmen ausgestalten und beachten |
|
|
| 3. Regelmäßige Auffrischung |
|
|
| 4. Ausreichende Dokumentation der Maßnahmen |
|
|
Quelle: Eigene – auch mit Hilfen von KI – überarbeitete Darstellung auf Basis der Empfehlungen der Bundesnetzagentur Hinweispapier
Was Ausbilderinnen und Ausbilder konkret tun können
Im Kern umfasst KI-Kompetenz in der Ausbildung somit die Fähigkeit, fundierte Kenntnisse und ein vertieftes Verständnis im Umgang mit KI-Systemen zu entwickeln, bisher ohne formale Vorgaben. Die Aufsichtsbehörde lässt bei der Ausgestaltung viel Spielraum für die Ausbildungspraxis. Mit uns kannst du lernen, diesen für deinen Alltag optimal zu nutzen! Wie KI als Lernmedium in der Ausbildung gut eingesetzt werden kann, erfährst du in diesem Training und Talk.
Online-Vortrag: KI im Ausbildungsalltag: Was die Bundesnetzagentur empfiehlt
Blended-Learning-Training: ChatGPT und Chatbots in der Ausbildung nutzen!?
Dieser Beitrag ist keine Rechtsberatung. Der Text wurde mit KI optimiert.
