KI-Kompetenzpflicht: Wie schule ich mein Team?

KI ist in vielen Praxen, Laboren und Pflegediensten längst Alltag: das Diktat, das sich selbst abtippt, der Chatbot am Telefon, ChatGPT für den Entwurf eines Briefs. Mit dem EU AI Act gibt es dafür eine klare Grundregel: Wer KI im Betrieb einsetzt, muss dafür sorgen, dass das Team damit umgehen kann. Was das konkret heißt und wie Sie es mit überschaubarem Aufwand umsetzen, zeigt dieser Beitrag.

Was Art. 4 AI Act verlangt

Seit dem 2. Februar 2025 gilt Art. 4 der KI-Verordnung der EU (AI Act). Unternehmen und Einrichtungen, die KI-Systeme einsetzen, müssen danach Maßnahmen ergreifen, damit ihre Beschäftigten über ausreichende KI-Kompetenz verfügen. Das gilt auch für andere Personen, die in ihrem Auftrag mit KI arbeiten.

Was „ausreichend“ ist, legt das Gesetz bewusst nicht starr fest. Es kommt darauf an:

• welche KI-Anwendungen Sie nutzen und wofür,
• welches Vorwissen und welche Erfahrung Ihre Mitarbeitenden mitbringen,
• und wen der Einsatz betrifft, im Gesundheitswesen also meist Patientinnen und Patienten.

Ein bestimmtes Zertifikat oder eine Mindeststundenzahl schreibt der AI Act nicht vor. Wichtig ist, dass die Schulung zu Ihrem tatsächlichen KI-Einsatz passt und Sie nachweisen können, was Sie getan haben.

Wen Sie schulen müssen

Alle, die im Arbeitsalltag mit KI in Berührung kommen. Das ist meist mehr als gedacht:

• das Team am Empfang, wenn ein KI-Telefonassistent oder Chatbot Anfragen beantwortet,
• Ärztinnen, Ärzte und Therapeuten, die KI-Diktat oder KI-gestützte Befundung nutzen,
• Pflegekräfte, die mit KI-Funktionen in der Dokumentationssoftware arbeiten,
• die Verwaltung, die mit ChatGPT oder Copilot Texte entwirft.

Nicht jede Person braucht dieselbe Tiefe. Eine kurze Grundschulung für alle und eine Vertiefung für die, die KI für medizinische Entscheidungen nutzen, ist ein guter Ansatz.

Was in die Schulung gehört

Eine praxistaugliche Schulung beantwortet fünf Fragen:

1. Was ist KI und wie funktioniert sie? In Grundzügen und ohne Technikjargon. Wichtig ist das Verständnis, dass KI Wahrscheinlichkeiten berechnet und keine Fakten weiß.
2. Wo liegen die Grenzen? KI kann überzeugend klingende Fehler machen. Ergebnisse müssen immer von einem Menschen geprüft werden, besonders bei Diagnosen, Medikation und Arztbriefen.
3. Welche Daten dürfen hinein? Patientendaten sind besonders geschützt. Sie dürfen nur in KI-Tools, die dafür freigegeben sind und für die ein Vertrag zur Auftragsverarbeitung besteht. Frei verfügbare Chatbots sind in der Regel tabu.
4. Welche Regeln gelten bei uns? Welche Tools sind erlaubt, wofür, und wer ist Ansprechpartner bei Fragen? Am besten steht das in einer kurzen KI-Nutzungsrichtlinie.
5. Was tun, wenn etwas schiefgeht? Etwa wenn versehentlich Patientendaten in ein Tool gelangt sind oder ein KI-Ergebnis offensichtlich falsch war. Dann gilt: sofort melden, nicht vertuschen.

So setzen Sie die Schulung um

Für eine Praxis oder einen kleinen Pflegedienst reicht oft ein einfacher Ablauf:

1. Bestandsaufnahme: Welche KI-Anwendungen sind im Einsatz, auch inoffiziell? Fragen Sie im Team nach. Häufig wird mehr genutzt, als die Leitung weiß.
2. Nutzungsrichtlinie festlegen: Erlaubte Tools und Einsatzzwecke, Umgang mit Patientendaten, Ansprechpartner.
3. Grundschulung durchführen: 60 bis 90 Minuten, gern im Rahmen einer Teambesprechung, mit Beispielen aus Ihrem Alltag.
4. Vertiefen, wo nötig: Zusätzliche Einweisung für alle, die KI für medizinische oder pflegerische Entscheidungen nutzen.
5. Auffrischen: Einmal im Jahr und immer dann, wenn ein neues KI-Tool eingeführt wird. Neue Mitarbeitende werden bei der Einarbeitung geschult.

So dokumentieren Sie die Schulung

Der AI Act verlangt keinen bestimmten Nachweis. Eine Dokumentation ist trotzdem dringend zu empfehlen: Sie zeigt, dass Sie Ihrer Pflicht nachgekommen sind, etwa gegenüber einer Behörde oder bei einem Haftungsfall. Halten Sie fest:

• Datum und Dauer der Schulung,
• wer geschult hat und wer teilgenommen hat, am besten mit Unterschrift,
• welche Inhalte behandelt wurden und welche KI-Tools Thema waren,
• die zugrunde liegende KI-Nutzungsrichtlinie in der jeweils gültigen Fassung,
• geplante Auffrischungen.

Bewahren Sie die Nachweise zusammen mit Ihren übrigen Unterlagen zum Datenschutz und zur Informationssicherheit auf. So haben Sie alles an einem Ort, wenn Fragen kommen.

Unser Tipp

Verbinden Sie die KI-Schulung mit der jährlichen Datenschutzschulung. Viele Inhalte überschneiden sich, Ihr Team verliert weniger Zeit, und Sie haben beide Nachweise auf einmal.

Sie möchten Ihr Team schulen lassen oder eine KI-Nutzungsrichtlinie erstellen? Wir übernehmen Bestandsaufnahme, Richtlinie und Schulung inklusive Dokumentation. Mehr dazu unter KI im Gesundheitswesen.