KI-Kompetenz-Schulungen nach Art. 4 KI-VO
Zunächst ist es wichtig, den genauen Inhalt von Art. 4 KI-VO zu kennen. Die Verpflichtung zu einer „Schulung“ ist darin z. B. nicht ausdrücklich genannt. In aller Regel wird sich jedoch eine Schutzverpflichtung ergeben. Der genaue Wortlaut von Art. 4 lautet:
Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.
Die Regelung nimmt somit Anbieter und Betreiber von KI-Systemen in die Verpflichtung. Von besonderer Bedeutung ist daher die genaue Definition dieser drei Begriffe. Dies zeigt sich z.B. bereits dann, wenn KI-ChatBots wie z. B. ChatGPT lediglich im Rahmen des Abonnements genutzt werden. Liegt dann ein KI-System vor, dass man selbst anbietet oder betreibt? Dies ist entscheidend, um zu ermitteln, ob das eigene Personal geschult werden muss. Die maßgeblichen Definitionen sind wie folgt:
„KI-System“ ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können;
„Anbieter“ eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich;
„Betreiber“ eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet;
Muss bei bloßer Nutzung von ChatBots wie ChatGPT geschult werden?
Ja, nach allgemein vertretener Auffassung ist dies der Fall. Der Wortlaut von Art. 4 KI-VO lässt zwar zögern, da man sich als bloßer Nutzer von einem ChatBot wie ChatGPT nicht als „Anbieter“ oder „Betreiber“ sieht. Allerdings ist die Definition eines Betreibers in der KI-VO sehr weit. Wie oben wiedergegeben, fällt auch die bloße Verwendung von KI-Systemen unter den Betreiberbegriff.
Auch bei einer bloßen Nutzung von ChatBots in der eigenen Organisation müssen die Mitarbeiter daher nach Art. 4 KI-VO geschult werden.
Was genau ist KI-Kompetenz / AI Literacy
Ziel der Regelung in Art. 4 KI-VO ist es, dass die betroffenen Personen letztlich über eine „KI-Kompetenz“ verfügen. KI-Kompetenz ist ebenfalls in der KI-Verordnung definiert und gibt einen gewissen Aufschluss über den notwendigen Umfang und Inhalt der Schulung. Die Definition lautet wie folgt:
„KI-Kompetenz“ die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.
Wer ist zu Schulen?
Direkt aus Art. 4 KI-VO ergibt sich die Verpflichtung, dass das „Personal“ zu schulen ist. Die Verpflichtung bezieht sich jedoch auch auf „andere Personen“ – wie sie in Art. 4 KI-VO genannt werden. Wer sind diese anderen Personen?
Nach der Stellungnahme der EU-Kommission hierzu, handelt es sich bei diesen anderen Personen letztlich nicht zwingend um „Personal“ im engeren Sinne, wie z. B. Arbeitnehmer. Vielmehr sollen über diesen Begriff auch sämtliche Personen erfasst sein, die „im Großen und Ganzen in den organisatorischen Zuständigkeitsbereich“ der betreffenden Organisation fallen. Andere Personen sollen damit auch Auftragnehmer, Dienstleister und sogar Kunden der Organisation sein können. Es wird damit letztlich auf den konkreten Einsatz des jeweiligen KI-Systems ankommen, um zu beurteilen, welche „anderen Personen“ geschult werden müssen – und durch wen die Schulung zu erfolgen hat.
Ist eine Lernerfolgskontrolle erforderlich?
Art. 4 KI-VO enthält keine Verpflichtung, den Erfolg von Schulungen zu kontrollieren oder irgendwie zu messen.
Andererseits trifft die Anbieter und Betreiber die Verpflichtung, sicherzustellen, dass das Personal und andere Personen über eine ausreichende KI-Kompetenz verfügen. Obwohl damit keine Lernerfolgskontrollen erforderlich sind, kann ein Anbieter oder Betreiber in die Haftung geraten, wenn die notwendige KI-Kompetenz nicht sichergestellt ist oder mangels Dokumentation nicht nachgewiesen werden kann. Es ist daher im Interesse des Anbieters oder Betreibers, eine ausreichende KI-Kompetenz zumindest zu dokumentieren.
Es wird von der jeweiligen Organisation abhängen, ob hierzu die bloßen regelmäßigen Teilnahmebescheinigungen an den Schulungen genügen, oder ob – möglicherweise auf einzelne Personen begrenzt – eine weitergehende Dokumentation über die ergriffenen KI-Kompetenz-Maßnahmen angezeigt ist.
Welchen Inhalt müssen KI-Kompetenz-Schulungen haben?
Nach Mitteilung der EU-Kommission bzw. des Amtes für künstliche Intelligenz werden von dort keine strengen Anforderungen an den konkreten Inhalt der Schulungen gestellt. Vielmehr wird auf die Breite des Themas „KI-Kompetenz“ verwiesen sowie auf die sich insgesamt sehr rasch entwickelnde KI-Technologie. Die KI-Kompetenz-Schulungen sollten daher möglichst breit aufgestellt sein und im Grundsatz viele Themenfelder abdecken.
Mindestinhalte sollten sein:
Gewährleistung eines allgemeinen Verständnisses von KI in der Organisation. Was ist KI? Wie funktioniert KI? Welche KI wird in der Organisation eingesetzt? Was sind die Vorteile, Nachteile und was die Gefahren?
Die Berücksichtigung der Rolle der Organisation als Anbieter oder Betreiber von KI-Systemen: Entwickelt die Organisation ein eigenes KI-System oder verwendet sie nur KI-Systeme, die von anderen Organisationen entwickelt wurden?
Berücksichtigung des Risikos der bereitgestellten KI-Systeme: Was müssen Mitarbeiter wissen, wenn Sie das betreffende KI-System verwenden? Was sind die Risiken, denen sie sich bewusst sein müssen und welche Möglichkeiten zur Risikoverringerung bestehen?
Ausgehend von den vorstehenden Erwägungen sollten die betroffenen Organisationen sodann konkrete KI-Kompetenz-Maßnahmen ergreifen, die in der Schulung zu berücksichtigen sind. Die Ausrichtung der KI-Kompetenz-Schulungen sollte damit berücksichtigen:
Unterschiede im technischen Vorwissen von Mitarbeitern: Inwieweit ist KI einzelnen Mitarbeitern oder einzelnen Mitarbeitergruppen bereits bekannt? Welche Mitarbeitergruppen sollten welche Zusatzinformationen erhalten?
Eine Bewertung, in welchem Zusammenhang die KI-Systeme genutzt werden sollen und wem gegenüber die Ergebnisse der KI-Systeme wie genutzt werden sollen. In welchem Marktbereich soll dies für welchen Zweck erfolgen und welche besonderen Risiken ergeben sich hieraus, über die letztlich aufgeklärt werden muss?
Die Schulungen haben sich ausdrücklich auch auf rechtliche Aspekte zu beziehen. Daneben sind ethische Aspekte zu betrachten.
Verträge mit Dienstleistern
Wie oben dargestellt, müssen Anbieter und Betreiber sicherstellen, das Personal und andere Personen über ausreichende KI-Kompetenz verfügen. Andere zu schulende Personen können Mitarbeiter von Dienstleister und sogar Kunden sein. Wenn daher die mit Blick auf die eigenen Kunden diese oder zwischengeschaltete Dienstleister KI oder KI-Ergebnisse nutzen, kann sich die Verpflichtung ergeben, die KI-Kompetenz solcher externen Unternehmen sicherzustellen.
In den Verträge mit den Dienstleistern und Kunden sollte somit geregelt werden, dass diese selbst eine ausreichende KI-Kompetenz sicherzustellen haben und im ausreichenden Maße Schulungen durchführen. Alternativ kann auch vorgesehen werden, dass die Mitarbeiter dieser Dienstleister und Kunden durch die eigene Organisation geschult werden. In einem solchen Fall sind weitere Regelungen sinnvoll, z. B. zu den Schulungsverträgen und auch der Auswirkung auf die Vergütung. Je nach konkretem Einsatzgebiet, kann sich eine Überwachung der KI-Kompetenz bei den externen Unternehmen anbieten.
Die Aufnahme derartiger Regelungen in die Verträge ist in besonderem Maße relevant, wenn mit Unternehmen im Ausland außerhalb der EU zusammengearbeitet wird.
Bedarf es eines KI-Beauftragten?
Es gibt keine gesetzliche Regelung, nach der ein KI-Beauftragter bestellt werden muss. Die Berufung eines KI-Beauftragten kann aber eine freiwillige, sinnvolle organisatorische Maßnahme sein, um die internen Maßnahmen und deren Umsetzungen in der Organisation koordiniert aufzubauen und zu überwachen.
Wünschen Sie eine KI-Kompetenz-Schulung?
Gerne führen wir für Sie bzw. Ihre Mitarbeiter eine KI-Kompetenz-Schulung in regelmäßigen Abständen durch, mitsamt der Überlassung von Nachweisen und Unterlagen zur Dokumentation, dass ausreichende KI-Kompetenz-Maßnahmen ergriffen wurden.
Die KI-Kompetenz-Schulung kann isoliert erfolgen oder in Kombination mit anderen Schulungsmaßnahmen, die für Ihr Unternehmen relevant sind. Hierzu können z. B. Awareness-Schulungen im Bereich der IT-Sicherheit zählen oder Schulungen mit Blick auf regulatorische Anforderungen, die in Ihrem Unternehmen maßgeblich sind, sei es die NIS-2-Umsetzung, das Hinweisgeberschutzgesetz oder weitergehende arbeitsrechtliche Schulungen.
Gerne können wir solche Schulungen inhouse, vor Ort oder online durchführen.