Der AI-Act und die Pflicht zur Weiterbildung
Europäische KI-Verordnung verlangt KI-Kompetenz von Unternehmen
Künstliche Intelligenz hat sich in den letzten Jahren zu einem beliebten Tool für viele Unternehmen entwickelt. Doch mit der intelligenten Technologie gehen neue Gefahren sowie Risiken einher, die im europäischen AI-Act definiert und reguliert werden. So müssen Arbeitgeber in Europa seit dem 02.02.2025 nachweisen, dass ihre Mitarbeiter über ausreichend Kompetenz im Umgang mit KI verfügen. Wie letzteres genau aussehen kann und was Sie als Unternehmen jetzt dafür tun müssen, erfahren Sie in diesem Artikel.
Was ist der AI-Act und welche Ziele verfolgt er?
Der AI-Act, zu deutsch KI-Verordnung (KI-VO), ist eine europaweite Verordnung, die sich zum Ziel gemacht hat, die KI-Nutzung sicherer und transparenter zu gestalten. Das tut sie, indem sie vor allem Regeln festlegt, die zukünftig die Nutzung von künstlicher Intelligenz einfacher und vertrauensvoller abbilden sollen.
Die KI-VO wurde im Dezember 2023 verabschiedet und ist am 1. August 2024 in Kraft getreten. Schrittweise erfolgt in den nächsten Jahren deren Wirksamkeit, um den betroffenen Unternehmen ausreichend Zeit zur Umsetzung zu geben. In Deutschland wird federführend die Bundesnetzagentur (BNetzA) als zuständige Aufsichtsbehörde agieren.
Welche Unternehmen sind vom AI-Act betroffen?
Die KI-Verordnung adressiert seine Regularien grundsätzlich an Unternehmen, die KI-Systeme entwickeln (Anbieter), bereitstellen (Importeure & Händler) oder nutzen (Betreiber).
Jetzt werden einige Unternehmen sagen:
„Ja Moment mal, wir benutzen im Unternehmen doch überhaupt gar keine KI“.
Diese Aussage mag aus Sicht der Geschäftsführung vielleicht richtig erscheinen, doch faktisch sehr wahrscheinlich nicht korrekt. Laut einer repräsentativen Umfrage des Digitalverbandes Bitkom werden in jedem dritten Unternehmen hierzulande private KI-Zugänge genutzt. Diese Schatten-KI wiederum erhöht das Risiko für Verstöße gegen den Datenschutz und gefährdet die unternehmensweite Datensicherheit. Werden Sie also jetzt aktiv und erfassen Sie die tatsächliche KI-Nutzung in Ihrem Unternehmen!
Diverse Risikogruppen laut KI-Verordnung
Im AI-Act werden KI-Systeme in verschiedene Risikogruppen unterteilt. Dabei gilt: Je höher das Risiko der Anwendung, desto größer sind die Anforderungen im Bereich Risikobewertung, Transparenz, Robustheit und menschlicher Aufsicht.
KI-Systeme mit unvertretbarem Risiko sind die, die mit den Grundrechten der EU nicht vereinbar sind, wie beispielsweise Anwendungen zum Social Scoring, Emotionserkennung oder kognitiven Verhaltensmanipulation. Diese Systeme sind dementsprechend bereits seit dem 02. Februar 2025 verboten.
Ein hohes Risiko bergen Systeme, die die Gesundheit, die Sicherheit oder die Grundrechte der Menschen anschneiden. Dazu zählen KI-Anwendungen im Bereich kritischer Infrastruktur (Medizin, Verkehr), Personalmanagement, beruflicher Bildung oder das Bankwesen.
KI-Systeme mit begrenztem Risiko sind Systeme, die mit Menschen interagieren, aber ein geringes Risiko bergen wie beispielsweise Chatbots. Der Nutzer muss lediglich darüber aufgeklärt werden, dass er mit einem KI-System interagiert.
KI-Systeme mit einem minimalen Risiko bergen keine wesentlichen Gefahren für den Nutzer. Dazu zählen unter anderem eine KI-gestützte Rechtschreibprüfung oder Spam-Filter.
Was laut EU KI-Verordnung zum jetzigen Zeitpunkt zu tun ist
Die KI-Verordnung ist eine weitreichende Veränderung, die sich über mehrere Jahre erstreckt. Demnach ist es wichtig, den Überblick zu behalten, was wann und wie zu tun ist. Zum jetzigen Zeitpunkt haben Unternehmen hierzulande vor allem eines zu berücksichtigen: Sie müssen die KI-Kompetenz ihrer Mitarbeiter sicherstellen!
Das heißt im Groben und Ganzen, dass alle Mitarbeitende, die KI-Systeme verwenden, ausreichend Verständnis dafür haben und geschult werden müssen. Da die KI-Verordnung keine Standards oder Maßstäbe diesbezüglich ausspricht, müssen Unternehmen und Organisationen eigene Wege entwickeln, um die KI-Kompetenz ihrer Belegschaft sicherzustellen.
Diese 4 Maßnahmen empfehlen wir
Eine Bedarfs- bzw. Bestandsanalyse erfasst den Status-Quo und bildet die Basis für eine bedarfsgerechte KI-Richtlinie sowie Mitarbeiterbefähigung. Folgende Fragen können Sie sich beispielsweise in diesem Zusammenhang stellen:
- Welche KI-Systeme werden im Unternehmen eingesetzt?
- Welche Mitarbeitenden arbeiten mit KI?
- Welches Risiko ist damit verbunden?
KI-Richtlinien angepasst an die Bedürfnisse und täglichen Unternehmensprozesse gibt Maßstäbe vor und bildet einen sicheren sowie verantwortungsvollen Umgang mit KI-Systemen ab.
Die Schulung und Sensibilisierung der Mitarbeitenden sollten auf Basis der Bedarfsanalyse erfolgen. Es gilt hierbei wichtiges Wissen über KI und deren Funktionsweise, die KI-Verordnung, den Datenschutz und die rechtlichen sowie ethischen Komponenten zu vermitteln.
Eine Dokumentation ist laut KI-Verordnung zwar keine Pflicht, aber aus unserer Sicht eine sinnvolle Maßnahme, um im Nachgang alles für die Aufsichtsbehörden nachvollziehbar und transparent zu gestalten. Zusätzlich empfehlen wir die Benennung eines KI-Verantwortlichen, der das Thema beaufsichtigt, Entwicklungen im Blick behält und rechtzeitig die entsprechenden Maßnahmen gemäß KI-Verordnung einleitet.
Das sind die nächsten Fristen im AI-Act:
2. Februar 2025
KI-Systeme mit einem unvertretbaren Risiko sind ab sofort verboten.
Anbieter und Betreiber müssen die KI-Kompetenz ihrer Mitarbeiter sicherstellen.
2. August 2025
Die KI-Verordnung gilt ab August 2025 erstmalig für KI-Systeme mit allgemeinem Verwendungszweck (General Purpose Artificial Intelligence, kurz GPAI). Darunter fallen vor allem Systeme wie ChatGPT, Microsoft Co-Pilot etc.
2. August 2026
Die allgemeine KI-Verordnung tritt offiziell und für alle Systeme in Kraft.
2. August 2027
Die KI-VO ist auch auf Hochrisikosysteme anzuwenden.
Welcher Risikogruppe gehört ChatGPT an?
ChatGPT ist ein KI-System für den allgemeinen Verwendungszweck, ein sogenanntes GPAI-System (General Purpose Artificial Intelligence). Die KI-Verordnung stuft diese „Basismodelle“ prinzipiell als ungefährlich ein, es sei denn sie haben tiefgreifende Auswirkungen auf die Wirtschaft, die Gesellschaft oder deren Sicherheit. Die Unterscheidung in GPAI-Systeme ohne oder mit systematischem Risiko betrifft jedoch in erster Linie deren Entwickler und nicht deren Nutzer.
Gut zu wissen!
Ein Verstoß gegen die Vorschrift der Kompetenzerbringung der KI-Verordnung bedeutet nicht automatisch ein hohes Bußgeld. Jedoch ist es möglich, dass Unternehmen im Schadensfall haftbar gemacht werden, sollte dieser durch eine mangelnde KI-Kompetenz/ KI-Schulung entstanden sein.
Wir helfen Ihnen, die Vorschriften aus dem AI-Act erfolgreich umzusetzen.
Benötigen Sie bei einer der oben genannten Maßnahmen fachlichen Beistand? Dann kontaktieren Sie jetzt unsere KI-Experten und lassen Sie sich individuell beraten! Darüber hinaus entwickeln wir für Sie auf Anfrage individuelle KI-Richtlinien sowie Schulungskonzepte, damit sie den Anforderungen der KI-Verordnung auch gerecht werden.