Was bedeutet der AI Act für Ihre Organisation?
KI-Kompetenz Nachweis, Risikostufen und Rollen
Der AI Act regelt die Entwicklung, Bereitstellung und berufliche Nutzung von KI-Systemen in der EU. Er unterscheidet vier Risikostufen für KI-Systeme, die mit unterschiedlichen Pflichten einhergehen.
Wir helfen Ihnen, die Anforderungen des AI Acts (EU KI-Verordnung) zu verstehen und zu erfüllen.
Ihre Pflicht – Unser Angebot
Schon in den ersten Artikeln des AI Acts (Artikel 4) verpflichtet die Verordnung Organisationen dazu, ihre Mitarbeitenden im Umgang mit KI zu schulen, ihre Kompetenzen gezielt auszubauen und entsprechende Nachweise über KI-Kompetenz zu erlangen. Dabei geht es nicht nur um technisches Verständnis und die Bewertung von KI-Ergebnissen, sondern auch um rechtliche Pflichten und Konsequenzen der KI-Nutzung. Diese Pflichten hängen jedoch stark von der Risikostufe des KI-Systems ab.
Inhalte unserer KI-Kompetenz-Schulung
- Grundlagen von KI und maschinellem Lernen
- Erkennen von KI-Systemen und Risikostufen
- Rollenverständnis und dazugehörige Pflichten
- Datenschutz & Ethik in der KI-Nutzung
- Verantwortungsvoller Umgang & Compliance
Wir bieten die Schulungen als Präsenztermin oder online an. Selbstverständlich wird die Teilnahme aller Personen dokumentiert und mit einem KI-Kompetenz Nachweis als PDF zertifiziert.
Sprechen Sie uns an und wir finden eine individuelle Lösung für Sie!
Warum das Thema Hochrisikosysteme für Bildungseinrichtungen besonders relevant ist
Der Bildungssektor wird im AI Act ausdrücklich als potenzieller Anbieter und Nutzer von Hochrisiko-KI-Systemen genannt (Artikel 6, Anhang III, Absatz 3). Daher ist es für Bildungseinrichtungen besonders wichtig, ihre Pflichten im Umgang mit solchen Systemen zu verstehen.
Dabei geht es jedoch nicht nur um die konkret benannten Hochrisikosysteme. Auch KI-Anwendungen mit zunächst niedriger Risikostufe können – bei unsachgemäßer Nutzung oder veränderter Funktion – als Hochrisikosysteme eingestuft werden. In diesem Fall greifen deutlich umfassendere Pflichten (Artikel 25, Absatz 1, Abschnitt c).
Pflichten hängen von der Rolle ab –
für Organisationen und Einzelpersonen
Welche Pflichten gemäß AI Act einzuhalten sind, hängt auch von der jeweiligen Rolle ab, die Sie oder Ihre Organisation im Umgang mit KI-Systemen einnehmen. Zwei Rollen sind dabei besonders relevant:
- die des Betreibers (oft als „Nutzer“ bezeichnet)
- und die des Anbieters bzw. Quasi-Anbieters.
Je nach Rolle gelten unterschiedliche rechtliche Vorgaben. Entscheidend ist: Nicht nur Ihre Organisation, sondern auch einzelne Personen können eine dieser Rollen einnehmen – und damit direkt den jeweiligen Pflichten unterliegen.
Hinzu kommt: Durch unsachgemäße Nutzung kann ein Rollenwechsel entstehen, etwa vom Betreiber zum Quasi-Anbieter – mit entsprechend weitreichenderen Pflichten.
Daher ist es zentral, diese Zusammenhänge zu kennen, zu verstehen – und gezielt zu schulen.
Wer benötigt KI-Kompetenz Nachweise?
Alle internen und externen Mitarbeitende, die mit der Entwicklung, der Implementierung und Nutzung von KI in einer Organisation befasst sind, müssen mit den entsprechenden KI-Kompetenzen ausgestattet werden.
Dazu gehören bspw. alle Personen aus
- Verwaltung
- Lehre
- zentrale Einheiten
Es gibt keine Ausnahmeregelungen nach der Unternehmensgröße oder nach der Risikoklasse der KI. Somit müssen auch Mitarbeitende sensibilisiert werden, die KI-Systeme mit minimalen Risiko einsetzen.
Inhalte unserer KI-Kompetenz-Schulung
Unsere Schulung umfasst:
- Grundlagen von KI und maschinellem Lernen
- Erkennen von KI-Systemen und Risikostufen
- Rollenverständnis und dazugehörige Pflichten
- Datenschutz & Ethik in der KI-Nutzung
- Verantwortungsvoller Umgang & Compliance
Klingt spannend?
Finden wir auch!
Wir freuen uns auf Ihre Anfrage!
mail | info[at]humandigitals.de
fon | +49 (0)561 47 39 41 57
Risikostufen für KI-Systeme laut AI Act
-
keine verpflichtenden Anforderungen
Beispiele: Spam-Filter, KI-gestützte Schreibassistenten, automatische Textvorschläge
-
Diese KI-Systeme unterliegen Transparenzpflichten
Beispiele: Chatbots, KI-Systeme zur Generierung von Text, Bild oder Videos
-
Diese Systeme unterliegen einer umfassenden Regulierung und weitreichenden Verpflichtungen
Beispiele: KI-gestützte Bewerbungsverfahren oder Täuschungsversuch-Erkennung bei Prüfungen
-
verboten in der EU, um grundlegende Rechte und demokratische Werte zu schützen
Beispiele: KI-Systeme, die das menschliche Verhalten manipulieren wie Social Scoring und biometrische Echtzeit Identifizierung im öffentlichen Raum
Mehr als nur ein KI-Kompetenz Nachweis? Wir liefern das Gesamtpaket.
1. Bestandsaufnahme
Bereits verwendete oder geplante KI-Systeme werden systematisch erfasst.
2. Risikobewertung
Die erfassten Systeme werden nach Risikoklassen eingestuft und potenzielle Stufenwechsel betrachtet.
3. Entwicklung von Leitlinien
Definition von Prozessen zur Risiko Einstufung und ein Rahmenwerk zur Nutzung werden erarbeitet.
4. KI-Kompetenz Auf- und Ausbau
Ein kontinuierlicher, system- und branchenspezifischer Weiterbildungsplan wird erstellt und durchgeführt – zur gezielten Schulung von KI-Kompetenzen.
Häufige Fragen zur KI-Verordnung, KI-Kompetenz Nachweis und AI Act
-
Artikel 3 Nr. 1 in der KI-Verordnung (KI-VO), englisch Artificial Intelligence Act (AI Act), definiert ein System der Künstlichen Intelligenz als „ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie operieren kann und nach seiner Einführung Anpassungsfähigkeit zeigt, und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können“.
-
Die KI-Verordnung (KI-VO), auch bekannt als Artificial Intelligence Act (AI Act), ist ein EU-weiter Rechtsrahmen zur Regulierung von Künstlicher Intelligenz. Sie trat am 2. August 2024 in Kraft und zielt darauf ab, die Grundrechte der EU-Bürger:innen zu schützen, Rechtssicherheit zu schaffen und verbindliche Standards für den Betrieb von KI-Systemen festzulegen.
-
Die Verordnung betrifft:
Anbieter: Organisationen, die KI-Systeme entwickeln oder bestehende Modelle in eigene Produkte integrieren und unter eigener Marke vertreiben.
Betreiber: Einrichtungen, die KI-Systeme intern nutzen, ohne sie weiterzuentwickeln oder zu vermarkten.
Importeure und Händler: Unternehmen, die KI-Systeme aus Drittländern in die EU einführen oder vertreiben.
Auch Anbieter und Betreiber mit Sitz außerhalb der EU sind betroffen, wenn ihre KI-Systeme in der EU verwendet werden.
-
Ab dem 2. Februar 2025 müssen Anbieter und Betreiber von KI-Systemen sicherstellen, dass alle beteiligten Personen über die notwendige KI-Kompetenz verfügen. Dies umfasst Mitarbeitende und gegebenenfalls auch Studierende, die KI-Systeme nutzen. Ziel ist es, einen verantwortungsvollen und sicheren Umgang mit KI-Technologien zu gewährleisten.
-
Hochschulen und Forschungseinrichtungen, die KI-Systeme in Forschung, Lehre oder Verwaltung einsetzen, müssen:
Das Risikopotenzial der eingesetzten KI-Systeme bewerten.
Zielgerichtete Schulungsmaßnahmen für Mitarbeitende etablieren.
Sicherstellen, dass alle Nutzer:innen über ausreichende KI-Kompetenz verfügen.
Dabei ist zu beachten, dass das sogenannte Forschungsprivileg nur für KI-Systeme gilt, die ausschließlich für wissenschaftliche Forschungs- und Entwicklungszwecke entwickelt und betrieben werden.
-
Das Forschungsprivileg bezieht sich auf KI-Systeme, die ausschließlich für wissenschaftliche Forschungs- und Entwicklungszwecke entwickelt und betrieben werden. Solche Systeme sind vom Anwendungsbereich der KI-VO ausgenommen. Nicht darunter fallen jedoch KI-Tools, die in der Forschung als Hilfsmittel eingesetzt werden, wie z.B. Software zur Transkription von Interviews, sofern sie nicht eigens für den alleinigen Zweck der wissenschaftlichen Forschung entwickelt wurden.
-
Organisationen sollten:
Eine Bestandsaufnahme der eingesetzten KI-Systeme durchführen.
Das Risikopotenzial dieser Systeme bewerten.
Schulungsbedarfe identifizieren und entsprechende Maßnahmen planen.
Sicherstellen, dass alle Beteiligten über die notwendige KI-Kompetenz verfügen.
Diese Schritte helfen dabei, die Anforderungen der KI-VO rechtssicher und effizient umzusetzen.
Sag Hallo
mail: info[at]humandigitals.de
fon: +49 (0)561 47 39 41 57
human digitals GmbH
Fünffensterstraße 2
34117 Kassel
human digitals GmbH
Lautenschlagerstraße 16
70173 Stuttgart