Der EU AI Act ist am 1. August 2024 in Kraft getreten und legt fest, wie KI in der EU verwendet werden darf und welche Regeln dabei zu beachten sind. Ab Februar 2025 wurden erste Bestimmungen für Unternehmen verpflichtend. Weitere wichtige Regelungen folgen in den darauffolgenden Monaten, bis das gesamte Gesetz, mit Ausnahme bestimmter Hochrisiko-KI-Systeme, ab dem 1. August 2026 anwendbar ist. Ziel der KI-Verordnung ist es, den Umgang mit Künstlicher Intelligenz zu regeln und beispielsweise die Verbreitung von Fehlinformationen zu reduzieren. Der AI Act basiert auf einem „risikobasierten Ansatz“, dabei werden die KI-Systeme in Kategorien eingeteilt, je nachdem, welches Risiko sie für die Menschen und die Gesellschaft darstellen:
- Unvertretbares Risiko: KI-Anwendungen, die extrem risikoreich sind, werden ganz verboten.
- Hohes Risiko: Hier gelten strenge Anforderungen und Kontrollen, zum Beispiel für KI-Anwendungen im Gesundheits- oder Bildungsbereich.
- Geringes oder minimales Risiko: Diese Anwendungen müssen nur wenige Anforderungen erfüllen.
Für Museen sind die Kategorien „geringes Risiko“ und „hohes Risiko“ relevant, da die meisten KI-Systeme, die sie verwenden, in diese Kategorien fallen. Dazu zählen:
Generative KI (z.B. ChatGPT)
Generative KI-Systeme, die Inhalte erstellen, können je nach Anwendung in unterschiedliche Risikokategorien fallen. Wenn ein Museum beispielsweise ChatGPT zur Erstellung von Inhalten nutzt, muss geprüft werden, ob die Anwendung potenziell hohe Risiken birgt, etwa durch die Verbreitung von Fehlinformationen. In solchen Fällen sind Transparenzpflichten und Maßnahmen zur Risikominderung erforderlich.
Prädiktive KI
Prädiktive KI-Systeme nutzen historische und aktuelle Daten, um Muster zu identifizieren und auf der Grundlage dieser Informationen Schlussfolgerungen zu ziehen und zukünftige Ereignisse zu prognostizieren. Auch hier ist eine Risikobewertung notwendig, insbesondere wenn die Vorhersagen Auswirkungen auf Individuen haben. Hier muss ebenfalls sichergestellt werden, dass die genutzten Systeme den Anforderungen des AI Acts entsprechen, einschließlich Transparenz, Nachvollziehbarkeit und regelmäßiger Überprüfung.
Folgende Bestandteile der KI-Verordnung sollten Museen bekannt sein:
Kompetenzaufbau
Am 2. Februar 2025 ist Artikel 4 des EU AI Acts zur KI-Literacy in Kraft getreten. Dieser verpflichtet Unternehmen dazu, sicherzustellen, dass ihre Mitarbeiter:innen über die erforderlichen Kompetenzen im Umgang mit Künstlicher Intelligenz verfügen. Besonders Anbieter und Betreiber von KI-Systemen müssen ihre Teams durch gezielte Schulungen auf die gesetzlichen Anforderungen vorbereiten, um Compliance sicherzustellen und Risiken zu minimieren. Ziel ist es, ein klares Verständnis des EU AI Acts zu vermitteln, einschließlich seiner Anforderungen und Ziele. Aus Artikel 4 lassen sich drei zentrale Bereiche ableiten, in denen Fachkenntnisse aufgebaut werden müssen:
- Technisches Know-how: Verständnis für die Funktionsweise von KI-Algorithmen, Maschinellem Lernen und generativen Modellen.
- Regulatorisches Wissen: Kenntnisse über die gesetzlichen Vorgaben und ethischen Prinzipien im Umgang mit KI.
- Anwendungsspezifische Kenntnisse: Fähigkeit, KI sicher und effektiv in spezifischen Branchen einzusetzen.
Transparenzpflicht
Ein wesentlicher Bestandteil der Verordnung ist die Transparenzpflicht. In Artikel 50 regelt der AI Act, welche Transparenzpflichten für Anbieter und Nutzende von KI-Anwendungen gelten. Die Verordnung verlangt, dass Organisationen offenlegen, wenn sie KI-generierte Inhalte nutzen. Dadurch soll klar gemacht werden, wenn ein Bild, ein Text oder eine Vorhersage nicht direkt von Menschen, sondern von einer Maschine generiert wurde. Dies muss kenntlich gemacht werden, entweder mit einem Wasserzeichen, einer Bildunterschrift oder einem Hinweis im Text. Zusätzlich ist es sinnvoll, den Kontext des KI-Einsatzes zu erklären. Hier ist eine offen Kommunikation, warum KI eingesetzt wird und welche Vorteile dies für die Zielgruppen oder die Organisation haben kann, empehlenswert.
Weitere Informationen vom Bundesministerium für Digitales und Verkehr
Weitere Informationen vom Europäischen Parlament