Einführung in das EU-Gesetz für Künstliche Intelligenz
Verständnis des weltweit ersten umfassenden KI-Gesetzes
Die Europäische Union steht an vorderster Front der Regulierung von künstlicher Intelligenz (KI) durch ihr wegweisendes Gesetz für Künstliche Intelligenz. Diese Gesetzgebung markiert einen bedeutenden Meilenstein und zielt darauf ab, die KI-Regeln in den Mitgliedsstaaten zu harmonisieren, während die Entwicklung von KI menschenzentriert, vertrauenswürdig und im Einklang mit grundlegenden Rechten und Sicherheit erfolgt.
Die Ziele des EU-KI-Gesetzes
Im Kern zielt das KI-Gesetz darauf ab, einen ausgewogenen Rahmen zu schaffen, der Innovation und technologischen Fortschritt fördert, ohne dabei ethische Standards und individuelle Schutzmaßnahmen zu beeinträchtigen. Es führt spezifische Regelungen für KI-Anwendungen mit hohem Risiko ein, schreibt Transparenz vor und legt Governance-Strukturen fest, um die Implementierung von KI in der EU zu überwachen.
Die Digitale Strategie der EU und KI
Vorteile der Regulierung von KI: Von Gesundheitswesen bis Energie
Die Regulierung unterstreicht die vielfältigen Vorteile, die eine kontrollierte Entwicklung von KI in Bereichen wie Gesundheitswesen, Transport und Energie mit sich bringen kann. Die EU strebt durch klare Richtlinien danach, KI zum gesellschaftlichen Wohl einzusetzen und Effizienz, Sicherheit und Nachhaltigkeit zu verbessern.
Der Weg zur Regulierung: Der Vorschlag der Europäischen Kommission
Initiiert von der Europäischen Kommission, ist das KI-Gesetz Teil einer breiteren digitalen Strategie, um die EU als globalen Marktführer im digitalen Zeitalter zu positionieren. Dieser Vorschlag definiert einen risikobasierten Ansatz für die KI-Governance, um sicherzustellen, dass Systeme unter strengen ethischen und Sicherheitsstandards entwickelt und implementiert werden.
Was das EU-Parlament in der KI-Gesetzgebung will
Sicherheit, Transparenz und Umweltfreundlichkeit gewährleisten
Das Europäische Parlament setzt sich für KI-Systeme ein, die Sicherheit, Transparenz und Umweltverträglichkeit priorisieren. Die Gesetzgebung betont die Notwendigkeit, dass KI verständlich ist und von Menschen überwacht wird, um sicherzustellen, dass die Technologie im öffentlichen Interesse dient und keine negativen Folgen hat.
Der Ruf nach einer einheitlichen Definition von KI
Ein entscheidender Aspekt des KI-Gesetzes besteht darin, einen einheitlichen, technologieneutralen Begriff von KI zu etablieren. Dies soll sicherstellen, dass die Regulierung relevant bleibt und zukünftigen technologischen Entwicklungen gerecht wird, um eine solide Grundlage für die KI-Governance zu schaffen.
KI-Gesetz: Risiken kategorisieren und Regeln festlegen
Umgang mit verschiedenen Risikostufen: Von unannehmbarem bis minimalem Risiko
Das KI-Gesetz führt ein neuartiges Klassifizierungssystem für KI-Anwendungen ein, basierend auf dem Risikolevel, den sie darstellen. Dieses Rahmenwerk ist darauf ausgelegt, ein angemessenes Maß an regulatorischer Prüfung zu gewährleisten, von minimalen bis hin zu hochriskanten KI-Systemen, um sicherzustellen, dass Anwendungen mit höherem Risiko einer strengen Prüfung unterzogen werden.
- Unannehmbares Risiko – Vollständige Verbote – Art.5
- Höchste Stufe, Systeme mit eindeutigen Verstößen gegen grundlegende Rechte.
- z.B. Echtzeitüberwachung durch Strafverfolgungsbehörden, Sozialkreditbewertung
- Hochrisiko – Umfassende Regulierung – Art.6
- Systeme mit dem Potenzial, im Falle von Ausfällen oder Missbrauch erheblichen Schaden zu verursachen (Gesundheit, Sicherheit, grundlegende Rechte)
- z.B. KI im Personalwesen oder im Bereich der Strafverfolgung
- Begrenztes Risiko – Transparenzverpflichtungen – Art.52
- Systeme mit dem Risiko von Manipulation oder Täuschung in nicht-kritischen Bereichen
- z.B. Chatbots im Kundenservice, Emotionserkennungssysteme
- Nutzer müssen über jede Interaktion mit KI informiert werden
- Minimales Risiko – Verhaltenskodizes – Art.69
- Systeme mit geringem oder niedrigem Risiko, potenziellen Schaden zu verursachen
- z.B. Spam-Filter, Inhaltsbewertung
- Keine zusätzlichen Einschränkungen der Bereitstellung
Spezifische Verbote: KI-Systeme mit unannehmbaren Risiken
Die Verordnung identifiziert bestimmte KI-Praktiken als unannehmbare Risiken und verbietet sie damit. Dazu gehören die biometrische Identifikation in Echtzeit in öffentlichen Räumen und manipulative KI, die individuelle Schwächen ausnutzt. Dies spiegelt das Engagement der EU wider, die Rechte und die Sicherheit der Bürger zu schützen. Zusammengefasst sind die folgenden Praktiken verboten:
- Subliminale Techniken: Das auf den Markt bringen, in Betrieb nehmen oder Verwenden von KI-Systemen, die subliminale Techniken jenseits des Bewusstseins einer Person einsetzen oder bewusst manipulative oder betrügerische Techniken mit der Absicht oder dem Effekt der wesentlichen Verzerrung des Verhaltens einer Person, was zu erheblichem Schaden führt.
- Ausnutzen von Schwächen: Ausnutzung von Schwächen einer Person oder einer spezifischen Gruppe von Personen aufgrund ihres Alters, ihrer Behinderung oder ihrer spezifischen sozialen oder wirtschaftlichen Situation in einer Weise, die ihr Verhalten wesentlich verzerrt und erheblichen Schaden verursacht oder wahrscheinlich zu verursachen droht.
- Sozialkreditbewertung: Verwendung von KI-Systemen zur Bewertung oder Klassifizierung natürlicher Personen oder Gruppen auf der Grundlage ihres sozialen Verhaltens oder persönlicher Merkmale, was zu nachteiliger oder ungünstiger Behandlung führt, insbesondere wenn dies zu unbegründeten oder unverhältnismäßigen Ergebnissen führt.
- Echtzeit-Biometrieidentifikation: Die Verwendung von 'Echtzeit'-Biometrie-Identifikationssystemen in öffentlich zugänglichen Räumen für Strafverfolgungszwecke, außer in eng definierten Situationen, in denen es streng erforderlich ist, um ein erhebliches öffentliches Interesse zu erreichen.
- Risikobewertungen auf der Grundlage von Profiling: Risikobewertungen natürlicher Personen, um das Risiko eines von ihnen begangenen Straftaten zu bewerten, ausschließlich auf der Grundlage von Profiling oder der Beurteilung ihrer Persönlichkeitsmerkmale und -eigenschaften.
- nicht zielgerichtetes Scraping von Gesichtsbildern: Erstellen oder Erweitern von Gesichtserkennungsdatenbanken durch nicht zielgerichtetes Scraping von Gesichtsbildern aus dem Internet oder Videokameraaufnahmen.
- Emotionserkennung in sensiblen Bereichen: Ableiten oder Erkennen von Emotionen oder Absichten natürlicher Personen auf der Basis ihrer biometrischen Daten für Zwecke wie Arbeit, Bildung oder öffentliche Sicherheit, außer in Fällen, in denen es für medizinische oder sicherheitstechnische Zwecke vorgesehen ist.
Erklärung Hoch-Risiko KI-Systeme
Kategorien von Hoch-Risiko KI-Anwendungen
Hoch-Risiko KI-Systeme umfassen Anwendungen in kritischen Bereichen wie Gesundheitswesen, Transport und öffentlichen Dienstleistungen. Diese Systeme unterliegen strengen Anforderungen hinsichtlich Daten-Governance, technischer Dokumentation und Transparenz, um Risiken zu minimieren und die Verantwortlichkeit zu gewährleisten.
Verpflichtungen und Bewertungen für Hoch-Risiko Systeme
Das Gesetz schreibt umfassende Verpflichtungen für Hoch-Risiko KI-Systeme vor, die auf Aspekten wie menschlicher Überwachung, Genauigkeit und Cybersicherheit konzentriert sind. Diese Anforderungen zielen darauf ab sicherzustellen, dass Hoch-Risiko KI-Anwendungen sicher, zuverlässig und im Einklang mit den Werten und Standards der EU sind. Zusammengefasst gelten folgende Anforderungen für Hoch-Risiko-Systeme:
- Risikomanagementsystem: Etablierung eines kontinuierlichen, iterativen Prozesses, um Risiken für Gesundheit, Sicherheit und grundlegende Rechte, die mit dem KI-System während seines Lebenszyklus verbunden sind, zu identifizieren und zu minimieren.
- Qualität und Relevanz von Datensätzen: Sicherstellen, dass für das Training, die Validierung und Tests verwendete Datensätze von hoher Qualität, relevant, ausreichend repräsentativ und so fehlerfrei wie möglich sind, unter Berücksichtigung des beabsichtigten Zwecks des KI-Systems.
- Technische Dokumentation: Führung aktueller technischer Dokumentation, die die für die Beurteilung der Konformität mit der Verordnung notwendigen Informationen bereitstellt und die nachträgliche Marktüberwachung unterstützt.
- Aufzeichnungsführung: Sicherstellen, dass das KI-System automatisch Protokolle (Ereignisse) während seiner operationellen Lebensdauer generieren kann, die für einen dem Zweck des Systems angemessenen Zeitraum aufbewahrt werden sollten.
- Transparenz und Informationsbereitstellung: Entwurf von Hoch-Risiko KI-Systemen, um für Implementierende transparent genug zu sein, um deren Betrieb zu verstehen, und diesen klar und umfassend zu benutzen.
- Menschliche Aufsicht: Umsetzung angemessener Maßnahmen zur menschlichen Überwachung, um sicherzustellen, dass der Betrieb des KI-Systems von natürlichen Personen während seiner Nutzung effektiv überwacht werden kann.
- Genauigkeit, Robustheit und Cybersicherheit: Sicherstellen, dass Hoch-Risiko KI-Systeme ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen und in diesen Belangen während ihres Lebenszyklus konstant performen.
- Konformitätsbewertung: Durchlaufen des relevanten Konformitätsbewertungsverfahrens, bevor das KI-System auf den Markt gebracht oder in Betrieb genommen wird.
- CE-Kennzeichnung: Anbringen der CE-Kennzeichnung am KI-System, um seine Konformität mit der Verordnung anzuzeigen.
- Registrierung: Registrieren des KI-Systems in der EU-Datenbank, bevor es auf den Markt gebracht oder in Betrieb genommen wird.
- Zugänglichkeitsanforderungen: Einhaltung von Zugänglichkeitsanforderungen für Produkte und Dienstleistungen sowie die Zugänglichkeit der Websites und mobilen Anwendungen der öffentlichen Stellen.
Transparenzanforderungen für KI-Systeme
Generative KI und die Notwendigkeit von Transparenz
Generative KI-Systeme, die nicht als Hoch-Risiko eingestuft werden, müssen Transparenzverpflichtungen erfüllen. Dazu gehört die Notwendigkeit, zu kennzeichnen, wenn der Inhalt von KI generiert wurde, um Benutzern eine informierte Entscheidungsfindung zu ermöglichen und das Vertrauen in digitale Inhalte zu wahren.
Kennzeichnung von KI-generierten Inhalten
Das KI-Gesetz betont die Bedeutung, KI-generierte Inhalte, wie Deepfakes oder synthetische Medien, klar zu kennzeichnen. Diese Maßnahme zielt darauf ab, die Benutzer aufzuklären und die Verbreitung von Falschinformationen zu verhindern, um ein digitales Umfeld zu fördern, in dem Benutzer zwischen KI-generierten und authentischen Inhalten unterscheiden können.
Detaillierte Transparenzanforderungen
- Interaktion mit natürlichen Personen: Anbieter müssen sicherstellen, dass KI-Systeme, die direkt mit natürlichen Personen interagieren, Benutzern deutlich mitteilen, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus dem Kontext und dem Kenntnisstand des Benutzers offensichtlich.
- Generierung synthetischer Inhalte: Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte generieren, müssen die Ausgaben in einem maschinenlesbaren Format kennzeichnen und sicherstellen, dass der Inhalt als künstlich generiert oder manipuliert erkennbar ist. Die implementierten technischen Lösungen müssen wirksam, interoperabel, robust und zuverlässig sein, soweit dies technisch möglich ist.
- Emotionserkennung und biometrische Kategorisierungssysteme: Implementierende von Systemen, die zur Emotionserkennung oder biometrische Kategorisierung verwendet werden, müssen Einzelpersonen über den Betrieb dieser Systeme informieren und personenbezogene Daten in Übereinstimmung mit den geltenden Datenschutzbestimmungen verarbeiten.
- Deepfakes (manipulierter Inhalt): Implementierende von KI-Systemen, die Inhalte generieren oder manipulieren, die als "Deepfakes" gelten könnten, müssen offenlegen, dass die Inhalte künstlich erstellt oder manipuliert wurden. Dies gilt nicht, wenn der Inhalt Teil eines kreativen, satirischen, künstlerischen oder fiktionalen Werks ist oder wenn der KI-generierte Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde.
- Textgenerierung aus öffentlichem Interesse: Implementierende von KI-Systemen, die Texte für die Information der Öffentlichkeit zu Themen von öffentlichem Interesse generieren, müssen offenlegen, dass der Text künstlich generiert wurde oder manipuliert wurde, es sei denn, es gibt eine menschliche Überprüfung oder redaktionelle Kontrolle und redaktionelle Verantwortung für den Inhalt.
- Klar und unterscheidbar: Die Informationen, die natürlichen Personen zur Verfügung gestellt werden, müssen in einer klaren und unterscheidbaren Weise präsentiert werden, unter Berücksichtigung von Zugänglichkeitsanforderungen.
- Registrierung von Hoch-Risiko KI-Systemen: Anbieter und Implementierende von Hoch-Risiko KI-Systemen müssen sich und ihre Systeme in einer EU-Datenbank registrieren, bevor das System auf den Markt gebracht oder in Betrieb genommen wird.
Governance und Durchsetzung
Ein entscheidender Aspekt der Verordnung ist die Schaffung einer Governance-Struktur um das KI-Büro, das eine entscheidende Rolle bei der Unterstützung der Umsetzung und Durchsetzung des Gesetzes spielt. Es wird eine EU-weite Datenbank für Hoch-Risiko KI-Systeme eingerichtet, um eine Überwachung und Einhaltung zu erleichtern. Die Verordnung legt auch die Rollen der nationalen zuständigen Behörden, der Marktüberwachungsbehörden und des europäischen Datenschutzbeauftragten fest und gewährleistet einen koordinierten Ansatz zur KI-Governance. Hier eine Zusammenfassung der Governance und Durchsetzung des EU-KI-Gesetzes.
- KI-Büro: Die Einrichtung des KI-Büros zur Unterstützung der Umsetzung, Überwachung und Überwachung von KI-Systemen, Allzweck-KI-Modellen und KI-Governance. Das KI-Büro ist verantwortlich für die Koordination der Unterstützung für gemeinsame Untersuchungen, die Bereitstellung von Leitlinien zur Umsetzung der Verordnung und die Sicherstellung, dass Klassifizierungsregeln und -verfahren auf dem neuesten Stand sind.
- Europäisches Gremium für künstliche Intelligenz: Die Schaffung eines Gremiums, das aus Vertretern der Mitgliedstaaten,