Internationale Regulierung für KI-Systeme durch den Europarat

Am 17. Mai 2024 hat der Europarat ein internationales KI-Abkommen verabschiedet. Es handelt sich um den ersten internationalen rechtsverbindlichen Vertrag, der darauf abzielt, die Achtung der Menschenrechte, der Rechtsstaatlichkeit und der demokratischen Rechtsnormen bei der Nutzung von Systemen der künstlichen Intelligenz (KI) sicherzustellen. Der Vertrag, der auch außereuropäischen Ländern offensteht, schafft einen Rechtsrahmen, der den gesamten Lebenszyklus von KI-Systemen abdeckt, potenzielle Risiken behandelt und gleichzeitig verantwortungsvolle Innovationen fördert.

Das Übereinkommen ist das Ergebnis der zweijährigen Arbeit eines zwischenstaatlichen Gremiums, des Ausschusses für künstliche Intelligenz (CAI), an dessen Ausarbeitung die 46 Mitgliedstaaten des Europarats, die Europäische Union und 11 Nichtmitgliedstaaten (Argentinien, Australien, Costa Rica, der Heilige Stuhl, Israel, Japan, Kanada, Mexiko, Peru, die Vereinigten Staaten von Amerika und Uruguay) sowie Vertreter der Privatwirtschaft, der Zivilgesellschaft und der Wissenschaft als Beobachter beteiligt waren (zur Pressemitteilung des Europarats).

I. Geltungsbereich

Gemäß Art. 3 des KI-Abkommens erstreckt sich dessen Anwendungsbereich auf Tätigkeiten innerhalb des Lebenszyklus von KI-Systemen, die potenziell die Menschenrechte, die Demokratie und die Rechtsstaatlichkeit beeinträchtigen können. Damit sollen sowohl Aktivitäten von öffentlichen Behörden als auch von privaten Akteuren geregelt werden.

Art. 2 in Verbindung mit Erwägungsgrund 23 des KI-Abkommens definiert den Begriff des „Systems der künstlichen Intelligenz“ als ein maschinelles System, das aufgrund expliziter oder impliziter Ziele aus den empfangenen Eingaben ableitet, wie es Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die die physische oder virtuelle Umgebung beeinflussen können. Die verschiedenen Systeme künstlicher Intelligenz unterscheiden sich in ihrem Grad an Autonomie und Anpassungsfähigkeit nach dem Einsatz (zum Volltext).

Das KI-Abkommen schließt jedoch Tätigkeiten aus, die mit der Wahrung nationaler Sicherheitsinteressen einer Vertragspartei in Zusammenhang stehen. Ebenso ausgenommen sind Forschungs- und Entwicklungsaktivitäten im Bereich künstlicher Intelligenz. Aufgrund der unterschiedlichen Rechtssysteme der Mitgliedstaaten haben diese zudem die Möglichkeit, selbst zu entscheiden, ob sie die Bestimmungen der Konvention direkt auf den privaten Sektor anwenden oder eigene Regelungen treffen möchten. 

Insbesondere die letzte Ausnahmeregelung erntete zunehmend Kritik, da sie das KI-Abkommen schwäche, indem private Unternehmen von dem Anwendungsbereich des Abkommens ausgeschlossen werden können. Dies könnte sie davon befreien, die Menschenrechte, Demokratie und Rechtsstaatlichkeit bei der Einsetzung von KI-Systeme wirksam zu schützen.

II. Schutz der Menschenrechte (Art. 4 KI-Abkommen)

Das KI-Abkommen verpflichtet die Vertragsparteien in Artikel 4 dazu, den Schutz der Menschenwürde in allen Phasen des Lebenszyklus von KI-Systemen sicherzustellen. Gemäß Erwägungsgrund 37 zum KI-Abkommen bezieht sich diese Verpflichtung auf die Einhaltung der Menschenrechte, wie sie im internationalen und innerstaatlichen Recht verankert sind, und umfasst alle Tätigkeiten im Zusammenhang mit der Entwicklung, dem Einsatz und der Stilllegung von KI-Systemen.

Die Vertragsparteien sind verpflichtet, dafür zu sorgen, dass ihre nationalen Gesetze mit ihren internationalen Verpflichtungen, einschließlich der Menschenrechtsnormen, übereinstimmen. Dies bedeutet, dass jedes Land sicherstellen muss, dass die Menschenrechte geachtet, geschützt und gefördert werden, indem die nationalen Gesetze und Verordnungen den internationalen Standards entsprechen. Die Vertragsparteien haben die Freiheit, die Methoden zur Umsetzung dieser Verpflichtungen selbst zu wählen, solange das Ergebnis den internationalen Anforderungen entspricht.

III. Integrität der demokratischen Prozesse und Achtung der Rechtsstaatlichkeit (Art. 5 KI-Abkommen)

Artikel 5 des Abkommens fordert die Vertragsparteien dazu auf, sicherzustellen, dass die Integrität demokratischer Prozesse und die Achtung der Rechtsstaatlichkeit bei der Nutzung von KI-Systemen gewahrt bleiben, indem sie Maßnahmen ergreifen, um Missbrauch und Manipulation zu verhindern, Transparenz bei der Entscheidungsfindung zu fördern und sicherzustellen, dass diese Technologien nicht zur Untergrabung von Bürgerrechten, zur Verbreitung von Desinformation oder zur Beeinflussung des politischen Willens der Bevölkerung missbraucht werden.

IV. Transparenz und Beaufsichtigung (Art. 8 KI-Abkommen)

Das Abkommen verpflichtet die Vertragsparteien dazu, umfassende Transparenzmaßnahmen zu implementieren, um sicherzustellen, dass die Nutzer über den Einsatz von KI-Systemen informiert sind. Diese Transparenzpflichten umfassen die Offenlegung der Funktionsweise von KI-Systemen und die Art und Weise, wie Entscheidungen getroffen werden. Es muss klar erkennbar sein, wenn ein Nutzer mit einem KI-System interagiert und welche Daten zur Entscheidungsfindung herangezogen werden.

Darüber hinaus sind Maßnahmen erforderlich, um den Missbrauch von KI-Systemen zu verhindern. Dies beinhaltet die Pflicht zur Überwachung und Kontrolle der Nutzung von KI-Systemen, um sicherzustellen, dass sie nicht für Zwecke eingesetzt werden, die gegen die Menschenrechte verstoßen oder demokratische Prozesse untergraben. Das Abkommen sieht auch die Möglichkeit vor, bei Missbrauch Sanktionen zu verhängen.

Die Vertragsparteien sind zudem verpflichtet, sicherzustellen, dass betroffene Personen Zugang zu Rechtsmitteln haben, wenn ihre Rechte durch den Einsatz von KI-Systemen verletzt werden (vgl. Art.14 KI-Abkommen). Dies umfasst auch die Bereitstellung von Informationen darüber, wie Beschwerden eingereicht werden können und welche Schritte unternommen werden, um Verstöße zu beheben.

Ein zentrales Element des Abkommens ist die Verpflichtung zur Einrichtung nationaler Überwachungsinstanzen, die für die Kontrolle und Durchsetzung der Richtlinien verantwortlich sind. Diese Instanzen sollen sicherstellen, dass die KI-Systeme den ethischen und rechtlichen Standards entsprechen und bei Verstößen entsprechende Maßnahmen ergreifen.

V. Verhältnis zum EU-KI-Gesetz (AI-Act)

Im nächsten Schritt soll das Verhältnis des KI-Abkommens zum AI-Act näher beleuchtet werden. Während der AI-Act spezifische Anforderungen für den europäischen Binnenmarkt festlegt und verbindliche Standards für den Einsatz von KI-Technologien in der EU schafft, zielt das Abkommen des Europarates auf die Schaffung eines globalen Rahmens für ethische und rechtliche Standards ab.

Der AI-Act konzentriert sich stärker auf technische und spezifische regulatorische Anforderungen für Hochrisiko-KI-Systeme und fordert regelmäßige Überprüfungen, um die Einhaltung sicherzustellen. Das internationale Abkommen legt hingegen mehr Wert auf die Schaffung eines ethischen Rahmens und die Förderung internationaler Zusammenarbeit, um den grenzüberschreitenden Einsatz von KI-Technologien zu regulieren.

Die Verabschiedung des KI-Abkommens durch den Europarat könnte die Umsetzung des AI-Acts in den EU-Mitgliedstaaten unterstützen, indem sie eine einheitliche Basis für die Regulierung von KI-Systemen schafft und die internationalen Standards für den verantwortungsvollen Einsatz von KI stärkt. Dies könnte die Zusammenarbeit zwischen verschiedenen Rechtsordnungen verbessern und dazu beitragen, dass europäische Unternehmen auf dem globalen Markt wettbewerbsfähig bleiben.

VI. Fazit

Das internationale KI-Abkommen des Europarates stellt einen bedeutenden Schritt zur Schaffung eines sicheren und ethischen Rahmens für die Nutzung von KI-Technologien dar. Es fördert die internationale Zusammenarbeit und setzt Maßstäbe für die verantwortungsvolle Innovation im Bereich der Künstlichen Intelligenz. Mitgliedstaaten und die in ihnen ansässigen Unternehmen sind nunmehr aufgefordert, ihre Praktiken und Regularien entsprechend anzupassen, um den Anforderungen des Abkommens gerecht zu werden und die Menschenrechte in einer zunehmend digitalisierten Welt zu schützen.