Die EU-Kommission hat am 9. Dezember 2023 mitgeteilt, dass sie den zwischen dem EU-Parlament und dem EU-Rat ausgehandelten Kompromiss über das im April 2021 von ihr vorgeschlagene Gesetz über künstliche Intelligenz (KI-Gesetz) begrüsst.

Die dem Kompromiss zugrundeliegende Textversion des KI-Gesetzes wurde jedoch noch nicht publiziert, da die formale Genehmigung der finalen Textversion durch die Verhandlungspartner noch aussteht.

In der Zwischenzeit wurde die provisorische Einigungsversion des KI-Gesetzes “angesichts der grossen öffentlichen Aufmerksamkeit für #AIAct” jedoch geleakt. 

Begriffsbestimmungen und Anwendungsbereich

Um sicherzustellen, dass die Definition eines KI-Systems (s. Blockquote unten) ausreichend klare Kriterien zur Unterscheidung zwischen KI und einfacheren Softwaresystemen enthält, wird sie im ausgehandelten Kompromiss an den von der OECD vorgeschlagenen Ansatz angepasst, ohne die Definition der OECD jedoch integral zu übernehmen

“Ein KI-System ist ein maschinengestütztes System, das für explizite oder implizite Ziele aus den empfangenen Eingaben ableitet, wie es Ergebnisse wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen können. Verschiedene KI-Systeme unterscheiden sich in ihrem Grad an Autonomie und Anpassungsfähigkeit nach dem Einsatz.”

Ausserdem wird klargestellt, dass das KI-Gesetz nur für Bereiche gilt, die in den Anwendungsbereich des EU-Rechts fallen, und keinesfalls die Zuständigkeiten der Mitgliedstaaten oder anderer, mit entsprechenden Aufgaben betrauter Stellen in Bezug auf die nationale Sicherheit berühren sollte. Darüber hinaus wird das KI-Gesetz nicht für Systeme gelten, die ausschliesslich militärischen oder verteidigungspolitischen Zwecken dienen. Ausgenommen sind auch KI-Systeme, die ausschliesslich für Forschung und Innovation verwendet werden, sowie Personen, die KI aus nichtgewerblichen Gründen nutzen.

Fundamentalgrundsätze

Gemäss Artikel 4a des Kompromisstextes des KI-Gesetzes sind alle Akteure, auf welche das KI-Gesetz anwendbar ist, in Bezug auf die Entwicklung von KI-Systemen an folgende Fundamentalgrundsätze gebunden:

Menschliches Handeln und Kontrolle

KI-Systeme sollen dem Menschen dienen und die Menschenwürde sowie persönliche Autonomie respektieren, und so funktionieren, dass sie von Menschen kontrolliert und überwacht werden können.

Technische Robustheit und Sicherheit

Unbeabsichtigte und unerwartete Schäden sollen auf ein Mindestmass reduziert werden und KI-Systeme sollen im Falle von unbeabsichtigten Problemen robust sein.

Datenschutz und Data Governance

KI-Systeme sollen im Einklang mit den datenschutzrechtlichen Vorschriften entwickelt und eingesetzt werden.

Transparenz

Es muss eine Rückverfolgbarkeit und Erklärbarkeit möglich sein und Menschen muss bewusst gemacht werden, dass sie mit einem KI-System interagieren.

Vielfalt, Nichtdiskriminierung und Fairness

KI-Systeme sollen unterschiedliche Akteure einbeziehen und den gleichberechtigten Zugang, die Gleichstellung der Geschlechter und die kulturelle Vielfalt fördern, und umgekehrt diskriminierende Auswirkungen vermeiden.

Soziales und ökologisches Wohlergehen

KI-Systeme sollen nachhaltig und umweltfreundlich sein sowie zum Nutzen aller Menschen entwickelt und eingesetzt werden.

Neue Governance-Architektur

Nach den neuen Vorschriften für GPAI-Modelle und angesichts der offenkundigen Notwendigkeit ihrer Durchsetzung auf EU-Ebene wird bei der Kommission ein Amt für künstliche Intelligenz („KI-Amt“) eingerichtet. Seine Aufgabe wird es sein, die am weitesten fortgeschrittenen KI-Modelle zu überwachen; daneben soll es Normen und Testverfahren fördern und die gemeinsamen Vorschriften in allen Mitgliedstaaten durchsetzen. Ein wissenschaftliches Gremium unabhängiger Sachverständiger wird das KI-Amt zu GPAI-Modellen beraten. So soll es dazu beitragen, Methoden zur Bewertung der Fähigkeiten von Basismodellen zu entwickeln, sich zur Benennung und Entstehung von Basismodellen mit erheblichen Auswirkungen äussern und mögliche materielle Sicherheitsrisiken im Zusammenhang mit Basismodellen überwachen. Der aus Vertretern der Mitgliedstaaten zusammengesetzte Ausschuss für künstliche Intelligenz (“KI-Ausschuss”), soll wie vorgeschlagen als Koordinierungsplattform und beratendes Gremium für die Kommission fungieren. Die Mitgliedstaaten würden somit eine wichtige Rolle bei der Umsetzung der Verordnung spielen, etwa bei der Ausarbeitung von Verhaltenskodizes für Basismodelle. Schließlich wird ein Beratungsforum für Interessenträger wie Vertreter der Industrie, KMU, Start-ups, Zivilgesellschaft und Hochschulen/Wissenschaft eingerichtet, das dem KI-Ausschuss technisches Fachwissen zur Verfügung stellt.

Sanktionen

Die Geldbußen für Verstösse gegen das KI-Gesetz wurden als Prozentsatz des weltweiten Jahresumsatzes des zuwiderhandelnden Unternehmens im vorangegangenen Geschäftsjahr bzw. als im Voraus festgelegter Betrag festgelegt, je nachdem, welcher Betrag höher ist. Das wären EUR 35 Mio. bzw. 7 % für Verstöße im Zusammenhang mit verbotenen KI-Anwendungen, EUR 15 Mio. bzw. 3 % für Verstösse gegen die im KI-Gesetz vorgeschriebenen Verpflichtungen und EUR 7,5 Mio. bzw. 1,5 % für die Bereitstellung von Fehlinformationen.

Für KMU und Start-ups sind jedoch verhältnismässigere Obergrenzen vorgesehen.

Im ausgehandelten Kompromiss wird auch klargestellt, dass eine natürliche oder juristische Person bei der zuständigen Marktüberwachungsbehörde eine Beschwerde wegen Nichteinhaltung des KI-Gesetzes einreichen und erwarten kann, dass eine solche Beschwerde gemäss den dafür eingerichteten Verfahren dieser Behörde bearbeitet wird.

Zeitplan

Der Einigungstext muss nun noch vom EU Parlament und vom Rat förmlich verabschiedet werden und tritt dann 20 Tage nach der Veröffentlichung im Amtsblatt in Kraft. Das KI-Gesetz würde dann zwei Jahre nach seinem Inkrafttreten zur Anwendung kommen mit Ausnahme einiger spezifischer Bestimmungen: Verbote gelten bereits nach sechs Monaten, die Vorschriften für KI mit allgemeinem Verwendungszweck nach 12 Monaten.

Um den Übergangszeitraum bis zum allgemeinen Inkrafttreten des KI-Gesetzes zu überbrücken, wird die EU Kommission einen KI-Pakt ins Leben rufen. Dieser wird KI-Entwickler aus Europa und der ganzen Welt zusammenbringen, die darin freiwillig zusagen, die wichtigsten Verpflichtungen des KI-Gesetzes bereits vor Ablauf der gesetzlichen Fristen umzusetzen.

Um die Regeln für eine vertrauenswürdige KI auch auf internationaler Ebene zu fördern, wird die EU weiterhin in Foren wie der G7, der OECD, dem Europarat, der G20 und den Vereinten Nationen dafür werben. Erst kürzlich begrüsste die Kommission die Vereinbarung der Staats- und Regierungschefs der G7 über internationale Leitprinzipien für KI und einen freiwilligen Verhaltenskodex für fortgeschrittene KI-Systeme im Rahmen des Hiroshima-KI-Prozesses.

Internationaler Anwendungsbereich: Auswirkungen auf die Schweiz

Auch Schweizer Anbieter, die KI-Systeme in der EU in Verkehr bringen oder in Betrieb nehmen, werden vom räumlichen Anwendungsbereich des KI-Gesetzes erfasst. Überdies wird das KI-Gesetz für Schweizer Anbieter und Nutzer von KI-Systemen, wenn das vom KI-System hervorgebrachte Ergebnis in der EU verwendet werden.

Wenn Schweizer KI-Anbieter ihre Produkte nicht nur für die Schweiz, sondern auch für die Vermarktung und den Gebrauch in der EU entwickeln, werden sich die europäischen KI-Standards des KI-Gesetzes auch in der Schweiz faktisch durchsetzen, unabhängig davon ob und wann der schweizerische Gesetzgeber eine eigene KI-Regulierung in Kraft setzt (s. unten “KI-Regulierungsansätze in der Schweiz”).

KI-Regulierungsansätze in der Schweiz

Gemäss einer Medienmitteilung vom 22. November 2023 will der Schweizerische Bundesrat “das Potential von Künstlicher Intelligenz (KI) nutzbar machen und gleichzeitig die Risiken für die Gesellschaft minimieren“.
Der Bundesrat lässt überdies mitteilen, dass er “sich mit den Entwicklungen, Chancen und Herausforderungen von KI befasst” und das Eidgenössische Departement für Umwelt, Verkehr, Energie und Kommunikation (UVEK) beauftragt habe, bis Ende 2024 mögliche Ansätze zur Regulierung von KI aufzuzeigen und dabei alle Bundesstellen miteinzubeziehen, die bei den betroffenen Rechtsbereichen federführend sind. Mit dieser Analyse will der Bundesrat die Basis schaffen, damit er 2025 einen konkreten Auftrag für eine Regulierungsvorlage KI erteilen und die Zuständigkeiten regeln kann.