„AI Act: Eine Front gegen die vom chinesischen Modell inspirierte Massenüberwachung“

In den vergangenen Jahren hat der Einsatz künstlicher Intelligenz zunehmend Besorgnis ausgelöst, insbesondere im Hinblick auf möglichen Missbrauch im Zusammenhang mit sozialen Überwachungssystemen, wie sie bereits in Ländern wie China eingesetzt werden. In solchen Kontexten wird Technologie häufig dazu verwendet, das tägliche Leben der Bürger zu überwachen und zu kontrollieren, wodurch ihre Freiheit und Privatsphäre beeinträchtigt werden. Um diesen Risiken entgegenzuwirken, hat Europa mit dem AI Act einen Gesetzgebungsprozess eingeleitet. Dieses Gesetz soll nicht nur den Einsatz künstlicher Intelligenz regulieren, sondern auch invasive Formen der Überwachung eindämmen und die Grundrechte der Bürger schützen. Der AI Act zielt darauf ab, eine ethische Nutzung künstlicher Intelligenz sicherzustellen und ein Modell der „vertrauenswürdigen KI“ zu fördern, das die Grundsätze der Transparenz, Fairness und Nichtdiskriminierung respektiert.

Der Weg zur Verabschiedung dieses Gesetzes begann 2018, als die Europäische Kommission eine Expertengruppe für künstliche Intelligenz einsetzte. Diese Gruppe erarbeitete ethische Leitlinien für KI in Europa und identifizierte das Konzept der „vertrauenswürdigen KI“ als das einzig akzeptable Modell in den Mitgliedstaaten.

Anschließend legte die Europäische Kommission am 21. April 2021 den Vorschlag für die Verordnung vor, mit dem Ziel, einen harmonisierten und verhältnismäßigen Rechtsrahmen für künstliche Intelligenz innerhalb der Europäischen Union zu schaffen.

Der AI Act basiert auf dem Grundsatz, dass künstliche Intelligenz so entwickelt und eingesetzt werden sollte, dass Sicherheit, ethische Standards sowie die Achtung der Grundrechte und europäischen Werte gewährleistet werden. Zu diesem Zweck führt der Vorschlag ein Klassifizierungssystem für KI-Technologien ein, das sich nach den potenziellen Risiken für die Sicherheit und die Rechte des Einzelnen richtet. Darüber hinaus werden Anforderungen und Pflichten sowohl für Anbieter als auch für Nutzer dieser Systeme festgelegt. Der Rechtsrahmen des AI Act umfasst auch eine Klassifizierung von KI-Systemen nach dem Risiko, das sie für Einzelpersonen und die Gesellschaft darstellen. Dabei werden vier Risikostufen unterschieden: unannehmbares, hohes, begrenztes sowie minimales oder kein Risiko.

– Unannehmbares Risiko: Hierzu gehören KI-Systeme, die gegen die grundlegenden Werte der Europäischen Union verstoßen, etwa die Achtung der Menschenwürde, der Demokratie und der Rechtsstaatlichkeit. Diese Systeme sind grundsätzlich verboten oder unterliegen in bestimmten Fällen, beispielsweise bei biometrischer Echtzeitüberwachung zu Sicherheitszwecken, strengen Einschränkungen. Zu den verbotenen Systemen gehören Technologien, die das menschliche Verhalten in einem Maße manipulieren, dass die Autonomie der Nutzer beeinträchtigt wird, sowie Systeme, die ein von öffentlichen Behörden betriebenes Social Scoring ermöglichen, wie es beispielsweise in China vorkommt.

– Hohes Risiko: Hierzu gehören KI-Systeme, die erhebliche oder systemische Auswirkungen auf die Grundrechte oder die Sicherheit von Personen haben können. Daher unterliegen diese Systeme strengen Anforderungen und müssen vor ihrer Markteinführung oder Nutzung umfassende Verpflichtungen erfüllen. Beispiele hierfür sind Technologien, die bei Einstellungs- und Rekrutierungsprozessen, bei der Zulassung zu Bildungseinrichtungen, bei der Erbringung grundlegender sozialer Dienstleistungen wie der Gesundheitsversorgung, bei der biometrischen Fernüberwachung sowie in den Bereichen Justiz und Strafverfolgung eingesetzt werden. Auch Systeme zur Gewährleistung der Sicherheit kritischer Infrastrukturen fallen in diese Kategorie.

– Begrenztes Risiko: Diese Kategorie umfasst KI-Systeme, die die Rechte oder Entscheidungen der Nutzer beeinflussen können, jedoch in geringerem Maße als Hochrisikosysteme. Um eine informierte Nutzung sicherzustellen, unterliegen diese Systeme Transparenzanforderungen, die es den Nutzern ermöglichen zu erkennen, wann sie mit einem KI-System interagieren, und dessen Funktionsweise, Eigenschaften und mögliche Einschränkungen zu verstehen. Beispiele hierfür sind Technologien zur Erstellung oder Manipulation audiovisueller Inhalte, etwa Deepfakes, oder zur Bereitstellung personalisierter Empfehlungen, beispielsweise durch Chatbots.

– Minimales oder kein Risiko: Diese Kategorie umfasst KI-Systeme, die die Grundrechte oder die Sicherheit von Personen nicht unmittelbar beeinträchtigen und den Nutzern somit eine weitgehende Entscheidungsfreiheit und Kontrolle ermöglichen. Um Innovation und technologische Entwicklung zu fördern, unterliegen diese Systeme keinen regulatorischen Verpflichtungen. Häufige Beispiele sind Anwendungen zu Unterhaltungszwecken, wie Videospiele, oder Anwendungen mit ästhetischem Zweck, etwa Fotofilter, die keine wesentlichen Auswirkungen auf die Gesellschaft oder die individuellen Rechte haben.

Der AI Act zielt darauf ab, Sicherheit und ethische Standards beim Einsatz künstlicher Intelligenz zu gewährleisten und die Rechte von Einzelpersonen und Organisationen zu schützen. Zu den wichtigsten Maßnahmen gehören:

– Anforderungen an Hochrisiko-KI-Systeme zum Schutz grundlegender Rechte wie Privatsphäre, Menschenwürde und Nichtdiskriminierung.

– Menschliche Aufsicht zur Überwachung und Korrektur von KI-Systemen, um Schäden für Einzelpersonen oder die Umwelt zu verhindern.

– Verbote von KI-Systemen, die gegen die Werte der EU verstoßen, beispielsweise Systeme, die Verhalten manipulieren oder Schwachstellen von Menschen ausnutzen.

– Die Schaffung eines Governance-Rahmens unter Einbeziehung aller relevanten Akteure sowie Maßnahmen zur Zusammenarbeit, Überwachung und Sanktionierung.

– Die Förderung einer Kultur verantwortungsvoller KI durch Transparenz, Rechenschaftspflicht und Bildung, um das Vertrauen der Öffentlichkeit zu stärken.

Der AI Act zielt daher darauf ab, die Bereiche zu regulieren, in denen Risiken entstehen, wobei der Schwerpunkt stärker auf der Nutzung künstlicher Intelligenz als auf der Technologie selbst liegt. Bei der Festlegung von Vorschriften, die die Auswirkungen von Technologie auf das Leben der Menschen regeln, ist es entscheidend, mindestens vier Ziele miteinander in Einklang zu bringen: technologische Innovation zu fördern, den Schutz der Bürgerrechte zu gewährleisten, die praktische Umsetzbarkeit der auferlegten Anforderungen sicherzustellen und die langfristige Nachhaltigkeit des Gesetzes zu gewährleisten. Letzterer Aspekt, der als „Future-Proofness“ bezeichnet wird, beinhaltet die Notwendigkeit, Vorschriften zu schaffen, die auch in einem sich kontinuierlich weiterentwickelnden technologischen Umfeld gültig und anwendbar bleiben.

QUELLEN:

–   https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence
– https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai