Zur Vorbereitung eines neuen Gesetzesvorschlags der Europäischen Kommission haben die Abgeordneten des Europäischen Parlaments über einen Bericht des Rechtsausschusses (JURI) zu künstlicher Intelligenz (KI) im Bereich ziviler und militärischer Nutzung veröffentlicht. Ziel ist es, allgemeine Leitlinien zu diesem Thema festzulegen, das in vielen Bereichen relevant ist: Militär, Gesundheitswesen, Medienwelt uvm. Doch es gibt auch Kritik, dass der Bericht sich nicht gegen freiheitsbedrohende Tehnologien wendet.
“Einer der wichtigsten Punkte des Berichts ist, dass die Forderung nach einem Verbot des Einsatzes von Gesichtserkennungstechnologien im öffentlichen Raum nicht integriert wurde. Traurigerweise schlägt die Entschließung vor, ein Moratorium für eine solche Nutzung erst nach einer weiteren Bewertung zu verhängen. Das ist einfach inakzeptabel”, kommentierte Marcel Kolaja, Vizepräsident des Europäischen Parlaments.
Regulierung autonomer Waffen
Eines der zentralen Themen, die in diesem Bericht angesprochen werden, ist der Einsatz von KI im militärischen Umfeld. “Die Menschenwürde und die Menschenrechte müssen bei allen Verteidigungsmaßnahmen der EU respektiert werden”, so die Abgeordneten. Mit anderen Worten: KI-basierte Systeme müssen es dem Menschen ermöglichen, eine “sinnvolle” Kontrolle auszuüben.
Im Mittelpunkt dieser Fragen stehen “autonome tödliche Waffensysteme” (ALWS – autonomous lethal weapon systems). Auch als “Killerroboter” bezeichnet, handelt es sich dabei um Waffen, die das zu treffende Ziel selbst ansteuern und zerstören. Zu diesem Thema fordert der Text die EU auf, neben den Vereinten Nationen und der internationalen Gemeinschaft eine führende Rolle bei der Förderung eines globalen Rahmens für den militärischen Einsatz von KI zu spielen.
KI als Entscheidungsträger in Justiz und Gesundheitswesen
Ein weiteres Thema, das diskutiert wurde, war KI in öffentlichen Bereichen wie der Justiz und dem Gesundheitswesen. Der Einsatz von KI darf niemals “den menschlichen Kontakt ersetzen” oder zu diskriminierenden Praktiken führen, stellt das Parlament fest. Es möchte, dass die Bürger immer informiert werden, wenn sie einer auf KI basierenden Entscheidung unterliegen, und dass sie die Möglichkeit haben, Einspruch zu erheben. Es gibt jedoch auch hier weiterreichende Kritik.
“Dass Computer der Justiz Entscheidungen empfehlen, widerspricht der eigentlichen Idee der Justiz, die eine unabhängige Einzelfallprüfung gewährleisten soll. Es hat sich wiederholt gezeigt, dass KI-Systeme voreingenommen, diskriminierend und fehleranfällig sind. Sie können niemals neutral sein”, sagte dazu Dr. Patrick Beyer, Europaabgeordneter der Piratenpartei.
Verbot und Maßnahmen gegen Soziales Rating und Deepfakes
Die Abgeordneten fordern die Kommission außerdem auf, besonders wachsam zu sein, was den Einsatz von KI zur “Massenüberwachung im zivilen und militärischen Bereich” angeht. Gesichtserkennung ist hierfür nur ein kontroverses Beispiel. Viele Abgeordnete fordern zum Beispiel ein Verbot der Verwendung von “hochgradig aufdringlichen Social-Rating-Anwendungen” zur Überwachung und Bewertung von Bürgern durch öffentliche Behörden.
“Deepfakes”, so der Bericht, sind auch für hochrangige Staatsbehörden besorgniserregend, weil die Technologie das Potenzial hat, “Länder zu destabilisieren, Fehlinformationen zu verbreiten und Wahlen zu beeinflussen. Die Abgeordneten schlagen daher vor, dass “Urheber verpflichtet werden sollten, diese Materialien als ‘unecht zu kennzeichnen” und dass die Forschung beschleunigt werden sollte, um Mittel gegen Deepfakes in der Hand zu haben.
