Wenn Maschinen angreifen – autonome Kampfsysteme werden kommen

Ihm zufolge wird der Tag kommen, an dem Kampfsysteme selbst über Leben und Tod entscheiden – ohne dass der Eingriff eines Menschen notwendig ist. “Solche Angriffe, die heute wie Science Fiction aussehen, könnten in den nächsten Jahren Realität werden”, sagte Guy Caspi.

Aktuell folgt die Entwicklung jedoch vor allem positiven Aspekten. Immer mehr autonome Systeme werden gebaut, diese sollen selbstständig Tätigkeiten übernehmen und den Nutzer so möglichst wenig belasten. Dabei werden Algorithmen programmiert um auch im Falle von Problemen selbst Entscheidungen treffen zu können. Die Technologie verspricht viele Vorteile damit. So soll Datenverarbeitung reibungsloser gestaltet und menschliche Ressourcen nicht mehr benötigt werden. Ein weiterer großer Schritt in Richtung Automatisierung eben.

Im Bereich von Kampfsystemen sind Experten allerdings beunruhigt. Die Entscheidung über Leben und Tod soll nach wie vor in der Hand des Menschen liegen. Ohne Frage gibt es hier eine gewisse moralische und emotionale Komponente, diese können Maschinen weitgehend nicht übernehmen. Zudem sinkt die Hemmschwelle deutlich, wenn kein Mensch mit dieser Entscheidung belastet wird. Der Sicherheitsforscher führt in dem Gespräch auch weitere Bedenken an. So wäre das Hacken von derartigen Waffen und Drohnen denkbar, ein völlig neues Niveau von Cybersecurity wäre für solche Systeme notwendig. Im Februar warnte eine Studie von Teams der Universität Oxford und Cambrigde davor, dass KI als Werkzeug benutzt werden könnte, um sich in Drohnen und autonome Fahrzeuge zu hacken und sie in potenzielle Waffen zu verwandeln. Dabei waren keine militärischen Systeme gemeint, sondern vielmehr Systeme, die in Zukunft im öffentlichen Raum eingesetzt werden sollen. So warnt Caspi auch vor bereits vorhandener Technik – ein Hack von autonomen Autos von Google (Waymo) wäre bereits denkbar.

Cyberkriminialität wächst in den vergangenen Jahren stark an. Eine weitere Studie des US-amerikanischen Cybersicherheits-Software-Riesen Symantec besagt, dass im vergangenen Jahr 978 Millionen Menschen in 20 Ländern von Cyberkriminalität betroffen waren. Als Ergebnis verloren Opfer von Cyberkriminalität insgesamt 172 Milliarden Dollar, durchschnittlich 142 Dollar pro Person, sagten Forscher.

“Wir befinden uns noch in den Anfängen, dass Angreifer selbst künstliche Intelligenz einsetzen, aber der Tag wird kommen”, warnt Nicole Eagan, CEO der Cybersicherheitsfirma Darktrace. “Und ich denke, wenn dieser Schalter einmal umgelegt ist, wird es kein Zurück mehr geben.”. Sie warnt auch vor der Nutzung eigener KI-Systeme durch Hacker.

In Summe gehen die Experten also deutlich über die Nutzung autonomer Kampfsysteme hinaus. Prinzipiell ist es denkbar, dass sich alle autonomen Systeme, völlig unabhängig von ihrem eigentlich Zweck, gegen ihre Nutzer richten könnten. Hollywood liefert uns seit Jahren einige Dystopien in diesem Bereich – vielleicht sind diese aber auch realistischer als wir bisher dachten.

Die Interviews von CNBC wurden im Rahmen des neuen “Beyond the Valley” Podcasts veröffentlicht.