Musk, Hawking, Wozniak fordern ein Verbot autonomer Waffen und militärischer KI, um ein "militärisches KI-Rüstungsrennen" zu verhindern

Mehr als 1.000 wissenschaftliche Forscher und technologische Experten haben einen offenen Brief unterzeichnet, in dem die Regierungen der Welt aufgefordert werden, die Entwicklung von “offensiven autonomen Waffen” zu verbieten, um ein “militärisches KI-Rüstungsrennen” zu verhindern.

Der Brief, der morgen auf der International Joint Conference on Artificial Intelligence (IJCAI) in Buenos Aires, Argentinien, präsentiert wird, wurde von Teslas Elon Musk, Apple-Mitbegründer Steve Wozniak, dem CEO von Google DeepMind, Demis Hassabis, Noam Chomsky und Professor Stephen Hawking sowie Dutzenden anderen KI- und Robotikforschern unterzeichnet.

Der Brief besagt: “Die KI-Technologie hat einen Punkt erreicht, an dem der Einsatz von [autonomen Waffen] – praktisch, wenn nicht rechtlich – innerhalb von Jahren, nicht Jahrzehnten, machbar ist, und die Einsätze sind hoch: Autonome Waffen wurden als die dritte Revolution in der Kriegsführung beschrieben, nach Schießpulver und Atomwaffen.”

Die Autoren argumentieren, dass KI verwendet werden kann, um das Schlachtfeld zu einem sichereren Ort für Militärangehörige zu machen, aber dass offensive Waffen, die eigenständig operieren, die Schwelle zum Krieg senken und zu einem größeren Verlust menschlichen Lebens führen würden.

Der größte Teil des Briefes beschäftigt sich mit Fahrzeugen und dummen Robotern, die in intelligente autonome Waffen umgewandelt werden. Laut dem Brief sind Marschflugkörper und ferngesteuerte Drohnen in Ordnung, weil “Menschen alle Zielentscheidungen treffen.” Die Entwicklung vollständig autonomer Waffen, die kämpfen und töten können, ohne menschliches Eingreifen, sollte jedoch im Keim erstickt werden.

Hier ist eines der Hauptargumente aus dem Brief:

Die zentrale Frage für die Menschheit heute ist, ob wir ein globales KI-Rüstungsrennen beginnen oder verhindern, dass es beginnt. Wenn eine große Militärmacht mit der Entwicklung von KI-Waffen voranschreitet, ist ein globales Rüstungsrennen praktisch unvermeidlich, und der Endpunkt dieser technologischen Entwicklung ist offensichtlich: Autonome Waffen werden die Kalaschnikows von morgen sein.

Später zieht der Brief einen starken Vergleich zwischen chemischer/biologischer Kriegsführung und autonomen Waffen:

So wie die meisten Chemiker und Biologen kein Interesse daran haben, chemische oder biologische Waffen zu bauen, haben die meisten KI-Forscher kein Interesse daran, KI-Waffen zu bauen – und wollen nicht, dass andere ihr Feld dadurch beschmutzen, was möglicherweise eine große öffentliche Gegenreaktion gegen KI auslöst, die ihre zukünftigen gesellschaftlichen Vorteile einschränkt.

Das Future of Life Institute wird den Brief auf der IJCAI präsentieren. Es gibt keine Klarheit darüber, an wen der Brief gerichtet ist, außer an die Forscher und Akademiker, die an den Konferenzen teilnehmen werden. Er soll möglicherweise in erster Linie das Bewusstsein für das Thema schärfen, damit wir nicht die Augen vor jeglicher Forschung an autonomen Waffen verschließen, die von großen Militärmächten durchgeführt wird.

Toby Walsh, Professor für KI an der University of New South Wales, sagte: “Wir müssen heute eine Entscheidung treffen, die unsere Zukunft prägen wird und darüber entscheidet, ob wir einen guten Weg einschlagen. Wir unterstützen den Aufruf verschiedener humanitärer Organisationen zu einem UN-Verbot offensiver autonomer Waffen, ähnlich dem kürzlichen Verbot von blendenden Lasern.”

Elon Musk und Stephen Hawking haben beide zuvor vor den Gefahren fortschrittlicher KI gewarnt. Während Hawking sagte, dass KI “unsere größte existenzielle Bedrohung” sei und die Entwicklung vollständiger KI “das Ende der Menschheit” bedeuten könnte, sagte Musk, dass KI “potenziell gefährlicher als Atomwaffen” sei.

Kürzlich haben andere, darunter Wozniak, ihre Meinung zur KI geändert, wobei der Apple-Mitbegründer sagte, dass Roboter gut für die Menschen wären und sie wie das “Familienhaustier” behandelt werden sollten, das ständig umsorgt wird.

Bei einer Diskussion über die Zukunft der Waffentechnologie, einschließlich der sogenannten “Killerroboter”, sprach sich das Vereinigte Königreich auf einer UN-Konferenz in Genf im April gegen ein Verbot der Entwicklung autonomer Waffen aus, trotz der Forderungen verschiedener Druckgruppen, einschließlich der Kampagne zur Bekämpfung von Killerrobotern.