Krieg gegen intelligente Roboter: Elon Musk warnt die UN – und hat recht

Stefan Bubeck

„Die Maschinen werden gewinnen“ – Über einhundert Unternehmer aus der Tech-Branche richten sich aktuell in einem offenen Brief an die Vereinten Nationen. Es drohe ein bewaffneter Konflikt mit und gegen künstliche Intelligenz (AI). Warum sie recht haben und die UN schnell reagieren muss.

Krieg gegen intelligente Roboter: Elon Musk warnt die UN – und hat recht
Bildquelle: STUDIOCANAL Limited.

Vor einigen Wochen hat Tesla-Boss Elon Musk seinem Branchenkollegen Mark Zuckerberg (Facebook) vorgeworfen, sein Wissen über künstliche Intelligenz sei „limitiert“. Hintergrund: Musk warnt schon seit geraumer Zeit vor den Gefahren, die sich hinter einer unkontrollierten AI verbergen – denn niemand weiß, wozu ein intelligentes System in der Lage wäre. Erst recht, wenn es die menschliche Intelligenz überflügeln sollte. Musk sprach von der „größten Bedrohung, der wir als Zivilisation gegenüberstehen.“ Der Facebook-Chef antwortete damals darauf: „Ich bin optimistisch und ich verstehe die Neinsager und die Leute die solche Weltuntergangsszenarien beschwören nicht.“

Tja, mit diesem Optimismus steht Zuckerberg mittlerweile wohl ziemlich isoliert da. Denn ein nun veröffentlichter Brief an die UN ist von über 100 namhaften Tech-Entscheidern aus der ganzen Welt unterschrieben worden: Darunter sind neben Elon Musk (Tesla, SpaceX) auch Mustafa Suleyman, Chef von Deep Mind (Alphabet) und der Deutsche Marcus Frei, CEO von NEXT.robotics. Allen Unternehmen ist gemeinsam, dass sie sich mit der Entwicklung von Robotern und künstlicher Intelligenz befassen.

Killer-Roboter: Terminator, Matrix und die Borg richten ihre Grüße aus

Als Firmen, die Technologien im Bereich der künstlichen Intelligenz und der Robotik entwickeln, welche zur Verwendung in autonomen Waffensystem verwendet werden könnten, fühlen wir uns besonders dazu verpflichtet, diese Warnung auszusprechen.

So die Einleitung des Briefes, dessen Verfasser aus den USA, China, Indien, der Schweiz, Australien, Frankreich und vielen anderen Ländern stammen. „Tödliche autonome Waffen drohen die dritte Revolution in der Kriegsführung zu werden,“ prophezeien die Technik-Experten. „Einmal erfunden, könnten sie bewaffnete Konflikte erlauben in einem nie dagewesenen Ausmaß, und schneller, als Menschen sie begreifen können.“

Bilderstrecke starten
11 Bilder
Apple vs. Tesla: So schön könnte ein E-Auto vom iPhone-Hersteller aussehen.

Die Vereinten Nationen müssen handeln

Despoten und Terroristen könnten solche Waffen gegen unschuldige Zivilisten einsetzen, die künstliche Intelligenz könnte gehackt werden: „Wir haben nicht viel Zeit, um zu handeln.“ Die UN habe „die Aufgabe, uns alle vor diesen Gefahren zu schützen“ – konkret wird dabei das nächste Treffen der Vereinten Nationen im November als Termin genannt, an dem Maßnahmen gegen ein Wettrüsten mit Killerrobotern vereinbart werden müssten.

Warum die Unternehmer recht haben, liegt auf der Hand. Selbst die Wissenschaft, die daran arbeitet, AI zu verbessern, gibt zu: Die Technik ist nahezu undurchdringlich, es handelt sich um eine Black Box. Gemeint sind Verfahren wie Machine Learning und neuronale Netzwerke, bei denen die eigentlichen Prozesse, die beim Training der Intelligenz stattfinden, nur schwer oder gar nicht zu entschlüsseln sind. Verkürzt ausgedrückt: Sogar der Forscher, der eine KI „startet“, kann nicht genau sagen, was sie gerade „denkt“ – ebenso wenig sind die Ergebnisse in vollem Umfang vorhersehbar.

Passend dazu und jetzt gerade im Kino ist die 3D-Neuauflage des Action-Klassikers Terminator 2:

TERMINATOR 2 – TAG DER ABRECHNUNG 3D Trailer.

„Wir verstehen diese Netze genauso wenig wie das menschliche Gehirn,“ so der Informatiker Jeff Clune von der University of Wyoming. Der prominente Physiker Stephen Hawking stellte 2014 im Interview mit der BBC klar: „Die Entwicklung vollständiger Künstlicher Intelligenz könnte das Ende der Menschheit bedeuten.“

Neuronale Netzwerke sind nicht nur eine Gefahr, sie können uns Menschen in vielen Bereichen helfen. Gegen Hass und Hetze im Netz, für mehr Sicherheit im Straßenverkehr, neue Medikamente und Therapien gegen Krankheiten oder bei Alltagsproblemen wie der Steuererklärung – die AI wird uns begleiten und die Menschheit voran bringen. Damit das nicht außer Kontrolle gerät, müssen Grenzen gesetzt werden. Nur strenge Regulierungen im Vorfeld können Horrorszenarien wie aus Endzeit-Science-Fiction-Filmen verhindern. Denn hinterher ist nichts zu retten: „Künstliche Intelligenz ist einer der Fälle, wo wir proaktiv regulieren sollten statt reaktiv. Denn wenn wir bei der künstlichen Intelligenz reaktiv handeln, ist es zu spät,“ so Elon Musk.

Wer Musk aus irgendwelchen Gründen nicht ernst nehmen möchte, sollte vielleicht mal einen Blick auf den Samsung SGR-A1 werfen – das ist der erste vollautomatische Kampfroboter der Welt.

Quelle: Future of Life Institute, Spektrum, FAZ

Zu den Kommentaren

Kommentare zu dieser News

* Werbung