So könnte ein Battle zwischen KI und Menschheit tatsächlich enden
In der Science-Fiction ist es keine Seltenheit, dass sich Menschen und künstliche Intelligenzen gegenüberstehen. Doch was passiert, wenn dies Realität wird?
Die letzten Monate waren geprägt von zahlreichen Warnungen vor den potenziellen Gefahren der KI. Sie könnte nicht nur unsere Jobs übernehmen – sie könnte auch zu beängstigenden Entwicklungen im Krieg führen.
KI am Abzug: Die nächste Generation der Kriegsführung?
Eine besorgniserregende Vorstellung ist die Nutzung von autonomen Waffensystemen durch künstliche Intelligenz. Paul Scharre, Autor des Buches «Four Battlegrounds: Power in the Age of Artificial Intelligence», verweist auf das jüngste Beispiel der von Wissenschaftlern entworfenen DARPA's AlphaDogfight Challenge:
Einem Luftkampfsimulator, bei dem ein menschlicher Pilot gegen eine KI antrat. Nicht nur habe die KI den Piloten mit 15 zu null besiegt, berichtet Scharre.
Sie habe auch Manöver ausgeführt, die für Menschen unmöglich sind. Insbesondere extrem präzise Schüsse im Bruchteil einer Sekunde.
Moralische Grauzone: Wer trägt Verantwortung bei Fehlern?
Aber die Vorstellung, einer KI die Macht über Leben und Tod zu geben, wirft unangenehme Fragen auf. Was passiert, wenn eine KI einen Fehler macht und versehentlich einen Zivilisten tötet?
Das wäre ein Kriegsverbrechen, so Scharre. Und das Problem sei, dass es möglicherweise niemanden gibt, der zur Rechenschaft gezogen werden kann.
Taktik und Analyse: Die naheliegende Nutzung von KI im Militär
In der nahen Zukunft wird die wahrscheinlichste Anwendung von künstlicher Intelligenz im militärischen Bereich in Taktik und Analyse liegen. KI könne Informationen besser verarbeiten und Armeen effizienter machen, erklärt Scharre.
Er gehe davon aus, dass Armeen gezwungen sein werden, immer mehr Entscheidungen an die KI abzugeben. Dies könnte laut Scharre zu einem Wettlauf um künstliche Intelligenzen führen – ähnlich dem Wettrüsten um Atomwaffen.
Verlieren wir die Kontrolle?
Sollten wir jedoch eines Tages nicht mehr Herr unserer eigenen Technologie sein oder sollte diese sich sogar gegen uns wenden, was dann?
Wir seien dabei, zunehmend leistungsfähige AI-Systeme aufzubauen, die wir nicht verstehen und kontrollieren könnten und setzten sie in der realen Welt ein.
Wenn wir tatsächlich Maschinen bauten, die klüger seien als wir, dann werden wir viele Probleme haben, so Paul Scharre gegenüber sciencefocus.com.
