Künstliche Intelligenz: Wird der Freund zum Feind?
Künstliche Intelligenz hat das Potenzial, unsere Welt zu revolutionieren. Aber was passiert, wenn sie ausser Kontrolle gerät und sich gegen uns wendet?
Könnte künstliche Intelligenz ausser Kontrolle geraten und eine Bedrohung für die Menschheit darstellen? Diese Befürchtung haben zumindest viele Menschen und das Szenario wird auch immer wieder in Büchern oder Filmen aufgegriffen.
Experten sind geteilter Meinung. Der Oxford-Professor Nick Bostrom etwa warnt vor einer Übernahme durch superintelligente KI.
Andere Forscher aus dem Bereich KI und Sozialwissenschaften sehen wiederum weniger Grund zur Sorge.
Der schmale Grat zwischen Nutzen und Gefahr
Es ist wichtig, die Unterscheidung zwischen den bereits existierenden maschinellen Lernwerkzeugen und der hypothetischen zukünftigen autonomen KI zu beachten. Beide haben unterschiedliche ethische Fragestellungen aufzuwerfen.
Forscher beschäftigen sich intensiv mit Strategien zur Vermeidung des Worst-Case-Szenarios. Also, dass die KI sich gegen Menschen wendet. Dieses Gebiet nennt man KI-Sicherheit oder KI-Ausrichtung.
Wie können wir der KI vertrauen?
Eine Möglichkeit besteht darin, potenzielle Schäden oder Vorurteile schon vor dem Einsatz eines KI-Systems genau unter die Lupe zu nehmen. Unabhängige Einheiten könnten diese Prüfungen durchführen.
Damit stehen sie im Gegensatz zu Unternehmen, denen es oft darum geht, ihre Technologie schnell auf den Markt zu bringen. Es ist auch wichtig, die Qualitätssicherung im Auge zu behalten.
Negative Auswirkungen können entstehen, wenn KI-Systeme von anderen Unternehmen für unterschiedliche Zwecke eingesetzt werden.
Kann sich KI selbst optimieren?
Ingenieure haben bereits KI-Systeme entwickelt, die Vorurteile in realen Szenarien erkennen können.
Künstliche Intelligenz könnte so konzipiert werden, dass sie Voreingenommenheit innerhalb anderer KI-Systeme oder sogar innerhalb ihrer selbst erkennt und korrigiert.
Regulierung und Governance?
Schon heute gibt es Diskussionen zur Regulierung von KI und einige Systeme werden durch einzelne Behörden reguliert. Doch bisher gibt es keine spezielle Behörde für die Regulierung von künstlicher Intelligenz.
Es liegt an den Unternehmen und Institutionen selbst, Sicherheitsmassnahmen freiwillig umzusetzen.
Kombiniert man automatisierte Prozesse mit prädiktiven Funktionen ergibt dies ein mächtiges Werkzeug. Doch ohne menschliche Aufsicht könnten Probleme wie Ungerechtigkeit oder sogar ein Auflehnen gegen die Menschheit unbemerkt bleiben.