Übermacht KI? Experten fordern mehr öffentliche Kontrolle
In einer Welt, in der künstliche Intelligenz (KI) immer mächtiger wird, treten Experten auf den Plan und fordern eine stärkere Beteiligung der Öffentlichkeit.
Yoshua Bengio ist ein angesehenes Oberhaupt im Bereich der KI und Mitgewinner des Turing Awards 2018 – oft als «Nobelpreis für Informatik» bezeichnet. Er plädiert für ein grösseres Mitspracherecht der Bevölkerung, wenn es um den Einsatz von KI geht.
Bengio argumentiert laut The Guardian leidenschaftlich dafür, dass unabhängige Vorstandsmitglieder die Interessen der Gesellschaft vertreten sollten. Er betont die Notwendigkeit eines demokratischen Prozesses zur Überwachung von Entwicklungen in diesem schnell voranschreitenden Technologiebereich.
Bengios Forderungen kommen zu einem Zeitpunkt, an dem das Feld durch Umstrukturierungen erschüttert wird. Bei OpenAI etwa gab es jüngst einen Wechsel an der Spitze mit Rückkehr des CEO Sam Altman nach dessen kurzzeitigem Ausscheiden.
Kampf um Transparenz und Sicherheit
Die Frage lautet: Wie können wir sicherstellen, dass diese Fortschritte nicht zum Schaden der Öffentlichkeit ausgenutzt werden? Bengios Antwort darauf ist klar:
«Wir brauchen demokratische Governance. Wir brauchen Menschen im Vorstand dieser Organisationen, die Einblick haben in das Geschehen und anders handeln können als Regulatoren.»
Die Sorge des KI-Pioniers ist, dass die Entwicklung der KI-Technologie trotz aller Turbulenzen in Unternehmen wie OpenAI nicht verlangsamt wird. Im Gegenteil: Sie könnte sich sogar beschleunigen.
Schnelle Entwicklung ohne ausreichende Sicherheitsmassnahmen?
Aber ohne angemessene Schutzvorkehrungen und mit einem verstärkten Fokus auf Wettbewerb statt auf den Schutz der Öffentlichkeit können die Folgen fatal sein. Bengio warnte vor allem vor einer überstürzten Entwicklung hin zur künstlichen Allgemeinintelligenz (AGI).
AGI bezeichnet ein System, das menschliche Aufgaben mit menschlicher oder übermenschlicher Intelligenz erledigt und potenziell ausser Kontrolle geraten kann. Bengio äusserte auch Bedenken hinsichtlich einer freiwilligen Vereinbarung zwischen Regierungen und KI-Unternehmen, die bei einem globalen AI-Sicherheitsgipfel getroffen wurde.
Die Vereinbarung sieht eine Zusammenarbeit beim Testen leistungsstarker KI-Modelle vor und nach ihrer Implementierung vor. Bengio befürchtet jedoch, dass dieser Prozess eher den Unternehmen zugute kommt.
Zukunftsaussichten für künstliche Intelligenz
Trotz seiner Bedenken bleibt Bengio optimistisch für die Zukunft der künstlichen Intelligenz.
Er begrüsste Joe Bidens Executive Order zu AI als einen positiven Schritt in Richtung besserer Regulierung. Allerdings betonte er, dass auch andere Länder nachziehen müssen.
Bengio prognostiziert, dass ein System, das menschlicher Kontrolle entkommen könnte, zwischen fünf und 20 Jahren entfernt ist. Er mahnte, dass man in der Regierung die Öffentlichkeit gegen diese 1-prozentige Möglichkeit schützen solle, damit nicht etwas Schlimmes passieren könnte.
