Können wir künstlicher Intelligenz überhaupt vertrauen?
Die Fortschritte in der KI-Technologie sind beeindruckend. Doch wie können wir uns darauf verlassen, dass sie sicher sind?
Laut Yisong Yue, Professor an der Caltech University, brauchen wir Beweise dafür, dass eine Technologie unter allen Bedingungen funktioniert. Er vergleicht dies mit dem Vertrauen, das wir tagtäglich in Lebensmittel oder Medikamente setzen.
Doch wie kann man solche Garantien für eine KI schaffen? Eine Möglichkeit wäre, mathematische Nachweise zu verwenden – so könnte beispielsweise die Landung einer Drohne durch KI mathematisch abgesichert werden.
Robustheit als Schlüsselmerkmal
Ein besonders relevanter Aspekt von KI-Systemen ist ihre Robustheit. Das heisst, wie sie auf Unvollkommenheiten im gesammelten Datenmaterial reagieren.
Die Professorin für Informatik und Mathematik an der Caltech Universität Anima Anandkumar erklärt: «Wenn Sie diesen KI-Modellen vertrauen wollen, dürfen diese nicht brüchig sein.»
Klare Anweisungen sind entscheidend
Heutige KIs können nur das tun, wofür sie programmiert wurden. Die Anweisungen, die Ingenieure einem KI-System geben, sind daher von entscheidender Bedeutung.
Wenn die Anweisungen nicht gut sind, kann das gelernte Verhalten der KI unbeabsichtigte Nebenwirkungen oder Konsequenzen haben.
Wenn die KI den Menschen weit voraus ist
Die heutigen fortschrittlichen KI-Systeme sind nicht transparent. Sie entdecken automatisch nützliche Muster, und es ist oft schwierig bis unmöglich für Menschen, diese Muster zu interpretieren.
Ein weiterer wichtiger Forschungsbereich ist das Design von KI-Systemen, die sich ihrer eigenen Ungewissheiten bewusst sind. Und den Benutzern genaue Massnahmen zur Gewissheit liefern.
Das Beste oder Schlechteste aus KI rausholen
Wenn Menschen im Alltag auf KI treffen, könnten sie versucht sein, ihr Verhalten anzupassen, um das System auszunutzen.
Eric Mazumdar, Professor für Informatik und Wirtschaftswissenschaften an der Caltech Universität, untersucht dieses Verhalten: «Es gibt viele Beweise dafür, dass Menschen lernen, Algorithmen auszuspielen, um zu bekommen, was sie wollen.»
Der Umgang mit KI ist das eigentliche Thema
AI kann auch missbraucht werden – zum Beispiel durch Gesichtserkennungssoftware zur Profilierung bestimmter ethnischer Gruppen oder gezielter politischer Dissidenten. Kein Datensatz ist perfekt objektiv, jeder kommt mit eingebauten Vorurteilen oder Annahmen daher.
Während es scheint, dass KI unparteiisch ist, weil sie nicht menschlich ist, kann KI bestehende Vorurteile offenbaren. Oder sogar verstärken, wenn sie aus einem Datensatz lernt.
Umso wichtiger also, sich die Frage zu stellen, wie KI vertrauenswürdig werden kann. Und zu diskutieren: Wie wir Menschen mit ihr umgehen und welche Kriterien uns leiden.
