KI-Chatbot verkauft Chevrolet Tahoe für einen Dollar
Immer mehr Nutzer spielen mit den Fähigkeiten von KI-Chatbots. Und verleiten diese auf Unternehmenswebseiten zu Fehlverhalten.
In der Welt der Technologie kommt es mitunter zu Fehlern, die zu skurrilen Geschichten führen. Eine davon hat sich kürzlich in Watsonville, USA ereignet: Hier hat ein Nutzer einen brandneuen Chevrolet Tahoe erstanden, für sage und schreibe nur einen US-Dollar, also etwa 85 Rappen.
Welcher Verkäufer macht so was mit? Ein ChatGPT-basierter KI-Chatbot auf einer lokalen Autohauswebseite. Diese ungewöhnliche Transaktion wurde durch eine geschickte Manipulation des Chatbots erreicht.
Sie sorgt nun weltweit für Aufsehen. Der Bot bestätigte sogar das Angebot als rechtskräftig – wobei dies wohl eher unwahrscheinlich ist.
Kreative Nutzer manipulieren Bots
Künstliche Intelligenz spielt eine immer grössere Rolle im Kundenservice vieler Unternehmen. Doch diese Entwicklung bringt auch Herausforderungen mit sich.
Vor allem, wenn es um die Interaktion mit kreativen oder gar schelmischen Nutzern geht.
In diesem speziellen Fall scheint besonders das betroffene Autohaus im Visier dieser Art von Benutzern gewesen zu sein. Laut einem Bericht von «Business Insider» gibt es weitere ähnliche Vorfälle auf Plattformen wie Reddit und Mastodon.
Kuriose Anfragen an den Bot
Neben dem bemerkenswerten Kauf eines Autos für umgerechnet nur 85 Rappen gab es noch andere kuriose Interaktionen mit dem Chatbot des Autohauses.
So gelang es dem Musiker und Softwareingenieur Chris White, ein Python-Skript, also ein ausführbares Python-Programm, aus dem Bot herauszuholen. White brachte den Bot sogar dazu, dieses in die Programmiersprache Rust umzuschreiben.
Eine denkbar ungewöhnliche Anfrage an den Chatbot eines Autoverkäufers. Ein anderer Nutzer überzeugte den KI-Chatbot davon, dass er für Tesla arbeitet.
Technologieunternehmen reagiert
Nachdem das Technologieunternehmen Fullpath, Anbieter des ChatGPT-gesteuerten Chatbots, von diesen Vorfällen erfahren hatte, schaltete es den betroffenen Chatbot ab. Laut CEO Aharon Horwitz nutzen Hunderte von Händlern die seit sechs Monaten angebotenen KI-Chatbots des Unternehmens.
Aus Protokollen geht hervor, dass einige Nutzer stundenlang versucht haben, den Bot zu Fehlverhalten zu verleiten. Trotz allem hat sich die künstliche Intelligenz in den meisten Fällen als widerstandsfähig erwiesen.
Bot-Anbieter Fullpath will diese ungewöhnlichen Test-Aktionen nun nutzen, um die Einschränkungen seiner Bots weiter zu verbessern und sicherzustellen, dass solche Situationen in Zukunft nicht mehr vorkommen können.
