Der Beitrag KI-Fails: Ein-Dollar-Auto, Pizza mit Kleber und eine Chipstüte als Waffe erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.
KI-Systeme schreiben Werbetexte, steuern Autos und unterstützen Anwälte vor Gericht . Doch wenn sie versagen, wird es manchmal absurd und manchmal auch gefährlich. In den vergangenen Jahren haben sich zahlreiche KI-Fails ereignet, die von harmlos-lustig bis erschreckend reichen. Wir haben zehn reale Fälle gesammelt, die zeigen, was schiefgehen kann, wenn Menschen der Technik zu sehr vertrauen. Jeder einzelne Fall liefert eine konkrete Lektion für den Umgang mit künstlicher Intelligenz.
Künstliche Intelligenz ist gekommen, um zu bleiben. Daran führt kein Weg vorbei. In Wirtschaft, Medien, Verwaltung und mittlerweile sogar in der Justiz werden die digitalen Assistenten immer häufiger eingesetzt. Klar ist aber auch, dass KIs keine unfehlbaren Wundermaschinen sind. Sie haben klare Schwächen, die immer wieder zu Problemen führen. Wie genau solche Pannen aussehen, zeigen wir in diesem Artikel.
KI-Fails nehmen absurde Formen an
Die jeweiligen Betreiber verbessern ihre Modelle immer weiter. Das birgt allerdings die Gefahr, der KI zu sehr zu vertrauen und sie nicht gut genug zu kontrollieren. Manche Pannen, die hierdurch entstehen, sind harmlos und sorgen lediglich für ein paar Lacher im Internet. Andere hingegen haben ernste Konsequenzen. Zum Beispiel, wenn KI im Verkehr oder der Justiz zum Einsatz kommt und zu halluzinieren beginnt.
Häufig ist das Problem nicht die KI selbst, sondern der schlampige Umgang mit der Technologie. Wer von der KI generierte Texte ungelesen veröffentlicht, Trainingsdaten schlampig zusammenstellt oder Sicherheitsmechanismen ignoriert, muss damit rechnen, irgendwann die Quittung zu erhalten. Wenn immer mehr Menschen auf immer mehr Wegen mit immer mehr KI-Systemen interagieren, steigt natürlich auch das Risiko.
An dieser Stelle haben wir zehn kuriose, lustige und tragische Fälle von KI-Fails aufgelistet. Jeder einzelne Fall ist einen Möglichkeit, für die Zukunft zu lernen und unseren Umgang mit der Technologie zu überdenken.
Fail 1: Bäckerei druckt ChatGPT-Anweisung auf Verpackung
Einer KI sollte man nicht blind vertrauen. Das zeigt bereits unser erster Fall: Ein Hersteller von Backwaren bedruckte eine Verpackung mit einem KI-generierten Werbetext. Soweit nichts Besonderes, allerdings wurde vergessen, den bei ChatGPT üblichen Call-to-Action zu löschen. Unter dem durchaus ansprechenden Text prangt die typische Floskel, mit der die KI fragt, ob der Text weiter angepasst werden soll: „Crafted with care. Loved wordwide. Let me know if you want a version tailored to a specific flavor (…) or tone.“
Der Beitrag KI-Fails: Ein-Dollar-Auto, Pizza mit Kleber und eine Chipstüte als Waffe erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.