Der Beitrag Studie: Nach einer Woche halten wir KI-Ideen für unsere eigenen erschien zuerst beim Online-Magazin BASIC thinking. Über unseren Newsletter UPDATE startest du jeden Morgen bestens informiert in den Tag.
Wer regelmäßig mit KI-Tools schreibt, verliert offenbar schnell den Überblick, welche Ideen wirklich die eigenen waren. Eine neue Studie der Universität Bayreuth zeigt: Schon nach einer Woche stufen viele Menschen KI-generierte Ideen fälschlich als die eigenen ein. Das stellt nicht nur unser Selbstbild infrage, sondern auch die geplante EU-Kennzeichnungspflicht für KI-Inhalte. Was die Forscher herausgefunden haben und welche Konsequenzen sie fordern.
Künstliche Intelligenz hat sich in den vergangenen Jahren enorm weiterentwickelt. Weltweit setzen Millionen Menschen beim Schreiben oder Entwickeln von Ideen bereits auf die Technologie.
Doch die Nutzung hinterlässt offenbar Spuren im Gedächtnis, wie eine neue Studie der Universität Bayreuth und der Aalto University in Helsinki zeigt. Denn bereits nach einer Woche fällt es vielen Menschen schwer zu unterscheiden, ob ein Gedanke ursprünglich von ihnen selbst oder von einer Künstlichen Intelligenz stammt.
Die Studie wirft damit neue Fragen zum Einfluss Künstlicher Intelligenz und zum Umgang damit auf. Aber auch die Kennzeichnung von KI-Inhalten müsse laut den Forschenden aufgrund der Studienergebnisse neu gedacht werden.
War das meine Idee oder KI? Nur 37,7 Prozent erinnern sich richtig
Für die Untersuchung mussten 184 Studienteilnehmer Texte mit und ohne Künstliche Intelligenz erstellen. Eine Woche später sollten sie dann Fragen zur Entstehung der Idee und zur Formulierung der Texte beantworten.
Dabei konnten sich jedoch zahlreiche Studienteilnehmer nicht mehr genau erinnern, wie ihre Inhalte genau entstanden sind. Bei KI-generierten Ideen, die anschließend vom Menschen ausformuliert wurden, erinnerten sich nur noch 37,7 Prozent korrekt an das Attribut „KI-generiert“.
„Besonders auffällig waren Workflows, in der menschliche und künstliche Intelligenz gemischt wurden, also wenn die Idee von der KI stammt, die Ausformulierung jedoch vom Mensch, und umgekehrt“, so Daniel Buschek von der Universität Bayreuth.
Das gilt auch für die Fälle, in denen eigene Ideen anschließend mit einer KI ausformuliert wurden. Allerdings lag hier die Wahrscheinlichkeit, dass sich die Teilnehmer korrekt erinnern, mit 64 Prozent deutlich höher.
Muss die KI-Kennzeichnungspflicht überdacht werden?
Mit dem zunehmenden Einsatz von Sprachmodellen wächst auch die Notwendigkeit der Kennzeichnung von KI-generierten Inhalten. Ab August tritt deshalb eine EU-weite Verordnung in Kraft, die genau das verpflichtend vorgibt. Doch genau diese Kennzeichnung könnte laut den Studienergebnissen schwierig werden, wenn sich Menschen nach bereits nur einer Woche nicht mehr zuverlässig erinnern können, wie beispielsweise ein Text entstanden ist.
„Unsere Studie zeigt auf, dass eine rückwirkende Befragung zur Entstehung von Inhalten nicht zu realistischen Ergebnissen führt“, erklärt Erstautor Tim Zindulka. „Als Einzelperson im Umgang mit KI eignet man sich gegebenenfalls KI-Ideen als eigene an oder traut sich umgekehrt eventuell selbst weniger zu als gerechtfertigt, weil man eine eigene Idee fälschlicherweise als KI-generiert erinnert.“ Zindulka weiter:
Beispielsweise im universitären Kontext ist es unrealistisch, von Studierenden rückwirkend durch Erinnerung eine Offenlegung zu Details von KI-Nutzung bei Hausarbeiten zu erwarten. Sinnvoller ist es hier, von Anfang an den Entstehungsprozess von Inhalten mitzudokumentieren.
Die Forscher fordern daher Konsequenzen für den Umgang von Einzelpersonen mit Künstlicher Intelligenz. Aber auch die Gestaltung von KI-Systemen sowie die Vorgaben zur Kennzeichnung müssten auf Grundlage der Forschungsergebnisse bedacht werden.
Auch interessant:
Brain Fry: KI-Überwachung am Arbeitsplatz steigert Burnout-Risiko deutlich
KI im Krieg: Experten warnen vor gefährlichem Kontrollverlust
DFKI entwickelt KI-Detektor: Fake-Bilder per Instagram entlarven
Studie enthüllt massive KI-Schwächen – Agents of Chaos lassen Forscher rätseln
Der Beitrag Studie: Nach einer Woche halten wir KI-Ideen für unsere eigenen erschien zuerst auf BASIC thinking. Folge uns auch auf Google News und Flipboard oder abonniere unseren Newsletter UPDATE.