Wenn ChatGPT dir Märchen erzählt: Wie du KI-Halluzinationen rechtzeitig erkennst

Die t3n MeisterPrompter sind da: Immer mittwochs geben Renate und Stella Tipps für arbeitsrelevante Prompts. (Foto: t3n)
Manchmal sind Antworten von einer Künstliche Intelligenz zu schön, um wahr zu sein. Diese Erfahrungen haben auch Prompt-Expertin Susanne Renate Schneider und t3n-Redakteurin Stella-Sophie Wojtczak jüngst gemacht. Bei dem Versuch, einen Messeplan mit KI zu erstellen, lieferten ChatGPT und weitere KI-Chatbots im Test ein Programm, das zwar genau den Erwartungen entsprach – mit dem tatsächlichen Timetable allerdings wenig zu tun hatte.
Veranstaltungsplanung war ein Reinfall
Hätten sich die beiden auf diese Planung verlassen, wäre der Veranstaltungsbesuch ein Reinfall geworden. Allerdings haben sie die KI-Halluzinationen erkannt und konnten eine Enttäuschung verhindern. Das erste Warnsignal war die perfekte Abstimmung des Inhalts auf die Eingabe, wie die beiden in der neuen Podcast-Folge beschreiben.
„Die skeptische Stimme im Kopf muss immer laut sein“, rät Renate. Sobald bei einer Recherche-Anfrage ein Ergebnis zu passend wirkt, müssen die Alarmglocken schellen. Wichtig ist dann konkretes Nachfragen.
Nutzer:innen müssen KI-Chatbots wie Gemini, Perplexitiy oder Claude nach Quellenangaben für die deren Aussagen fragen. Allein das Anzeigen einiger Links ist dabei noch keine Bestätigung für den KI-Output.
Angegebene Quellen überprüfen
Trotz angezeigter Links können die Schlüsse, die die KI daraus zieht, falsch sein. Daher raten die beiden Podcast-Hosts, die vorgeschlagenen Websites zu besuchen und die Inhalte zumindest grob zu lesen. Das kostet zwar Zeit, bewahrt User:innen jedoch vor peinlichen, ärgerlichen oder gar gefährlichen Auswirkungen auf ihre Arbeit.
Weitere Tipps für das Erkennen und den Umgang mit KI-Halluzinationen geben Renate und Stella in der neuen t3n-MeisterPrompter-Folge „Nicht alles glänzt“. Zudem gehen sie auch darauf ein, wie sich die Wahrscheinlichkeit falscher Ausgaben zumindest reduzieren lässt.
Podcast über Apple, Spotify oder andere Plattformen abonnieren
Den Podcast t3n MeisterPrompter hörst du über die Podcast-Plattform deiner Wahl. Gib dafür in der Suche „t3n MeisterPrompter” ein. Alternativ findest du hier direkte Verlinkungen:
Diese Episode ist eine Hack-Folge, die einmal pro Monat erscheint. Regulär liefern Renate und Stella pro Folge einen Prompt, den du direkt im Arbeitsalltag nutzen kannst. Wenn du selbst eine Idee für ein passendes Thema hast, schreib den beiden gern direkt: per E-Mail an podcast@t3n.de oder via Instagram. Renate findest du unter @renate.gpt, Stella erreichst du über @t3n_magazin.