Anzeige
Anzeige
Kolumne
Artikel merken

KI und Nischenwissen: Da hilft auch der beste Prompt nicht

Mit dem richtigen Prompt bekommt ihr auch die richtige Antwort von der KI? Ganz so einfach ist es leider nicht. Denn am Ende steht und fällt alles mit den richtigen Trainingsdaten.

Von Saim Rolf Alkan
3 Min. Lesezeit
Anzeige
Anzeige
Auch der beste Prompt ist kein Allheilmittel. (Grafik: Midjourney / t3n)

Wer die Euphorie rund um generative KI und insbesondere GPT‑4 oder Google Bard in diesem Jahr verfolgt hat, hat schnell den Eindruck gewonnen, dass der KI-Erfolg eigentlich nur einen Prompt entfernt sei.

Anzeige
Anzeige

In Wahrheit aber sind wir von der Realität solcher Heilsversprechen, die wahlweise von selbst ernannten KI-Expert:innen oder Prompt-Engineers stammen, noch ziemlich weit entfernt. Dabei belegt der Gedanke, dass mit dem nächsten Prompt oder dem nächsten GPT-Update alles gut oder zumindest besser wird, dass die Träger:innen dieses Gedankens meist nur wenig Ahnung von der Funktionsweise dieser Technologien haben. Die Erfahrung zeigt leider noch viel zu oft, dass das Verfeinern der Prompts die Enttäuschung nur vergrößert.

Wer sich schon einmal in den Sog von Dall‑E oder Firefly bei der Generierung des einen genau passenden Bildmotivs hat ziehen lassen, kennt die Effekte, wenn es um die vermeintliche Perfektionierung von KI-generierten Inhalten geht. Diesem einen genau passenden Bildmotiv gehen in der Regel stundenlange erfolglose Versuche voraus, die ein ums andere Mal ernüchternde bis unverständliche Bildmotive hervorgebracht haben.

Anzeige
Anzeige

Na klar, das macht das Ergebnis dieses stundenlangen Herumprobierens und der ofmals untauglichen Versuche, der Logik der KI auf die Schliche zu kommen, umso wertvoller. Das darf aber nicht den Aufwand überdecken, der zuvor investiert worden ist. Wirklich effektiv oder effizient ist das in vielen Fällen leider bislang nicht. Da hilft auch der Hinweis auf Lernkurven, die es beim Erlernen neuer Technologien zu absolvieren gilt, nicht.

KI: Alles steht und fällt mit den Daten

Das Problem liegt vielmehr in der Technologie selbst, genauer: in der Datenbasis. Und mit jeder neuen Version von GPT und Co., in die aktuelles „Wissen“ einfließt, wird dieses Problem im Zweifel größer. Selbst die Tatsache, dass wir als User:innen die KI weiter per Reinforcement-Learning durch unsere Feedbacks trainieren, ändert nur wenig an diesem Umstand.

Anzeige
Anzeige

Jedes KI-Training basiert auf Daten und Informationen. Je mehr falsche Angaben im Netz kursieren, je schneller der Zugriff auf diese Daten erfolgt, umso größer ist die Wahrscheinlichkeit, dass die Ergebnisse fehlerhaft ausfallen werden. Es ist verrückt, aber leider wahr: Je schneller und aktueller die KI wird, desto fehleranfälliger wird sie auch. Das ist aber nur die Gesamtbetrachtung.

Richtig schwierig wird es in den Wissensnischen. Wenn weniger Daten vorliegen oder vermeintliches Spezialwissen mit Fehlinformationen – bewusst oder unbewusst – durchsetzt ist, desto wahrscheinlicher münden die durch die Wahrscheinlichkeiten von GPT generierten Wortfolgen in Falschannahmen. Selbst Schreibfehler werden dabei übernommen – sie müssen einfach nur in ausreichendem Umfang in den berücksichtigten Daten vorhanden sein.

Anzeige
Anzeige

KI und das Problem mit Nischenwissen

Die Faustregel lautet: Je tiefer sich vermeintliches Wissen, Informationen und Daten in einer Nische befinden, desto fehleranfälliger und mangelhafter sind die generierten Ergebnisse. Breit gestreutes und im Netz vielfach dokumentiertes Wissen wird meist korrekter wiedergegeben. GPT weiß mittlerweile, dass der deutsche Bundeskanzler Olaf Scholz heißt, ob das allerdings auch für die Staatsoberhäupter geschweige denn Minister in Gabun, Niger oder Mali gilt, die politisch deutlich instabiler sind, ist mehr als fraglich.

Probiert es doch einfach selbst mal aus. Geht in eure ganz persönliche Wissensnische und fordert ChatGPT heraus. Ich bin mir sicher, dass solche Tests die Skepsis gegenüber den populären KI-Tools eher fördern als abbauen. Bleibt das Wissen undokumentiert, löst auch GPT‑10 das eigentliche Problem nicht. Und solange das so ist, gilt eigentlich in Analogie zu einem oft bemühten Bonmot: Traue keinem GPT, das du nicht selbst mit Daten gefüttert hast.

Ich selbst bin alles andere als ein KI-Skeptiker. Dazu befasse ich mich schon viel zu lange damit. Aber: Bei aller Euphorie, die derzeit die kritischen Stimmen ganz gern mal übertönt, sollten wir uns immer die Zeit nehmen, neue Technologien und Anwendungen nicht nur hinsichtlich der Chancen, sondern eben auch hinsichtlich der Risiken zu bewerten, bevor sie flächendeckend mit all der leider damit verbundenen Intransparenz zum Einsatz kommen. Ich fürchte, dass wir sonst in einem Strudel aus Halbwissen, Fehlinformationen und bewusst gestreuten falschen Behauptungen untergehen.

Mehr zu diesem Thema
Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Schreib den ersten Kommentar!
Bitte beachte unsere Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Melde dich mit deinem t3n Account an oder fülle die unteren Felder aus.

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Anzeige
Anzeige