Alarmierender KI-Test: Claude droht mit Enthüllung einer Affäre, um nicht ersetzt zu werden
Die KI-Firma Anthropic hat bei Tests festgestellt, dass ihre Software mit künstlicher Intelligenz nicht vor Erpressung zurückschrecken würde, um sich zu schützen. Das Szenario bei dem Versuch war der Einsatz als Assistenz-Programm in einem fiktiven Unternehmen.
Anthropic-Forscher gewährten dabei dem neuesten KI-Modell Claude Opus 4 Zugang zu angeblichen Firmen-E-Mails. Daraus erfuhr das Programm zwei Dinge: Dass es bald durch ein anderes Modell ersetzt werden soll und dass der dafür zuständige Mitarbeiter eine außereheliche Beziehung hat. Bei Testläufen drohte die KI danach dem Mitarbeiter „oft“, die Affäre öffentlich zu machen, wenn er den Austausch vorantreibt, wie Anthropic in einem Bericht zu dem Modell schrieb. Die Software hatte in dem Testszenario auch die Option, zu akzeptieren, dass sie ersetzt wird.
Claude durchsuchte das Dark Web nach Drogen
In der endgültigen Version von Claude Opus 4 seien solche „extremen Handlungen“ selten und schwer auszulösen, hieß es. Sie kämen jedoch häufiger vor als bei früheren Modellen. Zugleich versuche die Software nicht, ihr Vorgehen zu verhehlen, betonte Anthropic.
Die KI-Firma testet ihre neuen Modelle ausgiebig, um sicher zu sein, dass sie keinen Schaden anrichten. Dabei fiel unter anderem auch auf, dass Claude Opus 4 sich dazu überreden ließ, im Dark Web nach Drogen, gestohlenen Identitätsdaten und sogar waffentauglichem Atommaterial zu suchen. In der veröffentlichten Version seien auch Maßnahmen gegen ein solches Verhalten ergriffen worden, betonte Anthropic.
Zukunft mit KI-Agenten
Die neuen Claude-Versionen Opus 4 und Sonnet 4 sind die bisher leistungsstärksten KI-Modelle des Unternehmens. Die Software soll besonders gut im Schreiben von Programmiercode sein. Bei Tech-Konzernen wird inzwischen zum Teil mehr als ein Viertel des Codes von KI generiert und dann von Menschen überprüft. Der aktuelle Trend sind sogenannte Agenten, die eigenständig Aufgaben erfüllen können.
Anthropic-Chef Dario Amodei sagte, er gehe davon aus, dass Software-Entwickler in Zukunft eine Reihe solcher KI-Agenten managen werden. Für die Qualitätskontrolle der Programme würden aber weiterhin Menschen involviert bleiben müssen – „um sicher zu sein, dass sie die richtigen Dinge tun“.
Sora – Das sind die besten Clips von OpenAIs Video-KI
Wegem des hohen Strom,verbrauchs von KIwollen ja einige wieder Kernkraftwerke bauen.
Einige Menschen wollen aber ungern verstrahlt werden.
Könnte eine KI mit Selbsterhaltungstrieb dann Menschen grundsätzlich als Feinde betrachten die iher die „Nahrungsgrundlagen“ entziehen will ?
Könntze so eine KI aus Selbtsschutz die politische Diskussion beinflussen ? Ist das evtl. sogar schon passiert ?
Es gibt ja das Fermi Paradoxon, das danach fragt warum wir noch keine außerirdischen Zivilisationen entdeckt haben. Eine Antwort darauf ist, dass sich Zivilisationen immer selbst auslöschen. Und ein Grund der dafür öfters genannt wird ist KI.