Bisher hat das US-Startup Hyperwrite in erster Linie Sprach-KI-Programme veröffentlicht. Nun stellte es etwas Neues vor: eine KI-Software zum Surfen. Der „Personal Assistant“ kommt als Chrome-Erweiterung und wurde nun zum ersten Mal Journalisten gezeigt. Bei der Demo surfte der KI-Agent im Internet und bestellte eine Pizza. Experten finden, eine KI surfen zu lassen, sei nicht ohne Risiko.

Hyperwrite aktiviert die Software zunächst nur für einen ausgewählten Kreis aus Tester:innen. Sie soll als persönlicher Assistent dienen und auf Befehl auch umfangreiche Aufgaben im Web erledigen.

Zwar verriet Hyperwrite nicht, auf welchem Sprachmodell der Agent basiert, da die hauseigene Textsoftware aber auf GPT-4 setzt, liegt diese Wahl nahe. Zudem treibt dieses Modell auch ähnlich angelegte KI-Agenten an.

Der Trend zu KI-Agenten nimmt zu. Die Helfer heißen AutoGPT oder BabyAGI und können automatisch sogenannte Prompts generieren. Das sind Anfragen an Websites und KI-Systeme.

Beim sogenannten Self-Prompting erkennen die Systeme, dass sie weitere Anfragen formulieren müssen, um zu ihren Ergebnissen zu kommen. Basierend auf der initialen Eingabe können sie die Fragestellung immer weiter spezifizieren und entwickeln.

Doch die neue Technologie öffnet auch ein weiteres Tor für Risiken. So befürchten Experten, dass eine Software, die wie ein Mensch surft, auch in die Fallen tappen könnte, die für Benutzer:innen aufgestellt wurden. Konkret könnte die KI anfällig für Phishing, Hacking und allerlei Formen von Online-Betrug sein.

Hyperwrite-CEO Matt Shumer gibt zu: „Potenzielle Bedenken tauchen jedoch auf, wenn eine solche KI missbraucht werden könnte, um in Unternehmens-Websites einzudringen, Kommunikation zu manipulieren oder Spam auf Social-Media-Plattformen zu verbreiten.“ Sein Team sei jedoch sehr darauf bedacht, Sicherheitsfragen zu klären. „Wir nehmen uns Zeit, um es richtig zu machen“, sagte er wörtlich.