So will Knowledge Graph das Halluzinationsproblem von KI bekämpfen

KI neigen zu Halluzinationen. (Foto: Maximillian Cabinet/Shutterstock)
Künstliche Intelligenz steht vor einer großen Herausforderung: dem Halluzinationsproblem. Wenn ein KI-Modell eine Antwort nicht kennt, erfindet es einfach eine, unabhängig davon, ob sie sinnvoll ist oder nicht. Eine neue Technologie soll dieses Problem jetzt eindämmen.
Writer, eine generative KI-Schreibplattform, hat heute die öffentliche Betaversion von Knowledge Graph angekündigt. Dieses Tool ermöglicht es Unternehmen, alle aktuellen Quellinhalte im gesamten Unternehmen in einer Graphdatenbank zu sammeln. Das Ziel ist es, den Nutzern dabei zu helfen, das Halluzinationsproblem von künstlicher Intelligenz zu lösen, indem der Knowledge Graph als Inhaltsvalidator dient und generierte Inhalte mit den vorhandenen Quellen abgleicht.
Nicht perfekt, aber besser
Die CEO des Unternehmens, May Habib, betonte, dass Knowledge Graph die Möglichkeit bietet, die wichtigsten Informationen wie Datenbanken, Wissensdatenbanken, freigegebene Laufwerke und Chats einfach zu integrieren, damit sie vom KI-Modell für sehr spezifische Anwendungsfälle verwendet werden können. Das Tool hebt automatisch Inhalte hervor, die einer Faktenüberprüfung bedürfen, und schlägt gegebenenfalls eine Ersatzaussage vor, die auf den relevantesten Inhalten im Knowledge Graph basiert. Es zeigt die Quelle des Inhalts an, aus der das Ersatzmaterial stammt, und gibt dem menschlichen Mitarbeiter die Möglichkeit, den Vorschlag anzunehmen oder ihn abzulehnen.
Natürlich ist auch Knowledge Graph nicht komplett narrensicher, dennoch ist es ein guter Schritt bei dem Versuch, Unternehmen zu helfen, die Auswirkungen des Halluzinationsproblems künstlicher Intelligenz zu reduzieren. Writer kündigte außerdem die Möglichkeit an, ein eigenes LLM auf die Writer-Plattform zu übertragen, um den Writer LLM zu ersetzen. Außerdem kann Knowledge Graph auch eine Verbindung zu extern erstellten LLM herstellen. Sowohl die Möglichkeit, ein externes LLM als auch den Knowledge Graph zu nutzen, sind ab heute in der offenen Betaversion verfügbar.