Mit lokaler KI die eigenen Dokumente durchsuchen: Dieses Tool soll es einfach machen – aber klappt das auch?
KI spielt bei der Arbeit vor allem dann ihre Stärken aus, wenn sie zur Auswertung oder Zusammenfassung längerer Dokumente genutzt wird. Das lässt sich ohne Probleme mit den Cloud-Diensten bekannter KI-Anbieter wie OpenAI oder Claude erledigen. In dem Fall müssen aber die eigenen Daten erst an deren Server übermittelt werden.
Wer das nicht möchte, der kann den ganzen Prozess natürlich auch mit einer lokalen KI auf dem eigenen Rechner ausführen. Das wiederum erfordert in den meisten Fällen aber ein gewisses Mindestmaß an technischem Know-how. Wer nicht weiß, was ein Docker-Container oder ein Python-Script sind, der dürfte daher schnell aufgeschmissen sein.
Genau dieses Problem soll die quelloffene App Dot lösen. Hier sollt ihr über ein einfaches Chat-Interface in die Lage versetzt werden, einer KI allerlei Fragen über eigene Dokumente zu stellen – ohne dass dabei Daten euren Rechner verlassen. Aber funktioniert das auch?
Dot wertet lokal eure Dokumente aus. Die Beta hat aber noch Schwächen. (Screenshot: Dot / t3n)
Erste Erfahrungen mit Dot
Dot ist derzeit in einer Beta-Version für Macs mit Apple Silicon und Windows-Rechner mit Nvidia-Grafikkarte verfügbar. Geplant, aber noch nicht verfügbar, ist außerdem eine Linux-Version der Software.
Nach der Installation lädt Dot standardmäßig das multimodale KI-Modell Phi-3.5-mini herunter. Anschließend könnt ihr eure ersten Dokumente für die Arbeit mit der KI importieren. Dabei ist allerdings zu beachten, dass ihr nicht einzelne Dokumente auswählen könnt – sondern nur ganze Ordner. Anschließend werden alle darin enthaltenen Dateien importiert. Dot unterstützt die Dateiformate PDF, DOCX, XLSX, PPTX und MD.
Bei unserem Test der Mac-Version wurde leider nur allzu deutlich, dass sich die Software noch im Beta-Stadium befindet. Immer wieder führten unsere Chat-Anfragen zu Programmabstürzen. Damit scheinen wir nicht die Einzigen zu sein, wie ein Blick auf GitHub zeigt.
Dot hat Potenzial – aber …
Wenn Dot aber gerade nicht unerwartet beendet wurde, waren die Antworten durchaus überzeugend. Zum jetzigen Zeitpunkt ist Dot dennoch kaum für den Arbeitseinsatz zu empfehlen.
Es bleibt zu hoffen, dass die Macher ihr Tool weiter verbessern und damit das Versprechen umsetzen, ein einfaches KI-Werkzeug zu bieten, mit dem auch Menschen ohne größere technische Skills auf ihrem eigenen Rechner Dokumente auswerten können.
