Kommerzielle KI-Chatbots wie ChatGPT oder Claude können euch eine Vielzahl von Fragen beantworten. Mittlerweile sogar zu eigenen Dokumenten – wenn ihr etwa eine Zusammenfassung haben wollt. Das bedeutet allerdings auch, dass eure Fragen und Dokumente an einen Cloud-Anbieter übermittelt werden.

Wer das nicht möchte, kann zu einem lokalen Chatbot greifen, der eure Fragen direkt auf eurem heimischen Computer verarbeitet. Dank quelloffener KI-Modelle wie Metas Llama ist das technisch kein Problem. Zumal es mit der quelloffenen Software Ollama mittlerweile auch vergleichsweise einfach ist, einen lokalen Chatbot einzurichten. Für Einsteiger ist der Prozess bisweilen aber etwas kompliziert, denn ohne Kommandozeile bekommt ihr Ollama nicht zum Laufen. Daher wollen wir euch mit LM Studio eine Alternative vorstellen, die wirklich kinderleicht zu bedienen ist.

LM Studio ist als Desktop-Anwendung für Windows, Linux und Macs mit Apple Silicon verfügbar. Nach der Installation der Software müsst ihr euch zunächst ein KI-Modell herunterladen. Um es Einsteiger:innen möglichst einfach zu machen, schlägt euch LM Studio Metas Llama-Modell vor. Ein Klick auf den entsprechenden Hinweis reicht aus, und die Software lädt das Modell für euch herunter.

Alternativ könnt ihr über LM Studio aber auch Hugging Face nach einem anderen KI-Modell durchsuchen. Hugging Face hat sich als die Plattform für quelloffene Modelle etabliert. Dementsprechend findet ihr über die Suchfunktion von LM Studio eine ganze Reihe von geeigneten Modellen.

Unter dem Entdecken-Tab von LM Studio findet ihr außerdem eine Reihe von Modellvorschlägen. Zudem haben die Entwickler:innen hier eine Reihe von kurzen Erklärungen hinterlegt, die euch die Grundlagen der KI-Nutzung näherbringen sollen. Obwohl LM Studio grundsätzlich auch auf Deutscher verfügbar ist, sind diese kleinen Hilfestellungen in der aktuellen Beta-Version aber nur auf Englisch verfügbar.

Nach der Installation eures ersten KI-Modells schlägt euch LM Studio vor, in den Chatbereich zu wechseln. Den findet ihr alternativ über das Sprechblasen-Icon in der linken Seitenleiste der App.

Jetzt beginnt der eigentliche Spaß: Über das Chatfenster könnt ihr der KI Fragen stellen. Das funktioniert so, wie ihr es von ChatGPT und anderen Lösungen kennen dürftet. Wer möchte, kann obendrein auch ein Dokument hochladen und die KI dann dazu befragen. Unterstützt werden PDF-, Word-, CSV- und TXT-Dateien.

Wenn ihr ein Modell verwendet, das neben Texten auch Bilder verarbeiten kann, erscheint im Eingabefeld ein weiterer Button, über den ihr Bilddateien auswählen könnt, um die KI anschließend dazu zu befragen. Eine Liste solcher Modelle findet ihr hier.

Über drei Buttons am unteren Rand von LM Studio könnt ihr zwischen User, Power-User und Developer wählen. Wählt ihr Ersteres, wird alles außer der eigentlichen Chatfunktion ausgeblendet. In dieser Ansicht könnt ihr also ohne weitere Ablenkungen mit eurer KI chatten – sofern ihr eine installiert habt. Falls nicht, müsstet ihr zurück zur Power-User-Ansicht wechseln. Die fungiert auch als Standardansicht nach der Installation. Die Developer-Ansicht wiederum liefert euch zusätzliche Details zur KI-Antwort, richtet sich aber wirklich nur an Entwickler.

Praktischerweise verfügt LM Studio auch über verschiedene Themes. Wer möchte, kann das Programm also auch im Darkmode laufen lassen, und wird dann von allzu hellen Farben verschont. 

LM Studio ist ein großartiges Werkzeug, um erste Erfahrungen mit lokalen KI-Modellen zu machen. Auch Fortgeschrittene, die eine einfache Möglichkeit suchen, Modelle von Hugging Face herunterzuladen und auszuprobieren, profitieren von der Gratis-Anwendung.

Am Ende ist ChatGPT – abhängig vom konkreten Anwendungsfall – oftmals besser als die kostenfreien Alternativen. Ob ihr trotzdem auf eine lokale KI setzen solltet, hängt daher vor allem an der Frage des Datenschutzes. In Anbetracht der Tatsache, wie einfach ihr mit LM Studio einen eigenen Chatbot auf eurem Rechner aufsetzen könnt, solltet ihr es aber definitiv mal ausprobieren.