Anzeige
Anzeige
Tool-Tipp

Mit wenigen Klicks zum eigenen KI-Chatbot: Dieses Tool solltet ihr kennen

Einen lokalen KI-Chatbot betreiben und dem auch gleich Fragen zu den eigenen Dokumenten stellen? Mit dem richtigen Tool ist das gar nicht mal kompliziert. Wir erklären, wie das geht.

3 Min.
Artikel merken
Anzeige
Anzeige
Um mit einer KI zu chatten, braucht ihr weder viel Knowhow noch einen Cloud-Anbieter. (Grafik: Midjourney / t3n)

Kommerzielle KI-Chatbots wie ChatGPT oder Claude können euch eine Vielzahl von Fragen beantworten. Mittlerweile sogar zu eigenen Dokumenten – wenn ihr etwa eine Zusammenfassung haben wollt. Das bedeutet allerdings auch, dass eure Fragen und Dokumente an einen Cloud-Anbieter übermittelt werden.

Anzeige
Anzeige

Wer das nicht möchte, kann zu einem lokalen Chatbot greifen, der eure Fragen direkt auf eurem heimischen Computer verarbeitet. Dank quelloffener KI-Modelle wie Metas Llama ist das technisch kein Problem. Zumal es mit der quelloffenen Software Ollama mittlerweile auch vergleichsweise einfach ist, einen lokalen Chatbot einzurichten. Für Einsteiger ist der Prozess bisweilen aber etwas kompliziert, denn ohne Kommandozeile bekommt ihr Ollama nicht zum Laufen. Daher wollen wir euch mit LM Studio eine Alternative vorstellen, die wirklich kinderleicht zu bedienen ist.

Viel einfacher geht es nicht: LM Studio bringt mit wenigen Klicks einen lokalen KI-Chatbot auf euren Rechner. (Screenshot: LM Studio 0.3 / t3n)

So startet ihr euren eigenen KI-Chatbot mit LM Studio

LM Studio ist als Desktop-Anwendung für Windows, Linux und Macs mit Apple Silicon verfügbar. Nach der Installation der Software müsst ihr euch zunächst ein KI-Modell herunterladen. Um es Einsteiger:innen möglichst einfach zu machen, schlägt euch LM Studio Metas Llama-Modell vor. Ein Klick auf den entsprechenden Hinweis reicht aus, und die Software lädt das Modell für euch herunter.

Anzeige
Anzeige

Alternativ könnt ihr über LM Studio aber auch Hugging Face nach einem anderen KI-Modell durchsuchen. Hugging Face hat sich als die Plattform für quelloffene Modelle etabliert. Dementsprechend findet ihr über die Suchfunktion von LM Studio eine ganze Reihe von geeigneten Modellen.

Unter dem Entdecken-Tab von LM Studio findet ihr außerdem eine Reihe von Modellvorschlägen. Zudem haben die Entwickler:innen hier eine Reihe von kurzen Erklärungen hinterlegt, die euch die Grundlagen der KI-Nutzung näherbringen sollen. Obwohl LM Studio grundsätzlich auch auf Deutscher verfügbar ist, sind diese kleinen Hilfestellungen in der aktuellen Beta-Version aber nur auf Englisch verfügbar.

Anzeige
Anzeige

Mit LM Studio könnt ihr nach passenden Modellen auf Hugging Face suchen. (Screenshot: LM Studio 0.3 / t3n)

Ich habe ein KI-Modell heruntergeladen – und jetzt?

Nach der Installation eures ersten KI-Modells schlägt euch LM Studio vor, in den Chatbereich zu wechseln. Den findet ihr alternativ über das Sprechblasen-Icon in der linken Seitenleiste der App.

Jetzt beginnt der eigentliche Spaß: Über das Chatfenster könnt ihr der KI Fragen stellen. Das funktioniert so, wie ihr es von ChatGPT und anderen Lösungen kennen dürftet. Wer möchte, kann obendrein auch ein Dokument hochladen und die KI dann dazu befragen. Unterstützt werden PDF-, Word-, CSV- und TXT-Dateien.

Anzeige
Anzeige

Wenn ihr ein Modell verwendet, das neben Texten auch Bilder verarbeiten kann, erscheint im Eingabefeld ein weiterer Button, über den ihr Bilddateien auswählen könnt, um die KI anschließend dazu zu befragen. Eine Liste solcher Modelle findet ihr hier.

Mit dem richtigen KI-Modell könnt ihr euch auch Bilder beschreiben lassen. (Screenshot: LM Studio 0.3 / t3n)

Nutzer oder Power-User? Hell oder dunkel?

Über drei Buttons am unteren Rand von LM Studio könnt ihr zwischen User, Power-User und Developer wählen. Wählt ihr Ersteres, wird alles außer der eigentlichen Chatfunktion ausgeblendet. In dieser Ansicht könnt ihr also ohne weitere Ablenkungen mit eurer KI chatten – sofern ihr eine installiert habt. Falls nicht, müsstet ihr zurück zur Power-User-Ansicht wechseln. Die fungiert auch als Standardansicht nach der Installation. Die Developer-Ansicht wiederum liefert euch zusätzliche Details zur KI-Antwort, richtet sich aber wirklich nur an Entwickler.

Praktischerweise verfügt LM Studio auch über verschiedene Themes. Wer möchte, kann das Programm also auch im Darkmode laufen lassen, und wird dann von allzu hellen Farben verschont. 

Anzeige
Anzeige

Lokale KI oder ChatGPT?

LM Studio ist ein großartiges Werkzeug, um erste Erfahrungen mit lokalen KI-Modellen zu machen. Auch Fortgeschrittene, die eine einfache Möglichkeit suchen, Modelle von Hugging Face herunterzuladen und auszuprobieren, profitieren von der Gratis-Anwendung.

Am Ende ist ChatGPT – abhängig vom konkreten Anwendungsfall – oftmals besser als die kostenfreien Alternativen. Ob ihr trotzdem auf eine lokale KI setzen solltet, hängt daher vor allem an der Frage des Datenschutzes. In Anbetracht der Tatsache, wie einfach ihr mit LM Studio einen eigenen Chatbot auf eurem Rechner aufsetzen könnt, solltet ihr es aber definitiv mal ausprobieren.

Fast fertig!

Bitte klicke auf den Link in der Bestätigungsmail, um deine Anmeldung abzuschließen.

Du willst noch weitere Infos zum Newsletter? Jetzt mehr erfahren

Anzeige
Anzeige
Kommentare

Community-Richtlinien

Bitte schalte deinen Adblocker für t3n.de aus!
Hallo und herzlich willkommen bei t3n!

Bitte schalte deinen Adblocker für t3n.de aus, um diesen Artikel zu lesen.

Wir sind ein unabhängiger Publisher mit einem Team von mehr als 75 fantastischen Menschen, aber ohne riesigen Konzern im Rücken. Banner und ähnliche Werbemittel sind für unsere Finanzierung sehr wichtig.

Schon jetzt und im Namen der gesamten t3n-Crew: vielen Dank für deine Unterstützung! 🙌

Deine t3n-Crew

Anleitung zur Deaktivierung
Artikel merken

Bitte melde dich an, um diesen Artikel in deiner persönlichen Merkliste auf t3n zu speichern.

Jetzt registrieren und merken

Du hast schon einen t3n-Account? Hier anmelden

oder
Auf Mastodon teilen

Gib die URL deiner Mastodon-Instanz ein, um den Artikel zu teilen.

Community-Richtlinien

Wir freuen uns über kontroverse Diskussionen, die gerne auch mal hitzig geführt werden dürfen. Beleidigende, grob anstößige, rassistische und strafrechtlich relevante Äußerungen und Beiträge tolerieren wir nicht. Bitte achte darauf, dass du keine Texte veröffentlichst, für die du keine ausdrückliche Erlaubnis des Urhebers hast. Ebenfalls nicht erlaubt ist der Missbrauch der Webangebote unter t3n.de als Werbeplattform. Die Nennung von Produktnamen, Herstellern, Dienstleistern und Websites ist nur dann zulässig, wenn damit nicht vorrangig der Zweck der Werbung verfolgt wird. Wir behalten uns vor, Beiträge, die diese Regeln verletzen, zu löschen und Accounts zeitweilig oder auf Dauer zu sperren.

Trotz all dieser notwendigen Regeln: Diskutiere kontrovers, sage anderen deine Meinung, trage mit weiterführenden Informationen zum Wissensaustausch bei, aber bleibe dabei fair und respektiere die Meinung anderer. Wir wünschen Dir viel Spaß mit den Webangeboten von t3n und freuen uns auf spannende Beiträge.

Dein t3n-Team

Kommentar abgeben

Melde dich an, um Kommentare schreiben und mit anderen Leser:innen und unseren Autor:innen diskutieren zu können.

Anmelden und kommentieren

Du hast noch keinen t3n-Account? Hier registrieren

Anzeige
Anzeige