Mit ChatGPT hat OpenAI das Netz im Sturm erobert. Aber nicht jede:r möchte seine Fragen an den Chatbot in die Cloud schicken. Mit GPT4All gibt es jetzt aber auch eine Alternative, die ihr direkt auf eurem Rechner ausführen könnt. Eure Fragen müssen also nicht an die Cloud übertragen werden.
Trotz des Namens hat GPT4All nichts mit OpenAIs KI-Modell GPT-4 zu tun. Stattdessen kommt ein unter Open-Source-Lizenz veröffentlichtes KI-Modell namens GPT4All-J zum Einsatz. Alternativ könnt ihr über das Desktop-Interface der Software aber auch das ebenfalls quelloffene Sprachmodell Vicuna-13B nutzen.
GPT4All: So installiert ihr die lokale ChatGPT-Alternative
Über GitHub könnt ihr GPT4All für macOS, Windows und Ubuntu herunterladen. Die Installation geht einfach von der Hand, allerdings müsst ihr im Anschluss noch mindestens eine Variante der unterstützten Sprachmodelle herunterladen. Das geht bequem über die Software selbst. Allerdings benötigt ihr mindestens 3,5 Gigabyte freien Speicherplatz.
Mac-Nutzer:innen benötigen Version 12.6 oder höher. Die Windows-Version läuft ab Windows 10 Pro. Der bereitgestellte Ubuntu-Installer wurde auf Version 22.04 erstellt, dürfte aber auch mit verschiedenen anderen Linux-Distributionen funktionieren. Den GPT4All-Quellcode findet ihr GitHub.
GPT4All: Der Chatbot hat seine Schwächen
Schon unser kurzer Test hat gezeigt, dass es GPT4All-J nicht mit den von ChatGPT genutzten OpenAI-Modellen GPT-3.5 und GPT-4 aufnehmen kann. Schon bei relativ einfachen Fragen antwortet GPT4All mit offensichtlich falschen Angaben. Einige Prompts führen erst nach mehreren Versuchen zu einem vernünftigen Ergebnis. Andere überhaupt nicht.
Schon aus Datenschutzsicht bleibt GPT4All aber dennoch eine interessante Alternative zu Cloud-Diensten wie ChatGPT. Zumal die bisweilen niedrigere Qualität der Antworten je nach Einsatzgebiet durchaus zu verkraften ist. Wenn euch Datenschutz jedoch weniger wichtig ist, dann bleibt ChatGPT nach wie vor die bessere Lösung.
Und nun bitte nochmal in aller Ruhe korrektur lesen:
Mac-Nutzer:innen benötigen Version 12.6 oder höher. Die Windows-Version läuft ab Windows 10 Pro. Der bereitgestellte Ubuntu-Installer auf Version 22.04 erstellt. Dürfte aber auch mit verschiedenen anderen Linux-Distributionen funktionieren. Den GPT4All-Quellcode findet ihr GitHub.
Und woher kommen die Daten zum Lernen? Das ist doch die eigentlich interessante Frage.
Die Algorithmen hinter der KI sind kein Hexenwerk. Aber die „Intelligenz“ kommt erst mit Terabytes an Trainingsdaten zustande.