Nvidia will mit Nim KI noch zugänglicher machen. (Foto: Konstantin Savusia/Shutterstock)
Der Grafikkartenhersteller Nvidia hat in einer Pressemitteilung bekannt gegeben, dass das KI-Tool Nim ab sofort für Millionen Entwickler:innen zum Download bereitsteht. Nim steht dabei für „Nvidia Inference Micrososervices“. Hinter dem kryptischen Namen findet sich eine Softwarelösung von Nvidia, mit der der Zugriff auf KI-Modelle noch einfacher werden soll.
Wie funktioniert Nvidia-Nim?
Nvidia-Nim ist eine Art Baukastensystem für KI. Entwickler:innen können aus einer Reihe von Containern wählen, in denen sich fertige KI-Modelle befinden. Diese Container können dann aufgrund ihrer hohen Kompatibilität untereinander mit wenigen Codezeilen kombiniert und schließlich bereitgestellt werden.
Wie Nvidia in der Pressemitteilung schreibt, sollen sich KI-Modelle dadurch in „Minuten statt in Wochen“ bauen lassen, um spezifische Aufgaben in Unternehmen zu übernehmen. Dabei sei es egal, ob die KI schlussendlich in der Cloud, auf einem lokalen Server oder auf einem Endgerät zum Einsatz kommen soll. Alles, was es brauche, sind dafür optimierte Nvidia-GPU.
Laut Nvidia gibt es abseits der Geschwindigkeit weitere Vorteile. Wie bereits erwähnt, lassen sich die KI-Modelle über Nim auch ohne große Vorkenntnisse an bestehende Systeme und an die Wünsche der Unternehmen anpassen. Dazu sagt Nvidia-CEO Jensen Huang: „Jedes Unternehmen will generative KI in die Geschäfte integrieren, aber nicht jedes Unternehmen hat ein Team von KI-Forschern. […] Nvidia-Nim hilft der Techindustrie dabei, generative KI in jede Organisation zu integrieren.“
Zudem können die Dienste im Nachhinein jederzeit skaliert werden, um auf neue Herausforderungen in Unternehmen zu reagieren. Zu guter Letzt sollen durch den Einsatz von Nim auch Energiekosten und Emissionen eingespart werden, da die Systeme für Nvidia-GPU optimiert wurden und so energieeffizienter arbeiten.
Zunächst stehen etwas mehr als 40 KI-Modelle von Nvidia und Partner:innen in den Nim-Containern bereit. Darunter etwa Googles Gemma, Metas Llama 3 oder Mistral Large. Ab Juli 2024 können Mitglieder des Nvidia-Developer-Programs Nim sogar zunächst kostenlos ausprobieren, um Modelle zu bauen und zu testen. Um die KI-Modelle dann zu deployen, braucht es eine Nvidia-AI-Enterprise-Lizenz, deren Preis sich nach Laufzeit und Anzahl der genutzten GPU richtet.
