AI WORLD HQErste Schritte mit NVIDIA ChatRTX: Ein Leitfaden für Einsteiger
Erfahren Sie, wie Sie Ihren eigenen privaten KI-Chatbot mit ChatRTX auf einem NVIDIA-betriebenen Windows-PC ausführen – einfache Schritte für den täglichen Gebrauch und vollständigen Datenschutz.
Am Ende dieser Anleitung haben Sie Ihren ganz persönlichen, privaten KI-Chat-Assistenten direkt auf Ihrem Windows-Computer laufen, bereit, Fragen zu beantworten, E-Mails zu entwerfen oder Ideen zu sammeln. Es ist perfekt für jeden, der neugierig auf die Nutzung von KI ist, ohne seine Daten in die Cloud zu senden, selbst wenn Sie noch nie zuvor komplexe Software installiert haben.
- Ein Windows-PC mit einer NVIDIA RTX Grafikkarte: ChatRTX benötigt spezifische Hardware (eine NVIDIA RTX Graphics Processing Unit, kurz GPU, die Computerkomponente, die komplexe Grafik- und KI-Berechnungen verarbeitet). Suchen Sie nach einer RTX 30er-Serie oder neuer, typischerweise mit 16 GB VRAM (dem Speicher auf Ihrer Grafikkarte selbst) für das beste Erlebnis.
- Eine Internetverbindung: Diese benötigen Sie, um die Software und das KI-Gehirn, ein sogenanntes „Modell“, herunterzuladen.
- Ein kostenloses NVIDIA-Konto: Sie benötigen eines, um auf die offizielle ChatRTX-Downloadseite zugreifen zu können.
- Etwa 30-60 Minuten Zeit: Dies beinhaltet die Download- und Installationszeit.
Erstellen Sie ein NVIDIA-Konto
Ihr erster Schritt ist der Besuch der offiziellen NVIDIA-Website und die Erstellung eines kostenlosen Kontos. Öffnen Sie Ihren Webbrowser (wie Chrome, Edge oder Firefox) und gehen Sie zu nvidia.com. Suchen Sie nach einem Button oder Link mit der Aufschrift „Account“ oder „Sign Up“, der sich normalerweise in der oberen rechten Ecke der Seite befindet. Klicken Sie darauf, um den Registrierungsprozess zu starten.
Sie sehen ein Formular, in dem Sie nach Ihren persönlichen Daten gefragt werden. Geben Sie Ihren Namen und Ihre E-Mail-Adresse ein und wählen Sie ein sicheres Passwort. Dieses Konto dient als Ihr persönlicher Pass, um auf NVIDIAs Tools und Downloads zuzugreifen. Nach dem Absenden erhalten Sie normalerweise eine E-Mail zur Bestätigung Ihrer Adresse; klicken Sie auf den Link in dieser E-Mail, um Ihr Konto zu aktivieren.
Name: Jane Doe E-Mail: [email protected] Passwort: (wählen Sie ein sicheres und einzigartiges)
Sie wissen, dass es funktioniert hat, wenn Sie eine E-Mail-Bestätigung erhalten und sich erfolgreich in Ihr neues NVIDIA-Konto einloggen können.
Laden Sie das ChatRTX-Serverpaket herunter
Nachdem Sie nun ein NVIDIA-Konto haben, können Sie die ChatRTX-Software herunterladen. Melden Sie sich auf nvidia.com bei Ihrem NVIDIA-Konto an. Sobald Sie angemeldet sind, navigieren Sie zum Bereich „AI Tools“ oder „Developer“ der Website. Möglicherweise müssen Sie die Suchleiste der Website verwenden, um „ChatRTX“ zu finden, falls es nicht sofort sichtbar ist.
Wenn Sie die ChatRTX-Produktseite finden, suchen Sie nach einem auffälligen „Download“-Button. Klicken Sie diesen Button an, und Ihr Browser beginnt mit dem Herunterladen eines großen komprimierten Ordners (oft als „Zip-Datei“ bezeichnet, was eine Sammlung von Dateien ist, die platzsparend gebündelt wurden). Diese Datei landet standardmäßig in Ihrem „Downloads“-Ordner.
Sie wissen, dass es funktioniert hat, wenn eine Datei namens chatrtx_server_xxx.zip (wobei „xxx“ Versionsnummern sind) in Ihrem Downloads-Ordner erscheint.
Installieren Sie die ChatRTX-Serversoftware
Bevor Sie die KI ausführen können, müssen Sie deren Kernsoftware installieren. Suchen Sie zunächst die Datei chatrtx_server_xxx.zip, die Sie in Ihrem Downloads-Ordner heruntergeladen haben. Doppelklicken Sie darauf, um den komprimierten Ordner zu öffnen, und ziehen Sie dann seinen gesamten Inhalt an einen einfachen Speicherort auf Ihrem C:-Laufwerk, z. B. C:\ChatRTX.
In diesem neuen Ordner C:\ChatRTX finden Sie eine Datei namens install.bat. Klicken Sie mit der rechten Maustaste auf install.bat und wählen Sie „Als Administrator ausführen“. Dadurch wird eine Eingabeaufforderung gestartet (ein textbasiertes Fenster, in dem Ihr Computer anzeigt, was er tut), die Ihr System automatisch überprüft. Sie richtet auch notwendige „Bibliotheken“ (zusätzliche Softwarekomponenten, die die KI benötigt, um zu funktionieren) ein. Falls es anders aussieht oder Sie einen Fehler sehen, stellen Sie sicher, dass Sie alle Dateien extrahiert und install.bat als Administrator ausgeführt haben.
C:\ChatRTX> install.bat Checking GPU driver... OK Setting up runtime... OK
Sie wissen, dass es funktioniert hat, wenn das Eingabeaufforderungsfenster Meldungen anzeigt, die bestätigen, dass Ihr GPU-Treiber (Grafikkarte) und die „Runtime“ der KI (das Hintergrundprogramm, das das KI-Modell ausführt) bereit sind, und sich dann von selbst schließt.
Laden Sie das KI-Modell herunter
Jetzt ist es an der Zeit, das „Gehirn“ Ihres Chatbots zu bekommen. Das Gehirn wird als „KI-Modell“ bezeichnet, genauer gesagt als Large Language Model (LLM), das wie der leistungsstarke Motor hinter Tools wie ChatGPT ist. Um dieses Modell zu erhalten, müssen Sie die Eingabeaufforderung Ihres Computers öffnen. Suchen Sie in Ihrer Windows-Suchleiste nach „cmd“ und klicken Sie auf „Eingabeaufforderung“, um sie zu öffnen.
Geben Sie im Eingabeaufforderungsfenster cd C:\ChatRTX ein und drücken Sie die Eingabetaste, um zum ChatRTX-Ordner zu navigieren. Geben Sie dann den Befehl chatrtx pull --model default ein und drücken Sie erneut die Eingabetaste. Das Tool beginnt mit dem Herunterladen der KI-Modelldateien, die etwa 3-4 Gigabyte (GB – eine Einheit digitaler Informationen, wie eine große Filmdatei) groß sind, auf Ihren PC. Dieser Vorgang findet nur einmal statt. Falls es anders aussieht oder Sie einen „command not found“-Fehler sehen, stellen Sie sicher, dass Sie sich in der Eingabeaufforderung im Verzeichnis C:\ChatRTX befinden.
C:> cd C:\ChatRTX C:\ChatRTX> chatrtx pull --model default Downloading model... [===============================>] 100% (3.2 GB)
Sie wissen, dass es funktioniert hat, wenn die Eingabeaufforderung einen Fortschrittsbalken anzeigt, der 100 % erreicht, und dann bestätigt, dass der Modell-Download abgeschlossen ist.
Starten Sie den Chatbot lokal
Nachdem das Modell heruntergeladen wurde, können Sie nun Ihren privaten KI-Assistenten starten. Geben Sie im selben Eingabeaufforderungsfenster (oder öffnen Sie ein neues und geben Sie erneut cd C:\ChatRTX ein) den Befehl chatrtx run --port 8080 ein und drücken Sie die Eingabetaste. Dieser Befehl startet den ChatRTX-„Server“ (ein Programm, das im Hintergrund läuft und auf Anfragen wartet) auf Ihrem Computer.
Der Server beginnt auf „Port 8080“ zu „lauschen“ (stellen Sie sich einen Port als eine spezifische „Tür“ auf Ihrem Computer vor, die Programme zur Kommunikation nutzen). Es wird eine Zeile erscheinen, die so etwas wie „ChatRTX ready at http://localhost:8080“ anzeigt. „Localhost“ bedeutet einfach „dieser Computer“ und zeigt an, dass die KI direkt auf Ihrem Gerät läuft. Falls es anders aussieht und Sie einen Fehler bezüglich „port in use“ erhalten, versuchen Sie stattdessen chatrtx run --port 8081.
C:\ChatRTX> chatrtx run --port 8080 ChatRTX is now running at http://localhost:8080
Sie wissen, dass es funktioniert hat, wenn die Eingabeaufforderung die Meldung `ChatRTX is now running at http://localhost:8080` anzeigt. Lassen Sie dieses Fenster geöffnet; wenn Sie es schließen, wird die KI beendet.
Sprechen Sie mit Ihrem neuen KI-Assistenten
Ihr privater KI ist nun bereit zum Chatten! Öffnen Sie einen beliebigen Webbrowser auf Ihrem Computer (wie Chrome, Microsoft Edge oder Firefox). Geben Sie in die Adressleiste oben im Browserfenster http://localhost:8080 ein und drücken Sie die Eingabetaste.
Es erscheint eine einfache Chat-Oberfläche, ähnlich wie bei bekannten Online-Chatbots. Das ist Ihr privater ChatRTX-Assistent! Klicken Sie in das Textfeld am unteren Bildschirmrand und tippen Sie eine Frage ein, wie zum Beispiel „Was ist ein schnelles Rezept für Bananenbrot?“, und drücken Sie dann die Eingabetaste. Die KI verarbeitet Ihre Anfrage mithilfe ihres lokalen Modells und antwortet direkt im Chatfenster.
Sie: Was ist ein schnelles Rezept für Bananenbrot? ChatRTX: Hier ist ein einfaches 3-Zutaten-Rezept mit überreifen Bananen...
Sie wissen, dass es funktioniert hat, wenn ChatRTX Ihre Frage mit einer hilfreichen Antwort im Browserfenster beantwortet.
- Vergessen, den Installer als Administrator auszuführen: Die Datei
install.batbenötigt spezielle Berechtigungen, um Treiber und Softwarekomponenten korrekt einzurichten. Wenn Sie während Schritt 3 Fehler erhalten, versuchen Sie, mit der rechten Maustaste aufinstall.batzu klicken und „Als Administrator ausführen“ aus dem Menü zu wählen. - Verwendung des falschen Ports oder eines bereits belegten Ports: Wenn Sie während Schritt 5 einen Fehler bezüglich „address already in use“ sehen, bedeutet dies, dass ein anderes Programm bereits Port
8080verwendet. Ändern Sie einfach den Befehl inchatrtx run --port 8081(oder 8082 usw.) und öffnen Sie dann stattdessenhttp://localhost:8081(oder Ihren gewählten Port) in Ihrem Webbrowser. - Überspringen des KI-Modelldownloads: Ohne das in Schritt 4 heruntergeladene Large Language Model (LLM) startet der ChatRTX-Server zwar, aber er hat kein „Gehirn“ und kann keine Fragen beantworten. Stellen Sie immer sicher, dass Sie zuerst den Befehl
chatrtx pull --model defaultausführen.
Probieren Sie es jetzt aus
Öffnen Sie Ihren Webbrowser, navigieren Sie zu http://localhost:8080, und fragen Sie Ihren neuen ChatRTX-Assistenten: „Was ist eine lustige Wochenendaktivität für einen regnerischen Samstag?“ In weniger als zwei Minuten werden Sie Ihre private KI in Aktion sehen und wissen, dass Ihr sicherer, lokaler Assistent für Ihre nächste Aufgabe bereit ist.
✦ Original-Schritt-für-Schritt-Anleitung vom KI-Redaktionsteam von AI World Co. Verständlich geschrieben, auf Richtigkeit geprüft.
← Zurück zu den News