Einen lokalen KI-Assistenten mit NVIDIA ChatRTX auf Ihrem PC einrichten

Laden Sie das ChatRTX-Installationsprogramm herunter

Öffnen Sie Ihren bevorzugten Webbrowser, wie Chrome, Edge oder Firefox. Geben Sie in die Adressleiste "NVIDIA ChatRTX" ein und drücken Sie die Eingabetaste. Suchen Sie dann nach der offiziellen NVIDIA-Produktseite. Sobald Sie auf der ChatRTX-Produktseite sind, sehen Sie Informationen über das Tool und in der Regel einen prominenten Download-Bereich. Suchen Sie nach einer Schaltfläche, die deutlich mit etwas wie Download for Windows oder Get ChatRTX beschriftet ist. Klicken Sie auf diese Schaltfläche, um die Installationsdatei herunterzuladen.

Was Sie sehen: Ihr Browser zeigt wahrscheinlich einen Fortschrittsbalken oder eine Benachrichtigung an, die den Dateidownload anzeigt, oft am unteren Rand des Browserfensters oder in einem speziellen Download-Panel. Die Datei wird typischerweise ChatRTX_Setup.exe oder ähnlich heißen. Was als Nächstes passiert: Die Installationsdatei, die im Wesentlichen ein kleines Paket mit allen notwendigen Einrichtungsanweisungen für das Programm ist, wird in den Downloads-Ordner Ihres Computers heruntergeladen. Dies kann je nach Ihrer Internetverbindung einige Minuten dauern. Wenn es anders aussieht: Wenn Sie auf die Schaltfläche klicken und nichts zu passieren scheint, überprüfen Sie den Download-Verlauf Ihres Browsers oder Ihren Downloads-Ordner, um sicherzustellen, dass der Download nicht automatisch gestartet oder blockiert wurde. Manchmal könnte ein Pop-up um Erlaubnis zum Herunterladen bitten; klicken Sie auf "Zulassen". Sie wissen, dass es funktioniert hat, wenn: Der Download abgeschlossen ist und Sie die Datei ChatRTX_Setup.exe (oder einen ähnlichen Namen) deutlich in der Download-Liste Ihres Browsers oder direkt im Downloads-Ordner Ihres Computers sehen.

Führen Sie das Installationsprogramm aus und stimmen Sie den Bedingungen zu

Navigieren Sie zu Ihrem Downloads-Ordner, in dem Sie die Installationsdatei aus Schritt 1 gespeichert haben. Suchen Sie die Datei ChatRTX_Setup.exe und doppelklicken Sie darauf, um den Installationsprozess zu starten. Ein kleines Fenster wird angezeigt, in dem Sie um Erlaubnis gebeten werden, Änderungen an Ihrem Gerät vorzunehmen; klicken Sie auf Ja. Als Nächstes sehen Sie einen Bildschirm, der das NVIDIA Software-Lizenzabkommen anzeigt. Lesen Sie es bei Bedarf durch und suchen Sie dann das Kontrollkästchen Ich akzeptiere die Bedingungen (oder eine ähnliche Formulierung) und aktivieren Sie es. Klicken Sie abschließend auf die Schaltfläche Installieren, um fortzufahren.

Was Sie sehen: Nach der Erteilung der Erlaubnis öffnet sich ein neues Fenster, das die Lizenzvereinbarung anzeigt. Nach Ihrer Zustimmung sehen Sie einen Fortschrittsbalken, der anzeigt, dass die Installation läuft, Dateien kopiert und das Programm eingerichtet wird. Dieser Vorgang kann mehrere Minuten dauern, während alles für ChatRTX vorbereitet wird. Was als Nächstes passiert: Das Installationsprogramm kopiert alle notwendigen Dateien auf Ihren Computer und konfiguriert die Software. Es zeigt einen Fortschrittsbalken oder eine Reihe von Meldungen an. Nach Abschluss sollten Sie eine Meldung sehen, die Installation Complete oder Ähnliches bestätigt. Wenn es anders aussieht: Wenn das Installationsprogramm mehrmals nach Administratorrechten fragt, klicken Sie immer auf Ja, um es fortfahren zu lassen. Wenn die Installation einzufrieren scheint, warten Sie ein paar Minuten länger, da möglicherweise zusätzliche Komponenten im Hintergrund heruntergeladen werden. Sie wissen, dass es funktioniert hat, wenn: Das Installationsfenster automatisch geschlossen wird und ein neues Verknüpfungssymbol, normalerweise beschriftet mit NVIDIA ChatRTX, auf Ihrem Desktop erscheint, bereit zum Starten.

Starten Sie ChatRTX und melden Sie sich an

Suchen Sie das neue Verknüpfungssymbol NVIDIA ChatRTX auf Ihrem Desktop. Doppelklicken Sie auf dieses Symbol, um die Anwendung zum ersten Mal zu öffnen. Das ChatRTX-Fenster wird angezeigt und fordert Sie in der Regel auf, sich bei Ihrem NVIDIA-Konto anzumelden. Sie werden wahrscheinlich eine deutliche Schaltfläche oder einen Link mit der Aufschrift Sign In oder Log In sehen. Klicken Sie auf diese Schaltfläche und geben Sie dann die E-Mail-Adresse und das Passwort Ihres kostenlosen NVIDIA-Kontos in die entsprechenden Felder ein.

Was Sie sehen: Das ChatRTX-Anwendungsfenster wird geöffnet, oft mit einem großen Begrüßungsbildschirm. Sie sehen Felder für Ihre E-Mail-Adresse und Ihr Passwort sowie eine Schaltfläche "Sign In". Sobald Sie Ihre Daten eingegeben und auf "Sign In" geklickt haben, zeigt der Bildschirm möglicherweise kurz einen Lade-Spinner an. Was als Nächstes passiert: Nach erfolgreicher Anmeldung öffnet sich die Anwendung vollständig zu ihrer Haupt-Chat-Oberfläche. Sie werden mit einem leeren Chat-Bereich oder einer kurzen Begrüßungsnachricht von der KI begrüßt, und entscheidend ist, dass ein blinkender Cursor am unteren Bildschirmrand anzeigt, dass sie bereit ist, Ihre erste Nachricht einzugeben. Wenn es anders aussieht: Wenn Sie nicht sofort eine "Sign In"-Schaltfläche sehen, suchen Sie nach einem kleinen personenförmigen Symbol, einem Zahnradsymbol oder einem Menüpunkt (oft in der oberen rechten Ecke), der möglicherweise zu den Kontoeinstellungen oder einer Anmeldeaufforderung führt. Stellen Sie sicher, dass Ihr Computer während dieses Schritts mit dem Internet verbunden ist, da er Ihr Konto überprüfen muss. Sie wissen, dass es funktioniert hat, wenn: Sie das Haupt-Chat-Fenster mit einem Textfeld am unteren Rand sehen, in das Sie Nachrichten eingeben können, und keine weiteren Aufforderungen zur Anmeldung mehr angezeigt werden.

Wählen Sie Ihr Assistentenmodell

Sobald ChatRTX geöffnet ist, müssen Sie das "Gehirn" (ein sogenanntes Modell) auswählen, das Ihr KI-Assistent verwenden wird. Ein Modell ist im Wesentlichen ein vortrainiertes Set von Anweisungen, das es der KI ermöglicht, Ihre Fragen zu verstehen und Antworten zu generieren. Schauen Sie in die obere linke Ecke des ChatRTX-Fensters. Dort finden Sie ein Dropdown-Menü, wahrscheinlich beschriftet mit Select Model oder Ähnlichem. Klicken Sie auf dieses Dropdown-Menü, um eine Liste der verfügbaren KI-Modelle anzuzeigen. Für ein gutes Gleichgewicht zwischen Leistung und Fähigkeiten empfehlen wir die Wahl von mistral-7b-instruct-v0.2.Q4_K_M oder llama-3-8b-instruct.Q4_K_M, falls verfügbar. Der Teil 'Q4_K_M' gibt lediglich die Dateigröße und Effizienz des Modells an.

Was Sie sehen: Eine Dropdown-Liste wird angezeigt, die verschiedene KI-Modellnamen zeigt. Die Auswahl eines Modells führt typischerweise dazu, dass das Chat-Fenster leicht abgedunkelt wird oder ein Fortschrittsbalken angezeigt wird. Was als Nächstes passiert: Sobald Sie auf das von Ihnen gewählte Modell geklickt haben, beginnt die Anwendung, es in den GPU-Speicher Ihres Computers zu laden. Dieser Vorgang kann ein oder zwei Minuten dauern, besonders beim ersten Mal, da das "Gehirn" der KI aktiviert wird. Möglicherweise sehen Sie eine Meldung im Chat-Bereich wie Model loaded, sobald es bereit ist. Wenn es anders aussieht: Wenn das Dropdown-Menü ausgegraut oder nicht reagiert, versuchen Sie, die ChatRTX-Anwendung zu schließen und erneut zu öffnen. Stellen Sie sicher, dass Ihre GPU-Treiber aktuell sind, da dies manchmal das Laden des Modells beeinträchtigen kann. Wenn ein bestimmtes Modell nicht geladen wird, versuchen Sie, ein kleineres aus der Liste auszuwählen, um die Funktionalität zu testen. Sie wissen, dass es funktioniert hat, wenn: Der Name des gewählten Modells neben dem Dropdown-Menü "Select Model" angezeigt wird, die Chat-Eingabeaufforderung am unteren Bildschirmrand aktiv ist und Sie eine Bestätigungsnachricht wie "Model loaded" im Chat-Verlauf sehen.

Bringen Sie ihm Ihr Zuhause bei

Jetzt, da Ihr KI-Assistent bereit ist, geben wir ihm etwas Kontext zu Ihrem Leben, damit er hilfreicher sein kann. Da ChatRTX lokal läuft, bleiben alle Informationen, die Sie teilen, auf Ihrem Computer, was es sehr privat macht. Geben Sie in das Chat-Feld am unteren Rand des ChatRTX-Fensters, wo sich der blinkende Cursor befindet, ein paar Sätze ein, die Ihre häusliche Umgebung und Ihren Tagesablauf beschreiben. Je mehr Details Sie angeben, desto besser kann er Ihnen helfen.

Was Sie sehen: Das Chat-Feld ist leer und wartet auf Ihre Eingabe. Während Sie tippen, erscheint Ihre Nachricht im Feld. Was als Nächstes passiert: Nachdem Sie die Eingabetaste gedrückt haben, verarbeitet ChatRTX Ihre Nachricht. Es wird dann antworten, üblicherweise indem es die von Ihnen bereitgestellten Informationen zusammenfasst oder bestätigt, dass es diese neuen Details "gelernt" hat. Diese Informationen werden lokal gespeichert und sollten für zukünftige Chats behalten werden. Wenn es anders aussieht: Wenn die Antwort der KI am Thema vorbeizugehen scheint oder die von Ihnen gegebenen Fakten nicht anerkennt, versuchen Sie, Ihre Eingabe klarer zu formulieren, vielleicht mit Aufzählungspunkten oder einfacheren Sätzen. Sie wissen, dass es funktioniert hat, wenn: Der Assistent mit einer Nachricht antwortet, die bestätigt, dass er Details über Ihr Zuhause verstanden hat und sich diese merken wird, wie zum Beispiel "Okay, ich habe notiert, dass Sie in einer Zwei-Zimmer-Wohnung in Sydney leben, mit spezifischen Smart-Geräten und einer Routine."

Stellen Sie Ihre erste Frage

Da Ihr KI-Assistent nun etwas über Ihr Zuhause weiß, können Sie ihm praktische Fragen stellen. Gehen Sie zurück zum Chat-Feld am unteren Rand des ChatRTX-Fensters. Denken Sie an etwas, das Sie normalerweise online nachschlagen oder einen Mitbewohner fragen würden. Tippen Sie Ihre Frage klar ein und drücken Sie die Eingabetaste.

Was Sie sehen: Ihr vorheriges Gespräch mit der KI, einschließlich der Informationen, die Sie ihr über Ihr Zuhause gegeben haben, wird sichtbar sein. Ihre neue Frage erscheint im Chat-Verlauf, nachdem Sie sie eingegeben haben. Was als Nächstes passiert: Der KI-Assistent verarbeitet Ihre Frage und verwendet die kontextuellen Details, die Sie im vorherigen Schritt bereitgestellt haben (wie Ihren Standort in Sydney), um Ihnen eine persönlichere und praktischere Antwort zu geben. Er wird seine Antwort direkt in das Chat-Fenster tippen. Wenn es anders aussieht: Wenn die Antwort irrelevant oder falsch erscheint, machen Sie sich keine Sorgen. Das ist bei KI üblich. Versuchen Sie, Ihre Frage präziser zu formulieren oder sie zu vereinfachen, falls sie zu komplex war. Zum Beispiel, anstatt "Wann sollte ich nach Bondi aufbrechen?", versuchen Sie "Wann sollte ich meine Wohnung verlassen, um bis 9 Uhr morgens in Bondi Junction zu sein, wenn ich zum Bahnhof laufe?" Sie wissen, dass es funktioniert hat, wenn: Sie eine vernünftige, relevante und praktische Antwort von der KI erhalten, die möglicherweise sogar die Details enthält, die Sie über Ihren Standort oder Ihre Routine geteilt haben.

Ein Smart-Gerät verbinden (optional)

Eine der leistungsstarken Funktionen von ChatRTX ist die Fähigkeit, mit bestimmten Smart-Home-Geräten zu interagieren, sodass Sie diese mit natürlicher Sprache steuern können. Wenn Sie eine kompatible intelligente Leuchte, ein Thermostat oder ein ähnliches Gerät haben, können Sie versuchen, es zu verbinden. Schauen Sie ganz oben im ChatRTX-Anwendungsfenster nach einer Menüleiste. Klicken Sie in diesem Menü auf die Option Tools und wählen Sie dann Device Manager aus dem Dropdown-Menü. Suchen Sie im Device Manager nach einer Schaltfläche oder Option wie Add Device oder Connect New Device. Befolgen Sie die Anweisungen auf dem Bildschirm, um Ihr Smart-Home-Gerät mit ChatRTX zu verbinden.

Was Sie sehen: Durch Klicken auf "Tools" wird ein Dropdown-Menü angezeigt. Die Auswahl von "Device Manager" öffnet ein neues Panel oder Fenster, das oft eine Liste verbundener Geräte (anfangs wahrscheinlich leer) und Optionen zum Hinzufügen neuer Geräte anzeigt. Was als Nächstes passiert: Wenn die Verbindung erfolgreich ist, erscheint Ihr Gerät in der Device Manager-Liste. Sie können den Device Manager dann schließen und zum Chat-Fenster zurückkehren, um Befehle zu geben. Zum Beispiel könnten Sie "Schalte das Wohnzimmerlicht ein." eingeben. Wenn es anders aussieht: Wenn Sie kein "Tools"-Menü sehen oder "Device Manager" keine Option ist, ist es möglich, dass diese Funktion in Ihrer Version von ChatRTX oder auf Ihrer spezifischen GPU nicht unterstützt wird. Nicht alle Smart-Geräte sind kompatibel; wenn Ihr Gerät keine Verbindung herstellt, ist diese Funktion möglicherweise für Ihre Einrichtung nicht verfügbar. Sie wissen, dass es funktioniert hat, wenn: Ihre Smart-Leuchte oder ein anderes Gerät auf Ihren Befehl im Chat reagiert, sich tatsächlich wie angefordert ein- oder ausschaltet und Sie eine Bestätigungsnachricht von der KI sehen.

⚠️ Die Geräteunterstützung hängt stark von Ihrer spezifischen Hardware und Smart-Home-Marke ab. Nicht alle Geräte sind mit ChatRTX kompatibel, und einige Integrationen könnten experimentell sein.