AI WORLD HQ
Elgondolkodtál már azon, hogy az AI-nak feltétlenül egy távoli adatközpontban kell-e futnia, vagy működhet-e azon a számítógépen is, amely már ott van az asztalodon? A NVIDIA legújabb bejelentései inkább a második lehetőség felé mutatnak, európai fókusz mellett.
Mit jelentett be a NVIDIA?
A NVIDIA bővíti az úgynevezett nyílt modellekből álló családját. A nyílt modell olyan AI-modell, amelynek betanított fájljait közzéteszik, így a fejlesztők és a vállalatok letölthetik, tanulmányozhatják és testre szabhatják őket, ahelyett hogy csak egy cég weboldalán keresztül használhatnák a modellt. A NVIDIA szerint a cél az, hogy a fejlesztők, kutatók és vállalkozások megkapják, amire szükségük van a helyi nyelveken működő, illetve egyes iparágak igényeihez igazodó alkalmazások készítéséhez.
A család ma már nemcsak a nyelvre terjed ki. A NVIDIA szerint a robotika, a biológia és a kvantumszámítástechnika is beletartozik. Az új nyelvi modellek között megtalálható a Nemotron 3.5 Super VL és a Nemotron 3.5 Bolt. A NVIDIA új Nemotron Retriever modelleket is bemutatott, amelyek a beágyazást és az újrarangsorolást kezelik. Egy beágyazó modell a szöveget olyan számokká alakítja, amelyek megragadják a jelentését, így a számítógép megtalálhatja a kapcsolódó tartalmakat. Egy újrarangsoroló modell ezután sorba rendezi ezeket a találatokat, hogy a legrelevánsabbak kerüljenek előre. Képzeld el úgy, mint egy könyvtárost, aki először levesz a polcról minden szóba jöhető könyvet, majd a legjobbakat felülre teszi.
A berlini GTC-n, a NVIDIA Berlinben megrendezett fejlesztői konferenciáján a vállalat bemutatta helyben futó AI-hardvereit is. A „helyben futó” azt jelenti, hogy az AI közvetlenül az eszközön működik, nem csak a felhőben. A NVIDIA három terméket ismertet:
- RTX Spark, amely a múlt héten jelent meg. A NVIDIA szerint személyes AI-ügynököket működtet Windows rendszerű számítógépeken. Az ügynök olyan AI, amely feladatokat is el tud végezni helyetted, nemcsak válaszol a kérdéseidre.
- DGX Spark, amely a NVIDIA szerint a Linuxon alkalmazásokat fejlesztő és bővítő fejlesztőket támogatja.
- DGX Station, amely a NVIDIA szerint olyan vállalati csapatoknak készült, amelyek nagy teljesítményt igénylő AI-feladatokat futtatnak Linuxon. A NVIDIA szerint a Windowsra készült változat decemberben érkezik.
Miért fontos ez neked?
Az AI helyi futtatása nagyobb kontrollt jelenthet afelett, hogy hová kerülnek a fájljaid és a kérdéseid, mivel a feldolgozás az eszközödön marad. A NVIDIA bejelentése nem részletezi az adatvédelmi kérdéseket, ezért ezt általános lehetőségként kezeld, amelyet érdemes a termék saját dokumentációjában ellenőrizned.
A helyben futó AI a nyelvi támogatásban is segíthet. Az egyes nyelvekre és iparágakra fejlesztett modellek várhatóan jobban értik a helyi kifejezéseket, mint egy általános eszköz.
Mit jelent ez neked?
- A mindennapokban: Ha Windows rendszerű számítógépet használsz, ebben a bejelentésben az RTX Spark a hétköznapi felhasználóknak szánt termék. Nézd meg, mire képes a saját gépeden.
- A vállalkozásodban vagy a munkádban: A bizalmas dokumentumokat kezelő vállalatok számára fontos lehet, hogy a nyílt modellek testre szabhatók és saját hardveren futtathatók. Mielőtt döntést hoznál, egyeztess az informatikai csapatoddal.
- Ha most ismerkedsz a témával: Vásárlás előtt olvasd el a termékleírást a NVIDIA oldalán. Kérdezd meg, mihez férhet hozzá az ügynök a számítógépeden.
- Ha már használod: Ha már van RTX Spark által működtetett Windows rendszerű számítógéped, keresd meg a személyes ügynök funkcióit a saját beállításaid között. Először kisebb kockázatú feladatokon teszteld őket, például egy jegyzeteket tartalmazó mappa rendezésén.
Összegzés
A NVIDIA üzenete az, hogy az AI-nak közelebb kell működnie ahhoz, ahol az emberek élnek és dolgoznak: a saját számítógépükön és a saját nyelvükön. A vállalat szerint számos területhez ad hozzá nyílt modelleket, valamint új hardvereket fejlesztőknek és hétköznapi felhasználóknak egyaránt. A következő lépés egyszerű: ha Windows rendszerű számítógépet használsz, keresd meg az RTX Sparkot a NVIDIA hivatalos oldalán, és olvasd el, mit írnak a személyes AI-ügynökökről.