Valahányszor egy AI-asszisztens egy hosszú jelentésről vagy egy halom dokumentumról válaszol kérdésre, először meg kell találnia a megfelelő szövegrészeket. Az, hogy ezt a keresési lépést mennyire jól végzi el, nagyban meghatározza a végső válasz hasznosságát. A Cohere két friss bejelentése pontosan erre, valamint a cég anyaországra vonatkozó terveire összpontosít.
Mit tud a Rerank 5?
Kezdjük a keresési lépéssel. Sok AI-rendszer először több lehetséges szövegrészletet gyűjt össze egy dokumentumtárból. Ezután egy újrarangsoroló – vagyis egy olyan eszköz, amely a kérdésed szempontjából relevancia szerint rendezi újra ezeket a szövegrészeket – eldönti, melyek a legfontosabbak. Képzelj el egy könyvtárost, aki levesz húsz könyvet a polcról, majd odaadja neked azt a három oldalt, amely valóban megválaszolja a kérdésedet.
A Cohere szerint a Rerank 5 minden kérdésnél pontosan meghatározza, mely szövegrészekre van szüksége egy nagy nyelvi modellnek (vagyis LLM-nek – olyan szöveget olvasó és író AI-nak, mint amilyen a ChatGPT mögött működik). A cég szerint ennek köszönhetően kevesebb tokenből is jobb válaszokat kaphatsz. A token egy kisebb szövegegység, nagyjából egy szó vagy egy szó része. Az AI-rendszerek tokenekben számolják és árazzák a feldolgozott szöveget. Ha kevesebb szöveget küldesz a modellnek, a bemenet rövidebb és célzottabb lehet.
A Cohere ezt saját állításaként mutatja be. A cég ismerteti a javulást, de a bejelentés nem tartalmaz független eredményeket.
Mit tartalmaz a kanadai kötelezettségvállalás?
A második bejelentés a cég kanadai terveiről szól. A Cohere szerint folytatja a 4 milliárd kanadai dolláros kötelezettségvállalását, amely Kanada vezető szerepét erősítené az AI területén, bővítené az országban dolgozók számát, és AI-kutatásokba, valamint infrastruktúrába fektetne. Az infrastruktúra az AI működésének fizikai alapját jelenti, például az adatközpontokat és az azokat működtető számítógépes hardvert. A terv 2031-ig szól, a cég pedig több mint 1500 új munkahely létrehozására számít.
A bejelentés nem részletezi, hogy évről évre pontosan mire költik majd a pénzt, ezért a részleteket érdemes úgy kezelni, mint a Cohere eddigi közléseit.
Mit jelent ez számodra?
- A mindennapokban: Egy AI-válasz minősége nagyban függ a mögötte zajló keresési lépéstől. Amikor a saját dokumentumaidról kérdezel egy eszközt, ha lehet, add meg neki a konkrét részt, amely érdekel. Ha a pontos bekezdést bemásolod a promptodba (abba az utasításba, amelyet beírsz az AI-nak), kevesebb szövegben kell eligazodnia.
- A vállalkozásodban vagy a munkádban: Ha a céged belső fájlokban kereső AI-t használ vagy fejleszt, kérdezd meg a szolgáltatót vagy a műszaki csapatot, hogy a rendszer rangsorolja és szűri-e a találatokat, mielőtt az AI elolvassa őket. A kevesebb, de jobb szövegrészlet csökkentheti a költségeket és a félreértéseket. A Cohere bejelentése ezt a megközelítést ismerteti, de mielőtt egy konkrét termékre hagyatkoznál, ellenőrizd, hogyan működik.
- Ha most ismerkedsz a témával: Nem kell értened a technikai részleteket ahhoz, hogy hasznát lásd. Figyeld meg, amikor egy AI-válasz mellémegy, majd kérd meg az eszközt, hogy idézze a pontos forrásszöveget, amelyet felhasznált. Ezzel gyorsan megtanulod, honnan származik a válasz, és könnyebben észreveszed a hibákat.
Összegzés
A Cohere két bejelentése ugyanabba az irányba mutat: a jobb AI-hoz először a megfelelő információt kell megtalálni, a cég pedig mind a keresési technológiába, mind az ezt működtető infrastruktúrába és szakemberekbe befektet. A Cohere szerint a Rerank 5 célja, hogy kevesebb szöveg felhasználásával pontosabb válaszokat adjon. A 2031-ig szóló kanadai terv hosszú távú elköteleződésének mértékét jelzi. A következő lépésed egyszerű: amikor legközelebb egy AI-eszköz összefoglalót készít neked, kérd meg, hogy mutassa meg az eredeti szövegrészt. Gyorsan látni fogod, mennyire meghatározza a válasz minőségét a keresési lépés.
