Így birkózik meg a modern AI-keresés a másodpercenkénti millió kérdéssel

Amikor rákattintasz a „keresés" gombra a kedvenc bevásárlóappodban, beírsz egy kérdést a telefonodba, vagy megkérdezed az okoshangszórótól az időjárást, a háttérben valami olyasmi történik, amire a legtöbben soha nem gondolnak. A rendszernek a másodperc töredéke alatt kell megtalálnia egy jó választ. És ez a rendszer mostanában észrevehetően okosabb és gyorsabb lett – köszönhetően egy csendes, AI-keresési infrastruktúráért folyó versenynek, amelyet olyan cégek vezetnek, mint a Databricks.

Mi változik valójában a függöny mögött

A hagyományos keresés úgy működött, mint amikor szavakat keresel egy hatalmas szótárban. A beírt szavaidat párosította a dokumentumokkal, és visszaadta a legközelebbi találatot. Az AI-alapú keresés másképp működik. Azt próbálja megérteni, hogy mit akarsz, nem csak azt, amit begépeltél.

Gondolj bele így. A régi keresésnél, ha azt kérdezted: „Milyen meleg dzseki jó esős sétákhoz?", valószínűleg csak olyan találatokat kaptál, amelyekben a „dzseki" és az „esős" szó valahol szerepelt az oldalon. A modern AI-keresés ezzel szemben akkor is vissza tud adni tényleg hasznos termékeket, ha a leírásban nem szerepelnek ezek a szavak. Érti a kapcsolatot a „meleg", az „esős" és a között, hogy milyen ruhát is keresnél valójában.

Ennek az okosabb keresési módnak több neve is van. Hallhattál már szemantikus keresésről (amely a jelentésre összpontosít, nem a szó szerinti egyezésre) és vektoros keresésről (ez egy olyan technika, amely a szöveget számokká, úgynevezett vektorokká alakítja, hogy a rendszer matematikailag hasonlíthassa össze az ötleteket, ne csak betűket párosítson).

A bökkenő? Ez a fajta „megértés" régebben lassú volt. Minden egyes lekérdezés rengeteg számítási kapacitást (a számítógéped „agyteljesítményét") igényelt, ami azt jelentette, hogy a rendszer egyszerre csak korlátozott számú keresést tudott kiszolgálni. Ez a QPS-kihívás: a QPS a queries per second, vagyis a másodpercenként feldolgozott lekérdezések száma – nagyjából az, hogy hány kérdésre tud válaszolni a rendszer egy másodperc alatt, mielőtt lelassul vagy összeomlik.

Amikor arról olvasol, hogy egy cég javít a „magas QPS" teljesítményen, az azt jelenti, hogy sikerült sokkal gyorsabban kiszolgálniuk ezt az okosabb, jelentésalapú keresést. Így az AI-keresés már nem csak egy ügyes, de lassó újdonság, hanem készen áll arra, hogy a modern élet tempóját is kiszolgálja a valódi felhasználási helyzetekben.

Hol veheted észre mindezt

Valószínűleg nem fogsz látni egy feliratot, hogy „AI-keresés mostantól magas QPS-sel működik". Csak azt fogod érezni, hogy a dolgok simábban és célzottabban működnek.

• Online vásárlás — beírhatsz egy homályos, természetes leírást, és hasznos találatokat kapsz, nem pedig egy falatnyi nem odaillő terméket.
• Ügyfélszolgálati chatbotok — amikor egy cég AI-t használ a tudásbázisában (a belső súgócikkeinek és útmutatóinak gyűjteményében) való kereséshez, a bot a konkrét kérdésedre a pontos választ tudja előhúzni ahelyett, hogy egy általános szöveget mond fel.
• Hangasszisztensek — amikor több részből álló kérdést teszel fel a telefonnak, például: „Melyik egy jó olasz étterem a vasútállomás közelében, ami most nyitva van?", a rendszernek nagyon gyorsan több keresést kell összekombinálnia.
• Munkahelyi eszközök — a céges dokumentumokban, chatekben és megosztott meghajtókon belüli keresés egyre jobban megtalálja pontosan azt, amire szükséged van, még akkor is, ha nem emlékszel a megfelelő kulcsszavakra.

Mit jelent ez számodra?

• Ha szoktál online vásárolni vagy keresni: próbálj természetes, beszédszerű leírásokat beírni egy-egy kulcsszó helyett. Azokon az oldalakon, amelyek AI-keresést használnak, észrevehetően jobb találatokat fogsz kapni.
• Ha kisvállalkozást vezetsz vagy a kereskedelemben dolgozol: amikor a weboldaladhoz, ügyfélszolgálatodhoz vagy help centeredhez eszközt választasz, kérdezd meg a szolgáltatót, hogy használnak-e AI-alapú keresést. Ez érezhető előrelépés abban, hogy a vásárlóid megtalálják, amit keresnek.
• Ha csak érdekel az AI: ez jó példa arra, hogy az AI sokszor a háttérben fejlődik, nem feltűnő bejelentések révén. A gyorsabb, okosabb keresés a technológia egyik legcsendesebben hasznos felhasználási területe.

Összegzés

A verseny, hogy az AI-keresés egyre több lekérdezést tudjon kiszolgálni másodpercenként, nem csak egy mérnöki sztori – ez az oka annak, hogy az online élmények következő generációja gyorsabbnak, természetesebbnek és hasznosabbnak fog érződni. Legközelebb, amikor egy bonyolult kérdést teszel fel a telefonnak, és meglepően jó választ kapsz, már tudni fogod, hogy mennyi minden zajlik az apró keresősáv mögött. Próbáld ki még ma: fogalmazz meg egy kérdést természetesen, úgy, ahogy egy barátodnak tennéd fel, és nézd meg, mi jön vissza.