Aligha akad olyan vállalat, amely mélyebben lenne a mesterséges intelligenciában az Nvidiánál, a videokártyákkal világhírűvé vált cég ugyanis néhány éve remek érzékkel szállt be az AI-célú hardverek gyártásába, a befektetés pedig busásan megtérülni látszik, mivel a tech ipar mostanság kielégíthetetlen étvágyat tanúsít az ilyen erőforrások iránt.
A nemrég még az Amazon piaci értékét is túlszárnyaló Nvidia most maga is egy mesterséges intelligenciás szolgáltatással jelentkezett, amely a GeForce RTX GPU-kkal szerelt számítógépekre hozza el a ChatGPT-hez és a Google Geminihez hasonló chatbotok képességeit.
Az egyelőre demó formában elérhetővé tett Chat with RTX egy 35 GB-nyi letöltést igénylő szoftver, amely különböző nagy nyelvi modellekkel (LLM) kompatibilis, és az internet mellett a saját PC-nken tárolt adatokat is képes feldolgozni anélkül, hogy azok harmadik felekhez kerülnének. A gyakorlatban ez úgy néz ki, hogy a programot elindítva kiválasztunk egy LLM-et és megadunk egy mappát, amelyekben a feldolgozandó fájlok találhatók, a Chat with RTX pedig képes kérdésekre válaszolni azok kapcsán.
Ha például szeretnénk megtudni, hogy a kollégánk milyen éttermet említett az egyik meetingen, a megbeszélés leiratát átfésülve a chatbot megmondja nekünk.
A Chat with RTX előnye, hogy a helyi feldolgozás miatt jóval gyorsabb válaszokkal szolgál, mint például a ChatGPT ingyenes verziója, ráadásul egy link birtokában akár YouTube-videókat is képes összefoglalni. Jelentős megkötés viszont, hogy csak GeForce RTX 40-es vagy 30-as sorozatú GPU és 8 GB memória, valamint Windows 11 operációs rendszer és 100 GB szabad tárhely birtokában használható a szolgáltatás.
Akik teljesítik a szigorú követelményeket, azoknak is érdemes fejben tartaniuk, hogy egy 0.2-es verziójú béta programról van szó, így például egyelőre csak az Nvidia saját Mistral nyelvi modellével kompatibilis, ami a PC Mag tesztje alapján nem ad olyan kifinomult válaszokat, mint a ChatGPT, bizonyos utasításokat pedig hajlamos teljesen figyelmen kívül hagyni. Az indulás viszont ígéretes, az Nvidiával a háttérben pedig simán elképzelhető, hogy a Chat with RTX végül egy kifejezetten ütős technológiává érik.
