Az emberi nyelvekre specializálódott, mesterséges intelligenciát használó rendszerek egyik nagy hiányossága általában az, hogy ugyan szavakat, vagy egyszerűbben kapcsolódó mondatokat még képesek felismerni, azonban egy hosszabb szövegben már nem tudják kibogarászni az egyes mondatok és témakörök között húzódó kapcsolatokat, képtelenek kontextusba helyezni ezeket. Kicsiben ezt láthatjuk a Google Fordítóban is, amikor szavanként haladva egészen elfogadható az eredmény, de nagyobb tételben már sokszor zagyvaság lesz a fordítás eredménye.
A kontextus-problémát leginkább azzal lehet elmagyarázni, ha veszünk egy egyszerű mondatot. Legyen a "Na, most már aztán nyomás". Ha tudjuk, hogy fiatalok közötti beszélgetésben hangzik el, azonnal képesek vagyunk megérteni azt is, hogy nem valamilyen később érkező, lefelé szorító erőhatásról van szó, hanem arról, hogy ideje végre indulni. A beszélt és írott nyelv tele van olyan kifejezésekkel, amelyek más és más környezetben teljesen különböző értelmet kapnak, de a gépi intelligenciák egyelőre egy bizonyos szint fölött elvéreznek ennek kibogozásában.
A Google épp ezért most egy új MI-modellt fejlesztett ki, amelynek a Reformer nevet adta. Ez a bejelentés szerint képes arra, hogy helyesen értelmezzen akár egymillió sornyi szöveget, ráadásul az ehhez szükséges szoftver mindössze 16 gigabájtot foglal el, tehát nem szuperszámítógépes szinten kell elképzelni a dolgot.
A Reformer együtt dolgozik majd a cég eddig használt, Transformer nevű megoldásával: ez egy olyan neurális hálózat, amely egy bekezdésen belül hasonlít össze szavakat, hogy közös jelentésbeli körben értelmezhesse azokat. Így tehát elvileg kapunk egy olyan rendszert, amiben "a mesterséges agy egyik féltekéje" a rövidebb szövegközi összefüggéseket keresi, míg a másik jóval nagyobb, általános buborékban vizsgálja a teljes szöveget, és a kettőt összevetve értelmezi az olvasottakat. A rendszer azzal finomítja a megértési folyamatot, hogy a hasonló szavakat egy virtuális dobozba dobálja és a különféle dobozok tartalmát hasonlítgatja össze egymással, így nem szavanként, hanem rokon értelmű csoportonként vizsgálódik, ezzel pedig számítási teljesítményt takarít meg.
A Google szerint az új rendszer kiválóan alkalmas arra, hogy akár teljes könyveket értelmük megtartása mellett is feldolgozhasson a mesterséges intelligencia, arról viszont nem esett szó, hogy láthatjuk-e mindezt valamilyen szinten átemelve olyan általánosan használt szolgáltatásokba, mint amilyen a Google Fordító vagy a Google Asszisztens. Mindenesetre a Reformerről már kiadtak egy részletesebb leírást, és a forráskódjával is lehet játszadozni.
