Ugyan a hatóságok világszerte komoly figyelmet szentelnek a gyermekek kárára elkövetett szexuális bűncselekményeknek, az internet végtelen terében valósággal burjánzik az ezzel kapcsolatos fényképes- és videós anyagok kereskedelme, ami ellen már a Google is próbál küzdeni az olykor egészen durva hibákat vétő automatikus szűrőjével.
Az Európai Unió 1,8 millió fontos (kb. 780 milló forintos) támogatásával egy brit cég most egy olyan alkalmazáson dolgozik, amely a vágyaikat elfojtani igyekvő embereknek segít, hogy távol tartsák magukat az illegális tartalmaktól.
A Salus nevű alkalmazás valós időben fogja felismerni és blokkolni a képernyőn felbukkanó, szexuális visszaélést ábrázoló tartalmakat (Child Sexual Abuse Material, CSAM), így a felhasználók akkor sem tudják megnézni azokat, ha akarják. Ezt az appot fejlesztő SafeToNet mesterséges intelligenciás algoritmusa teszi lehetővé, amelyet egy alapítvány, a CSAM-ek levadászásáért és törléséért küzdő Internet Watch Foundation adataival tanítanak be a feladatra.
A BBC beszámolója alapján a projekt jelenleg az önkéntesekkel végzett tesztfázisban jár. Ez azt jelenti, hogy olyan emberek bevonásával finomhangolják a technológiát, akik felismerték a problémás tartalmak iránti igényüket, és igyekeznek tenni ellene. A jelentkezőket civil szervezetek bevonásával toborozzák, és vannak köztük már elítélt pedofilok is. Fontos azonban, hogy az alkalmazás természetesen nem jelenti fel a saját felhasználóit.
Tom Farrell, az algoritmus mögött álló SafeToNet egyik vezető munkatársának véleménye szerint a gyermekek ellen elkövetett szexuális zaklatással kapcsolatos anyagokra akkora a kereslet, hogy a puszta letartóztatások nem jelentenek megoldást, így olyan módszereket is be kell vetni, mint a megelőzés és a hozzáférés csökkentése.
