Platforma Roblox zahájila celosvětové zavádění nového systému ověřování věku založeného na umělé inteligenci. Cílem tohoto opatření je zvýšit bezpečnost chatu ve hře, zejména pro mladší hráče. Jen několik týdnů po spuštění se však ukazuje, že systém spíše způsobuje frustraci, pokusy o obcházení a nové debaty o ochraně osobních údajů.
Jak funguje nová kontrola věku?
Hráči, kteří chtějí chat používat, musí potvrdit svůj věk. K tomu Roblox využívá umělou inteligenci, která na základě skenu obličeje odhaduje přibližný věk. Alternativně mohou uživatelé od 13 let ověřit svůj věk také pomocí dokladu totožnosti.
Údaj o věku rozhoduje o tom, s jakými dalšími uživateli je možné komunikovat. Například 13letý hráč může chatovat pouze s osobami v omezeném věkovém rozmezí, zatímco starší uživatelé mají přístup k jiným skupinám. Roblox tím chce zabránit nekontrolované interakci nezletilých s výrazně staršími hráči.
Nesprávné klasifikace a snadné obcházení
V praxi se však ukazuje, že spolehlivost systému je omezená. Na sociálních sítích se množí zprávy o masivních chybných hodnoceních. Plnoletí uživatelé jsou někdy klasifikováni jako 13- až 15letí, zatímco děti jsou údajně považovány za dospělé. I rodiče, kteří provádějí skenování svých dětí, neúmyslně způsobují nesprávné přiřazení věku.
Zvláště problematické je, jak snadno lze ověření věku obejít. Výzkumy časopisu Wired ukazují, že již ověřené účty Roblox se prodávají na online tržištích, včetně účtů s velmi nízkým věkovým omezením. Kromě toho kolují videa, ve kterých uživatelé klamou AI pomocí avatarů, fotografií celebrit nebo umělých vousů a vrásek.
Takové slabiny nejsou nic nového. Již při dřívějších ověřováních věku na platformách jako Discord nebo Reddit mohli uživatelé AI systémy oklamat jednoduchými prostředky.
Kritiku zesilují obavy o ochranu osobních údajů
Kromě technických problémů roste také odpor z důvodu ochrany osobních údajů. Někteří hráči zcela odmítají ověření věku a vědomě se vzdávají chatovacích funkcí.
Zvláště kriticky je vnímáno, že software používaný k ověřování věku pochází od společnosti Persona, která je v současné době žalována kvůli otázkám ochrany a bezpečnosti dat. Několik tvůrců obsahu a bezpečnostních expertů proto otevřeně varuje před používáním tohoto systému.
Přijetí zůstává omezené
Podle údajů společnosti Roblox absolvovalo ověření věku v prvních testovacích regionech něco málo přes 50 procent denně aktivních uživatelů. To naopak znamená, že velká část komunity hraje již několik týdnů bez chatových funkcí. To je považováno za jasný znak omezené akceptace.
Zda nový systém v dlouhodobém horizontu skutečně povede k větší bezpečnosti na platformě, nebo zda především vytvoří nové problémy, je v současné době otevřenou otázkou. Je však jasné, že zavedení ověřování věku pomocí umělé inteligence neposílilo důvěru mnoha uživatelů.
Často kladené otázky
Roblox zavedl ověřování věku pomocí umělé inteligence, při kterém se věk uživatele odhaduje na základě selfie. Bez úspěšné ověření je přístup k chatovacím funkcím omezen.
Roblox tím chce zlepšit ochranu dětí a zabránit tomu, aby nezletilí chatovali s výrazně staršími uživateli. Tento krok je reakcí na politický a mediální tlak kvůli obavám o bezpečnost.
Ověření věku je povinné, pokud hráči chtějí používat chatovací funkce. Kdo ho odmítne, může sice nadále hrát, ale nemůže komunikovat.
AI analyzuje rysy obličeje a na jejich základě odhaduje přibližný věk. Klasifikace se provádí podle věkových skupin, nikoli podle přesného data narození.
Mnoho uživatelů hlásí masivní chyby v odhadu. Dospělí jsou někdy klasifikováni jako mladiství, zatímco děti jsou zařazeny do výrazně vyšších věkových skupin. Příčinou jsou nejasné tréninkové údaje a omezená přesnost AI.
Ano. Uživatelé online ukazují řadu metod, jak ověření obejít, například pomocí fotografií, avatarů, obrázků AI nebo převleků. Systém zkreslují i rodiče, kteří ověřují své děti.
Ano. Mnoho hráčů odmítá ověření z obavy o své biometrické údaje. Kromě toho je poskytovatel služeb Persona kritizován kvůli otázkám ochrany osobních údajů.
To zatím není jasné. I přes zavedení této funkce mnoho hráčů nadále nepoužívá chatovací funkce nebo systém obchází. Zda tato opatření v dlouhodobém horizontu poskytnou větší ochranu, zůstává otevřené.
