Kiszivárgott dokumentumok alapján az gyanítható, hogy a Facebooknál nagyobb probléma lehet a gyermekek zaklatása, mint ahogyan arról ők beszámolnak. Tartalommoderátorok képzésére készült anyagban szereplő adatok alapján a New York Times azt állítja, hogy a gyermekek elleni szexuális visszaélések száma magasabb lehet, és erről a közösségi oldal is tud, sőt pont ők szeretnék azt a látszatot kelteni, hogy a probléma valójában nem is olyan nagy probléma.
A dokumentumokból az derül ki, hogy a cég előszeretettel használja ki azt a kiskaput, mikor a moderátorok nem tudják egyértelműen eldönteni, hogy egy, a képen látható személy kiskorú vagy nem. A dokumentumok szerint ilyen esetekben azt tanácsolják a moderátoroknak, hogy inkább feltételezzék azt, hogy felnőttek a képen szereplő személyek. Ez pedig azért segíthet az esetek kozmetikázásán, mert ha a moderátorok egyértelműen kiskorúnak ítélik meg a bejegyzésben szereplő személyt, akkor a feltételezett gyermekbántalmazási képeket jelentik az Eltűnt és Kizsákmányolt Gyermekek Nemzeti Központjának, ami pedig felveszi a kapcsolatot a hatóságokkal. Viszont ha úgy ítélik meg, hogy a képeken szereplő személyek nagykorúak, akkor csak szimplán eltávolítják azokat az oldalról, és nincs semmiféle jelentési kötelezettségük.
Arra a New York Times cikke is rámutat, hogy bár algoritmusokkal dolgoznak a moderátorok, azt viszont nem lehet minden kétséget kizáróan megállapítani, hogy a képen szereplő személyek milyen idősek. A moderátorok állítólag egy több mint 50 éves módszer használatára vannak kiképezve „a pubertás progresszív szakaszainak” azonosítására, de ez természetesen nem elég arra, hogy életkort lehessen vele megállapítani. A moderátorok viszont azt feltételezik, hogy több olyan fotó is átcsúszhat, ahol valójában a szereplő kiskorú, de az irányelvek miatt úgy kezelik, mintha felnőtt lenne. Főleg, hogy a moderálással megbízott cégek alkalmazottainak néha csak pár másodpercnyi ideje van egy-egy képppel vagy felvétellel foglalkozni, és büntetést kapnak, ha nem elég gyorsak és hatékonyak.
A Facebook is megszólalt az ügyben, azt mondták, hogy az az irányelv, hogy a nehezen eldönthető eseteknél inkább a felnőttkor mellett döntsenek a moderátorok, az a felhasználók és a magánélet védelme érdekében történik, illetve szerintük, ha ezeket is jelentenék, az túl sok időt venne el a hatóságok munkájában attól, hogy a tényleges visszaéléseket kivizsgálják. A cég biztonsági osztályának vezetője, Antigone Davis a lapnak elmondta, hogy jogi felelősséggel is járhat számukra, ha hamis jelentéseket tesznek.
Nem minden vállalat osztja a Facebook filozófiáját ebben a kérdésben. Az Apple, a Snap és a TikTok állítólag „ellentétes megközelítést” alkalmaznak, és olyan képeket is jelentenek, amikor nem biztosak az életkorban.
Forrás: NYTimes
