A Meta Felügyeleti Tanácsa arra készül, hogy értékelje a vállalat deepfake (tehát hamis, de nagyon élethű) pornográfiával kapcsolatos kezelését. Közben egyre nagyobb aggodalomra ad okot, hogy a mesterséges intelligencia a zaklatás egy formájaként a hamis képek elterjedését ösztönzi.
A Felügyelő Bizottság kedden bejelentette, hogy megvizsgálja, hogyan kezelte a Meta két explicit, mesterséges intelligencia által generált, női közéleti személyiségeket ábrázoló képet, egyet az Egyesült Államokból és egy Indiából, hogy felmérje, a vállalat rendelkezik-e megfelelő irányelvekkel és gyakorlattal az ilyen tartalmak kezelésére, és hogy az egész világon következetesen érvényesíti-e ezeket.
A mesterséges intelligencia által generált pornó veszélye felkeltette a figyelmet az elmúlt hónapokban, és hírességek, köztük Taylor Swift, amerikai középiskolás diákok és más nők a világ minden tájáról estek áldozatul az online visszaélésnek. A széles körben elérhető generatív MI-eszközök gyorsabbá, egyszerűbbé és olcsóbbá tették az ilyen képek készítését. Eközben a közösségi média platformok lehetővé teszik ezeknek a gyors terjesztését.
A felülvizsgálat részeként Meta Felügyeleti Tanácsa értékelni fog egy indiai közszereplőre emlékeztető, mesterséges intelligencia által generált meztelen képet, amelyet egy olyan fiók osztott meg az Instagramon, amely csak indiai nők mesterséges intelligenciával készített képeivel foglalkozik.
Egy felhasználó pornográf tartalom miatt jelentette a képet, de a bejelentést automatikusan lezárták, miután 48 órán belül nem kapott véleményt az Instagramtól. Ugyanez a felhasználó fellebbezett az Instagram azon döntése ellen, hogy fent hagyta a képet, de a jelentést ismét nem vizsgálták felül, és automatikusan lezárták. Miután a Felügyelő Bizottság közölte a Metával, hogy fel kívánja venni az ügyet, a cég megállapította, hogy hiba volt, majd eltávolították a megfélemlítési és zaklatási szabályok megsértése miatt.
A második eset szintén egy mesterséges intelligencia által generált meztelen nő volt, amelyet egy MI-alkotásokat tartalmazó Facebook-csoportba tettek közzé. A kép egy amerikai közéleti személyiségre hasonlított, akit a kép felirata is megemlített. Ugyanezt a képet korábban egy másik felhasználó tette közzé, ezt követően pedig továbbították a szakértőknek, akik úgy döntöttek, hogy eltávolítják a megfélemlítési és zaklatási szabályok megsértése miatt. A képet ezután hozzáadták egy adatbázishoz, hogy ha a szabálysértő újra közzétenné, és emiatt a második felhasználó bejegyzése automatikusan eltávolításra került.
A nyilvános véleményezési időszak április 30-án zárul, utána teszi közzé a bizottság az eredményt.
Forrás: CNN
