AI reklamos su nacių karo nusikaltimais: Meta ir X sprendimai prieš Vokietijos rinkimus

Prieš artėjančius Vokietijos rinkimus, socialiniai tinklai Meta ir X susidūrė su rimtomis problemomis dėl turinio moderavimo spragų. Naujausios Ekō tyrimų ataskaitos parodė, kad šios platformos leido publikuoti AI generuotus skelbimus, kuriuose buvo ekstremistinės neapykantos kalbos, įskaitant nuorodas į nacių karo nusikaltimus.

Ekō tyrimas atskleidė, kad Meta ir X patvirtino skelbimus, kuriuose buvo raginama išgauti imigrantus koncentracijos stovyklose ir deginti sinagogas. Šie skelbimai buvo pateikti prieš Vokietijos federalinius rinkimus, o tai pabrėžia rimtą turinio moderavimo spragą.

Meta patvirtino penkis iš dešimties pateiktų skelbimų per 12 valandų, o X patvirtino visus dešimt skelbimų iš karto. Tai sukėlė didelį susirūpinimą dėl socialinių tinklų vaidmens skatinant žalingą retoriką, ypač artėjant svarbiems rinkimams.

Meta atstovas teigė, kad šie skelbimai pažeidžia įmonės politiką ir nebuvo paskelbti. Jie teigė, kad jų skelbimų peržiūros procesas turi keletą analizės ir aptikimo sluoksnių. X atsisakė komentuoti šią situaciją.

Šie veiksmai gali pažeisti ES Skaitmeninių paslaugų aktą (DSA), kuris reikalauja, kad platformos vertintų ir mažintų rizikas, susijusias su pagrindinėmis teisėmis ir viešuoju saugumu. Be to, šie skelbimai gali pažeisti Vokietijos nacionalinius įstatymus, susijusius su neapykantos kalba ir nacių propagandos draudimu.

Reklamuotojai dabar susiduria su dilema – ar verta investuoti į platformas, kurios leido tokiam turiniui plisti. Kaip pažymėjo Katy Howell, socialinės žiniasklaidos agentūros Immediate Future vadovė, prekės ženklai ieško garantijų, kad jų reklamos nebus rodomos šalia žalingo turinio.

Ekō pateikė savo tyrimus Meta, X ir Europos Komisijai, tačiau dar laukia atsakymų. Ar Meta ir X bus nubausti už nesugebėjimą apsaugoti vartotojus nuo žalingo turinio, ypač artėjant rinkimams, dar lieka neaišku.

Apibendrinant, ši situacija pabrėžia būtinybę tobulinti turinio moderavimo sistemas, siekiant užtikrinti, kad ekstremistinė retorika neturėtų vietos socialiniuose tinkluose. Galime tikėtis, kad ateityje bus imtasi griežtesnių priemonių siekiant užkirsti kelią panašioms situacijoms.

Source: Meta and X Approve AI Ads Referencing Nazi War Crimes Ahead of German Elections, Research Finds