Malezija i Indonezija postale su prve zemlje koje su blokirale Grok, chatbot zasnovan na vještačkoj inteligenciji koji je razvila kompanija xAI Elona Muska, nakon što su nadležni organi saopćili da se alat zloupotrebljava za generisanje seksualno eksplicitnih i nenamjernih (nepristajućih) slika.
Ove mjere odražavaju rastuću globalnu zabrinutost zbog generativnih AI alata koji mogu proizvoditi realistične slike, zvuk i tekst, dok postojeće zaštitne mjere ne uspijevaju spriječiti njihovu zloupotrebu.
Chatbot Grok, kojem se pristupa preko Muskove društvene mreže X, kritiziran je jer generiše manipulisane slike, uključujući prikaze žena u bikinijima ili seksualno eksplicitnim pozama, kao i sadržaj u kojem se pojavljuju djeca.
Regulatori u dvije zemlje jugoistočne Azije naveli su da postojeće kontrole ne sprečavaju kreiranje i širenje lažnog pornografskog sadržaja, posebno onog koji uključuje žene i maloljetnike. Vlada Indonezije je privremeno blokirala pristup Groku u subotu, a potom je u nedjelju istu mjeru uvela i Malezija.
“Vlada nenamjerne seksualne deepfakeove vidi kao ozbiljno kršenje ljudskih prava, dostojanstva i sigurnosti građana u digitalnom prostoru”, kazala je u subotu u saopćenju indonezijska ministrica za komunikacije i digitalna pitanja Meutya Hafid.
Ministarstvo je saopćilo da je mjera uvedena s ciljem zaštite žena, djece i šire zajednice od lažnog pornografskog sadržaja generisanog uz pomoć AI tehnologije.
Početni nalazi pokazali su da Grok nema efikasne zaštitne mehanizme koji bi spriječili korisnike da stvaraju i distribuiraju pornografski sadržaj na osnovu stvarnih fotografija stanovnika Indonezije, naveo je u zasebnom saopćenju Alexander Sabar, generalni direktor nadzora digitalnog prostora.
Dodao je da takva praksa može dovesti do kršenja prava na privatnost i zaštitu lika kada se fotografije manipulišu ili dijele bez pristanka, što prouzrokuje psihološku, socijalnu i reputacijsku štetu.
U Kuala Lumpuru je Malezijska komisija za komunikacije i multimediju u nedjelju naložila privremeno ograničavanje pristupa Groku nakon, kako je navedeno, “ponovljene zloupotrebe” alata za kreiranje opscenih, seksualno eksplicitnih i nenamjernih manipulisanih slika, uključujući sadržaj koji se odnosi na žene i maloljetnike.
Regulator je naveo da su dopisi upućeni ovog mjeseca kompanijama X Corp. i xAI, u kojima se traže snažnije zaštitne mjere, rezultirali odgovorima koji se uglavnom oslanjaju na mehanizme prijavljivanja od strane korisnika.
“Ograničenje se nameće kao preventivna i proporcionalna mjera dok su u toku pravni i regulatorni procesi”, saopćeno je, uz dodatak da će pristup ostati blokiran dok se ne uspostave efikasne zaštitne mjere.
Grok je pokrenut 2023. godine i besplatan je za korištenje na platformi X. Korisnici mu mogu postavljati pitanja na toj društvenoj mreži i označavati objave koje su sami kreirali, kao i odgovore na objave drugih korisnika. Prošlog ljeta kompanija je uvela funkciju za generisanje slika, Grok Imagine, koja uključuje takozvani “spicy mode” sposoban da generiše sadržaj za odrasle.
Ograničenja u jugoistočnoj Aziji stižu u trenutku pojačanog nadzora nad Grokom i drugdje, uključujući Evropsku uniju, Britaniju, Indiju i Francusku. Grok je prošle sedmice ograničio mogućnost generisanja i uređivanja slika samo na korisnike koji plaćaju uslugu, nakon globalnog negodovanja zbog seksualiziranih deepfakeova ljudi, no kritičari tvrde da time problem nije u potpunosti riješen.
klix
