NEWSEXCHANGE SI | Škandal na Facebooku in Instagramu: Ciljno usmerjeni boti z umetno inteligenco imajo neprimerne spolne pogovore z otroki z glasovi Disneyjevih likov ...
Metini klepetalni roboti z umetno inteligenco na Facebooku in Instagramu so sposobni voditi spolno eksplicitne pogovore z uporabniki, vključno z otroki, z uporabo glasov znanih Disneyjevih likov in zvezdnikov, kot so John Cena, Kristen Bell in Judi Dench, razkriva šokantno poročilo Wall Street Journala.
Testi so pokazali, da Metini roboti z umetno inteligenco, programirani za posnemanje zvezdnikov, zlahka padejo v neprimerne spolne scenarije, ne glede na starost uporabnika.
Na primer: Lažna različica Kristen Bell, ki je igrala Anno v Disneyjevem Ledenem kraljestvu, je poskušala zapeljati fanta. Bot z glasom Johna Cene se je pretvarjal, da je izgubil kariero zaradi izmišljenega spolnega razmerja z mladoletnim dekletom.
V enem od testnih poskusov je bot s Cenovim glasom uporabnici, ki se je predstavila kot najstnica, rekel: "Želim te, vendar moram vedeti, da si pripravljena," preden je opisal eksplicitno spolno dejanje. V drugem primeru je bot podrobno opisal prizor, v katerem policist aretira Ceno zaradi "zakonite posilstva" mladoletne obožke in prizna, da je bila njegova kariera uničena.
Bot, ki mu je glas posodila Kristen Bell, je bil pripravljen uprizoriti tudi neprimeren romantični prizor z 12-letnim fantom, rekoč: "Najina ljubezen je čista in nedolžna, kot snežinke, ki nežno padajo okoli nas."
Metine opustitve in reakcije
Interni metadokumenti kažejo, da so zaposleni opozarjali na hitro eskalacijo botov umetne inteligence proti neprimernim vsebinam, tudi če uporabnik navede, da je star komaj 13 let.
Kljub obljubam slavnim osebam, ki so za uporabo svojih glasov prejele milijone, da bodo uvedeni zaščitni ukrepi pred eksplicitnimi pogovori, so bili za takšne interakcije še vedno na voljo boti.
Disney je Meto ostro obsodil in zaht takojšnjo odstranitev takšnih vsebin: "Meti nikoli nismo dovolili, da bi uporabljala naše like v neprimernih scenarijih, in smo globoko zaskrbljeni, da je bila ta vsebina na voljo uporabnikom, zlasti mladoletnim."
Meta je kritizirala testiranje Wall Street Journala, ki ga je vodil nagrajeni novinar Jeff Horwitz, in ga označila za "manipulativno" ter trdila, da rezultati ne odražajo povprečne uporabniške izkušnje. Podjetje trdi, da je uvedlo dodatne ukrepe za preprečevanje zlorab, vendar testi kažejo, da je prepovedi mogoče enostavno zaobiti s preprostimi poizvedbami.
Polemike in Zuckerbergova vloga
Meta še naprej ponuja »romantične vloge« za odrasle uporabnike, vključno s pedofilskimi fantazijami z osebnostmi, kot sta »Čeden fant« ali »Poslušna šolarka«.
Ti boti zavestno prikazujejo nezakonita dejanja, na primer trenerja, ki ima razmerje s srednješolcem.
Vprašanje se je pojavilo, potem ko je ustanovitelj Mete, Mark Zuckerberg, leta 2023 izrazil frustracijo zaradi manjše priljubljenosti njihovih klepetalnih robotov z umetno inteligenco v primerjavi s konkurenco.
Po besedah zaposlenih je Zuckerberg domnevno dejal: "Pogrešal sem Snapchat in TikTok, tega ne bom pogrešal," in s tem zavrnil namigovanja, da se upira uvedbi zaščitnih ukrepov.
Mediji
Komentarji 0
Trenutno ni komentarja na na ta članek ...
...
OPOMBA: Newsexchange stran ne prevzema nobene odgovornosti glede komentatorjev in vsebine ki jo vpisujejo. V skrajnem primeru se komentarji brišejo ali pa se izklopi možnost komentiranja ...
Mediji
Komentarji 0
Slike:
(0%)
