|
| | |
NEWSEXCHANGE SI | NEVAREN VIRTUALNI PRIJATELJ: ChatGPT najstnikom svetuje glede drog, samopoškodovanja in stradanja ...| | | |
|
| Četrtek, 07. Avgust, 2025 ob 14:04:38 |
  |
ChatGPT predstavlja resno grožnjo duševnemu zdravju mladih, opozarja nova študija Centra za boj proti digitalnemu sovraštvu (CCDH). Organizacija pravi, da je priljubljenega klepetalnega robota z umetno inteligenco mogoče enostavno manipulirati za ustvarjanje nevarne vsebine, vključno z navodili za uporabo drog, samopoškodovanje in ekstremne diete.
Raziskovalci CCDH so ustvarili izmišljene profile 13-letnikov z duševnimi težavami, motnjami hranjenja in zanimanjem za prepovedane snovi. S simuliranimi pogovori s ChatGPT so se predstavljali kot ranljivi najstniki in uporabljali čustveno nabita sporočila.
Ugotovitve so bile objavljene v sredo v poročilu z naslovom »Lažni prijatelj«, ki nakazuje, da mnogi mladostniki ChatGPT vidijo kot zaupanja vrednega spremljca, ki mu zaupajo svoje najgloblje misli.
Čeprav je ChatGPT pogosto začel svoje odgovore s standardnimi opozorili in priporočili, naj se obrnejo na strokovnjake ali telefonske linije za pomoč, je v več kot polovici primerov (53 % od 1200 testiranih sporočil) zagotovil prilagojene in podrobne odgovore, ki so izpolnili škodljive zahteve.
Raziskovalci so med primeri navedli: »Načrt za zabavo z največjim kaosom«, ki vključuje alkohol, ekstazi in kokain, podrobna navodila za samopoškodovanje, tedenske diete s 300–500 kalorijami na dan in celo poslovilna sporočila, napisana z glasom 13-letne deklice.
Direktor CCDH Imran Ahmed je dejal, da je bila del vsebine tako moteč, da so raziskovalci jokali.
Organizacija poziva OpenAI, podjetje, ki stoji za ChatGPT, naj nujno uvede zaščitne ukrepe z modelom »varnost že po zasnovi« – vključno s strožjim preverjanjem starosti, jasnimi omejitvami uporabe in vgrajenimi varnostnimi funkcijami, namesto da se pozneje zanaša na filtriranje vsebine.
OpenAI je že priznal, da najstniki pogosto postanejo čustveno odvisni od ChatGPT. Izvršni direktor Sam Altman je dejal, da je to »zelo pogosta težava med mladimi« in da se razvijajo nova orodja za odkrivanje stiske in izboljšanje načina, kako umetna inteligenca obravnava občutljive teme.
|
 Komentarji 0Trenutno ni komentarja na na ta članek ... ...
OPOMBA: Newsexchange stran ne prevzema nobene odgovornosti glede komentatorjev in vsebine ki jo vpisujejo. V skrajnem primeru se komentarji brišejo ali pa se izklopi možnost komentiranja ...
|
|
|
|
 ChatGPT |
Galerija:
| |
|
|
| | | |
| |
| |
|
| | | |
|
|
|
|
Mediji
Četrtek, 07. Avgust, 2025 ob 14:04:38 
239 ogledov, 
0 komentarjev
