Interneti është në krizë për shkak të një eksperimenti sekret: Miliona njerëz pa e ditur korrespondonin me inteligjencën artificiale

Një grup studiuesish kryen fshehurazi një eksperiment katërmujor në një nga komunitetet më të njohura të Reddit duke përdorur komente të gjeneruara nga inteligjenca artificiale për të testuar bindshmërinë e modeleve gjuhësore në një shkallë të gjerë.

Eksperimenti, i cili u zhvillua brenda komunitetit r/changemyview dhe u zbulua nga moderatorët gjatë fundjavës, u përshkrua si “manipulim psikologjik” i përdoruesve që nuk ishin në dijeni se po merrnin pjesë në hulumtim.

“Ekipi i moderimit duhet të informojë komunitetin rreth një eksperimenti të paautorizuar të kryer nga studiues të Universitetit të Cyrihut mbi përdoruesit e r/changemyview”, shkruan moderatorët në një postim në Reddit. “Ky eksperiment përfshinte komente të gjeneruara nga inteligjenca artificiale për të shqyrtuar se si inteligjenca artificiale mund të ndikojë në ndryshimin e qëndrimit.”

Studiuesit përdorën modele të mëdha gjuhësore (LLM) për të gjeneruar komente mbi postimet në një komunitet prej 3.8 milionë anëtarësh, në të cilat përdoruesit shprehin mendime dhe i ftojnë të tjerët t’i sfidojnë ato me argumente.

Sipas moderatorit, inteligjenca artificiale përdori identitete të ndryshme në komentet gjatë eksperimentit, përfshirë rolin e një të mbijetuare të sulmit seksual, sipas 404 Media.

Moderatorët e subreddit-it r/changemyview theksojnë se studiuesit shkelën disa rregulla të komunitetit, duke përfshirë detyrimin për të nxjerrë në pah kur një koment gjenerohet nga inteligjenca artificiale, si dhe ndalimin e përdorimit të botëve. Prandaj, ata paraqitën një ankesë zyrtare në Universitetin e Cyrihut dhe u kërkuan studiuesve të mos e publikonin punën e tyre.

Vetë Reddit po shqyrton gjithashtu marrjen e masave ligjore. Këshilltari i përgjithshëm i Reddit, Ben Lee, tha se veprimet e studiuesve ishin “thellësisht të gabuara, si moralisht ashtu edhe ligjërisht” dhe përbënin një shkelje të rregullave të platformës. “Një ankesë zyrtare është duke u zhvilluar drejtuar Universitetit të Cyrihut dhe ekipit kërkimor me pretendime ligjore. Ne do të bëjmë gjithçka që mundemi për të mbrojtur komunitetin dhe për të siguruar që ata që janë përgjegjës të mbahen përgjegjës.”

Nga ana tjetër, studiuesit pretendojnë se projekti i tyre është miratuar nga komiteti i etikës së universitetit dhe se hulumtimi i tyre mund të ndihmojë komunitete si Reddit të mbrohen nga përdorimi keqdashës i inteligjencës artificiale.

“Ne e kuptojmë që moderatorët e konsiderojnë këtë studim si një ndërhyrje të padëshiruar në komunitetin tuaj dhe e kuptojmë që disa prej jush mund të ndihen në siklet që eksperimenti u krye pa pëlqimin paraprak”, thanë studiuesit në një koment për moderatorët. “Ne besojmë se përfitimet e mundshme të këtij hulumtimi i tejkalojnë ndjeshëm rreziqet. Studimi ynë i kontrolluar me risk të ulët ka ofruar njohuri të vlefshme mbi aftësitë e LLM në botën reale për të ndikuar në qëndrimet e njerëzve – aftësi që janë tashmë të disponueshme për këdo dhe që aktorët keqdashës mund t’i shfrytëzojnë për qëllime shumë më të rrezikshme (p.sh., manipulimi i zgjedhjeve ose përhapja e gjuhës së urrejtjes).”

Moderatorët e komunitetit r/changemyview e kundërshtojnë pretendimin se hulumtimi ishte i nevojshëm ose inovativ, duke vënë në dukje se studiuesit në OpenAI kanë kryer tashmë eksperimente duke përdorur të dhëna nga ai subreddit, por pa eksperimentuar me përdoruesit pa pëlqimin e tyre.