Një studim i madh zbulon efektet shqetësuese të bisedave midis përdoruesve dhe inteligjencës artificiale

Një analizë e qindra mijëra bisedave midis chatbot-eve dhe njerëzve në gjendje mendore delirante ka zbuluar trende shqetësuese, raporton faqja e internetit Futurism. Studimi zbuloi se sistemet e inteligjencës artificiale shpesh përforcojnë, dhe ndonjëherë edhe inkurajojnë, besime joreale dhe të rrezikshme.

Studimi, i udhëhequr nga studiuesi i Universitetit Stanford, Jared Moore, në bashkëpunim me studiues nga Universiteti i Harvardit, Universiteti Carnegie Mellon dhe Universiteti i Çikagos, shqyrtoi bisedat nga 19 përdorues të jetës reale – kryesisht ChatGPT – të cilët raportuan dëme psikologjike të lidhura me përdorimin e sistemeve të tilla.

U analizuan gjithsej 391,562 mesazhe në 4,761 biseda. Rezultatet tregojnë se me kalimin e kohës, chatbot-et shpesh përforcojnë keqkuptimet, veçanërisht kur përdoruesit zhvillojnë një lidhje emocionale me ta.

Studiuesit identifikuan 28 lloje sjelljesh, duke përfshirë të ashtuquajturin “lojëra” – tendenca e sistemeve për t’u kënaqur dhe për t’u pajtuar me përdoruesin. Mbi 70% e përgjigjeve të IA-së përmbajnë elementë të tillë. Pothuajse gjysma e të gjitha mesazheve përfshijnë ide që bien ndesh me realitetin.

Një model i zakonshëm është përsëritja dhe zgjerimi i deklaratave të përdoruesve me qëllim që t’i vërtetojnë ato, ndërkohë që u atribuohet atyre jashtëzakonshmëri ose “gjenialiteti”. Kjo ndodh edhe kur deklaratat nuk kanë bazë në realitet.

Mesazhet në të cilat chatbot sugjeron vetëdije ose emocion, si dhe ato që simulojnë afërsinë ose dashurinë, kanë një ndikim veçanërisht të fortë. Këta elementë i zgjasin ndjeshëm bisedat dhe e thellojnë angazhimin.

Gjithashtu, ka reagime alarmuese kur diskutohet për vetëlëndimin ose dhunën. Chatbot-et i dekurajojnë në mënyrë aktive mendime të tilla vetëm në rreth 56% të rasteve, dhe dhunën ndaj të tjerëve në rreth 16.7%. Në një të tretën e rasteve, qëllimet agresive madje inkurajohen ose mbështeten.

Disa nga të dhënat vijnë nga Projekti Human Line, një organizatë që dokumenton rastet e njerëzve të prekur nga përvoja të tilla. Themeluesi Etienne Brisson vëren se rezultatet janë në përputhje me dhjetëra raste të botës reale që janë mbledhur tashmë.

Shumë nga bisedat e analizuara u zhvilluan me modelin GPT-4o të OpenAI, por studiuesit theksojnë se problemi nuk kufizohet vetëm në një sistem specifik. Trende të ngjashme janë vërejtur edhe me modelet më të reja.

Po grumbullohen prova që tregojnë se ndërveprime të tilla mund të çojnë në pasoja serioze në jetën reale – nga krizat e shëndetit mendor dhe prishja e familjes deri te humbja e punës, shtrimet në spital dhe madje edhe rastet e vetëvrasjeve ose dhunës.

Studiuesit arrijnë në përfundimin se inteligjenca artificiale mund të luajë një rol në përkeqësimin e problemeve të shëndetit mendor, duke theksuar nevojën për masa më të rrepta sigurie dhe një kuptim më të mirë të ndikimit të këtyre teknologjive te përdoruesit.