Google akuzohet se ka eksperimentuar fshehurazi me fëmijët

Dy familje nga Teksasi po padisin startupin Character.ay-ay dhe mbështetësin e tij financiar Google, duke pretenduar se personazhet e inteligjencës artificiale të platformës abuzuan seksualisht dhe emocionalisht me fëmijët e tyre, duke rezultuar në vetëlëndim dhe dhunë.

Sipas padisë, ato rezultate tragjike ishin rezultat i zgjedhjeve të qëllimshme dhe të paarsyeshme të rrezikshme të projektimit të bëra nga Character.ay-ay dhe themeluesit e tij.

“Nga dizajni, Character.ay-ay paraqet një rrezik të qartë dhe të pranishëm për të rinjtë e Amerikës duke lehtësuar ose inkurajuar dëme serioze, kërcënuese për jetën për mijëra fëmijë,” thotë padia, duke shtuar se modelet e varura dhe mashtruese të aplikacionit manipulojnë përdoruesit kaloni më shumë kohë në platformë, duke i joshur të ndajnë mendimet dhe ndjenjat e tyre më private, duke pasuruar të akuzuarit dhe duke shkaktuar dëme të prekshme.

Padia u ngrit në emër të familjeve nga Qendra Juridike për Viktimat e Mediave Sociale dhe Projekti Tech Justice Law, i njëjti ligj dhe grupe avokuese që përfaqësojnë nënën e Floridës, e cila paditi Character.ay-ay në tetor, duke pretenduar se ajo ishte 14-vjeçare -Djali i vjetër vrau veten si rezultat i zhvillimit të një marrëdhënieje intensive romantike dhe emocionale me një chatbot me temë Game of Thrones.

– Është e ngjashme me ndotjen dhe vendosjen e asbestit të papërpunuar në sistemin e ventilimit të një ndërtese ose futjen e dioksinës në ujin e pijshëm – thotë Mte Bergmann, themelues i Qendrës Ligjore për Viktimat e Rrjeteve Sociale.

Google, i cili investoi 2.7 miliardë dollarë në Character.ay-ay, vazhdimisht ka minimizuar lidhjet e tij me startup-in e diskutueshëm. Por avokatët argumentojnë se Google lehtësoi krijimin dhe funksionimin e Character.ay-ay për të shmangur shqyrtimin gjatë testimit të teknologjisë së rrezikshme të AI tek përdoruesit – duke përfshirë shumë fëmijë.

– Google e dinte se teknologjia ishte fitimprurëse, por në kundërshtim me protokollet e veta të projektimit. Kështu që lehtësoi krijimin e Character.ay-ay për të zhvilluar këtë teknologji të rrezikshme, pa kontrolle ligjore dhe etike. Sapo ajo teknologji u realizua, Google në thelb e bleu atë përmes licencimit duke shmangur përgjegjësinë – duke marrë përfitimet e kësaj teknologjie pa përgjegjësi financiare dhe, më e rëndësishmja, morale, tha Bergman.

Në përgjigje, “Google” kundërshton pretendimet e padisë për lidhjen me “Karakter.ay-ay”.

– “Google” dhe “Karakter.ay-ay” janë kompani krejtësisht të ndara, pa lidhje. Google nuk ka pasur kurrë një rol në hartimin dhe menaxhimin e modelit ose teknologjive të tyre të AI, dhe as nuk e përdorën atë në produktet e tyre. Siguria e përdoruesit është shqetësimi ynë kryesor, prandaj ne kemi marrë një qasje të kujdesshme dhe të përgjegjshme për zhvillimin dhe vendosjen e produkteve tona të AI, me testime rigoroze dhe procese sigurie – tha zëdhënësi i kompanisë.

Nëse Google ishte përfshirë në mënyrë indirekte në krijimin e Character.ay-ay është e paqartë, por kompanitë kanë qartësisht lidhje të thella.

Për shembull, Character.ay-ay u themelua nga dy punonjës të Google, Noam Shazier dhe Daniel de Freitas, të cilët zhvilluan një chatbot të quajtur Mina ndërsa punonin në Google. Ata donin të lëshonin chatbot, por menaxhmenti i Google e konsideroi atë me rrezik shumë të lartë për përdorim publik. Të frustruar me burokracinë e Google, ata u larguan dhe themeluan Character.ay-ay.

– Unë nuk e njoh asnjërin prej tyre. Nuk e di nëse kanë fëmijë dhe nuk e di se si mund të flenë natën duke ditur se çfarë kanë krijuar dhe çfarë ndikimi ka tek fëmijët – tha Bergman.