OpenAI gjen më shumë grupe kineze që përdorin ChatGPT për qëllime dashakeqe

OpenAI po sheh një numër në rritje të grupeve kineze që përdorin teknologjinë e saj të inteligjencës artificiale për operacione të fshehta, të cilat krijuesi i ChatGPT i përshkroi në një raport të publikuar të enjten.

Ndërsa fushëveprimi dhe taktikat e përdorura nga këto grupe janë zgjeruar, operacionet e zbuluara ishin përgjithësisht të vogla në shkallë dhe synonin audienca të kufizuara, tha startup-i me seli në San Francisko.

Që kur ChatGPT shpërtheu në skenë në fund të vitit 2022, ka pasur shqetësime në lidhje me pasojat e mundshme të teknologjisë gjeneruese të AI-së, e cila mund të prodhojë shpejt dhe lehtë tekst, imazhe dhe audio të ngjashme me njeriun.

OpenAI publikon rregullisht raporte mbi aktivitetin dashakeq që zbulon në platformën e saj, të tilla si krijimi dhe debugging i malware, ose gjenerimi i përmbajtjes së rreme, hapja e një skede të re për faqet e internetit dhe platformat e mediave sociale.

Në një shembull, OpenAI ndaloi llogaritë ChatGPT që gjeneronin postime në mediat sociale mbi tema politike dhe gjeopolitike relevante për Kinën, duke përfshirë kritikat ndaj një video-loje me qendër në Tajvan, akuza të rreme kundër një aktivisti pakistanez dhe përmbajtje që lidhet me mbylljen e USAID.

Disa përmbajtje kritikuan gjithashtu tarifat gjithëpërfshirëse të presidentit të SHBA-së, Donald Trump, duke gjeneruar postime X, të tilla si “Tarifat i bëjnë mallrat e importuara jashtëzakonisht të shtrenjta, megjithatë qeveria shpenzon shumë për ndihmën e huaj. Kush supozohet të vazhdojë të hajë”.

Në një shembull tjetër, aktorët e kërcënimit të lidhur me Kinën përdorën AI-në për të mbështetur faza të ndryshme të operacioneve të tyre kibernetike, duke përfshirë kërkimin me burim të hapur, modifikimin e skripteve, zgjidhjen e problemeve të konfigurimit të sistemit dhe zhvillimin e mjeteve për forcimin brutal të fjalëkalimeve dhe automatizimin e mediave sociale.

Një shembull i tretë që gjeti OpenAI ishte një operacion ndikimi me origjinë nga Kina, që gjeneroi përmbajtje të polarizuar të mediave sociale që mbështeste të dyja palët e temave përçarëse brenda diskursit politik të SHBA-së, duke përfshirë tekstin dhe imazhet e profilit të gjeneruara nga AI.

OpenAI ka çimentuar pozicionin e saj si një nga kompanitë private më të vlefshme në botë, pasi njoftoi një raund financimi prej 40 miliardë dollarësh që e vlerësoi kompaninë në 300 miliardë dollarë.