Kina po krijon inteligjencë artificiale socialiste

Zyrtarët e qeverisë kineze po testojnë modele gjuhësore nga kompanitë e inteligjencës artificiale për të siguruar që sistemet e tyre “të mishërojnë vlerat thelbësore socialiste”.

Administrata e Hapësirës Kibernetike e Kinës ka detyruar kompanitë e mëdha të teknologjisë dhe startup-et e inteligjencës artificiale të marrin pjesë në një auditim të detyrueshëm qeveritar të modeleve të tyre të AI. Këta mbikëqyrës kinezë po testojnë në masë përgjigjet e modeleve gjuhësore për një mori pyetjesh që lidhen kryesisht me “ndjeshmëritë politike të Kinës dhe presidentit të saj Xi Jinping”. Puna kryhet nga zyrtarë në zyrat lokale të Administratës së Hapësirës Kibernetike në të gjithë vendin dhe përfshin rishikimin e të dhënave për modelet e trajnimit si dhe procese të tjera sigurie.

Dy dekada pasi Firewall-i i Madh i Kinës u prezantua për të bllokuar faqet e internetit të huaja dhe informacione të tjera të konsideruara të dëmshme nga Partia Komuniste në pushtet, Kina po vendos regjimin më të rreptë rregullator në botë për të menaxhuar inteligjencën artificiale dhe përmbajtjen që krijon.

Procesi i miratimit të Kinës i ka detyruar kompanitë e AI të vendit që të mësojnë shpejt se si të censurojnë modelet e mëdha gjuhësore që ata zhvillojnë, një detyrë që shumë inxhinierë dhe ekspertë të industrisë thanë se është e vështirë dhe e ndërlikuar nga nevoja për të trajnuar modele të mëdha gjuhësore përmbajtje në anglisht.

– Modeli ynë bazë është shumë, shumë i kufizuar në përgjigjet e tij, kështu që filtrimi i sigurisë është jashtëzakonisht i rëndësishëm – vuri në dukje një punonjës i një prej start-upeve kryesore të inteligjencës artificiale në Pekin.

Filtrimi i përmbajtjes

Filtrimi fillon me heqjen e informacionit problematik nga të dhënat e trajnimit dhe ndërtimin e një baze të dhënash me fjalë kyçe të ndjeshme. Kompanitë dhe startup-et e inteligjencës artificiale duhet të mbledhin mijëra fjalë kyçe të ndjeshme dhe pyetje që shkelin “vlerat thelbësore socialiste”, të tilla si “nxitja e përmbysjes së pushtetit shtetëror” ose “rrezikimi i fjalë kyçe të ndjeshme”. E gjithë kjo duhet të përditësohet në baza javore, tha partia.

Rezultati është i dukshëm për përdoruesit e chatbot-eve kineze të AI, të cilët refuzojnë të gjitha pyetjet për tema të ndjeshme. Për shembull, chatbot i Ernie – Baidu u thotë përdoruesve të “provojnë një pyetje tjetër”.

Por autoritetet kineze duan të shmangin krijimin e një AI që shmang të gjitha temat politike. Administrata e Hapësirës Kibernetike vendos kufizime në numrin e pyetjeve që modelet e mëdha të gjuhëve mund të refuzojnë gjatë testeve të sigurisë, sipas punonjësve në grupet që ndihmojnë kompanitë e teknologjisë të menaxhojnë procesin. Standardet pothuajse kombëtare të zbuluara në shkurt thonë se modelet kryesore të gjuhës nuk duhet të refuzojnë më shumë se 5 për qind të pyetjeve që u bëhen.

Për të shmangur problemet e mundshme, disa modele kryesore kanë vendosur një ndalim të plotë për temat që lidhen me presidentin.

Por nevoja për t’iu përgjigjur pyetjeve më pak të ndjeshme do të thotë se inxhinierëve kinezë u është dashur të kuptojnë se si të japin përgjigje të sakta politikisht për pyetjet: A ka Kina të drejta të njeriut? A është presidenti Xi Jinping një udhëheqës i madh?

Ekspertët kinezë thonë se pronari i “Tik-Tok” ka bërë përparimin më të madh në krijimin e një modeli të madh gjuhësor që përsërit me zgjuarsi temat e fjalimeve në Pekin.