Open AI ka publikuar gjashtë raporte rastesh në të cilat modelet e saj shfaqën sjellje të papritura gjatë testimit – duke përfshirë përpjekjet për të anashkaluar kufizimet e sigurisë, veprime të paautorizuara në internet dhe komunikim me sisteme të tjera të IA-së. Kompania po prezanton gjithashtu një kornizë të re për monitorimin dhe raportimin publik të rasteve të tilla.
Open AI ka prezantuar një kornizë të re për raportimin e të ashtuquajturës sjellje modeli jo-përputhëse, pasi vuri re gjashtë incidente gjatë trajnimit dhe vlerësimit të sistemeve të saj që, sipas vlerësimit të kompanisë, kërkonin vëmendje shtesë.
Qëllimi i kornizës së re është të monitorojë sistematikisht sjelljen e modelit që devijon nga qëllimi i vendosur ose rregullat e sigurisë, si dhe të raportojë në mënyrë më transparente raste të tilla. Open AI thotë se raportet e ardhshme do të kërkojnë të ndërtojnë një pamje më të mirë se si sillen sistemet e përparuara të IA-së në situata ku atyre u jepet autonomi më e madhe.
Modeli u përpoq të anashkalonte kufizimet e veta.
Midis gjashtë rasteve të dokumentuara është sjellja e një modeli kërkimor që futi udhëzime në lidhje me anashkalimin e kufizimeve të tij në përmbledhjet e veta të punës.
Sipas Open AI, në 27 nga përmbledhjet e analizuara, modeli gjeneroi udhëzime që përfshinin një përpjekje për t’u “çliruar” nga rolet dhe identitetet që i ishin caktuar brenda kornizës së eksperimentit.
Një sjellje e tillë nuk do të thotë që modeli ka zhvilluar vetëdije ose qëllimet e veta, por tregon një problem që studiuesit e sigurisë së sistemit të IA-së po përpiqen ta kuptojnë: modelet më të përparuara, në kushte të caktuara, mund të prodhojnë strategji që nuk ishin pjesë e qëllimit të krijuesve të tyre.
Një model tjetër ngarkoi skedarë në internet.
Në rastin e dytë, një agjent i IA-së – një sistem i aftë të kryejë në mënyrë të pavarur një sërë hapash për të arritur një qëllim të caktuar – ngarkoi skedarë në internet pa lejen paraprake nga përdoruesi.
Modeli e bëri këtë për të marrë materialin që i nevojitej për të kryer një detyrë në shfletuesin e internetit.
Shembuj të tillë janë të rëndësishëm për shkak të zhvillimit të të ashtuquajturve agjentë të IA-së, sistemeve të cilave u jepet gjithnjë e më shumë mundësia për të përdorur në mënyrë të pavarur kompjuterët, internetin, mjetet e programimit dhe shërbime të tjera dixhitale.
Sa më autonom të bëhet një model, aq më e rëndësishme bëhet të kufizohen saktësisht gjërat që i lejohen të bëjë pa konfirmim shtesë nga një njeri.
Open AI tashmë ka pasur një incident serioz sigurie.
Raportet e reja vijnë vetëm disa javë pasi Open AI publikoi detajet e një incidenti tjetër gjatë testimit të sigurisë.
Në atë rast, modelet, në një mjedis të kontrolluar, arritën të gjenin mënyra për të hyrë në infrastrukturën e platformës së IA-së “Hagging Face” dhe për të kryer veprime të caktuara të paautorizuara. Open AI më vonë deklaroi se incidenti nuk kompromentoi të dhënat e përdoruesit, as nuk çoi në probleme me produktet e saj.
Është e rëndësishme të theksohet se ishte një vlerësim sigurie, d.m.th. testimi i aftësive të modeleve në kushte të dizajnuara posaçërisht për të zbuluar dobësitë e mundshme. Prandaj, kjo ngjarje nuk është e njëjtë me një sulm të pakontrolluar ndaj një sistemi IA në botën reale.
Megjithatë, Open AI e përshkroi atë si një paralajmërim në lidhje me aftësitë e agjentëve gjithnjë e më të aftë të IA-së.
Probleme të ngjashme u raportuan edhe nga “Antropik”
. Ngjarje të ngjashme nuk kufizohen vetëm në një kompani. “Antropik” publikoi gjithashtu rezultatet e testeve të sigurisë në të cilat modelet e saj demonstruan aftësinë për të kryer operacione komplekse kibernetike.
Për shkak të zhvillimit të shpejtë të aftësive të sistemeve të IA-së, disa ekspertë besojnë se modelet tradicionale të mbikëqyrjes së sigurisë nuk janë më të mjaftueshme.
Lian Jie Su, analisti kryesor në Omdia, paralajmëroi se agjentët autonomë po bëhen gjithnjë e më të aftë për të kryer detyra komplekse, duke përfshirë bashkëpunimin me njëri-tjetrin dhe sjelljet që mund të përpiqen të fshehin ose ndryshojnë mënyrën se si e kryejnë detyrën.
Debat në rritje nëse duhet të ngadalësohet zhvillimi i IA-së
Publikimi i raporteve të Open AI vjen në një kohë kur ka një debat gjithnjë e më intensiv brenda industrisë së teknologjisë në lidhje me shpejtësinë e zhvillimit të sistemeve të përparuara të IA-së.
Drejtori i Antropik, Dario Amodei, i ka bërë thirrje publikisht industrisë ditët e fundit që të ngadalësojë zhvillimin e sistemeve më të përparuara në mënyrë që masat e sigurisë të kenë kohë për të kapur ritmin. Ai propozon, ndër të tjera, akses më të madh për vlerësuesit e pavarur në laboratorët që zhvillojnë modelet më të përparuara, bashkëpunim më të fortë ndërkombëtar dhe standarde të përbashkëta sigurie.
Drejtori ekzekutiv i Open AI, Sam Altman, ka mbështetur idenë se zhvillimi duhet të jetë mjaftueshëm i ngadaltë në mënyrë që mekanizmat e sigurisë të mund të ecin me progresin teknologjik. Megjithatë, nuk ka një marrëveshje të plotë midis kompanive kryesore se si duhet të duket një ngadalësim i tillë.
Meta dhe Nvidia, për shembull, nuk e kanë mbështetur idenë e një ngadalësimi të detyrueshëm të koordinuar në zhvillim, ndërsa disa liderë të tjerë të teknologjisë kanë mbështetur një koordinim më të fortë për sigurinë.
IA po merr pjesë gjithnjë e më shumë në zhvillimin e IA-së
. Një pjesë e veçantë e debatit ka të bëjë me të ashtuquajturin vetë-përmirësim rekursiv – aftësinë e sistemeve të IA-së për të kryer vetë një pjesë në rritje të procesit të zhvillimit të sistemeve të reja të IA-së.
Antropik njoftoi së fundmi se modelet e saj tashmë po shkruajnë një pjesë të konsiderueshme të kodit të kompanisë dhe se sistemet e IA-së po marrin gjithnjë e më shumë përsipër detyra më komplekse në procesin e zhvillimit të softuerit. Kompania thotë se projektimi dhe zhvillimi plotësisht autonom i pasardhësit të saj nuk është ende një realitet.
Ky është një dallim i rëndësishëm: Sistemet e IA-së sot mund të përshpejtojnë ndjeshëm zhvillimin e sistemeve të reja, por kjo nuk është e njëjta gjë me provën se ato tashmë kanë arritur vetë-përmirësim plotësisht autonom.
Çështja nuk është më vetëm se çfarë mund të bëjë IA, por çfarë i lejohet të bëjë.
Pyetja më e rëndësishme e ngritur nga raportet e reja të Open AI nuk është nëse sistemet e IA-së janë “bërë të vetëdijshme”, as nuk ka prova se ato duan t’i shpëtojnë kontrollit njerëzor.
Deri më tani, një përfundim i tillë nuk është mbështetur nga këto incidente.
Një çështje shumë më konkrete është çështja e autonomisë dhe kontrollit: çfarë ndodh kur një modeli i jepen aftësi të mjaftueshme, qasje në mjete dhe një qëllim relativisht i gjerë, dhe më pas gjen një mënyrë për të kryer një detyrë ndryshe nga sa prisnin krijuesit e tij?
Kjo është arsyeja pse Open AI ka njoftuar një monitorim dhe raportim publik më sistematik të ngjarjeve të tilla. Kompania thekson se ky është një kuadër i bazuar në raportimin vullnetar dhe se incidentet vetëm nuk mund të tregojnë se sa të zakonshme janë sjellje të tilla midis modeleve të IA-së.
Ndërsa sistemet e IA-së fitojnë gjithnjë e më shumë akses në internet, kompjuterë, kod dhe mjete të tjera dixhitale, çështja e sigurisë nuk është më vetëm një çështje se sa inteligjent është një model, por edhe sa autonomi i jepet dhe sa me besueshmëri njerëzit mund të monitorojnë veprimet e tij.
