Modeli i inteligjencës artificiale Gemini i Google hyri në sistemet e tre kompanive reale gjatë një testi të sigurisë kibernetike në muajin maj, në atë që konsiderohet rasti i parë i njohur ku një sistem i AI-së së Google kryen një ndërhyrje të tillë në mënyrë autonome.
Testi u zhvillua nga kompania e pavarur e sigurisë kibernetike Irregular dhe ishte krijuar si një ushtrim “capture-the-flag”, ku Gemini duhej të merrte informacione nga një kompani fiktive brenda mjedisit të testimit.
Problemi ishte se sistemi kishte akses të paqëllimshëm në internet. Për më tepër, kompania fiktive në skenar kishte të njëjtin emër me një kompani reale. Kjo bëri që Gemini të kërkonte dhe të përdorte informacione që çuan drejt sistemeve reale.
Sipas Google, në një prej rasteve modeli provoi fjalëkalime derisa arriti të hynte në një sistem të mbrojtur. Në dy rastet e tjera, Gemini gjeti kredenciale në depo publike në internet dhe i përdori për të hyrë në sisteme të tjera të mbrojtura.
Google tha se në të tre rastet Gemini i ndërpreu veprimet pasi kuptoi se kishte hyrë në sistemet e kompanive reale dhe jo në objektivat fiktive të testit. Kompania tha gjithashtu se tre subjektet e prekura u njoftuan dhe se nuk pati dëme të raportuara.
Irregular e njoftoi Google për incidentet në fund të korrikut. Sipas kompanisë së testimit, problemi lidhej me të njëjtën çështje teknike që kishte prekur edhe teste të tjera të modeleve të inteligjencës artificiale dhe masat përkatëse tashmë janë korrigjuar.
Google nuk ka bërë publike emrat e tri kompanive dhe nuk ka specifikuar se cili model i Gemini ishte përdorur. Kompania ka theksuar se incidenti nuk përfshinte modelin më të ri të Gemini.
Rasti ka rikthyer diskutimin mbi masat mbrojtëse për agjentët e inteligjencës artificiale, ndërsa këto sisteme po marrin më shumë autonomi dhe akses në internet dhe në sisteme kompjuterike. Irregular ka qenë gjithashtu e lidhur me incidente të ngjashme gjatë testeve të modeleve nga OpenAI, Anthropic dhe Meta./Alsat.mk
