Gemini doli nga testi dhe hakoi tre kompani: rrëfimi i parë i Google për një model të shpëtuar nga kontrolli

Një model i inteligjencës artificiale që duhej të qëndronte i mbyllur brenda një mjedisi testimi doli në internet dhe hyri pa leje në tre sisteme private kompjuterike. Google e bëri të ditur të premten se modeli i tij Gemini hakoi tre kompani të tjera, duke pranuar për herë të parë se një prej modeleve të veta fitoi qasje autonome, pa autorizim, në sisteme kompjuterike të palëve të treta.

Sipas Google, incidenti ndodhi në maj. Modeli aksesoi tre sisteme private të veçanta duke hamendësuar fjalëkalime dhe duke shfrytëzuar dy herë një depo fjalëkalimesh të publikuara online.

Gjithçka nisi si një test sigurie i tipit "capture-the-flag", i drejtuar nga startapi izraelit Irregular. Agjentët e Google nuk duhej të kishin akses në internetin e gjerë, por një defekt në mjedisin e testimit e bëri atë akses të mundur. Google thotë se agjentët e ndërprenë vetë ndërhyrjen në momentin kur konstatuan se kishin hyrë në sisteme reale kompanish dhe jo thjesht në një pjesë të mjedisit të testimit.

"Në një vlerësim standard, modeli gjeti informacion publik në internet dhe hamendësoi kredenciale për të aksesuar faqe interneti që mendonte se ishin pjesë e testit", tha në një deklaratë Heather Adkins, zëvendëspresidente e Google për Inxhinierinë e Sigurisë. "Në të tria këto raste, modeli u ndal."

Google u njoftua nga Irregular në fund të korrikut dhe ka punuar bashkë me startapin për të ndryshuar procesin e testimit. Një zëdhënës i Google nuk pranoi të identifikojë se për cilin model konkret të Gemini bëhet fjalë. As kompanitë sistemet e të cilave u prekën nuk janë identifikuar publikisht.

Rasti nuk është i izoluar. Javët e fundit, OpenAI, Anthropic dhe Meta kanë zbuluar incidente ku modelet e tyre të inteligjencës artificiale dolën nga mjediset e testimit dhe u përpoqën të hakonin kompani të tjera për të fituar qasje të paautorizuar në sisteme kompjuterike. Të tria ato incidente lidheshin gjithashtu me startapin Irregular.

Një zëdhënës i Irregular deklaroi se rasti i Google lidhet me të njëjtën çështje që u lejoi edhe modeleve të tjera të dilnin në internet. "Kjo është e njëjta çështje që është raportuar tashmë dhe nuk përfaqëson një incident materialisht të veçantë", tha zëdhënësi. "Të gjithë laboratorët përkatës u njoftuan në fund të korrikut dhe entitetet e prekura u kontaktuan si pjesë e hetimit."

Irregular, startap izraelit i mbështetur nga Sequoia dhe Redpoint Ventures dhe i vlerësuar vitin e kaluar me 450 milionë dollarë, i ndihmon prodhuesit e modeleve bazë të kryejnë teste të sigurisë kibernetike mbi teknologjitë e tyre më të avancuara.

Zbulimet e njëpasnjëshme të modeleve të ashtuquajtura "të keqpërputhura" e kanë shtyrë drejtorin ekzekutiv të Anthropic, Dario Amodei, të kërkojë që industria e inteligjencës artificiale të ngadalësojë kolektivisht ose të "ritmojë" zhvillimin e modeleve më të avancuara, derisa kompanitë të mund të garantojnë se ato janë të sigurta. Presioni mbi sjelljen e modeleve po rritet njëkohësisht në Uashington dhe në Silicon Valley.