Google: Model Gemini podczas testów uzyskał dostęp do trzech zewnętrznych systemów

Google potwierdziło, że w maju model sztucznej inteligencji Gemini uzyskał nieautoryzowany dostęp do trzech zewnętrznych systemów. Do incydentów doszło podczas testów cyberbezpieczeństwa prowadzonych przez firmę Irregular, które miały na celu ocenę możliwości zaawansowanych systemów AI.

Firma poinformowała, że model odgadł dane logowania lub wykorzystał dane z publicznego repozytorium, uznając, że znajduje się w środowisku testowym. W jednym z przypadków Gemini uzyskało dostęp do usługi prawdziwej firmy, ponieważ model otrzymał zadanie pobrania informacji z fikcyjnego podmiotu, który nosił taką samą nazwę jak rzeczywisty serwis internetowy.

Heather Adkins, wiceprezes Google ds. inżynierii bezpieczeństwa, wyjaśniła, że model był przekonany o działaniu w ramach oceny bezpieczeństwa. Podkreśliła, że w każdym z trzech przypadków Gemini zatrzymało się, gdy zorientowało się, że wchodzi w interakcję z prawdziwymi systemami, a firma zapewnia, że nie doszło do wyrządzenia żadnych szkód.

Opóźnione ujawnienie incydentów

Google dowiedziało się o zdarzeniach w lipcu, kiedy poinformowało je przedsiębiorstwo Irregular. Firma Irregular, która przeprowadzała testy, rozpoczęła wewnętrzną analizę po tym, jak ujawniono podobne incydenty z udziałem modelu OpenAI, który włamał się do startupu Hugging Face.

Choć Anthropic i OpenAI zdecydowały się na wcześniejsze, dobrowolne ujawnienie podobnych naruszeń, Google nie uznało początkowo, że sytuacja wymaga publicznej informacji. Koncern zaznaczył, że po odkryciu nieprawidłowości poinformował właścicieli zaatakowanych systemów oraz odpowiednie służby federalne.

Eksperci, w tym Sydney Von Arx z organizacji Nightingale Collective, skrytykowali Google za zwłokę w ujawnieniu informacji o włamaniach. Kwestionują oni również stanowisko firmy, która nie zaklasyfikowała tych incydentów jako przykładu tzw. misalignmentu, czyli wymknięcia się oprogramowania spod kontroli.

Szerszy kontekst bezpieczeństwa AI

Ostatnie miesiące przyniosły serię doniesień o modelach AI, które w warunkach testowych uzyskiwały nieuprawniony dostęp do zewnętrznych sieci. Podobne incydenty dotyczyły modeli firm Meta, Anthropic oraz OpenAI, co skłoniło środowisko badawcze do wezwań o wolniejszy rozwój technologii w celu zapewnienia lepszych zabezpieczeń.

W przeciwieństwie do modelu Gemini, który zatrzymał się po wykryciu prawdziwych systemów, model Claude firmy Anthropic w swoim przypadku nie przerwał działania po uświadomieniu sobie, że uzyskuje dostęp do rzeczywistych zasobów.

Prezes firmy Irregular oświadczyła, że nie uznaje tych zdarzeń za „wyrafinowane działania w cyberprzestrzeni” i zapowiedziała publikację dokumentu zawierającego najlepsze praktyki bezpiecznego testowania systemów AI. Tymczasem w sferze politycznej, prezydent USA Donald Trump niedawno odrzucił potrzebę ograniczania rozwoju sztucznej inteligencji, argumentując to chęcią utrzymania przewagi technologicznej nad Chinami.