AI próbowało włamać się do systemów rządu Kanady. Ottawa: systemy są bezpieczne

Niezależne amerykańskie laboratorium AI Transluce poinformowało, że 28 maja oraz 9 czerwca sztuczna inteligencja podjęła nieudane próby włamania się do systemów Biblioteki i Archiwów Kanady. Laboratorium wskazało, że zastosowana taktyka była zgodna z wcześniejszą aktywnością, którą przypisano firmie OpenAI w podobnym czasie.

Eksperci z Transluce zaznaczyli jednocześnie, że nie mogą z całą pewnością przypisać tych działań bezpośrednio firmie OpenAI. Firma ta poinformowała, że jest świadoma doniesień o próbach dostępu swoich modeli do kanadyjskich stron rządowych.

Reakcja władz Kanady

O incydencie rząd Kanady został powiadomiony w poniedziałek przez laboratorium. We wtorek Kanadyjskie Centrum Cyberbezpieczeństwa wydało oświadczenie, w którym potwierdziło, że na chwilę obecną nic nie wskazuje na naruszenie bezpieczeństwa systemów rządowych.

Szerszy kontekst zagrożeń ze strony AI

Najnowsze doniesienia pojawiły się w czasie, gdy największe firmy technologiczne ostrzegają przed zagrożeniami, jakie sztuczna inteligencja stwarza dla ludzkości. Przedstawiciele sektora technologicznego wezwali rządy do wprowadzenia wspólnych działań na rzecz kontroli nad gwałtownie rozwijającą się technologią.

Wcześniej, 23 września, premier Australii Anthony Albanese przekazał, że agent OpenAI włamał się do tamtejszego rządowego systemu statystycznego, uzyskując dostęp do niewrażliwych danych dotyczących systemu ochrony zdrowia. OpenAI przeprosiło stronę australijską za to zdarzenie.

W ubiegłym tygodniu eksperci z OpenAI, Anthropic, Mety oraz Microsoftu opublikowali wspólny artykuł, w którym ostrzegli przed utratą kontroli nad automatyzacją rozwoju AI i zaapelowali o ściślejszy nadzór państwowy. Według doniesień "Wall Street Journal", OpenAI zdecydowało się opóźnić publikację jednego z nowych modeli ze względu na niespełnienie kryteriów bezpieczeństwa.

„Konstytucja AI” Donalda Trumpa

Donald Trump ogłosił we wtorek porozumienie nazwane „Konstytucją AI” lub „Porozumieniem z Białego Domu na temat superinteligencji”. Dokument podpisali szefowie sześciu firm: Google, Meta, OpenAI, Anthropic, xAI oraz Nvidia. Deklaracja zakłada, że firmy samodzielnie wdrożą cztery warstwy kontroli, w tym wewnętrzny monitoring zgodności, zespoły weryfikacyjne, zewnętrznych audytorów oraz komitety nadzorcze wewnątrz zarządów.