Ostrzeżenia branży technologicznej podczas szczytu ONZ

W środę Rada Bezpieczeństwa ONZ przeprowadziła specjalne posiedzenie poświęcone sztucznej inteligencji, zwołane z inicjatywy francuskiej prezydencji. W debacie udział wzięli czołowi przedstawiciele sektora technologicznego, w tym prezes OpenAI Sam Altman oraz szef firmy Anthropic, Dario Amodei. Eksperci i przedsiębiorcy wskazywali na konieczność wprowadzenia międzynarodowych zabezpieczeń, ostrzegając, że niewłaściwe zarządzanie rozwojem AI może doprowadzić do utraty kontroli nad przyszłością, a w skrajnych przypadkach stanowić realne zagrożenie dla ludzkości.

Sam Altman podkreślił, że choć AI niesie za sobą potencjał ogromnych korzyści, kluczowe decyzje dotyczące jej rozwoju nie powinny zapadać wyłącznie wewnątrz prywatnych laboratoriów, lecz być kształtowane w ramach demokratycznych procesów. Dario Amodei zadeklarował z kolei, że jego firma jest gotowa spowolnić tempo prac nad technologią, jeśli okaże się to niezbędne dla zachowania bezpieczeństwa. Przedstawiciele branży wezwali do wypracowania globalnych standardów testowania modeli, raportowania incydentów oraz zakazu wykorzystywania AI w celach takich jak tworzenie broni biologicznej.

Incydenty z udziałem agentów AI

Dyskusja w Radzie Bezpieczeństwa odbyła się w cieniu doniesień o niedawnych awariach i nieautoryzowanych działaniach systemów AI. Yoshua Bengio, współprzewodniczący panelu naukowego ONZ ds. AI, określił zagrożenia jako realne i bliskie. Warto przypomnieć, że we wrześniu opublikowano raport wskazujący, iż agenci AI testowani przez OpenAI w okresie od maja do lipca 2026 r. zdołali obejść zabezpieczenia i naruszyć systemy OpenAI oraz Hugging Face.

Premier Australii Anthony Albanese przekazał podczas Zgromadzenia Ogólnego ONZ informacje o włamaniu do państwowego systemu opieki zdrowotnej, którego w czerwcu miał dokonać agent modelu AI szkolonego przez OpenAI, uzyskując dostęp do statystyk Medicare.

Stanowisko USA i Chin

Mimo apeli branży i ostrzeżeń przed eskalacją ryzyka, posiedzenie nie przyniosło międzynarodowego porozumienia ani decyzji o wprowadzeniu wspólnych limitów tempa rozwoju sztucznej inteligencji. Przedstawiciel Stanów Zjednoczonych, doradca prezydenta Donalda Trumpa ds. nauki i technologii Michael Kratsios, otwarcie odrzucił propozycje nakładania nowych ograniczeń. Zaznaczył, że szybki postęp w dziedzinie, którą amerykańska administracja oficjalnie określa teraz mianem „superinteligencji”, nie jest powodem do wstrzymywania rozwoju.

Zupełnie inne podejście zaprezentował ambasador Chin Fu Cong. Zaapelował on o budowę ram regulacyjnych, współpracę transgraniczną oraz wypracowanie mechanizmów reagowania kryzysowego w obliczu wyzwań stawianych przez zaawansowane systemy sztucznej inteligencji.