Raport Anthropic: Model AI Claude wykorzystywany przez wrogów USA

Firma Anthropic opublikowała raport o nadużywaniu modelu Claude przez przeciwników USA. Liczący ponad 150 stron dokument informuje o zakłóconych przez amerykańską firmę próbach użycia sztucznej inteligencji do celów wojskowych, rozpowszechniania propagandy i cyberszpiegostwa. Autorzy opracowania ostrzegają, że dzięki sztucznej inteligencji wyrafinowane ataki nie wymagają już wyrafinowanych napastników.

Irańscy użytkownicy wykorzystywali AI do śledzenia amerykańskich okrętów. Zgodnie z ustaleniami dokumentu, irańska grupa użytkowników korzystała z technologii Anthropica, aby pozyskiwać i kompilować informacje ze zdjęć, transponderów oraz satelitów w celu namierzania jednostek marynarki wojennej USA i wykrywania słabych punktów w ich systemach łączności.

Projekt roju dronów i operacje rosyjskich hakerów

Rosyjska grupa budowała autonomiczny rój dronów przy pomocy Claude'a. Znaczna część dokumentacji dotyczy działań z Rosji, w tym przypadku osób podejrzewanych przez autorów o brak bezpośrednich powiązań z wojskiem lub Kremlem, które konstruowały system dronów niemal od zera.

Hakerzy MidnightBlizzard wykorzystywali AI do automatyzacji cyberszpiegostwa. Rosyjscy hakerzy powiązani ze służbami zwiększyli prędkość działania i zautomatyzowali operacje wymierzone w cele wywiadu wojskowego w ukraińskich i europejskich rządach, organizacje dyplomatyczne oraz firmy powiązane z technologią dronową.

Rosyjscy propagandyści wykorzystywali AI do tworzenia treści w Mołdawii i Republice Środkowoafrykańskiej. Państwowe media z Rosji korzystały z generowanych przez model tekstów, publikując je w serwisach internetowych w innych państwach.

Działania w Chinach, Jemenie i obawy wewnątrz branży

Chiński funkcjonariusz wywiadu używał modelu do tworzenia raportów o broni energii skierowanej. Przedstawiciel wojskowego wywiadu Chin przygotowywał wewnętrzne opracowania dla wysokich rangą oficjeli Komunistycznej Partii Chin lub armii, dotyczące m.in. technologii mikrofalowych oraz łańcucha dostaw niezbędnych komponentów.

Rebelianci Huti w północnym Jemenie posłużyli się z kolei narzędziem do opracowania oprogramowania naprowadzającego dla zaawansowanego uzbrojenia, w tym wielostopniowych pocisków balistycznych.

Jacob Coxon odszedł z firmy Anthropic w związku z obawami o bezpieczeństwo AI. Publikacja cyklicznego raportu zbiegła się w czasie z publicznym odejściem pracownika amerykańskiej spółki, którego obawy o kierunek rozwoju technologii podzieliło wielu innych specjalistów z branży, wzywając do spowolnienia prac nad systemami sztucznej inteligencji.