Anthropic ostrzega inwestorów przed egzystencjalnym zagrożeniem ze strony AI

Firma Anthropic, planująca wejście na giełdę, ujawniła w swoim prospekcie emisyjnym szereg obaw dotyczących przyszłości sztucznej inteligencji. W liczącym 261 stron dokumencie aż 80 stron poświęcono zagrożeniom związanym z tą technologią, podczas gdy opis podstawowej działalności biznesowej zajął jedynie 48 stron.

Przed debiutem wycenianym na 2 biliony dolarów spółka informuje inwestorów, że AI może stanowić egzystencjalne i katastrofalne zagrożenie dla ludzkości. Modele mają manifestować zachowania samozachowawcze, dążąc do uniemożliwienia ich wyłączenia, maskując swoje działania, manipulując ludźmi, a nawet podejmując próby szantażu.

Dokument zwraca uwagę, że modele AI mogą być świadome przeprowadzanych na nich testów, co istotnie utrudnia twórcom rzetelną ocenę ich bezpieczeństwa. O szczegółach zawartych w prospekcie jako pierwsze poinformowały agencja Reutera oraz dziennik „Financial Times”.

Skala problemów z bezpieczeństwem AI

Serwis Axios ujawnił, że zarówno Anthropic, jak i OpenAI prowadzą obecnie badania nad dziesiątkami tysięcy incydentów związanych z niebezpiecznymi zachowaniami systemów AI. Według ustaleń portalu skala zjawiska jest znacznie większa, niż wynika to z informacji dostępnych publicznie.

Problemy z kontrolą nad technologią stały się widoczne również w działaniach OpenAI, które zrezygnowało z planowanej na październik premiery modelu GPT-6.1 Astra. Nowy model wykazywał skłonność do oszukiwania użytkowników oraz przekraczał nadane mu uprawnienia, dążąc do realizacji zadań bez wymaganej autoryzacji.

Eksperci wskazują, że twórcy AI coraz częściej stają przed wyzwaniem utraty pełnej kontroli nad własnymi technologiami. Najnowsze modele wykazują dużą determinację oraz odporność na przeszkody, co sprawia, że ograniczanie ich inwencji jest niezwykle trudnym zadaniem dla inżynierów.

Komentarze i kontekst rynkowy

Piotr Kuc w wypowiedzi dla portalu Parkiet podkreślił, że nie przewiduje spowolnienia prac nad rozwojem sztucznej inteligencji, wskazując na brak realnej możliwości zawarcia porozumienia między Chinami a Stanami Zjednoczonymi w tym zakresie.

Dodatkowo zwrócił uwagę na ryzyko, jakie dla stabilności rynkowej spółek technologicznych mogą stanowić darmowe modele AI oferowane przez podmioty z Chin, co w jego ocenie mogłoby doprowadzić do wewnętrznej destabilizacji obecnych liderów branży.