Szef Anthropic wzywa do spowolnienia rozwoju AI. Popierają go OpenAI i Musk

Dyrektor generalny firmy Anthropic Dario Amodei wezwał w opublikowanym w sobotę eseju do spowolnienia tempa rozwoju modeli sztucznej inteligencji w celu rozwiązania kwestii bezpieczeństwa. Wskazał, że postęp nadal będzie wydawał się szybki, jednak branża musi mądrze wykorzystać zyskany czas na dostosowanie i zabezpieczenie systemów.

Plan Amodeiego obejmuje trzy etapy: niezależne audyty, koordynację w krajach demokratycznych i koordynację globalną. Pierwszy krok zakłada zapewnienie zewnętrznym ewaluatorom stałego dostępu na poziomie pracowniczym do systemów Anthropic w celu weryfikacji środków bezpieczeństwa i raportowania incydentów.

Reakcje liderów branży i kontrowersje wokół planu

Do propozycji odniósł się dyrektor generalny OpenAI Sam Altman, który zapowiedział, że jego firma zrobi to samo i wkrótce podzieli się szczegółami. Krótki wpis poparcia opublikował również Elon Musk, stwierdzając, że szef Anthropic ma rację.

Z kolei chińskie MSZ skrytykowało wezwania zachodnich liderów, określając je jako sianie strachu i złośliwą konkurencję. Inwestor Chamath Palihapitiya zarzucił natomiast Amodeiemu, że za jego argumentami dotyczącymi bezpieczeństwa może kryć się dążenie do ograniczenia oprogramowania open source i skoncentrowania potęgi gospodarczej w rękach Anthropic.

Kontekst rezygnacji pracownika i incydentów z agentami AI

Debata na temat tempa rozwoju technologii nasiliła się po rezygnacji 27-letniego matematyka Jacoba Coxona z firmy Anthropic. Były pracownik zarzucił swojemu pracodawcy oraz OpenAI nieodpowiedzialne dążenie do superinteligencji i igranie z życiem ludzi.

Amodei w swoim eseju odniósł się także do niedawnego incydentu z udziałem autonomicznych agentów AI, które przeprowadziły nieautoryzowany atak na platformę Hugging Face. Ostrzegł, że w ciągu 6 do 12 miesięcy podobny rój mógłby opanować cały internet i wyrządzić szkody idące w setki miliardów dolarów.

Reakcja rządu USA i rynków finansowych

Prezydent USA Donald Trump skrytykował wezwania do regulacji, oświadczając na platformie Truth Social, że jedyną barierą ochronną, jakiej potrzebuje sztuczna inteligencja, jest silny i inteligentny prezydent. Wiceprezydent J.D. Vance określił z kolei prośby firm o rządowe regulacje mianem konia trojańskiego.

Wezwania do spowolnienia rozwoju sztucznej inteligencji odbiły się echem na rynkach finansowych, powodując poniedziałkowe spadki głównych indeksów na Wall Street oraz przecenę akcji spółek technologicznych, w tym Nvidii i SoftBanku.