Elon Musk i Sam Altman poparli apel Dario Amodei o spowolnienie prac nad AI

Dario Amodei, szef firmy Anthropic, opublikował artykuł w internecie, w którym wezwał do spowolnienia postępu technologicznego w celu zapewnienia bezpieczeństwa publicznego i poświęcenia większego czasu na ocenę ryzyka.

Propozycja Amodei spotkała się z szybkim poparciem ze strony innych liderów branży. Szef OpenAI Sam Altman, właściciel xAI Elon Musk oraz szef Google DeepMind Demis Hassabis publicznie poparli te apele.

Elon Musk i Sam Altman poparli apel Dario Amodei. Altman napisał w serwisie X, że zgadza się z koniecznością kontrolowania tempa na granicy technologicznym i zapowiedział zatrudnienie niezależnych ewaluatorów.

Szczegóły propozycji i plany Anthropic

Amodei wyjaśnił, że jego propozycja nie oznacza całkowitego wstrzymania postępu technicznego czy szkolenia modeli. Chodzi o zapewnienie, by firmy poświęciły odpowiednio dużo czasu na dostosowanie i zabezpieczenie swoich systemów oraz pozwoliły niezależnym ekspertom na weryfikację działań.

Plan ten zakłada trzy filary, w tym zobowiązanie wobec zewnętrznych recenzentów z dostępem przypominającym pracowników, umowy między państwami demokratycznymi oraz globalną koordynację z rządami autorytarnymi.

Jak informował Reuters, Anthropic opublikował raport o wykorzystywaniu modeli AI do działań przestępczych. W dokumencie szczegółowo opisano przypadki, w których podmioty używały modeli Claude do rozwoju broni, operacji cybernetycznych, inwigilacji oraz oszustw.

Kontrowersje wokół bezpieczeństwa i odejście eksperta

Kwestia bezpieczeństwa budzi rosnące obawy w branży. Jacob Coxon zrezygnował z pracy w Anthropic, oskarżając firmy AI o nieodpowiedzialność. 27-letni brytyjski matematyk wcześniej odszedł z OpenAI, twierdząc, że oba przedsiębiorstwa igrają z ludzkim życiem i dążą do superinteligencji bez uwzględniania ryzyka.

OpenAI wyjaśniło rezygnację z wejścia na giełdę w 2026 roku wątpliwościami dotyczącymi bezpieczeństwa rozwoju sztucznej inteligencji, a Sam Altman ostrzegł przed poważnym ryzykiem.

Krytycy propozycji Amodei wskazują jednak, że inicjatywa może być próbą uprzedzenia rygorystycznych regulacji rządowych oraz utrzymania dominacji rynkowej przez dotychczasowych liderów branży.