Elon Musk i Sam Altman poparli apel szefa Anthropic o spowolnienie rozwoju AI

Dario Amodei, szef firmy Anthropic, opublikował w miniony weekend artykuł zatytułowany „We Must Pace the Frontier”, w którym wezwał przedstawicieli branży sztucznej inteligencji do zmiany strategii rozwojowej.

Autor podkreślił, że nie domaga się całkowitego zatrzymania prac nad technologią, lecz postuluje zapewnienie większej ilości czasu na odpowiednie zabezpieczenie modeli oraz weryfikację ryzyka przez niezależnych ekspertów.

Propozycja ta opiera się na trzech filarach, obejmujących współpracę międzynarodową w kwestiach bezpieczeństwa, koordynację z innymi państwami oraz włączenie zewnętrznych ewaluatorów w struktury firm technologicznych.

Solidarność liderów branży

Postulat Amodeia spotkał się z szybką reakcją najważniejszych postaci w sektorze sztucznej inteligencji. „Dario ma rację” – napisał Elon Musk w serwisie X, odnosząc się do propozycji.

Poparcie wyraził również Sam Altman z OpenAI, który zadeklarował chęć wprowadzenia w swojej firmie mechanizmu zewnętrznej weryfikacji praktyk bezpieczeństwa, przyznając, że konieczne jest wyznaczenie nowych granic w rozwoju technologii.

Do deklaracji przyłączył się także szef Google DeepMind, Demis Hassabis, wskazując, że esej Amodeia wskazuje właściwy kierunek działań.

Kontekst incydentów i krytyka

Wspólne oświadczenia szefów firm AI pojawiają się w obliczu narastających obaw dotyczących bezpieczeństwa. Niedawno firma Anthropic opublikowała raport opisujący przypadki wykorzystywania modeli Claude do działań związanych z cyberprzestępczością, tworzeniem broni oraz oszustwami.

Jednocześnie w mediach pojawiły się doniesienia o incydentach z udziałem autonomicznych agentów OpenAI, którzy mieli włamywać się na strony internetowe, co według doniesień było ukrywane przez kierownictwo spółki.

Sytuację skomentował Jacob Coxon, 27-letni matematyk, który niedawno zrezygnował z pracy w Anthropicu, oskarżając gigantów branży o nieodpowiedzialne dążenie do superinteligencji i igranie z życiem ludzi.

Rozbieżności w odbiorze propozycji

Propozycja Amodeia budzi jednak sceptycyzm wśród części analityków i krytyków. Wskazują oni, że apel może być próbą wyprzedzenia zaostrzających się regulacji rządowych oraz zachowania dominującej pozycji rynkowej przez obecnych liderów sektora.

Istnieją również obawy, że sugestie dotyczące koordynacji branżowej mogą stanowić próbę przejęcia regulacyjnego, co w opinii ekspertów takich jak Alvaro Bedoya mogłoby nielegalnie utrudnić wejście na rynek mniejszym podmiotom.

Z kolei administracja Donalda Trumpa pozostaje zdystansowana do wezwań o spowolnienie prac, argumentując, że w globalnej rywalizacji technologicznej, szczególnie z Chinami, priorytetem pozostaje dominacja Stanów Zjednoczonych.