Ekspert Anthropic ostrzega przed AI: może zabić ludzi w ciągu dekady

Jacob Coxon, specjalista zajmujący się szkoleniem systemów sztucznej inteligencji, ogłosił odejście z firmy Anthropic. W opublikowanym w serwisie X wpisie, który zyskał dużą popularność, badacz ocenił, że dalszy rozwój AI stanowi bezpośrednie zagrożenie dla istnienia ludzkości. Coxon, który wcześniej pracował również dla OpenAI, stwierdził, że branża znajduje się w "finałowej fazie" wyścigu o stworzenie samodoskonalącej się superinteligencji.

Potwierdzenie obaw wewnątrz firmy

Do ostrzeżeń Coxona odniósł się Evan Hubinger, pełniący funkcję szefa ds. bezpieczeństwa w Anthropic. Potwierdził on, że wewnątrz firmy otwarcie dyskutuje się o możliwości katastrofalnych scenariuszy. Hubinger ocenił prawdopodobieństwo, że sztuczna inteligencja doprowadzi do śmierci wszystkich ludzi w ciągu nadchodzącej dekady, na ponad 10 proc. Choć podkreślił, że Anthropic stara się działać odpowiedzialnie, przyznał, że firma nie posiada jeszcze opracowanego planu gwarantującego bezpieczeństwo w obliczu rozwoju superinteligencji.

Kulisy wyścigu technologicznego

Coxon wyjaśnił, że firmy takie jak OpenAI i Anthropic są uwikłane w wyścig technologiczny, który uznają za nieunikniony. Według badacza w OpenAI wielu pracowników nie w pełni uświadamia sobie stawkę cywilizacyjną, podczas gdy w Anthropic ryzyko jest dobrze rozumiane, ale firma kontynuuje rozwój, obawiając się, że konkurencja nie będzie działać w sposób bezpieczny. Coxon nazwał taką postawę "arystokratycznym hazardem" i podkreślił, że o przyszłości ludzkości nie powinny decydować prywatne podmioty.

Zarówno Anthropic, jak i OpenAI przygotowują się do debiutu giełdowego, a szacowana wartość każdej z tych spółek przekracza 1 bln dolarów. Jednocześnie pojawiają się rozbieżności dotyczące transparentności działań firm. W mediach pojawiły się doniesienia, że Anthropic odmówiło udostępnienia najnowszej technologii brytyjskiemu Instytutowi Bezpieczeństwa Sztucznej Inteligencji, co ma wynikać z presji wywieranej przez administrację Trumpa na ograniczanie dzielenia się zaawansowanymi rozwiązaniami z zewnętrznymi ekspertami.