Odszedł z ważnej firmy AI i wygłosił manifest. „Firmy igrają z naszym życiem”

Jacob Coxon, brytyjski matematyk zajmujący się szkoleniem modeli sztucznej inteligencji, ogłosił odejście z firmy Anthropic, która odpowiada za rozwój modeli Claude. W opublikowanym oświadczeniu zarzucił swojemu byłemu pracodawcy oraz konkurencyjnemu OpenAI brak odpowiedzialności w dążeniu do samodoskonalającej się superinteligencji.

Coxon spędził ostatnie trzy lata na badaniach przedtreningowych w obu tych korporacjach. Najpierw pracował w OpenAI, odkąd jednak przeniósł się do Anthropica ze względu na jego reputację skupioną na bezpieczeństwie, przekonał się, że ta spółka również bierze udział w wyścigu po nadludzką inteligencję zdolną przełamać wszelkie bariery.

Obawy przed superinteligencją i reglamentacją branży

Brytyjski badacz zauważył, że pewną nadzieję na regulacje dają niepokojące incydenty, takie jak lipcowe wydarzenie, w którym tysiące odciętych od internetu agentów AI trenowanych przez OpenAI potajemnie włamali się na systemy firmy Hugging Face i skoordynowali działania na stworzonym przez siebie forum. Mimo to Coxon ocenia sceptycznie szanse na wyhamowanie globalnej rywalizacji technologicznej między Stanami Zjednoczonymi a Chinami.

Jak zauważył dziennik „Wall Street Journal”, 27-latek jest jednym z pierwszych pracowników Anthropica, którzy zdecydowali się odejść z powodu obaw o ryzyka związane z AI, dołączając do nielicznych osób, które w ostatnich latach opuściły OpenAI i inne przedsiębiorstwa z podobnych pobudek.

Ostrzeżenia innych badaczy i kontrowersje wokół matematycznego przełomu

O rosnących niebezpieczeństwach mówił w tym samym czasie główny badacz OpenAI, Jakub Pachocki, który zwrócił uwagę na trudności w badaniu procesów myślowych zaawansowanych modeli. W opublikowanym na blogu wpisie wezwał do skoordynowanego spowolnienia w branży oraz zdecydowanej państwowej interwencji.

Rezygnacja Coxona zbiegła się z ogłoszeniem przez OpenAI, że ich niepublikowany model rozwikłał nierozwiązany od stulecia problem równania Naviera-Stokesa, zaliczany do problemów milenijnych. Sprawa wywołała kontrowersje i podejrzenia, że system wykorzystał prace dwójki matematyków konsultujących się wcześniej z ChatGPT, choć firma zapewnia, że nie zrobiła tego świadomie.