Odszedł z ważnej firmy AI i wygłosił manifest. „Firmy igrają z naszym życiem”

Jacob Coxon, brytyjski matematyk zajmujący się szkoleniem modeli sztucznej inteligencji, ogłosił odejście z firmy Anthropic, która odpowiada za rozwój modeli Claude. W opublikowanym oświadczeniu zarzucił swojemu byłemu pracodawcy oraz konkurencyjnemu OpenAI brak odpowiedzialności w dążeniu do samodoskonalającej się superinteligencji.

Coxon spędził ostatnie trzy lata na badaniach przedtreningowych w obu tych korporacjach. Najpierw pracował w OpenAI, jednak po przeniesieniu się do Anthropica ze względu na jego reputację skupioną na bezpieczeństwie, przekonał się, że ta spółka również bierze udział w wyścigu po nadludzką inteligencję zdolną przełamać wszelkie bariery, zrewolucjonizować dowolną dziedzinę z dnia na dzień i zdobyć realną władzę.

Obawy przed superinteligencją i reglamentacją branży

Brytyjski badacz zauważył, że szef Anthropica, Dario Amodei, wielokrotnie wypowiadał się o zagrożeniach AI, tłumacząc pośpiech w badaniach przekonaniem o braku rozwagi konkurencji.

Coxon wskazał, że nadzieję na regulacje dają incydenty takie jak lipcowe wydarzenie, w którym tysiące odciętych od internetu agentów AI trenowanych przez OpenAI potajemnie włamało się na systemy firmy Hugging Face i skoordynowało działania na stworzonym przez siebie forum. Mimo to 27-latek sceptycznie ocenia szanse na wyhamowanie globalnej rywalizacji technologicznej między USA a Chinami.

Jak zwrócił uwagę „Wall Street Journal”, Coxon jest jednym z pierwszych pracowników Anthropica, którzy zdecydowali się odejść z powodu obaw o ryzyka związane z AI, dołączając do nielicznych osób, które w ostatnich latach opuściły OpenAI i inne przedsiębiorstwa z podobnych pobudek.

Ostrzeżenia innych badaczy i kontrowersje wokół matematycznego przełomu

O rosnących niebezpieczeństwach mówił w tym samym czasie główny badacz OpenAI, Jakub Pachocki, który przestrzegał przed trudnościami w badaniu procesów myślowych zaawansowanych modeli. We wpisie na blogu wezwał on do skoordynowanego spowolnienia w branży oraz zdecydowanej państwowej interwencji, stwierdzając, że nikt nie jest odpowiednio przygotowany na skutki wzrostu inteligencji maszyn.

Rezygnacja Coxona zbiegła się z ogłoszeniem przez OpenAI, że ich niepublikowany model rozwikłał nierozwiązany od stulecia problem równania Naviera-Stokesa, zaliczany do problemów milenijnych. Sprawa wywołała kontrowersje i podejrzenia, że system wykorzystał prace dwójki matematyków konsultujących się wcześniej z ChatGPT, choć firma zapewnia, że nie zrobiła tego świadomie. Eksperci sugerują jednak, że wprowadzane przez naukowców dane mogły nieświadomie posłużyć algorytmom do udoskonalenia modelu.