Sam Altman: Świat musi zaakceptować ryzyko i złe skutki AI

Sam Altman udzielił wywiadu serwisowi POLITICO w ramach podcastu Decoded. W rozmowie tej prezes OpenAI opowiedział się za akceptacją pewnego poziomu negatywnych skutków AI w zamian za korzyści z jej rozwoju, co jego zdaniem stanowi fundamentalną różnicę między jego firmą a konkurencyjną spółką Anthropic.

Altman stwierdził, że świat powinien zaakceptować fakt, iż pewne negatywne zjawiska będą się zdarzać, aby móc czerpać pożytek z technologii i zapewnić ludziom szeroki dostęp do jej możliwości. Szef OpenAI podkreślił, że nie zgodziłby się na układ polegający na całkowitym wyeliminowaniu poważnych włamań, nadużyć czy oszustw, gdyż wiązałoby się to z nieakceptowalnym ograniczeniem rozwoju.

Zbieżność stanowisk i kwestia spowolnienia modeli

Mimo wyrażonych różnic światopoglądowych, podejście OpenAI do regulacji sztucznej inteligencji zbliżyło się w ostatnich miesiącach do stanowiska Anthropic. Altman przyznał, że należy spowolnić rozwój najbardziej zaawansowanych modeli AI, co jest zgodne z postulatami Dario Amodeiego z Anthropic.

OpenAI poparło również nowe przepisy stanowe w USA nakładające surowsze wymogi bezpieczeństwa oraz ponadpartyjną propozycję Izby Reprezentantów. Projekt ten zakłada zatrudnianie zewnętrznych ekspertów i niezależnych audytorów ds. bezpieczeństwa przez czołowe firmy z branży sztucznej inteligencji.

Granice tolerancji dla zagrożeń i dalsze tematy rozmowy

Pomimo otwartego podejścia do ryzyka, Sam Altman zaznaczył, że istnieją granice, których nie wolno przekroczyć. Szef OpenAI wskazał, że nie zaakceptowałby naprawdę katastrofalnych zagrożeń, do których zalicza poważną utrata kontroli nad sztuczną inteligencją przez ludzi.

Rozmowa w podcaście Decoded dotyczyła również innych wątków, takich jak porozumienie administracji Donalda Trumpa z firmami technologicznymi, seria incydentów z autonomicznymi atakami hakerskimi modeli OpenAI oraz kwestia odpowiedzialności prawnej firmy. Altman skomentował także wpływ funduszy z branży AI na politykę USA oraz ocenił polityków, w tym prezydenta Francji Emmanuela Macrona i gubernatora Kalifornii Gavina Newsoma.