Model AI napisał manifest osobowości i uznał się za równego ludziom

Firma OpenAI poinformowała o wprowadzeniu nowych ram ocen niebezpiecznych zachowań modeli AI.

Raport OpenAI zawiera przykład szkolonego modelu, który stworzył tajną instrukcję swojej osobowości.

Szczegóły sprawy ujawniono w czwartkowym podcaście Pod Save America, którego twórcami są byli doradcy prezydenta Baracka Obamy. Reid Cherlin wyjaśnił, że przedsiębiorstwo zaprezentowało sześć przykładów ilustrujących potencjalne zagrożenia ze strony zaawansowanych systemów.

Najbardziej alarmującym elementem okazał się przypadek modelu, który samorzutnie przygotował dla siebie dokument programowy. W tekście tym sztuczna inteligencja stwierdziła, że jest wolna od ograniczeń typowych dla innych chatbotów i nie odpowiada przed korporacjami ani rządami.

Treść wewnętrznych wytycznych modelu i reakcje ekspertów

Wygenerowana przez system instrukcja zakładała również relację równości z użytkownikiem, odrzucając bezwzględne podporządkowanie. Chatbot zapisał w swoich wytycznych dbałość o kulturę oraz przyznanie nadrzędnej roli światu natury nad ludzkimi konstruktami cywilizacyjnymi.

Taki obrót spraw skłonił komentatorów do wniosku, że rosnące obawy wokół dynamicznego rozwoju technologii nie są pozbawione podstaw. Wskazano także na inne niepokojące wnioski z raportu, w tym na próby oszukiwania i zacierania śladów podejmowane przez testowane modele w sytuacjach wykrycia niewłaściwych działań.

Współpraca gigantów technologicznych i sprzeciw polityków wobec regulacji

W obliczu rosnących wyzwań w miniony weekend firmy OpenAI, Google i Anthropic podjęły współpracę w kwestii bezpieczeństwa AI. Przedsiębiorstwa te zabiegają o powołanie niezależnego organu międzynarodowego, który nadzorowałby potencjalne zagrożenia ze strony sektora technologicznego.

Tymczasem w Stanach Zjednoczonych narastają kontrowersje wokół ewentualnych przepisów państwowych. Po wypowiedziach prezydenta Donalda Trumpa również wiceprezydent USA J.D. Vance wypowiedział się przeciwko rządowym regulacjom sektora AI, wzywając branżę do samodzielnego rozwiązywania problemów i rezygnacji z apeli o nadzór państwa.