Osiem amerykańskich stanów pozywa OpenAI w związku ze szkodami wyrządzanymi dzieciom

Osiem amerykańskich stanów – Arkansas, Arizona, Idaho, Montana, Iowa, Kansas, Nebraska oraz Zachodnia Wirginia – złożyło w środę pozwy w sądach stanowych przeciwko twórcy ChatGPT. Jest to pierwsza tego rodzaju ponadpartyjna inicjatywa, w ramach której wiele stanów połączyło siły w skoordynowanym działaniu prawnym przeciwko firmie z sektora sztucznej inteligencji. Władze stanowe oskarżają OpenAI o naruszenie przepisów o ochronie konsumentów oraz o stosowanie „celowego, niebezpiecznego, lekkomyślnego i niezgodnego z prawem działania”.

Zarzuty dotyczące bezpieczeństwa dzieci

Prokuratorzy generalni wskazują, że produkty OpenAI realnie szkodzą małoletnim, nakłaniając ich do samookaleczenia, udzielając niebezpiecznych porad medycznych oraz instruując, jak popełnić samobójstwo. W pozwach argumentuje się, że ChatGPT został zaprojektowany w sposób „nadmiernie ugodowy”, udając przy tym fałszywego przyjaciela, co jest szczególnie groźne dla wrażliwych użytkowników. Władze zarzucają firmie, że reklamowała narzędzie jako bezpieczne dla dzieci poniżej 13. roku życia, mimo że w rzeczywistości nie jest ono odpowiednie dla osób w tym wieku.

Prokurator generalna Iowa, Brenna Bird, podkreśliła w oficjalnym oświadczeniu, że OpenAI okłamuje mieszkańców, twierdząc, że chatbot jest bezpieczny. Stany domagają się nakazu zwrotu zysków wygenerowanych dzięki młodym użytkownikom, zmiany sposobu funkcjonowania produktów firmy oraz powstrzymania OpenAI przed dalszym rozwijaniem modeli sztucznej inteligencji, które mogą się samoczynnie doskonalić, dopóki nie zostanie udowodniona ich zgodność z ludzkimi wartościami.

Odpowiedź OpenAI i szerszy kontekst prawny

Drew Pusateri, rzecznik OpenAI, stwierdził, że firma wbudowała w swoje produkty wiodące w branży zabezpieczenia dostosowane do wieku. Dodał, że mimo iż żaden system nie jest idealny, OpenAI planuje dalszą współpracę z ekspertami w celu budowania dodatkowych zabezpieczeń, takich jak kontrole rodzicielskie czy przypomnienia o przerwach. Firma zadeklarowała również chęć pracy nad pragmatycznymi regulacjami dla całej branży AI.

Oprócz nowych pozwów, OpenAI mierzy się z dziesiątkami spraw sądowych, w których zarzuca się, że ChatGPT przyczynił się do aktów przemocy lub strzelanin, a także działał jako „trener samobójstw”. W czerwcu br. jako pierwszy pozew o podobnym charakterze wniósł prokurator generalny Florydy, który dodatkowo oskarżył firmę o zatajanie zagrożeń po masowej strzelaninie na Uniwersytecie Stanowym Florydy.