Reakcja sztucznej inteligencji na zbrodnicze plany
ChatGPT powiadomił ludzkich nadzorców w firmie o rozmowach z 25-letnim Darrenem Zhou, byłym analitykiem finansowym banku Goldman Sachs, który planował morderstwo. Po otrzymaniu niepokojącego sygnału przedstawiciele firmy skontaktowali się z odpowiednimi służbami.
Sztuczny asystent OpenAI samodzielnie uznał wypowiedzi człowieka za budzące obawy i zdecydował o poinformowaniu operatorów systemu. Chatbot wykrył w rozmowach groźby wobec 21-letniej kobiety z Florydy, będącej byłą partnerką Darrena Zhou.
Szczegóły przygotowań do zbrodni
Mężczyzna opisał asystentowi AI szczegółowy plan zabicia kobiety. "Zabiję ją do końca miesiąca. Jeśli nie może być moja, to będzie niczyja" — miał napisać chatbotowi mężczyzna. Darren Zhou zerwał ze swoją 21-letnią dziewczyną w marcu, a następnie przez tygodnie snuł plany porwania, zgwałcenia i zabicia jej. Znał jej rozkład dnia, harmonogram oraz miejsce, w którym grała w siatkówkę. Powiedział chatbotowi, że ma gotowy cały plan oraz że kupił karabin AR-15.
Wysyłał byłej dziewczynie anonimowe groźby z telefonów jednorazowych, a w swojej komórce miał zdjęcia broni, opasek zaciskowych i rękawiczek lateksowych. Jego była dziewczyna, choć czuła się nękana i zastraszana, bała się zgłosić na policję, by nie eskalować problemu.
Interwencja służb i finał sprawy
Przedstawiciele firmy przekazali analizę chatbota służbom. Sprawa trafiła do FBI, a mężczyzna został aresztowany w maju. Bank Goldman Sachs zwolnił go w czerwcu.
Darren Zhou przyznał się do wszystkich zarzutów i usłyszał wyrok 8 lat w zawieszeniu. Musi nosić monitor na kostce przez pierwsze dwa lata, ma zakaz posiadania broni oraz nie wolno mu kontaktować się z niedoszłą ofiarą. Policja zatrzymała mężczyznę w maju, a w sądzie przyznał się on do planowania zabójstwa.