Planował zabić swoją ex-dziewczynę, ale ChatGPT poinformował o tym policję.

Ludzie korzystają z AI do różnych celów. Niestety pewien 25-latek postanowił skorzystać z ChataGPT do stworzenia planu porwania, zgwałcenia i zabójstwa swojej byłej dziewczyny. Rozmowa została oflagowana a OpenAI powiadomiło o niej służby (choć bez odpowiedzi samego chatbota).

Powyższa ilustracja została syntetycznie wygenerowana z wykorzystaniem sieci neuronowej podczas procesu inferencji modelu generatywnego typu text-to-image

Bohaterem tych wydarzeń jest zatrzymany w maju tego roku Darren Shida Zhou, analityk Goldman Sachs na Florydzie, który od marca ciężko przeżywał rozstanie. Mężczyzna nękał swoją byłą telefonami i wiadomościami. Wysyłał jej m.in. zdjęcia broni… Prowadził też równolegle rozmowy z ChatemGPT odnośnie tego, jak ją “ukarze”. Wiadomości te zostały jednak oflagowane przez automatyczne systemy OpenAI a oznaczona w ten sposób rozmowa została oceniona przez człowieka. To właśnie pracownik OpenAI podjął decyzję o powiadomieniu FBI. OpenAI utrzymuje, że tego typu działania następują wyłącznie kiedy zagrożenie dla innych jest uznane za bezpośrednie i wiarygodne.

Tu warto odnotować, że wyłączenie opcji “Improve the model for everyone” dotyczy wykorzystywania rozmów do trenowania modeli i nie wyłącza mechanizmów bezpieczeństwa. Także rozmowa w trybie Temporary Chat może zostać przejrzana w celu wykrywania nadużyć, chociaż nie trafia do historii i ma zostać usunięta z systemów po 30 dniach.

Dostał 8 lat dozoru, ale nie więzienia

13 sierpnia Zhou przyznał się do nękania i kierowania pisemnych gróźb zabójstwa. Sędzia wymierzył mu 8 lat dozoru kuratorskiego, w tym 2 lata z elektronicznym monitoringiem. Mężczyzna ma też zakaz kontaktowania się z kobietą i posiadania broni.

Chatbot nie jest konfesjonałem

Historia taka jak ta jest ciekawa pod kątem etyki. Z jednej strony może bulwersować, że wiadomości są przez kogoś czytane. Z drugiej, chyba każdy zgodzi się, że decyzja o zatrzymaniu Darrena była słuszna i mogłoby do niej nie dojść, gdyby nie działania OpenAI.

O ryzyku wrzucania poufnych informacji do narzędzi AI wspominaliśmy już wielokrotnie i podtrzymujemy radę, aby być na to wyczulonym. Natomiast jeśli planujecie morderstwo, to gorąco zachęcamy, żeby jak najszybciej zapytać ChataGPT czy Wasza zbrodnia będzie doskonała. Pamiętajcie żeby podać jak najwięcej szczegółów.