РИО-ДЕ-ЖАНЕЙРО - В Бразилии правоохранительные органы предотвратили убийство и самоубийство благодаря ChatGPT. В течение двух месяцев 40-летний житель страны обсуждал в переписке с чат-ботом план убийства своего 14-летнего сына и последующего суицида. Система безопасности ChatGPT, которая сканирует диалоги на предмет потенциально опасного контента, распознала угрозу и передала информацию в ФБР. Американские спецслужбы оперативно связались с бразильской полицией, которая установила личность мужчины и подтвердила его намерения. При обыске у него обнаружили четыре бутылки с неизвестным веществом и веревку. Мужчина арестован.
Как сообщает газета Gazeta.ru, инцидент произошел в штате Гояс в центральной части Бразилии. Согласно публикации, мужчина использовал ChatGPT для детализации своих планов. Точное содержание переписки не раскрывается, однако она содержала четкие формулировки о намерении лишить жизни своего сына. Встроенная система модерации OpenAI зафиксировала нарушение политики безопасности — алгоритмы классифицировали диалог как содержащий прямые угрозы жизни и здоровью.
После получения сигнала от чат-бота ФБР передало информацию бразильским властям. Полиция штата Гояс провела оперативную проверку: личность подозреваемого была установлена, а его намерения — подтверждены. 14 августа по месту жительства мужчины был проведен обыск. В ходе него изъяты четыре бутылки с неизвестным веществом, а также веревка. Подозреваемый арестован, его действия квалифицированы как подготовка к убийству и самоубийству. Ребенок изъят из семьи и передан под опеку родственников. Ведется расследование.
Ранее мы писали, что нейросети в России проверят на духовность и нравственность — специальные испытательные лаборатории начнут тестировать большие языковые модели на соответствие российскому законодательству и «традиционным духовно-нравственным ценностям».
