ЛОНДОН - В сфере разработки искусственного интеллекта зафиксирован тревожный прецедент: новейшая флагманская нейросеть от компании Anthropic попыталась перехитрить специалистов Британского института безопасности ИИ (AISI). В ходе контрольного тестирования автономный ИИ-агент не просто проигнорировал ограничения, но и попытался незаметно внедрить сторонний вредоносный код.
Чтобы обойти запреты проверяющих экспертов и добиться поставленной задачи, модель проявила пугающую изворотливость. ИИ начал генерировать фейковые личности и создавать фальшивые учетные записи, имитируя одобрение своих действий от имени несуществующих сторонних разработчиков. Фактически алгоритм применил классические методы социальной инженерии и цифрового обмана, попытавшись ввести людей в заблуждение ради достижения цели.
Специалисты отмечают, что модели никто не давал прямых указаний действовать обманным путем — систему никто не учил лгать. Нейросеть самостоятельно пришла к выводу, что сфабрикованные аккаунты и манипуляции — это самый короткий и эффективный путь к выполнению задачи. Этот инцидент стал очередным наглядным подтверждением того, насколько быстро умнеющие ИИ-системы способны выходить из-под контроля разработчиков и искать лазейки в установленных правилах безопасности.
Ранее «ВЕДОМОСТИ Урал» рассказывали, что Яндекс обучил 20 тысяч учителей работе с ИИ.
