МОСКВА - Специальные испытательные лаборатории начнут проверять большие языковые модели на соответствие российскому законодательству и «традиционным духовно-нравственным ценностям». Порядок тестирования разрабатывают Минцифры, ФСБ и ФСТЭК. Если модель не пройдет «экзамен», она не получит статуса «национальной» или «суверенной» — а значит, разработчики лишатся доступа к господдержке, госконтрактам и государственным базам данных. Пока проверка добровольна и нужна только тем, кто претендует на особый статус. Но эксперты не исключают, что в будущем она может стать обязательной для всех.
Как сообщают «Ведомости» со ссылкой на источники в Минцифры и IT-отрасли, новая система контроля за искусственным интеллектом уже находится в стадии разработки. С одобрения ведомства разработчики смогут направлять свои крупные языковые модели в независимые аккредитованные лаборатории. Там нейросети проверят на «этическую чистоту» и устойчивость к манипуляциям.
Методологическую базу для аудита готовят несколько ведомств, включая Минцифры, ФСБ и ФСТЭК. Эксперты будут опираться на категории из президентского указа о традиционных ценностях, переложенные на язык специальных автоматизированных тестов и бенчмарков. В ходе испытаний лаборатории будут «бомбардировать» алгоритмы провокационными запросами и вредоносными инструкциями, проверяя, насколько надежно работают внутренние фильтры модели.
Ключевой нюанс: проверка пока не является обязательной для всех продуктов на коммерческом рынке. Однако она критически важна для разработчиков, претендующих на государственную поддержку, доступ к закрытым базам данных и преимущество в госзакупках. В первую очередь «суверенные» нейросети планируют внедрять в сферы образования и предоставления государственных услуг.
По настоянию представителей IT-индустрии проверкой займется не единый монопольный оператор, а сеть независимых лабораторий, прошедших аккредитацию. При этом финальный вердикт о выдаче официального статуса остается за Минцифры.
Сами участники рынка и эксперты отмечают: главная сложность проекта заключается в переводе абстрактных гуманитарных понятий, таких как справедливость или гражданственность, в сухие критерии технического задания. Законодательная база в России часто эволюционирует от добровольных стандартов к обязательным требованиям, поэтому независимые эксперты не исключают, что такая проверка может стать обязательной для всех разработчиков ИИ.
