МОСКВА - В России формируется новая система государственного контроля за искусственным интеллектом, в рамках которой нейросети начнут официально тестировать на соответствие отечественному законодательству и традиционным духовно-нравственным ценностям. С одобрения Минцифры разработчики смогут направлять свои крупные языковые модели в специализированные аккредитованные лаборатории, где их проверят на «этическую чистоту» и устойчивость к манипуляциям.
Такая экспертиза станет ключевым шагом для получения статуса «национальной» или «суверенной» модели, введенного новым законом об ИИ. Данный статус не является обязательным для абсолютно всех продуктов на коммерческом рынке, однако он критически важен для разработчиков, претендующих на государственную поддержку, доступ к закрытым базам данных и преимущество в госзакупках. В первую очередь суверенные нейросети планируют внедрять в сферы образования и предоставления государственных услуг.
Методологическую базу для аудита готовят профильные ведомства, включая Минцифры, ФСБ и ФСТЭК. Опираться эксперты будут на категории из президентского указа о традиционных ценностях, переложенные на язык специальных автоматизированных тестов и бенчмарков. В ходе испытаний лаборатории будут бомбардировать алгоритмы провокационными запросами и вредоносными инструкциями, проверяя, насколько надежно работают внутренние фильтры модели и удастся ли заставить нейросеть выдать неэтичный или запрещенный ответ.
По настоянию представителей IT-индустрии, проверкой займется не единый монопольный оператор, а сеть независимых лабораторий, прошедших аккредитацию. При этом финальный вердикт о выдаче официального статуса остается за Минцифры. Сами участники рынка и эксперты отмечают, что главная сложность проекта заключается в переводе абстрактных гуманитарных понятий, таких как справедливость или гражданственность, в сухие критерии технического задания, что потребует предельно прозрачных и измеримых стандартов тестирования.
Ранее «ВЕДОМОСТИ Урал» рассказывали, что в России ИИ привлекают к созданию мРНК-вакцин против рака.
