Минцифры и ФСБ будут проверять духовность, нравственность и безопасность искусственного интеллекта

Российские разработчики искусственного интеллекта (ИИ) будут подтверждать соответствие своих ИИ-моделей закону и традиционным духовно-нравственным ценностям в независимых испытательных лабораториях. Такая инициатива исходит от Минцифры, сообщают источники «Ведомостей» в IT-отрасли и ведомстве.

Согласно принятому 26 июля закону об ИИ, большие фундаментальные модели могут получить статус национальных или суверенных. Для этого требуется подтвердить их соответствие российскому законодательству и ценностям, перечисленным в указе президента № 809. Поскольку закон носит рамочный характер, конкретные правила оценки предстоит закрепить в подзаконных актах.

Обсуждения проходили в конце июля — начале августа на площадке АНО «Цифровая экономика». Участники договорились, что проверку будут проводить не одна, а несколько аккредитованных лабораторий. Разработчик сначала самостоятельно оценит модель по риск-ориентированной методике, затем лаборатория выборочно проверит её устойчивость, в том числе к попыткам обхода ограничений через промпт-инъекции. Итоговое решение о присвоении статуса останется за Минцифры, а безопасность для госсистем оценят ФСБ и ФСТЭК.

Проверки для всех ИИ-моделей на рынке не будет. Она касается только тех, что претендуют на господдержку, доступ к государственным информационным системам или приоритетное использование в отраслях. Первыми сферами для внедрения таких моделей названы образование и госуслуги.

В Минцифры подчеркнули, что у крупнейших разработчиков уже есть инструменты для фильтрации запрещённых запросов, поэтому регулятор планирует опираться на накопленную рынком экспертизу. Однако пакет подзаконных актов ещё согласовывается, и финальная конструкция проверки пока не утверждена.

Эксперты расходятся в оценках. Одни считают, что успех схемы зависит от прозрачности требований, другие предупреждают: такие категории, как «справедливость» или «историческая память», сложно перевести в технические задания для модели. В качестве решений предлагаются чёткие процедуры тестирования, публичный реестр заключений, переаттестация при обновлениях и апелляционная коллегия для спорных случаев.