Научно-техническим советом Федеральной службы по экологическому, технологическому и атомному надзору одобрено Заявление о политике в отношении безопасного применения технологий искусственного интеллекта (ИИ) на объектах использования атомной энергии (ОИАЭ).
Документ декларирует позицию Ростехнадзора, в том числе и на международном уровне, и определяет принципы и подходы к регулированию безопасности:
- решения, влияющие на безопасность, принимает только человек, искусственный интеллект - советник, а не оператор;
- доверие к модели не предполагается, а доказывается: объяснимость, верификация и валидация, защищенность, детерминированность, контролируемость и управление изменениями;
- красные линии: никакого управления критическими функциями, никакого дообучения в эксплуатации без жестких технических ограничителей, никакого выхода систем физической защиты за пределы периметра;
- применение иностранных технологий может быть допущено при условии их полного соответствия установленным критериям безопасности, отсутствия недекларированных возможностей и успешного прохождения процедур оценки соответствия применительно к конкретным условиям эксплуатации.
Источник: