Нормативы для
ИИ
(информационный обзор)
Первый кодекс искусственного
интеллекта
В рамках международного форума «Этика искусственного интеллекта: начало
доверия» российское правительство, Минэкономразвития, Альянс в сфере ИИ
(Сбер, МТС, VK, «Газпром нефть», «Яндекс», РФПИ) и другие крупнейшие компании
и научно-исследовательские организации подписали кодекс этики в сфере искусственного
интеллекта (КЭСИИ), который устанавливает общие этические принципы и стандарты
поведения для участников этой отрасли. Указанный кодекс распространяется
на отношения, связанные с этическими аспектами создания (проектирования,
конструирования, пилотирования), внедрения и использования технологий ИИ
на всех этапах жизненного цикла, которые в настоящее время не урегулированы
российским законодательством или другими актами регулирования.
Документ состоит из 33 пунктов и в числе прочего рекомендует участникам
рынка:
– сотрудничать по вопросу выявления и проверки информации о способах создания
универсальных систем ИИ;
– информировать пользователей об их взаимодействии с ИИ-системами;
– дать возможность прекратить взаимодействие с ИИ по желанию клиента;
– предотвращать угрозы, которые несёт технология.
Ответственность же за последствия
использования систем ИИ накладывается на человека. Для реализации кодекса
будет создана специальная комиссия, куда войдут учёные, представители бизнеса
и сотрудники госорганов. Несмотря на то, что КЭСИИ носит рекомендательный
характер, каждая подписавшая кодекс организация будет обязана назначить
уполномоченных по этике ИИ, которые будут контролировать его соблюдение.
Подробнее
Государственные
стандарты РФ, связанные с ИИ:
Принятая в декабре 2020 года перспективная программа стандартизации по
приоритетному направлению «Искусственный интеллект» на период 2021-2024
годы, утверждённая Росстандартом и Минэкономразвития России, предусматривает
разработку 217 стандартов. Разработчики – Всероссийский научно-исследовательский
институт сертификации (АО «ВНИИС») и ООО «ТВпортал». Аналитический центр
при правительстве опубликовал «справку по первым принятым стандартам в
области ИИ», из которой следует, что к настоящему времени в стране действуют
следующие ГОСТы, так или иначе связанные с искусственным интеллектом:
ГОСТ
Р 58776-2019 «Средства мониторинга поведения и прогнозирования намерений
людей. Термины и определения».
ГОСТ
Р 58777-2019 «Воздушный транспорт. Аэропорты. Технические средства
досмотра. Методика определения показателей качества распознавания незаконных
вложений по теневым рентгеновским изображениям».
ГОСТ
Р 59236-2020 «Платформа «Автодата». Общие положения».
ГОСТ
Р 59276-2020 «Системы искусственного интеллекта. Способы обеспечения
доверия. Общие положения».
ГОСТ
Р 59277-2020 «Системы искусственного интеллекта. Классификация систем
искусственного интеллекта».
ГОСТ
Р 59278-2020 «Информационная поддержка жизненного цикла изделий. Интерактивные
электронные технические руководства с применением технологий искусственного
интеллекта и дополненной реальности. Общие сведения».
ГОСТ
Р 59385-2021 «Информационные технологии. Искусственный интеллект. Ситуационная
видеоаналитика. Термины и определения».
ГОСТ
Р 59391-2021 «Средства мониторинга поведения и прогнозирования намерений
людей. Аппаратно-программные средства с применением технологий искусственного
интеллекта для колесных транспортных средств. Классификация, назначение,
состав и характеристики средств фото- видеофиксации».
Комментарии:
По ГОСТ Р 59236-2020. Это сервисная навигационно-телематическая платформа,
предназначенная для сбора данных об эксплуатации транспортных средств,
о транспортных средствах и их владельцах, о дорожной инфраструктуре и иной
информации автотранспортной сферы, в том числе связанную с логистикой людей
и вещей.
По ГОСТ Р 59276-2020. Определяет доверие к ИИ-системе как «уверенность
потребителя, и, при необходимости, организаций, ответственных за регулирование
вопросов создания и применения систем искусственного интеллекта, и иных
заинтересованных сторон в том, что система способна выполнять возложенные
на неё задачи с требуемым качеством». Документ оперирует термином «понятность»,
но с «уверенностью потребителя» «понятность» не связывает. Между тем именно
прозрачность ИИ-системы, её способность быть подвергнутой анализу для выяснения
того, как ИИ принимает решения, действуют ли установленные разработчиком
ИИ-системы ограничения – критически важна для того, чтобы обеспечить «уверенность
потребителя». Предсказуемость результатов работы ИИ, недискриминационный
доступ пользователей продуктов, которые созданы с использованием технологий
ИИ, к информации о применяемых в этих продуктах алгоритмах работы ИИ. ГОСТ
же рассматривает «понятность» как характеристику «практичности» ИИ-систем.
Так как задача стандартизации ИИ-систем, обеспечивающей предсказуемость
и исключающей предвзятость, чрезвычайно сложна, объявлен сбор предложений,
которые могли бы помочь «выявлению предвзятости ИИ и тому, как с нею справляться»
По ГОСТ Р 59277-2020. Классификация ИИ-систем позволит заинтересованным
сторонам выбирать надлежащие решения для их приложений и сравнивать качество
доступных решений. Предложенная классификация ИИ-систем носит весьма общий,
универсальный характер и одновременно совершает попытки детализации. Так,
например, «по комплексности и сложности систем» ГОСТ разделяет ИИ-системы
на «многоагентные, системы «Большие данные», промышленный Интернет вещей,
киберфизические системы, системы жизненного цикла, системы сетевой экспертизы,
распределённые системы управления, системы распределённых ситуационных
центров и прочие». Скорее всего, стандарт будет меняться, так как совмещение
универсальности с детализацией рано или поздно «пробуксует».
По ГОСТ Р 59278-2020. Этот стандарт даёт следующее определение понятия
«технологии ИИ» – «комплекс технологических решений, позволяющий имитировать
когнитивные функции человека (включая самообучение и поиск решений без
заранее заданного алгоритма) и получать результаты, сопоставимые, как минимум,
с результатами интеллектуальной деятельности человека при решении задач
компьютерного зрения, обработки естественного языка, распознавания и синтеза
речи, поддержки принятия решений и других практически значимых задач обработки
данных».
По ГОСТ Р 59391-2021. Этот стандарт, хотя и кажется охватывающим очень
широкую предметную область, относится к поведению пешеходов и водителей
на дорогах общего пользования.
Примечание редакции. В самих ГОСТах сказано:
тексты стандартов следует искать в «системе общего пользования – на официальном
сайте Федерального агентства по техническому регулированию и метрологии
в сети Интернет (www.gost.ru)». Однако, на этом сайте реализована только
одна функция: редирект на сайт Росстандарта. На сайте же Росстандарта их
найти невозможно – поиск ни по номеру, ни по названию ГОСТа не работает.
Найти тексты ГОСТов можно поиском в Рунете.
В
оглавление