новости государства, права, общества по существу

Постановление Правительства Москвы от 3 декабря 2020 г. N 2134-ПП «Об утверждении Положения о реализации в городе Москве экспериментального правового режима в сфере применения технологий искусственного интеллекта»

В целях реализации Федерального закона от 24 апреля 2020 г. N 123-ФЗ
«О проведении эксперимента по установлению специального регулирования в
целях создания необходимых условий для разработки и внедрения технологий
искусственного интеллекта в субъекте Российской Федерации — городе
федерального значения Москве и внесении изменений в статьи 6 и 10
Федерального закона «О персональных данных» Правительство Москвы
постановляет:
1. Утвердить Положение о реализации в городе Москве
экспериментального правового режима в сфере применения технологий
искусственного интеллекта (приложение).
2. Контроль за выполнением настоящего постановления возложить на
министра Правительства Москвы, руководителя Департамента информационных
технологий города Москвы Лысенко Э.А.

Мэр Москвы С.С. Собянин

Приложение
к постановлению Правительства Москвы
от 3 декабря 2020 г. N 2134-ПП

Положение
о реализации в городе Москве экспериментального правового режима в сфере
применения технологий искусственного интеллекта

1. Положение о реализации в городе Москве экспериментального
правового режима в сфере применения технологий искусственного интеллекта
(далее — Положение) определяет условия и порядок разработки, создания,
внедрения, реализации, оборота отдельных технологий искусственного
интеллекта и производства, реализации, оборота отдельных товаров (работ,
услуг) на основе указанных технологий, а также требования к указанным
технологиям и (или) товарам (работам, услугам), случаи и порядок
использования результатов применения искусственного интеллекта, случаи
обязательного применения и (или) учета результатов применения
искусственного интеллекта в деятельности органов исполнительной власти
города Москвы и подведомственных им организаций.
2. При разработке отдельных технологий искусственного интеллекта
должны соблюдаться следующие условия:
2.1. Обеспечение безопасности технологий искусственного интеллекта и
соблюдения прав и свобод человека и гражданина, законных интересов
юридических лиц, публичных интересов, а также недопустимость разработки
технологий искусственного интеллекта в целях умышленного причинения вреда
(ущерба) физическим и юридическим лицам, публично-правовым образованиям.
2.2. Недопустимость возникновения рисков причинения вреда жизни или
здоровью человека, более высоких в сравнении с рисками, сопровождающими
аналогичные процессы, проходящие без использования технологий
искусственного интеллекта.
2.3. Соответствие технологий искусственного интеллекта требованиям
федеральных законов, иных правовых актов Российской Федерации, законов
города Москвы, иных правовых актов города Москвы.
2.4. Обязательность прогнозирования предполагаемого влияния
разработок на охраняемые законом общественные отношения.
2.5. Принятие необходимых мер, направленных на защиту охраняемых
законом общественных отношений, включая защиту информации ограниченного
доступа, а также исключение возможности несанкционированного внесения
изменений в программное обеспечение, алгоритмы работы искусственного
интеллекта.
2.6. Обеспечение возможности осуществления контроля за применением
технологий искусственного интеллекта, включая наличие возможности
моментального, в том числе аварийного, отключения продукта (объекта), в
котором применяются технологии искусственного интеллекта.
2.7. Нацеленность на прозрачность процесса функционирования
технологии искусственного интеллекта, в том числе алгоритмов его работы.
2.8. Обеспечение фиксирования в установленном порядке информации о
применении технологий искусственного интеллекта в течение срока действия
экспериментального правового режима, а также хранения указанной
информации по окончании эксперимента в течение 10 лет.
2.9. Обеспечение совместимости информационных систем и устройств
(технических средств), применяемых при разработке технологий
искусственного интеллекта (открытая среда разработки).
2.10. Преимущественное использование отечественных технологий.
3. Создание технологий искусственного интеллекта, а также
производство отдельных товаров на их основе осуществляются при соблюдении
условий, указанных в пункте 2 настоящего Положения, а также при
соблюдении следующих условий:
3.1. Программирование технологий искусственного интеллекта и
производимых на их основе отдельных товаров, учитывающее возможность
возникновения аварийной ситуации.
3.2. Использование достоверных наборов данных, не допускающих
дискриминации по какому-либо признаку.
4. Внедрение технологий искусственного интеллекта осуществляется при
соблюдений# условий, указанных в пунктах 2 и 3 настоящего Положения, а
также при соблюдении следующих условий:
4.1. Необходимость тестирования (апробации) технологий
искусственного интеллекта.
4.2. Определение условий использования технологий искусственного
интеллекта, включая возможность установления ограничений их применения, в
том числе по кругу лиц, времени и месту.
5. Реализация и оборот технологий искусственного интеллекта,
отдельных товаров (работ, услуг) на их основе осуществляются при
соблюдении условий, указанных в пунктах 2-4 настоящего Положения, а также
при соблюдении следующих условий:
5.1. Обеспечение участником экспериментального правового режима
доступа к информации об условиях применения технологий искусственного
интеллекта, использования отдельных товаров (выполнения работ, оказания
услуг) на их основе государственным органам, а также иным лицам в случаях
и порядке, установленных федеральными законами, иными правовыми актами
Российской Федерации, законами города Москвы, иными правовыми актами
города Москвы.
5.2. Наличие обязательного экземпляра товара или иного материального
носителя, фиксирующего технологию искусственного интеллекта (исходный
код, результаты выполнения работ, оказания услуг), который бессрочно
хранится участником экспериментального правового режима, а также
передается уполномоченному органу на хранение, осуществляемое в порядке и
сроки, определенные уполномоченным органом.
6. Порядок разработки, создания, внедрения, реализации, оборота
отдельных технологий искусственного интеллекта и (или) производства,
реализации, оборота отдельных товаров (работ, услуг) на их основе, а
также требования к указанным технологиям и (или) товарам (работам,
услугам), случаи и порядок использования результатов применения
искусственного интеллекта, случаи обязательного применения и (или) учета
результатов применения искусственного интеллекта в деятельности органов
исполнительной власти города Москвы и подведомственных им организаций
определяются Правительством Москвы для сфер применения и (или) отдельных
случаев применения технологий искусственного интеллекта, разработка и
внедрение которых планируется в рамках экспериментального правового
режима.

Обзор документа

В Москве планируется реализовать экспериментальный правовой режим в сфере применения технологий искусственного интеллекта.
Определены условия и порядок разработки, создания, внедрения, реализации и оборота отдельных технологий искусственного интеллекта и производства, реализации, оборота отдельных товаров (работ, услуг) на основе таких технологий.
Так, при разработке технологий предписывается соблюдать ряд условий, в том числе: обеспечение безопасности технологий искусственного интеллекта и соблюдения прав и свобод человека и гражданина; недопустимость возникновения рисков причинения вреда жизни или здоровью человека; обязательность прогнозирования предполагаемого влияния разработок на охраняемые законом общественные отношения; преимущественное использование отечественных разработок и т.д.
При создании технологий искусственного интеллекта должно обеспечиваться программирование технологий и производимых на их основе товаров, учитывающее возможность возникновения аварийных ситуаций; использование достоверных наборов данных, не допускающих дискриминацию по какому-либо признаку.
Перед внедрением технологии должны пройти тестирование (апробацию), должны быть определены условия использования таких технологий, включая возможность установления ограничений их применения.