ЮНЕСКО начинает глобальную онлайн-консультацию по этическим аспектам искусственного интеллекта

ЮНЕСКО начинает глобальную онлайн-консультацию по этическим аспектам искусственного интеллекта (ИИ), с тем чтобы дать людям во всем мире возможность участвовать в работе международной группы экспертов по ИИ.

Специальной группе экспертов (СГЭ) было поручено подготовить первоначальный вариант проекта рекомендации об этических аспектах искусственного интеллекта, который будет представлен на рассмотрение государствам-членам ЮНЕСКО в ноябре 2021 года. В случае принятия, проект станет первым глобальным нормативным документом, посвященным развитию и применению ИИ.

ЮНЕСКО приглашает организации гражданского общества, лица, ответственные за принятие решений, представителей широкой общественности, межправительственные и неправительственные организации, представителей средств массовой информации, частный сектор, научное сообщество и все другие заинтересованные стороны представить до 31 июля 2020 г. свои замечания касательно текста проекта.

Применительно к медицине в тексте первоначального варианта проекта содержится рекомендация создать на государственном уровне механизм сертификации систем ИИ, аналогичный тому, что используется для сертификации медицинского оборудования.

«Речь может идти о различных классах сертификации в зависимости от уровня «чувствительности» области применения и ожидаемого воздействия на жизнь человека, окружающую среду и этические аспекты, в том числе такие, как равенство, разнообразие и культурные ценности. Такой механизм мог бы предусматривать различные уровни экспертизы систем, данных и соблюдения этических норм. В то же время он не должен препятствовать инновационной деятельности или ставить в невыгодное положение небольшие предприятия или начинающие компании, требуя от них    большого объема бумажной работы. Указанные механизмы, при необходимости подтверждаемые путем повторной сертификации, будут также включать стандартный компонент мониторинга для обеспечения надежности, неизменной добросовестности и соблюдения этических требований на всех этапах жизненного цикла ИИ-систем», сказано в документе.

В России уже достигнут значительный прогресс в этом направлении. Благодаря деятельности рабочей группы при Росздравнадзоре, куда вошли эксперты отрасли, в том числе из Ассоциации «НБМЗ», в феврале текущего года ВРИО руководителя Росздравнадзора Д.В. Пархоменко подписал письмо О2и-297/20  об отнесения программного обеспечения к медицинским изделиям.

Согласно ему, если ПО предназначено производителем для оказания медицинской помощи и если оно  каким-то образом интерпретирует поданную в него медицинскую информацию – то такое ПО следует относить к медицинскому изделию. Если таких признаков нет – то это самое обычное ПО и его регистрировать как МИ не надо.

А уже в апреле в России был зарегистрирован первый программный продукт с искусственным интеллектом, успешно прошедшим технические и клинические испытания и получившим разрешение на применение в медицине Российской Федерации. Им стала система  «Webiomed», главным направлением которой является управление рисками развития заболеваний.

В июле (после вынужденной паузы, вызванной пандемией) возобновила свою работу вторая рабочая группа при РЗН, с помощью которой будут разработаны адекватные для ПО правила классификации по классам потенциального риска применения, требований к маркировке и эксплуатационной документации, а также будет внедрена процедура клинической оценки.