12 Февраля 2025 Среда

ВОЗ представила принципы регулирования технологий ИИ в здравоохранении
Мария Никишина
Перспективы Регуляторы
20 октября 2023, 11:07

Фото: Е.Самарина/mos.ru
2638

Всемирная организация здравоохранения (ВОЗ) опубликовала принципы регулирования технологий искусственного интеллекта (ИИ) в отрасли. В документе указана необходимость проведения экспертизы безопасности и эффективности систем на основе ИИ и обеспечения диалога между заинтересованными сторонами – разработчиками, органами регулирования, производителями и пациентами. В ВОЗ полагают, что технологии ИИ могут быть полезны в условиях нехватки медицинских кадров.

В ВОЗ отмечают, что ИИ смогут изменить ситуацию в сфере здравоохранения благодаря быстрому увеличению массивов медицинских данных и развитию аналитических методов на основе машинного обучения. В частности, искусственный интеллект должен способствовать улучшению показателей здоровья населения за счет повышения качества клинических испытаний, более точного выбора методов диагностики и лечения заболеваний, а также дополнения знаний и навыков медработников.

«Вместе с тем процесс освоения технологий искусственного интеллекта, в том числе больших языковых моделей, происходит стремительно, иногда без досконального понимания механизмов их работы, что может приносить как пользу, так и вред конечным пользователям, включая медицинских специалистов и пациентов. При работе с медицинскими данными системы ИИ могут задействовать чувствительную личную информацию, конфиденциальность и целостность которой должна быть защищена при помощи надежных правовых и нормативных механизмов», – считают в ВОЗ.

Как отметил генеральный директор организации Тедрос Адханом Гебрейесус, созданное ВОЗ руководство поможет странам эффективно регулировать технологии ИИ, чтобы реализовать их потенциал, например, в лечении рака и диагностике туберкулеза, а также свести к минимуму связанные с этим риски.

ВОЗ предлагает шесть направлений регулирования технологий ИИ в сфере здравоохранения. Во-первых, необходимо вести соответствующую документацию – фиксировать все циклы решений и отслеживать процессы разработки. Во-вторых, следует комплексно решать вопросы, которые относятся к целевому назначению технологий, непрерывному обучению, а также вмешательству человека и угроз кибербезопасности. Для этого разработчики документа предлагают использовать более простые модели. Этому может поспособствовать четкое определение целевого назначения технологий ИИ.

Во избежание распространения систематических погрешностей и ошибок предлагается создать четкий порядок контроля качества данных, в том числе предусматривающий тщательную проверку систем перед их выпуском. Чтобы решать проблемы с конфиденциальностью и защитой данных, следует четко определить действие юрисдикции ряда режимов – Общего регламента по защите данных (GDPR) в Европе и Закона о мобильности и подотчетности медицинского страхования (HIPAA) в США. Экспертам предлагают продумать требования к получению согласий на обработку персональных данных.

ВОЗ также настаивает на укреплении сотрудничества между регулирующими органами, пациентами, медиками и представителями промышленности, чтобы обеспечить соответствие продуктов ИИ нормативным требованиям на протяжении их жизненного цикла.

«Системы ИИ имеют сложный характер, и их функционирование зависит не только от реализованного в них кода, но и от данных, которые используются в ходе обучения таких систем и накапливаются, например, в процессе работы медицинских учреждений и взаимодействия с пользователями. Чем качественнее регулирование, тем меньше риск того, что системы ИИ будут амплифицировать отклонения, присутствующие в тренировочных данных», – говорится в документе.

Эксперты ВОЗ указали на то, что в моделях ИИ бывает трудно обеспечить точную репрезентацию демографического состава населения – это приводит к систематическим погрешностям, неточностям и даже непригодности моделей. Чтобы уменьшить подобные риски, можно применять нормативные требования о раскрытии характеристик субъектов данных и целенаправленно корректировать их для обеспечения репрезентативности.

Ранее о необходимости регулирования в сфере ИИ заявили главы нескольких крупных транснациональных технологических компаний – Билл Гейтс, Илон Маск и Марк Цукерберг. Маск отметил, что последствия неправильного использования искусственного интеллекта очень серьезны: «Есть некоторая вероятность – выше нуля, – что ИИ убьет нас всех. Я думаю, что это низкая сумма, но некоторый шанс есть». Билл Гейтс при этом указал на высокий потенциал ИИ.

В феврале 2023 года сервис по поиску работы SuperJob опросил 1,6 тысячи россиян с целью выяснить их отношение к применению ИИ в медицине. Так, в текущем году по сравнению с 2021 годом число респондентов, доверяющих ИИ, возросло на 9 п. п. (до 51%). Хотя больше трети респондентов (38%) считают, что во время лечения пациенту необходимо не просто назначить нужные препараты, но и настроить на позитив – сделать это может только «живой доктор», поэтому положиться на ИИ в медицине нельзя. К помощи ИИ при постановке диагноза и назначении лечения не хотят прибегать 82% респондентов, из них 39% относятся к технологии крайне негативно.

Источник: ВОЗ

Картина дня: дайджест главных новостей от 12 февраля 2025 года

Мединдустрия

Сегодня, 22:30

В Госдуме рассмотрели меры господдержки фармпроизводителей. Главное

Фарминдустрия

Сегодня, 18:07

Минздрав расширил список индикаторов риска для санэпидконтроля

Мединдустрия

Сегодня, 16:35

Старшей медсестре сургутской больницы вынесен приговор по делу о доведении до самоубийства сотрудницы

Мединдустрия

Сегодня, 15:53

Татьяна Мухтасарова возглавила Департамент аудита здравоохранения и спорта Счетной палаты РФ

Мединдустрия

Сегодня, 14:30

Студентам-целевикам могут разрешить заключать второй договор с тем же заказчиком при поступлении в ординатуру

Медобразование

Сегодня, 13:34

Глава саратовского Минздрава указал на нехватку 3 млрд рублей для закупки льготных лекарств

Мединдустрия

Сегодня, 11:56

В Чите построят пансионат для пожилых и инвалидов за 1,9 млрд рублей

Мединдустрия

Сегодня, 10:35

В Кургане в 2026 году откроется филиал Российского университета медицины

Медобразование

Сегодня, 9:57

Картина дня: дайджест главных новостей от 11 февраля 2025 года