Этические проблемы встали на пути ИИ

Заместитель министра здравоохранения (Минздрав России) Павел Пугачев отметил, что любая новая технология для того, чтобы она стала промышленной и начала тиражироваться должна преодолеть ряд барьеров и получить доверие. По его словам, на ИИ-технологии, в результате пандемии, повысился спрос. "Пандемия создала огромный массив данных, с точки зрения компьютерной томографии (КТ), которых было сделано за эти два года беспрецедентное количество. Это дает нам возможности, не только с точки зрения разметки, но и с точки зрения ретроспективного анализа", - уточнил он. Директор по направлению "Цифровая трансформация отраслей и компаний" АНО "Цифровая экономика" Алексей Сидорюк отмечает, что на сегодняшний день мы переживаем бум ИИ в медицине, спровоцированный пандемией. "Мы видим огромное количество решений, созданных за время пандемии. Это и распознавание КТ-снимков легких, и моделирование новых вакцин, и прогнозирование распространения COVID-19. При этом мы видим, что сделали огромные шаги вперед в этом вопросе Минздрав, правительство РФ, ФМБА и Минпромторг", - говорит Алексей Сидорюк. Заместитель руководителя Аналитического центра при правительстве РФ – руководитель Центра экспертизы по реализации федерального проекта "Искусственный интеллект" Сергей Наквасин представил исследование индекса готовности приоритетных отраслей экономики российской федерации к внедрению ИИ к концу 2021 года. "Мы определили, что здравоохранение находится в средней категории быстроразвивающихся отраслей с точки зрения внедрения ИИ. Эта группа отраслей характеризуется тем, что у нее средний уровень внедрения ИИ 20%. Мы выяснили, что почти 16% организаций здравоохранения используют ИИ. В ближайшие три года еще 20% заявляют, что начнут внедрять", - рассказал Сергей Наквасин. По его словам, по результатам исследования, в результате внедрения решений с ИИ, примерно на 25% повышается эффективность экономических процессов и скорость принятия определенных решений. "Есть достаточно серьезная проблема, связанная со сбором данных. Только 6,7% организаций здравоохранения смогли качественно выстроить у себя систему сбора и анализа данных. Это ключевой фактор, который может помочь совершить рывок и превратить нынешние 16% использующих ИИ в 36%", - уточнил Сергей Наквасин. Он рассказал, что из трудностей, которые называли компании - это финансовые ограничения, с точки зрения внедрения технологий и недостаток специалистов с необходимыми компетенциями. "Очень важно на наш взгляд, 73% организаций использующих ИИ используют его на базе отечественных технологических решений. Это даже не импортозамещение, они изначально внедряют отечественные решения. С этой точки зрения, ИИ в нашей стране – это передовой лидерский сегмент по отношению к другим секторам ИТ-индустрии", - считает он. Кроме того, он отметил этические проблемы. "И с медицинской точки зрения в этом плане есть специфические вопросы применения ИИ. Их нужно решить для того, чтобы меньше опасений и рисков видели те, кто внедряют эти решения в своих организациях", - считает Сергей Наквасин. Он предложил сделать отраслевой кодекс этики в сфере ИИ в медицине. По его словам, это повысит доверие к ИИ-технологиям, в контексте применения в здравоохранении. Напомни, что в 2021 году в России принят кодекс этики в сфере ИИ. Генеральный директор "Интерлоджик" Сергей Сорокин считает, что есть достаточно много проблем в использовании ИИ, связанных не только с финансированием и регуляторикой. "Например, есть вопросы связанные со стабильностью результатов исследований. Есть много исследований, которые говорят о том, что еще требуется доработка такого рода продуктов. Есть проблемы с интеграцией исследований в техническую практику, а также сложности с встраиванием ИИ-технологии в имеющиеся процессы в клиниках", - уточнил Сергей Сорокин. Также он отметил, что стало сложнее работать с зарубежными партнерами, но работа с ними продолжается. "С международными проектами продолжается сотрудничество. У нас есть большой проект в Египте и Бразилии. Мы считаем, что сотрудничество продолжится, хотя и есть некоторые нюансы, которые нужно будет учитывать. Мы активно смотрим на международное сотрудничество, но будем корректировать стратегию", - рассказал Сергей Сорокин. Директор по развитию Webiomed Александр Гусев также отметил несколько барьеров развития ИИ в медицине. Среди них законодательные ограничения на сбор и обработку обезличенных электронных медицинских данных. Отсутствие финансирования, сложности с интеграцией, а также проблемы доверия. "Мы на своем примере четко видим проблемы, связанные с этикой применения ИИ и с доверием со стороны лиц, принимающих решение и врачей. Наш опыт говорит о том, что у ИИ в сфере практического применения уже есть и явные стимулы. Во-первых, эти технологии позволяют автоматически формировать цифровой профиль пациента, использовать его для принятия управленческих, регуляторных и клинических решений. Во-вторых, возможность автоматического выявления целевых групп пациентов для дополнительной профилактики заболевания и автоматическое получение управленческой аналитики на основании электронной медицинской карты", - уверен Александр Гусев. Генеральный директор компании "Третье мнение" Анна Мещерякова отметила, что эффекты, которые технологии ИИ достигают, возможны при работе с центральными архивами в комбинации с референсными центрами и интеграцией с единой государственной информационной системой здравоохранения. "Есть примеры, где ИИ может работать с точностью, превышающей точность врача, а самое главное с более высокой эффективностью, в случаях нормы. На наш взгляд, наиболее эффективная и перспективная модель внедрения ИИ-технологии – это там, где очень много рутины и нормы. Где действительно эффект человеческой ошибки максимальный. Чтобы высококвалифицированного врача направить на другие задачи. Скорее всего это исследования скринингового характера. Кроме того, огромный эффект может быть в формате видеоаналитики. Сегодня технология компьютерного зрения позволяет это взять на себя и заменить оператора", - считает Анна Мещерякова. Ссылка на источник