Всемирная организация здравоохранения (ВОЗ) выпустила новое руководство по этике и управлению большими мультимодальными моделями (БММ) – разновидностью быстро развивающейся технологии генеративного искусственного интеллекта (ИИ), нашедшей широкое применение в медицине.

В руководстве изложены более 40 рекомендаций для рассмотрения правительствами, технологическими компаниями и поставщиками медицинских услуг с целью обеспечения надлежащего использования БММ для укрепления и защиты здоровья населения.

БММ могут принимать один или несколько типов входных данных, таких как текст, видео и изображения, и генерировать выходные данные разного типа. Они уникальны тем, что имитируют общение с живым человеком и способны выполнять задачи, для которых не были запрограммированы изначально. БММ вошли в повседневную человеческую жизнь быстрее, чем любое другое потребительское приложение в истории.

«Технологии генеративного ИИ обладают большим потенциалом для улучшения услуг здравоохранения, но это произойдет только в том случае, если те, кто разрабатывает, регулирует и использует эти технологии, полностью учитывают связанные с ними риски, – сказал доктор Джереми Фаррар, главный научный сотрудник ВОЗ. – Нам необходима прозрачная информация и ясная политика для управления проектированием, разработкой и использованием БММ для достижения лучших результатов в здравоохранении».

Новое руководство ВОЗ описывает пять основных областей применения БMM в здравоохранении:  

Диагностика и клинический уход – например, ответы на письменные запросы пациентов;

Изучение симптомов и моделей лечения;

Канцелярские и административные задачи – например, документирование визитов пациентов и заполнение электронных медицинских карт;

Медицинское образование, включая организацию виртуальных встреч с пациентами;

Научные исследования и разработка лекарств, в том числе путем поиска новых химических соединений.

В современной практике уже подтвержден и задокументирован риск выработки искусственным интеллектом ложных, неточных или неполных медицинских показаний. Кроме того, БММ могут получить для обработки данные низкого качества или предвзятые характеристики, базирующиеся на принадлежности пациента к определенной расе, этнической группе, полу или возрасту.

Новое руководство Всемирной организации здравоохранения содержит рекомендации для правительств, которые, как отмечают в ВОЗ, несут основную ответственность за установление стандартов для разработки и внедрения БММ, а также их интеграции и использования. 

В частности, ВОЗ советует правительствам предоставлять некоммерческую или государственную инфраструктуру, включая вычислительные мощности и базы данных, для разработчиков ИИ при условии соблюдения ими этических принципов; использовать законы, политику и нормативные акты для обеспечения того, чтобы БММ, используемые в здравоохранении и медицине, соответствовали этическим обязательствам и стандартам в области прав человека. Кроме того, правительствам рекомендовано создать регулирующий орган для оценки и утверждения БММ, предназначенных для использования в здравоохранении или медицине.

Первоисточник: news.un.org »