ВОЗ выпустила рекомендации по этичному использованию генеративного искусственного интеллекта в здравоохранении
В стремлении к этическому управлению продвижением генеративных искусственный интеллект (ИИ) в здравоохранении, Всемирная организация здравоохранения (ВОЗ) выпустила комплексное руководство по большим мультимодальным моделям (LMM). Эти модели, способные принимать разнообразные входные данные, такие как текст, видео и изображения, получили беспрецедентное распространение благодаря таким платформам, как ChatGPT, Бард и Берт входят в общественное сознание в 2023 году.
Руководство ВОЗ, состоящее из более чем 40 рекомендаций, адресовано правительствам, технологическим компаниям и поставщикам медицинских услуг и направлено на обеспечение ответственного использования LMM для укрепления и защиты здоровья населения. Доктор Джереми Фаррар, главный научный сотрудник ВОЗ, подчеркнул потенциальную пользу генеративный ИИ технологии в здравоохранении, но подчеркнул необходимость прозрачной информации и политики для управления соответствующими рисками.
LMM, известные своей имитацией человеческого общения и способностью выполнять задачи, не запрограммированные явно, имеют пять широких применений в здравоохранении, как указано ВОЗ. К ним относятся диагностика и клиническая помощь, использование под руководством пациента для исследования симптомов и лечения, канцелярские и административные задачи в электронных медицинских записях, обучение врачей и медсестер посредством моделирования встреч с пациентами, а также научные исследования и разработка лекарств для выявления новых соединений.
Однако в руководстве подчеркиваются документально подтвержденные риски, связанные с LMM, включая производство ложной, неточной или предвзятой информации. Это наносит потенциальный вред людям, полагающимся на такую информацию для принятия важных решений в отношении здоровья. Качество и предвзятость данных обучения, касающихся таких факторов, как раса, этническая принадлежность, происхождение, пол, гендерная идентичность или возраст, могут поставить под угрозу целостность результатов LMM.
Помимо индивидуальных рисков, ВОЗ признает наличие более широких проблем для систем здравоохранения, связанных с LMM. К ним относятся опасения по поводу доступности и ценовой доступности самых передовых LMM, потенциальная «предвзятость автоматизации» со стороны медицинских работников и пациентов, а также информационной безопасности уязвимости, ставящие под угрозу информацию о пациентах и надежность алгоритмов искусственного интеллекта в сфере здравоохранения.
Необходимо вовлечение заинтересованных сторон для развертывания LLM
Для решения этих проблем ВОЗ подчеркивает необходимость участия различных заинтересованных сторон на протяжении всего процесса разработки и внедрения LMM. Правительства, технологические компании, поставщики медицинских услуг, пациенты и гражданское общество призваны активно участвовать в обеспечении ответственного использования технологий искусственного интеллекта.
Руководство содержит конкретные рекомендации для правительств, возлагая на них основную ответственность за установление стандартов разработки, внедрения и интеграции LMM в общественное здравоохранение и медицинскую практику.
Правительствам настоятельно рекомендуется инвестировать или предоставлять некоммерческую или государственную инфраструктуру, включая вычислительные мощности и общедоступные наборы данных, доступные разработчикам в различных секторах. Эти ресурсы будут зависеть от соблюдения пользователями этических принципов и ценностей. Законы, политика и правила должны использоваться для обеспечения того, чтобы LMM в здравоохранении выполняли этические обязательства и стандарты прав человека, защищая такие аспекты, как достоинство, автономия и конфиденциальность.
В руководстве также предлагается поручить регулирующим органам, существующим или новым, оценивать и утверждать LMM и приложения, предназначенные для использования в здравоохранении, в рамках ограничений имеющихся ресурсов. Кроме того, для крупномасштабного развертывания LMM рекомендуется проводить обязательный аудит после выпуска и оценку воздействия независимыми третьими сторонами. Эти оценки должны включать вопросы защиты данных и прав человека, а результаты и воздействия должны быть дезагрегированы по характеристикам пользователей, таким как возраст, раса или инвалидность.
На разработчиков LMM также возлагаются ключевые обязанности. Им настоятельно рекомендуется обеспечить участие потенциальных пользователей и всех прямых и косвенных заинтересованных сторон, включая поставщиков медицинских услуг, научных исследователей, медицинских работников и пациентов, на ранних этапах Разработка ИИ. Прозрачные, инклюзивные и структурированные процессы проектирования должны позволять заинтересованным сторонам поднимать этические вопросы, высказывать опасения и вносить свой вклад.
Кроме того, LMM должны быть спроектированы так, чтобы хорошо работать.defiрешать задачи с необходимой точностью и надежностью для улучшения систем здравоохранения и продвижения интересов пациентов. Разработчики также должны обладать способностью прогнозировать и понимать потенциальные побочные результаты своих приложений ИИ.
Отказ от ответственности
В соответствии с Руководство трастового проектаОбратите внимание, что информация, представленная на этой странице, не предназначена и не должна интерпретироваться как юридическая, налоговая, инвестиционная, финансовая или любая другая форма консультации. Важно инвестировать только то, что вы можете позволить себе потерять, и обращаться за независимой финансовой консультацией, если у вас есть какие-либо сомнения. Для получения дополнительной информации мы предлагаем обратиться к положениям и условиям, а также к страницам справки и поддержки, предоставленным эмитентом или рекламодателем. MetaversePost стремится предоставлять точную и объективную отчетность, однако рыночные условия могут быть изменены без предварительного уведомления.
Об авторе
Кумар — опытный технический журналист, специализирующийся на динамических пересечениях искусственного интеллекта и машинного обучения, маркетинговых технологий и новых областях, таких как криптография, блокчейн и NFTс. Имея более чем трехлетний опыт работы в отрасли, Кумар зарекомендовал себя в создании убедительных повествований, проведении содержательных интервью и предоставлении всеобъемлющей информации. Опыт Кумара заключается в создании эффективного контента, включая статьи, отчеты и исследовательские публикации для известных отраслевых платформ. Обладая уникальным набором навыков, сочетающим в себе технические знания и умение рассказывать истории, Кумар преуспевает в ясной и увлекательной передаче сложных технологических концепций разнообразной аудитории.
Другие статьи
Кумар — опытный технический журналист, специализирующийся на динамических пересечениях искусственного интеллекта и машинного обучения, маркетинговых технологий и новых областях, таких как криптография, блокчейн и NFTс. Имея более чем трехлетний опыт работы в отрасли, Кумар зарекомендовал себя в создании убедительных повествований, проведении содержательных интервью и предоставлении всеобъемлющей информации. Опыт Кумара заключается в создании эффективного контента, включая статьи, отчеты и исследовательские публикации для известных отраслевых платформ. Обладая уникальным набором навыков, сочетающим в себе технические знания и умение рассказывать истории, Кумар преуспевает в ясной и увлекательной передаче сложных технологических концепций разнообразной аудитории.
