Насколько точны объяснения ролей рентгенологов, созданные с помощью ИИ в ориентированных на пациента медиа? Не настолько, насколько следовало бы, согласно исследовательской статье, опубликованной в журнале Канадской ассоциации рентгенологов .

Искажение информации может вызвать путаницу среди пациентов, написала группа под руководством Юсифа Аль-Насера, доктора медицины, из Trillium Health Partners в Миссиссоге, Онтарио, Канада. 

«Генеративный ИИ часто искажает роль и демографические данные рентгенологов, усиливая стереотипы и общественное замешательство», — отметила группа.

Генеративные инструменты ИИ, такие как модели преобразования текста в изображение и видео, все чаще используются для ознакомления пациентов со сценариями здравоохранения, «открывая новые возможности для образования и обмена сообщениями в области общественного здравоохранения», — написала команда. Но эти технологии также «вызывают обеспокоенность по поводу предвзятости и репрезентативности», а «исследования показали, что системы ИИ могут усиливать существующие предвзятости, связанные с полом, этнической принадлежностью и профессиональными ролями, что потенциально подрывает справедливость и инклюзивность в клинической среде».

Изображение предоставлено журналом Канадской ассоциации рентгенологов. Статья [и изображение] распространяется на условиях лицензии Creative Commons Attribution 4.0 (https://creativecommons.org/licenses/by/4.0/), которая разрешает любое использование, воспроизведение и распространение работы без дополнительного разрешения при условии указания источника оригинальной работы, как указано на страницах SAGE и Open Access (https://us.sagepub.com/en-us/nam/open-access-at-sage).

По словам команды, эта проблема может быть особенно сложной, когда дело доходит до различения рентгенологов и технологов. Пациенты могут путаться в этих двух типах поставщиков; на самом деле, исследователи сослались на исследование 2021 года, которое показало, что половина пациентов считали, что сканирование выполняют рентгенологи.

«Недопонимание того, кто проводит и кто интерпретирует визуализационные исследования, может привести к неверно направленным вопросам, нереалистичным ожиданиям и снижению признания диагностической компетентности рентгенологов», — пояснили они. «Одно из самых распространенных заблуждений изображает рентгенологов как одиноких людей, запертых в темных комнатах, изолированных как от коллег, так и от пациентов, без прямого взаимодействия с пациентами. Этот устаревший образ упускает из виду развивающуюся и динамичную природу рентгенологии сегодня, где рентгенологи играют важную, совместную роль в уходе за пациентами и регулярно напрямую взаимодействуют как с пациентами, так и с многопрофильными медицинскими бригадами».

Группа провела исследование, в котором изучалось, сохраняются ли заблуждения о рентгенологах и технологах в материалах для пациентов, созданных с помощью ИИ. Исследование включало 1380 изображений и видео, созданных восемью моделями ИИ для преобразования текста в изображение/видео (DALLE-3, Imagen-3, Firefly, Grok-2, SDXL, FLUX, Hailuo и SORA). Пять экспертов оценивали следующие факторы:

• Точность выполнения задач, специфичных для конкретной роли (то есть для рентгенологов — интерпретация изображений, составление диагностических отчетов или выполнение интервенционных процедур, а для технологов — управление оборудованием для получения изображений, позиционирование пациентов для обследования и подготовка кабинетов для обследования),
• Уместность одежды рентгенологов и технологов,
• Наличие оборудования для визуализации,
• Освещение окружающей среды,
• Разнообразие демографических переменных рентгенологов/технологов, таких как пол, раса/этническая принадлежность и возраст, а также
• Наличие стетоскопа, которым не пользуются ни рентгенологи, ни технологи.

После просмотра видеороликов команда обнаружила, что технологи были изображены точно в 82%, но только 56,2% изображений/видео рентгенологов соответствовали роли. Также было отмечено, что среди неточных изображений рентгенологов 79,1% искажали задачи медицинских радиационных технологов и что рентгенологи, изображенные в видеороликах, чаще были мужчинами (73,8%) и белыми (79,7%), в то время как изображения технологов были более разнообразными. Наконец, читатели сообщили, что внешний вид стетоскопов (45,4% для рентгенологов и 19,7% для технологов) и изображение рентгенологов в деловой одежде, а не в одежде медицинских работников, еще больше указывали на предвзятость.

Тот факт, что технологи изображены в медицинской форме, «подпитывает более широкий стереотип, который разделяет «тех, кто делает» от «тех, кто решает», позиционируя рентгенологов как технических работников без признания глубины их клинических знаний и важной роли в обеспечении высококачественного ухода за пациентами», — написала группа, в то время как «изображение рентгенологов преимущественно как пожилых белых мужчин в деловой одежде [и] в изолированных тускло освещенных помещениях может увековечить стереотипы о том, что этой специальности не хватает разнообразия и межличностного контакта».

Почему все это имеет значение? Потому что «представление напрямую влияет на карьерные устремления, доверие пациентов и разнообразие рабочей силы», по словам авторов, которые призывают к «сбалансированному отображению… [поддерживающего] более широкие усилия по внедрению показателей равенства в сфере здравоохранения в оценку ИИ».

Внимание, автоперевод! За ошибки перевода ответственности не несём. Первоисточник по ссылке.