Лента новостей → Исследователи выступают за разделение ролей между ИИ и людьми
Предлагаемая структура обеспечивает более интеллектуальную интеграцию ИИ в радиологии
Известный врач и ученый, доктор медицинских наук Эрик Дж. Топол и эксперт по искусственному интеллекту из Гарварда Пранав Раджпуркар, доктор философии, в редакционной статье, опубликованной сегодня в журнале Radiology , выступают за четкое разделение ролей между системами искусственного интеллекта и рентгенологами .
«Мы застряли между недоверием и зависимостью и упускаем весь потенциал ИИ», — сказал доктор Раджпуркар, доцент кафедры биомедицинской информатики Гарвардского университета.
Авторы призывают переосмыслить вспомогательную роль ИИ, призванного работать вместе с врачами-рентгенологами для повышения точности диагностики. Однако до сих пор полная интеграция ИИ в рабочие процессы рентгенологов не оправдала ожиданий.
«Пока рано делать окончательные выводы», — сказал доктор Топол, профессор и исполнительный вице-президент Scripps Research. «Однако несколько недавних исследований GenAI не продемонстрировали столь ожидаемого синергетического эффекта между ИИ и врачами».
«Современные данные свидетельствуют о том, что ни полностью интегрированные вспомогательные методы, ни полная автоматизация не являются оптимальными», — сказал доктор Раджпуркар. «Рентгенологи не знают, когда доверять ИИ, а когда — себе. Добавьте сюда ошибки ИИ, и вы получите настоящий шторм неопределенности».
Внедрение вспомогательного ИИ столкнулось с серьёзными трудностями, включая когнитивные искажения, из-за которых рентгенологи игнорируют рекомендации ИИ или чрезмерно полагаются на них. Несогласованность стимулов, неясность рабочих процессов, вопросы ответственности и экономические модели, не способствующие интеграции ИИ, также замедляют его внедрение.
«После многих лет ажиотажа проникновение ИИ в рентгенологию США остаётся на удивление низким», — сказал доктор Раджпуркар. «Это говорит о том, что мы внедряем ИИ, словно посыпаем цифровую пыльцу волшебными палочками на нарушенные рабочие процессы. Реальная возможность заключается не в незначительном повышении точности, а в трансформации рабочих процессов».
Новые модели проясняют роли
Авторы предлагают осторожный, взвешенный подход к разделению ролей, основанный на строгой клинической валидации и практических данных, как наиболее прагматичный подход. Их концепция включает три модели:
- Последовательная модель AI-First — при необходимости ИИ обрабатывает начальный сегмент рабочего процесса (например, готовит клинический контекст из электронных медицинских карт), после чего рентгенолог предоставляет экспертную интерпретацию.
- Последовательная модель «Врач прежде всего» — рентгенолог инициирует процесс диагностики, в то время как ИИ выполняет дополнительные задачи, такие как создание отчетов и последующих рекомендаций для оптимизации рабочего процесса.
- Модель распределения случаев — случаи сортируются на основе сложности и ясности, некоторые из них обрабатываются полностью искусственным интеллектом, другие — рентгенологом, а остальные — с помощью комбинации обоих методов.
«Радиологи оказались в худшем положении: они боятся полностью доверять ИИ, но слишком зависимы, чтобы игнорировать его», — сказал доктор Раджпуркар. «Чёткое разделение ролей разрывает этот порочный круг».
Авторы предполагают, что учреждения будут реализовывать свою структуру посредством повторяющихся взаимодействий, а не строгих последовательных процессов.
«Мы предлагаем общую схему, но настоящие инновации появятся, когда рентгенологи передовой линии адаптируют её к своим конкретным потребностям», — сказал доктор Раджпуркар. «Учреждения, вероятно, откроют для себя гибридные подходы, которые мы пока даже не представляли».
Например, травматологический центр может использовать модель AI-First для анализа рентгенограмм грудной клетки в течение ночи, а затем перейти на модель Doctor-First при обучении ординаторов. В рамках модели распределения случаев система скрининга с использованием ИИ может выявлять и «отменять» нормальные результаты, передавая рентгенологу для анализа только аномальные случаи.
«Прорывной момент наступает, когда врачи перестают спрашивать: «Какая модель?» и начинают спрашивать: «Какая модель и когда?»», — сказал он. «Вот тут-то и происходит волшебство — адаптивные рабочие процессы, отвечающие реальным клиническим потребностям, а не жёстким теоретическим построениям».
Реализация их видения потребует тщательно разработанных пилотных программ для тестирования моделей в реальных клинических условиях, измерения точности, эффективности рабочего процесса, удовлетворенности рентгенологов и последующих результатов.
«Результаты должны быть доступны открыто; эта область крайне нуждается в честных исследованиях конкретных случаев», — сказал доктор Раджпуркар. «Наша система даёт рентгенологам не очередное обещание волшебства ИИ, а конкретную, практичную дорожную карту интеграции, учитывающую как текущие ограничения, так и неизбежное развитие ИИ».
Исследователи также предлагают создать процедуру клинической сертификации для систем искусственного интеллекта, с которой ни одно агентство не в состоянии справиться в одиночку.
«Управлению по санитарному надзору за качеством пищевых продуктов и медикаментов необходимо поддерживать надзор за безопасностью, но клиническая сертификация требует понимания интеграции реальных рабочих процессов, которая выходит за рамки традиционного регулирования», — сказал доктор Раджпуркар. «Нам нужны новые модели, возможно, независимые органы сертификации с участием различных заинтересованных сторон и консорциумов, объединяющих клинический опыт, технические знания и опыт внедрения».
Исследователи ожидают появления систем искусственного интеллекта для общей медицины, способных выполнять рутинные задачи, готовить дела и составлять отчеты, одновременно изучая закономерности практики.
«Мы пока не достигли этой цели», — сказал доктор Раджпуркар. «Но когда эти системы смогут эффективно справляться со всем спектром задач, которые решает старший врач-ординатор, весь разговор изменится. Это переломный момент, которого мы ждём».
Внимание, автоперевод! За ошибки перевода ответственности не несём. Первоисточник по ссылке.