Согласно исследованию, опубликованному 16 июля в журнале Clinical Radiology , некоторые рентгенологи могут быть не в состоянии достоверно определить, были ли изображения созданы с использованием искусственного интеллекта.
В ходе исследования радиологи правильно идентифицировали изображения, созданные с помощью ИИ, примерно в 75% случаев, при этом различить изображения КТ и МРТ оказалось сложнее, написали Роберт Кроншоу, доктор философии, и Мишель Уильямс, доктор философии, из Эдинбургского университета в Шотландии.
«Эти результаты показывают, что сгенерированные ИИ радиологические изображения могут успешно использоваться для таких задач, как обучение моделей, но они также вызывают опасения по поводу потенциальной возможности злонамеренного использования этих инструментов в злонамеренных целях», — написали Кроншоу и Уильямс.
Синтетические изображения можно создавать с помощью текстовой подсказки и итеративного шумоподавления. Диффузионные модели могут создавать разнообразные выходные изображения на основе входных текстовых подсказок, при этом тонкая настройка, специфичная для конкретной области применения, улучшает качество изображения.
Исследователи изучали, могут ли рентгенологи различать реальные рентгеновские снимки и изображения, сгенерированные искусственным интеллектом. Они оценивали синтетические рентгеновские снимки, созданные с использованием точно настроенной модели стабильной диффузии.
Восемь наиболее неправильно классифицированных синтетических изображений (наиболее убедительные поддельные изображения). Изображения A, B, C, D, E, F, G и H были наиболее редко правильно классифицированными изображениями: 24%, 43%, 59%, 64%, 69%, 71%, 71% и 73% соответственно. Все изображения сгенерированы ИИ. Изображения A, B и C — компьютерная томография головы. Изображения D и E — компьютерная томография грудной клетки. Изображение F — компьютерная томография сердца. Изображение G — магнитно-резонансная томография опорно-двигательного аппарата. Изображение H — магнитно-резонансная томография головы. Изображения переизданы под лицензией Creative Commons (CC BY 4.0).
В исследовании использовались 10 реальных изображений и 20 изображений, сгенерированных искусственным интеллектом. Исследователи опросили 182 рентгенолога об их уверенности в принятых решениях по пятибалльной шкале (пять — наивысший балл).
Они сообщили о следующих результатах:
- Рентгенологи правильно идентифицировали изображения, созданные с помощью ИИ, в 75,0% случаев по сравнению с 83,4% реальных изображений (p = 0,19).
- Рентгенологи чаще правильно идентифицировали ультразвуковые изображения (88%) и рентгеновские снимки (91%), чем изображения поперечного сечения, такие как КТ (70%) или МРТ (77%). Однако эти различия не достигли статистической значимости (p = 0,015).
- Рентгенологи сообщили о схожей степени уверенности в качестве изображений, созданных с помощью ИИ, и реальных изображений (3,50 против 3,56, p = 0,49).
Наконец, исследователи не обнаружили различий в классификации в зависимости от количества лет опыта (p = 0,57) или знакомства с ИИ (p = 0,37). Однако рентгенологи, имеющие соответствующие специализированные интересы, чаще правильно классифицировали изображения (80,7% против 76,9%, p = 0,012).
Кроншоу и Уильямс подчеркнули, что синтетические изображения могут помочь улучшить обучение моделей ИИ, решить проблемы конфиденциальности, уменьшить предвзятость в наборах данных и использоваться в образовании. Однако они признали, что их результаты «также вызывают опасения по поводу потенциального злоупотребления этими инструментами в злонамеренных целях».
Они призвали рецензентов и редакторов медицинских журналов осознавать риск появления поддельных изображений в медицинской литературе и задавать вопросы по поводу любых несоответствий.
«В медицинских картах пациентов также могут появляться поддельные медицинские изображения, что может привести к неправильной диагностике и неадекватному лечению», — написали они.
Ознакомиться с полным текстом исследования можно здесь .
Внимание, автоперевод! За ошибки перевода ответственности не несём. Первоисточник по ссылке.