Согласно исследованию, опубликованному 22 мая в NEJM AI , рентгенологи, пропустившие аномалию на снимке, с большей вероятностью будут признаны виновными в случае, если ИИ обнаружит аномалию.

Однако представление показателей ошибок для ИИ смягчило тенденцию более строго судить рентгенологов при наличии несовпадающих результатов ИИ, пишет группа под руководством Грейсона Бэрда, доктора философии, из Университета Брауна в Провиденсе, штат Род-Айленд.

С ростом использования программного обеспечения на основе ИИ, помогающего в диагностике, возникает беспокойство, что его использование станет фактором определения ответственности в судебных делах. Исследователи-радиологи продолжают изучать, как общественность — и потенциальные присяжные в частности — будет воспринимать роль этих приложений ИИ и их точность по сравнению с точностью людей-считывателей.

Команда Бэрда определила, при каких условиях присяжные с большей вероятностью встанут на сторону истца в судебном деле при использовании приложения на основе искусственного интеллекта.

В исследовании приняли участие две группы из 652 и 682 присяжных соответственно. Участники просмотрели сюжет, в котором описывалось, как рентгенологу предъявляют иск за то, что он пропустил либо кровоизлияние в мозг, либо рак.

В каждой группе участники были случайным образом распределены в подгруппу одного из пяти условий, четыре из которых включали использование программы ИИ: ИИ согласился с рентгенологом, также не найдя аномалию (ИИ согласен); ИИ нашел аномалию, но рентгенолог не нашел (ИИ не согласен); ИИ не нашел аномалию, а рентгенолог не нашел, в то время как было раскрыто, что ИИ имеет частоту ложных пропусков (FOR) 1% (ИИ согласен + FOR); ИИ нашел аномалию, но рентгенолог не нашел, в то время как было раскрыто, что ИИ имеет частоту ложных обнаружений (FDR) 50% (ИИ не согласен + FDR). В контрольной подгруппе ИИ не участвовал в диагностике. Все участники в подгруппах просматривали одну и ту же зарисовку.

Затем участники ответили, соответствовал ли рентгенолог в просмотренной ими виньетке стандарту обязанности проявлять заботу. Ответ «нет» означал, что участник встал на сторону истца (пациента или семьи пациента), а «да» означал, что участник встал на сторону ответчика (рентгенолога).

В случае с кровоизлиянием в мозг члены контрольной группы в 56,3% случаев вставали на сторону истца. Когда ИИ соглашался с рентгенологом, участники в 50% случаев вставали на сторону истца (50% против 56,3%, p = 0,33), что говорит о том, что если ИИ также пропускает патологию, это не помогает и не вредит защите рентгенолога. 

Однако, когда ИИ указывал на кровоизлияние в мозг, а рентгенолог — нет, участники в 72,9% случаев принимали сторону истца. Это открытие показало, что несогласие ИИ с рентгенологом наносило ущерб защите значительно больше, чем когда ИИ не использовался (72,9% против 56,3%; p = 0,01).

Включение показателей ложного упущения и ложного обнаружения (FOR и FDR) показало смягчающее воздействие на восприятие виновности. Участники группы AI agree + FOR, где ни AI, ни рентгенолог не идентифицировали кровотечение, а 1% FOR инструмента AI был раскрыт, встали на сторону истца только в 34% случаев по сравнению с 50% случаев в группе AI agree, что показывает, что включение низкого показателя ложного упущения помогло защите рентгенолога. 

Более того, только 48,8% участников AI не согласны + FDR встали на сторону истца, что говорит о том, что когда FDR AI в 50% был раскрыт, это также помогло защите (48,8% не согласны + FDR против 72,9% не согласны). Однако процентная разница между не согласны + FDR и контрольной подгруппой не была значительной.

В случае с раком 65,2% контрольной группы встали на сторону истца. Опять же, согласие AI в том, что патология не была обнаружена, не помогло и не навредило ответчику, 63,5% согласившейся AI группы встали на сторону истца. В случае несогласной AI группы 78,7% участников встали на сторону истца. 

Как и в случае с кровоизлиянием в мозг, включение FOR и FDR помогло защите, хотя и не так значительно для рака легких. Команда сообщила, что 56,4% участников встали на сторону истца в группе AI agree + FOR против 63,5% в группе AI agree только. И 73,1% участников встали на сторону истца в подгруппе AI disagree + FDR против 78,7%, которые не согласились.

Авторы предположили, что различия в результатах двух исследований могут заключаться в субъективном восприятии участниками таких факторов, как относительная тяжесть результатов и сопутствующие патологии.

«Тот факт, что мы наблюдали схожие результаты для AI disagree + FDR против AI disagree и AI agree + FOR против AI agree, говорит о том, что предоставление людям представления о [стохастическом] несовершенстве в одной сущности [AI] может привести к тому, что присяжные с меньшей вероятностью обнаружат, что рентгенологи нарушили стандарт оказания медицинской помощи в отношении перцептивных ошибок», — написали они.

Внимание, автоперевод! За ошибки перевода ответственности не несём. Первоисточник по ссылке.