Аудит моделей ИИ для рентгена: тепловые карты совпадают с диагнозом только на нетипичных случаях

Международный институт информационных технологий Хайдарабада (IIIT Hyderabad) опубликовал аудит четырёх моделей компьютерного зрения для анализа рентгеновских снимков грудной клетки. Проверяли MAIRA-2, MedGemma-4B, LLaVA-Med-1.5 и LLaVA-1.5.

Тепловые карты внимания моделей сопоставили с разметкой радиологов на трёх публичных датасетах и на дополнительной выборке пациентов с пневмотораксом.

Автоматическое сравнение выстроило модели по качеству совпадения: впереди MAIRA-2, за ней MedGemma и две версии LLaVA. Но ключевой результат оказался другим. На типичных случаях внимание моделей не превосходило по точности простые анатомические шаблоны, построенные на усреднённых данных. Модель часто подсвечивала зону, где патология встречается статистически чаще, а не ту, где она находится на конкретном снимке.

Только на нетипичных случаях, где находка заметно отличалась от среднестатистической картины, MAIRA-2 и MedGemma показали локализацию, действительно привязанную к изображению.

Параллельный эксперимент с участием радиологов на 124 случаях подтвердил: эксперты оценивают правдоподобность тепловых карт иначе, чем автоматическая метрика. Более широкая, клинически осмысленная картина может казаться врачу убедительнее, чем строгое попадание в размеренные статистические окна.

Авторы рекомендуют внедрять метрики, учитывающие анатомические априорные распределения, и обязательно привлекать радиологов к оценке.