Explainable Artificial Intelligence in Healthcare: a Multi-criteria Benchmark of Explanation Faithfulness, Stability and Consensus in Clinical Risk Prediction

Counts differ because each database indexes a different set of publications. We treat OpenAlex as the canonical count; Google Scholar is not shown (no API, and crawling it violates its ToS).

Объяснимый искусственный интеллект (XAI) регулярно предлагается в качестве механизма, который сделает клиническое машинное обучение заслуживающим доверия, однако сами объяснения почти никогда не проверяются: в прикладной медицинской литературе график SHAP или LIME представляется как доказательство, а не проверяется как утверждение. В настоящем исследовании ставится вопрос о том, являются ли апостериорные объяснения клинических моделей риска достоверными, устойчивыми и воспроизводимыми и можно ли измерять эти свойства в рутинном порядке. Предложен протокол CLARA (Clinical Explanation Reliability Assessment) — четырёхосевая процедура оценки, которая характеризует метод объяснения по достоверности (площадь над кривой возмущения при последовательном удалении и добавлении признаков в сравнении со случайным контролем), устойчивости (совпадение множеств top-k при возмущении входных данных), согласованности (ранговое согласие независимых методов объяснения) и вычислительной стоимости, а затем объединяет их в индекс качества объяснений. Протокол применён к трём общедоступным клиническим выборкам (Кливлендская выборка ишемической болезни сердца, n = 297; диабет Пима, n = 768; Висконсинская диагностическая выборка рака молочной железы, n = 569), четырём семействам моделей (логистическая регрессия, случайный лес, градиентный бустинг, многослойный перцептрон) и двум локальным методам объяснения (SHAP и локальная суррогатная модель в формулировке LIME); получено 14 400 объяснений на уровне отдельных наблюдений в 24 конфигурациях. Оба метода существенно превзошли случайное упорядочение признаков; SHAP оказался достоверно точнее в шести из двенадцати сочетаний «модель — выборка» (критерий Уилкоксона, p < 0,01), суррогатная модель — в двух. Основной результат состоит в том, что согласованность объяснений определяется моделью, а не методом объяснения: среднее ранговое согласие снижается с 0,91 для логистической регрессии до 0,54 для градиентного бустинга, тогда как AUROC на отложенной выборке не связан с качеством объяснений (ρ = 0,08, p = 0,70).