Современная медицина всё чаще обращается к возможностям искусственного интеллекта, однако на пути повсеместного внедрения «умных» алгоритмов в клиническую практику существует серьёзное препятствие — так называемая «чёрная коробка». Нейросеть может с высокой точностью определить заболевание или предложить тактику лечения, но крайне редко объясняет, почему она приняла именно такое решение. Это вызывает у врачей закономерное недоверие и тормозит цифровую трансформацию здравоохранения.

Похоже, что российские учёные из Новосибирска нашли способ сделать медицинский ИИ не только точным, но и «прозрачным». Сотрудники Центра искусственного интеллекта Новосибирского государственного университета (НГУ) запатентовали уникальный метод, который позволяет автоматически выделять в электронных медицинских картах пациентов наиболее значимые симптомы и показатели — те, что критически важны для постановки диагноза и прогнозирования развития болезни.

В чём суть разработки? ИИ-алгоритм, созданный сибиряками, анализирует тысячи деперсонифицированных (то есть обезличенных, с соблюдением всех норм приватности) медицинских карт пациентов с одним и тем же заболеванием. Перебирая огромные массивы данных, система находит закономерности: какие клинические признаки и лабораторные показатели встречаются чаще всего и в наибольшей степени коррелируют с правильным диагнозом. Далее разработчики выделяют устойчивый набор прогностически значимых факторов — именно они лягут в основу работы системы поддержки принятия врачебных решений (СППВР).

Новый метод уже применяют для обучения системы «Доктор Пирогов», разработанной в стенах НГУ. Этот цифровой помощник создан не для замены доктора, а для усиления его аналитических возможностей. Однако до сих пор узким местом оставалась именно интерпретация результатов.

Как поясняет руководитель проектов Центра искусственного интеллекта НГУ Владимир Иванисенко, ключевое преимущество их подхода — в особой архитектуре нейросети. В отличие от классических моделей, выдающих необоснованный ответ, новосибирские разработчики применили вариант автокодировщиков, которые на выходе способны указать, какие именно признаки болезни внесли наибольший вклад в решение.

«Нейросети обычно дают результат, который не обоснован. Иначе обстоит дело с тем вариантом автокодировщиков, которые мы использовали, — комментирует Владимир Иванисенко. — Они позволяют на выходе указывать признаки болезни, которые дают наибольший вклад в правильную постановку диагноза. Таким образом, разработка НГУ решает сразу две задачи: остаётся в рамках современных методов с использованием искусственного интеллекта, но при этом делает результаты более понятными для врача. Доктор видит, какие именно симптомы и отклонения анализов "подсветила" система в качестве наиболее значимых при данном заболевании, и может сопоставить это со своим клиническим опытом».

Именно эта «подсветка» и снимает главные возражения врачебного сообщества. Практикующий доктор получает не безликий диагноз от машины, а набор маркеров, который он может проверить, подтвердить или опровергнуть, опираясь на собственные знания и осмотр пациента. Иными словами, ИИ работает не как оракул, а как внимательный ассистент, подсказывающий, на что обратить внимание в первую очередь.

По мнению авторов проекта, это лишь первый шаг к медицине будущего. В перспективе хорошие системы поддержки врачебных решений сделают цифровую медицину гораздо более надёжной и понятной. Алгоритмы научатся не только фиксировать текущее состояние здоровья, но и давать долгосрочные прогнозы. Причём каждый такой прогноз будет сопровождаться развёрнутым объяснением: на основании каких клинических признаков и показателей система ожидает ухудшение или улучшение состояния пациента.

Для практического здравоохранения это означает качественный скачок. Во-первых, снизится риск врачебных ошибок, связанных с человеческой усталостью или недостатком опыта в редких патологиях. Во-вторых, повысится скорость принятия решений в экстренных ситуациях. В-третьих, появляется возможность по-настоящему персонализированной медицины: ИИ сможет подсказывать, на какие тонкие симптомы обратить внимание именно у этого пациента, с учётом его гендерных, возрастных и иных особенностей.