Почему искусственный интеллект провалил «тест на COVID-19»

В пандемию, вызванную COVID-19, у искусственного интеллекта (ИИ) была идеальная возможность спасти мир. В той беспрецедентной ситуации всей планете нужно было быстро искать обоснованные решения крупномасштабной проблемы и одновременно аккумулировались огромные массивы данных в каждой стране. Для систем здравоохранения, которые столкнулись с быстро распространением новой болезни, ИИ теоретически был идеальным инструментом. Его можно было использовать для составления прогнозов, повышения производительности труда, высвобождения человеческих ресурсов за счет автоматизации. Он мог бы быстро обрабатывать огромные массивы информации и принимать спасительные решения.

Но это осталось теорией. На практике ИИ в большинстве случаев сработал плохо.

Несомненно, были отдельные успехи. Внедрение автоматических систем наладило работу розничных складов и аэропортов, чат-боты позаботились об обслуживании клиентов, пока персонал сидел в карантине, решения, принятые с использованием ИИ, позволили сузить круг выбора площадок для проведения клинических исследований вакцин и помогли ускорить процесс прохождения границы в Греции.

Однако в целом технология не справилась ни с диагностикой COVID-19, ни с предсказанием путей распространения инфекции среди населения, ни с управлением лечением заболевших. Решения, принятые с использованием ИИ, не оправдали ожиданий. Теперь, когда замешательство начала пандемии уже в прошлом, пора проанализировать, что показал «тест на COVID-19» для ИИ. Возможность его полноценного использования была упущена, но этот опыт позволяет сделать выводы о дальнейших способах развития системы ИИ, чтобы большие надежды человечества на самую обсуждавшуюся в прошлом году технологию все же оправдались.

Где ИИ не сработал?

Сначала картина выглядела многообещающей. Машины быстрее людей подняли тревогу из-за нового таинственного вируса, который возник в китайском Ухане. Агрегаторы медицинских новостей HealthMap (принадлежит Бостонской детской больнице, США) и BlueDot (Канада) собрали в интернет-изданиях и социальных сетях информацию о ранних признаках заболевания. Алгоритм BlueDot даже предсказал, какие города окажутся в зоне самого высокого риска, если зараженные люди будут свободно перемещаться. Все это было сделано еще за несколько дней до того, как подключилась Всемирная организация труда (ВОЗ), и за несколько недель до реакции со стороны других стран.

В 2020 году весь мир официально ушел на карантин, и стало ясно, что судьбоносная роль ИИ может заключаться в быстрой диагностике, прогнозировании путей распространения и тяжести течения новой неизвестной инфекции (тогда еще не существовало легкого способа оперативного тестирования).

Многие команды стали использовать ИИ в этих целях. Например, группа сотрудников нью-йоркской больницы Mount Sinai разработала систему диагностики COVID-19 с помощью алгоритмов, обученных распознавать характерные поражения легких по присланным из Китая результатам компьютерной томографии. Группа сотрудников MIT создала алгоритм распознания COVID-19 по кашлю. Команда сотрудников Нью-Йоркского университета и китайских специалистов использовала технологии ИИ для прогнозов, у кого из заболевших коронавирусом разовьется тяжелое поражение органов дыхания. Многие годы мы слышали о принципиально новых возможностях, которые открывает ИИ, — и вдруг получили возможность увидеть его в действии.

И как же показал себя искусственный интеллект в диагностике COVID-19? Если честно, это был полный провал. Систематический обзор инструментов диагностики и прогнозирования течения COVID-19, опубликованный британским медицинским журналом The BMJ, показал: в реальных условиях медицинских учреждений эти технологии плохо справлялись с диагностическими задачами. Еще одно исследование было проведено в Кембриджском университете. Изучение более 400 инструментов диагностики COVID-19 на основе моделей глубокого обучения выявило, что эти технологии не годятся для диагностики по результатам рентгена и компьютерной томографии грудной клетки.

И наконец, третье исследование, опубликованное в журнале Nature, рассматривало широкий спектр вариантов применения ИИ в медицинских целях — для прогнозирования течения заболевания, выявления вспышек распространения инфекции, мониторинга исполнения правительственных рекомендаций по предотвращению распространения инфекции, наблюдения за реакцией пациентов на лечение. Все технологии оказались малопригодными для использования на практике.

Однако эти разочарования помогают нам учиться и готовить себя к созданию более совершенного ИИ. Сейчас четыре наших слабых места — плохие базы данных, цифровая дискриминация, ошибки персонала и сложный международный контекст. Все эти выводы сделаны на основе борьбы с COVID-19, но они относятся и ко многим другим сферам.

Чем опасны плохие наборы данных

Качество основанных на ИИ инструментов принятия решений полностью определяется качеством данных, которые применяются для обучения соответствующих алгоритмов. Если массивы данных плохи, алгоритмы принимают неверные решения. В контексте COVID-19 созданию полноценных наборов данных препятствует множество барьеров.