Как ответственному бизнесу использовать искусственный интеллект

Сегодня нет недостатка в понятиях и принципах, на которых должно строиться справедливое и ответственное использование искусственного интеллекта. Но руководители и организации часто не могут разобраться с непростыми вопросами и определить, как им сейчас ответственно внедрять ИИ-системы и управлять ими.

Вот почему мы в Счетной палате США недавно разработали первую концепцию федерального правительства, которая должна стать подспорьем в выстраивании механизма отчетности и ответственного использования ИИ. Она определяет базовые условия отчетности на всех этапах жизненного цикла ИИ — от проектирования и разработки до внедрения и мониторинга. В ней также сформулирован конкретный перечень вопросов и процедур аудита для оценки систем ИИ по следующим четырем измерениям: 1) управление, 2) данные, 3) качество и эффективность работы и 4) мониторинг.

Наша задача в этой работе состояла в том, чтобы помочь организациям и руководителям перейти от теорий и принципов к практикам, с помощью которых можно управлять ИИ и оценивать его в реальной среде.

Очертите полный жизненный цикл ИИ

Очень часто вопросы контроля ИИ-системы начинают решать после ее создания и внедрения. Но этого недостаточно: оценка ИИ и моделей машинного обучения должна проводиться на каждом этапе жизненного цикла. Это поможет определить системные проблемы, которые можно не заметить при точечных моментных оценках.

Опираясь на наработки Организации экономического сотрудничества и развития (ОЭСР) и других экспертов, мы выделяем следующие важные стадии жизненного цикла ИИ-системы:

Проектирование: формулирование целей и задач, решаемых системой, включая любые основополагающие допущения и общие функциональные требования.

Разработка: определение технических требований, сбор и обработка данных, создание модели и валидация системы.

Внедрение: выполнение пилотного проекта, проверка совместимости с другими системами, контроль на соответствие регулирующим нормативам и оценка пользовательского опыта.

Мониторинг: постоянная оценка результатов работы системы и последствий (как предусмотренных, так и непредусмотренных), совершенствование модели и принятие решений о расширении или списании системы.

Такое представление применительно к ИИ аналогично пониманию жизненного цикла в разработке ПО. Как мы отмечали в другой работе об использовании эджайл-разработки, организациям важно определить необходимые виды задач на разных этапах жизненного цикла, включая планирование, проектирование, разработку и тестирование, и непрерывно оценивать промежуточные результаты, снижать риски и отвечать на обратную связь вовлеченных сторон.

Учитывайте весь круг вовлеченных сторон в полном составе

На всех этапах жизненного цикла ИИ важно правильно определять и задействовать вовлеченные стороны. Кто-то из экспертов поможет получить необходимые вводные о технических характеристиках работы системы. Это могут быть аналитики данных, разработчики ПО, специалисты по кибербезопасности и инженеры.

Но круг вовлеченных стейкхолдеров не ограничивается только техническими специалистами. Важно участие и тех сторон, которые способны дать оценку общественным эффектам внедрения ИИ. Речь может идти об экспертах в области регулирования и права, профильных специалистах, пользователях системы и тех, кого могут затрагивать результаты ее работы.