Преступление, ИИ, наказание

Компании используют искусственный интеллект для предотвращения и расследования любых преступлений — от воровства на рабочем месте до инсайдерской торговли. Многие банки и крупные корпорации также применяют ИИ для предотвращения мошенничества и отмывания денег. С помощью машинного обучения операторы социальных сетей блокируют запрещенный контент вроде детской порнографии. Компании постоянно экспериментируют с новыми способами использования искусственного интеллекта — от оперативного выявления мошенничества до прогнозирования преступлений.

Революционна не сама по себе технология, а алгоритмы, которые лежат в ее основе, и полученные результаты. Например, банки десятилетиями используют системы мониторинга транзакций на основе заданных двоичных правил, требующих проверки результатов вручную. Показатель эффективности у них довольно низкий: в среднем, только 2% подозрительных транзакций действительно являются противозаконными. В противоположность этому современные решения на основе машинного обучения используют прогностические правила, автоматически распознающие отклонения в наборах данных. Усовершенствованные алгоритмы могут значительно сократить количество ложных сигналов тревоги: они будут фильтровать ошибочно распознанные случаи и находить те, которые действительно представляют опасность.

Учитывая количество данных в отрытом доступе и рост ожиданий со стороны клиентов и государственных органов, касающихся защиты и использования этих данных, многие компании решили, что внедрение механизмов ИИ — один из немногих способов не отставать от все более изобретательных мошенников. Предполагается, например, что социальные сети должны мгновенно находить и удалять видеоролики и сообщения, содержащие призывы к терроризму. Возможно, со временем крупные компании будут обязаны внедрять ИИ-инструменты для борьбы с преступностью в том числе и потому, что иного способа быстро обнаружить и проанализировать паттерны противозаконного поведения в огромном потоке данных просто не будет.

Определить, насколько эффективным для бизнеса окажется использование искусственного интеллекта в борьбе с преступностью можно только убедившись, что преимущества превышают возможные риски. Один из рисков заключается в том, что ИИ может делать пристрастные выводы на основании таких факторов, как этническая принадлежность, пол и возраст. Также компании могут столкнуться с недовольством клиентов по поводу того, что их данные используются не по назначению или что таким образом организации отслеживают их записи, транзакции и коммуникации (особенно если эти сведения в результате могут быть переданы властям). Например, недавно из-за протеста клиентов против политики «Большого брата» европейский банк AIB отказался от плана мониторинга аккаунтов в социальных сетях, который он намеревался внедрить для того, чтобы рассылать пользователям лучшие релевантные предложения по ипотечному кредитованию.

Как же ведущие компании оценивают преимущества и недостатки быстро развивающихся ИИ-технологий в борьбе с преступностью и в управлении рисками? Ниже мы описываем некоторые шаги, которые предпринимаются сейчас бизнесом.