Ваши алгоритмы не защищены от хакеров

Согласно нескольким опросам, кибербезопасность стала одной из главных тем, вызывающих беспокойство у руководителей бизнеса. Компании инвестируют миллиарды долларов в защиту цифровых систем и обучение соответствующих специалистов. По некоторым оценкам, в 2015 году мировой рынок кибербезопасности составил $77 млрд, а к 2020 году его объем вырастет до $170 млрд. При этом основное внимание в этой сфере уделяется защите систем от уязвимостей в софте и оборудовании. Однако в настоящий момент рискам подвержены не только они. По мере роста зависимости организаций от алгоритмов, управляющих данными, сами эти данные начинают представлять все большую опасность.

Системы классификации образов, опирающиеся на алгоритмы машинного обучения, могут содержать в себе слабые места, которыми могут воспользоваться хакеры и прочие злоумышленники. Одна из таких распространенных брешей заключается в том, что атакующий определяет, какие данные используются для тренировки алгоритма машинного обучения, и таким образом получает возможность манипулировать входящими данными самого алгоритма.