читайте также
Любой, кто работал в крупной организации, вероятно, изучал, как распознать фишинговую атаку — вводящие в заблуждение сообщения, которые выдаются за исходящие из законных источников и направленные на то, чтобы обманом заставить пользователей выдать личную информацию или перейти по вредоносным ссылкам. Мошеннические электронные письма часто манипулируют пользователем, например, призывая его срочно обновить пароль. Но к несчастью компаний и их сотрудников инструменты генеративного искусственного интеллекта быстро совершенствуют такие электронные рассылки, их труднее обнаружить — и они значительно опаснее.
Исследование, опубликованное нами ранее в этом году, показало, что 60% участников стали жертвами автоматизированного фишинга с использованием искусственного интеллекта (ИИ), что сопоставимо с показателями успеха мошеннических сообщений, созданных людьми-экспертами без применения такового. Еще более тревожным сигналом является то (это доказано в нашем новом исследовании), что весь процесс фишинга может быть автоматизирован с помощью больших языковых моделей (БЯМ), что снижает затраты на кибератаки более чем на 95% при достижении равных или даже больших показателей успеха. Фишинг состоит из пяти различных этапов: сбор целей, сбор информации о целях, создание и отправка электронных писем и, наконец, их проверка и улучшение. Благодаря возможности генерировать текст, похожий на человеческий, и связно общаться большие языковые модели (БЯМ), такие как ChatGPT и Claude, могут использоваться для автоматизации каждого этапа.
В связи с этим мы ожидаем, что в ближайшие годы количество и качество фишинга резко возрастет. Уровень угрозы отличается в разных отраслях, организациях и командах. Поэтому очень важно правильно классифицировать соответствующий уровень риска, чтобы определить, какая степень защиты от фишинговых атак требуется и сколько вы должны за это заплатить.
Использование БЯМ для создания фишинговых электронных писем