С момента появления генеративного искусственного интеллекта в конце 2022 года появилось множество публикаций о его влиянии на кибербезопасность. В 2023 году выплаченные суммы по программам-вымогателям превысили 1,1 миллиарда долларов. Реальность такова, что киберпреступники, вооруженные технологиями ИИ, становятся всё более активными, настойчивыми и изощренными в своих атаках.
Исследования показывают, что 45% бизнес-лидеров обеспокоены ухудшением ситуации с угрозами из-за использования искусственного интеллекта. Эта обеспокоенность подтверждается и Национальным центром кибербезопасности Великобритании (NCSC), который отмечает, что ИИ делает киберпреступность более доступной и позволяет новичкам проводить сложные атаки, которые ранее были доступны только опытным злоумышленникам.

Основные причины увеличения числа атак с применением искусственного интеллекта

В эпоху ИИ фишинг остаётся основным вектором атак, позволяя преступникам проникать в организации. Компаниям необходимо понимать, как ИИ используется киберпреступниками, чтобы разработать эффективные стратегии кибербезопасности.

Во-первых, ИИ повышает эффективность и точность атак. Большие языковые модели (LLM) позволяют автоматизировать и оптимизировать кибератаки, делая их более точными. Алгоритмы машинного обучения (ML) помогают быстро анализировать большие объёмы данных, выявлять уязвимости и проводить атаки с минимальным участием человека. Это способствует более успешным фишинговым кампаниям, распространению вредоносного ПО и использованию слабых мест в системах безопасности.

Хотя большинство LLM имеют встроенные меры защиты от злоупотреблений, их можно обойти, а также использовать вредоносные версии популярных моделей, такие как WormGPT и DarkBERT, для создания правдоподобных фишинговых писем. Также регионы, где фишинг был менее распространён, могут столкнуться с его ростом благодаря способности злоумышленников создавать практически безупречные переводы писем, не владея языком. Такая масштабируемость позволяет преступникам охватывать больше жертв с меньшими усилиями.
Кроме того, ИИ помогает злоумышленникам разрабатывать более сложные методы обхода систем обнаружения и адаптироваться к мерам защиты. LLM могут генерировать полиморфные вредоносные программы, которые постоянно изменяют свой код, чтобы избежать обнаружения традиционными системами безопасности. Это не только увеличивает эффективность атак, но и позволяет преступникам проводить атаки в больших масштабах с беспрецедентной скоростью.

Как компании могут эффективно противостоять этим угрозам

Построить устойчивую к кибератакам организацию невозможно без вовлечения каждого сотрудника. Всем нужно понимать текущий ландшафт угроз, особенно учитывая, что выявление угроз становится всё сложнее. С таким пониманием сотрудники смогут лучше замечать подозрительные действия и избежать ошибок, таких как переход по ссылке или подтверждение запроса MFA.

Для вовлечения сотрудников обучение должно быть постоянным и интересным. Оно должно включать небольшие, интерактивные и практичные учебные модули, а также имитации фишинговых атак, чтобы сотрудники могли применить полученные знания. Если сотрудник попадается на фишинг, его следует немедленно обучить, чтобы закрепить урок. Со временем система может автоматически уменьшать обучение для тех, кто успешно избегает фишинга, и усложнять задания для них. Напротив, постоянным нарушителям нужно предоставлять дополнительные тренинги и симуляции.

Постоянное обучение важно ещё и потому, что методы атак постоянно меняются. Например, ранее редкие фишинговые письма с QR-кодами теперь стали привычным явлением. Поэтому важно, чтобы все сотрудники были снабжены необходимыми инструментами для распознавания потенциальных угроз.

В конечном счёте, компаниям нужно признать, что угрозы кибербезопасности постоянно эволюционируют, особенно с появлением ИИ. Преступники используют ИИ для создания сложных фишинговых атак, которые могут вынудить сотрудников раскрыть конфиденциальные данные. Хотя важно внедрять решения по обеспечению безопасности, этого недостаточно. Борьба с угрозами в эпоху ИИ требует многогранного подхода, который сочетает современные технологии с участием всех сотрудников и непрерывным обучением. Только так можно создать устойчивую к кибератакам культуру в организации.