Генеративный искусственный интеллект за относительно короткий срок стал полезным помощником для многих профессий. Однако досадным побочным эффектом стало увеличение количества фишинговых атак с использованием этой технологии. CEO фирмы по кибербезопасности SlashNext заявил, что с мошенниками можно также бороться с помощью ИИ.
Генеративный искусственный интеллект за относительно короткий срок стал полезным помощником для многих профессий. Однако досадным побочным эффектом стало увеличение количества фишинговых атак с использованием этой технологии. CEO фирмы по кибербезопасности SlashNext заявил, что с мошенниками можно также бороться с помощью ИИ.
В новом отчете фирмы по кибербезопасности SlashNext говорится, что с момента запуска ChatGPT количество фишинговых электронных писем выросло на 1265%, пишет Decrypt.
Помимо разработки вредоносных ИИ-инструментов, таких, как WormGPT, Dark Bart и FraudGPT, распространяющихся в даркнете, киберпреступники также находят новые способы сломать главный ИИ-чат-бот OpenAI.
«Когда в феврале вышел ChatGPT, мы увидели резкое увеличение количества фишинговых атак, что, очевидно, частично связано с его успехом», — рассказал генеральный директор SlashNext Патрик Харр (Patrick Harr).
Фишинговые атаки — это кибератаки, осуществляющиеся в виде электронных писем, текстовых сообщений или сообщений в социальных сетях, которые выглядят как происходящие от авторитетного источника. Фишинговые атаки также могут быть направлены на перенаправление жертв на вредоносные веб-сайты, которые обманом заставляют их подписывать транзакции с криптокошельками, а затем выводят их средства.
Согласно отчету SlashNext, в последнем квартале 2022 года ежедневно посылалось 31 000 фишинговых атак, что уже на 967% больше, чем в предыдущем. 68% всех фишинговых атак — это текстовые компрометации деловой электронной почты (BEC), а 39% всех мобильных атак были совершены с помощью SMS-фишинга (smishing-атаки).
«Хотя ведутся споры о подлинном влиянии генеративного ИИ на киберпреступность, в нашем исследовании мы знаем, что злоумышленники используют такие инструменты, как ChatGPT, для написания сложных, направленных на компрометацию деловой электронной почты, фишинг-сообщений», — сказал Харр.
Поскольку киберпреступники используют генеративный ИИ для поиска жертв, Харр считает, что специалисты по кибербезопасности должны перейти в наступление и бороться с искусственным интеллектом с помощью ИИ.
«Эти компании должны включить [ИИ] непосредственно в свои программы безопасности, чтобы [ИИ] постоянно прочесывал все их каналы обмена сообщениями для устранения [угроз]. Именно поэтому мы используем генеративный ИИ в наших собственных наборах инструментов для выявления и не только блокировки, но и для прогнозирования того, что произойдет в следующий раз, — сказал он.
Хотя Харр оптимистично настроен по способности искусственного интеллекта ловить злоумышленников с поличным, он признает, что для этого нужно больше, чем просто сказать ChatGPT, чтобы он следил за киберугрозами. «Вы должны иметь эквивалент частного приложения с большой языковой моделью, которая будет настроена на поиск коварных угроз», — считает CEO SlashNext.
Хотя разработчики ИИ, такие как OpenAI, Anthropic и Midjourney, настойчиво работали над тем, чтобы включить предохранители против использования их платформ в злонамеренных целях, таких как фишинговые атаки и распространение дезинформации, опытные пользователи стремятся их обойти.
В сентябре OpenAI обратилась к специалистам по кибербезопасности, также известным как Red Teams, с просьбой помочь найти дыры в безопасности своих моделей искусственного интеллекта.
Компании должны переосмыслить свои подходы к безопасности. Им нужно использовать инструменты на основе генеративного ИИ, чтобы выявлять такие вещи и реагировать на них, или, что еще важнее, не просто реагировать, а обнаруживать, блокировать и останавливать их до того, как они начнут действовать», — сказал Харр.
Интересно, что ранее исследователи обнаружили, что использование реже тестируемых языков, таких как зулусский или гэльский, может сломать защиту ChatGPT и заставить чат-бота объяснить, как избежать наказания за ограбление магазина.
