Искусственный интеллект в безопасности: "Чёрный октябрь"... "Эпоха хакерских атак, доступных каждому, наступила"

Искусственный интеллект автоматизирует обнаружение уязвимостей и атаки... "Времени на ответ нет"

22000000 уязвимых систем по всему миру... Частичное прекращение работы финансовых и государственных услуг

Парадокс кибербезопасности... ИИ также защищает от атак

[Журналист Блокмедиа Ли Чжонхва] "Эпоха, когда каждый может использовать искусственный интеллект (ИИ) для взлома систем, наступила."

Наступила так называемая "эпоха хакерских атак", когда ИИ ускоряет атаки хакеров и одновременно выявляет уязвимости в существующем программном обеспечении. Аналитики утверждают, что мировая интернет-безопасность столкнулась с новой угрозой.

ИИ — это двусторонний меч. Он используется как для кибератак, так и для защиты. Проблема заключается в том, что время, необходимое для обнаружения уязвимостей и осуществления атак, резко сократилось, и "времени на ответ нет". В индустрии безопасности это оценивается как структурное изменение, с которым существующие системы реагирования не могут справиться.

23 числа (по местному времени) Wall Street Journal (WSJ) и Bloomberg сообщили, что распространение инструментов хакерства на основе ИИ и обнаружение крупных уязвимостей в программном обеспечении привели к новому этапу глобального киберугрозы.

Некоторые эксперты начали называть октябрь "Чёрным октябрем" из-за череды атак и случаев прекращения работы услуг.

ИИ автоматизирует обнаружение уязвимостей и атаки

В центре этой угрозы находятся две критические уязвимости в широко используемом в интернете языке программирования с открытым исходным кодом PHP. Эти уязвимости не были обнаружены более десяти лет, но исследователи из Wiz, OpenAI и компании безопасности Calif использовали ИИ для их выявления. После этого информация об уязвимостях, предположительно, была утечена хакерам до ее официального раскрытия, что резко изменило ситуацию.

Amazon подтвердила, что до раскрытия уязвимостей хакеры пытались их использовать. В Канаде, Бельгии, Франции и Нидерландах правительственные веб-сайты были временно приостановлены в качестве меры предосторожности. Банки и авиакомпании также приостановили некоторые услуги, чтобы снизить риски безопасности.

Генеральный директор Cloudflare Мэттью Принс сообщил, что в их сети наблюдается миллионы попыток атак, использующих эти уязвимости каждую минуту.

Проблема заключается в разрыве между скоростью обнаружения уязвимостей и скоростью мер безопасности. По данным Bloomberg, количество уязвимых систем, выставленных в интернете, достигает 22000000. Джек Хьюз, руководитель цифровой криминалистики и реагирования на инциденты в Palo Alto Networks Unit 42, объяснил, что более трети из них используют программное обеспечение, которое трудно обновить немедленно.

Замена или обновление этих систем может занять несколько месяцев. Крис Хьюз, вице-президент по стратегии безопасности в Noma, отметил: "ИИ индустриализировал обнаружение уязвимостей, но процесс исправления по-прежнему является узким местом для человека."

Скорость, с которой ИИ находит новые уязвимости, опережает скорость мер безопасности компаний, что означает, что системы, подверженные риску, продолжают накапливаться.

Методы атак хакеров также меняются. По данным WSJ, китайский инструмент хакерства с открытым исходным кодом Artex автоматизирует процесс вторжения в сеть с помощью ИИ. Microsoft сообщила, что злоумышленники из разных регионов используют этот инструмент для ускорения атак на сотни компаний.

В начале этого месяца также было сообщено о кибератаке с использованием Artex, в результате которой были утечены данные около 68000 человек из корейских финансовых учреждений.

Российская организация-вымогатель Aurora также расширяет использование ИИ. Изначально они использовали ИИ для создания инструментов атак и инфраструктуры, но затем начали использовать его для исследования взломанных корпоративных сетей и доступа к дополнительным учетным записям. Сообщается, что эта организация изменила свои модели использования с коммерческой модели Anthropic на открытую модель Kimi от Moonshot AI.

Колин Кави, руководитель отдела угроз Sophos, объяснил, что их скорость атак быстрее, чем у обычных людей.

Эти изменения снижают барьеры для входа в кибератаки. Теперь не только высококвалифицированные хакеры, но и относительно менее опытные злоумышленники могут использовать ИИ для выполнения сложных задач.

Парадокс кибербезопасности... ИИ также защищает от атак

Хотя ИИ увеличивает угрозы безопасности, он также способствует развитию технологий защиты. Bloomberg отмечает, что обнаружение уязвимостей с помощью ИИ не обязательно приводит к увеличению фактических ущербов от хакерских атак.

Примером является случай, когда Google в июле самостоятельно обнаружил 401 из 433 уязвимостей, выявленных в браузере Chrome. В списке уязвимостей, которые фактически были использованы правительством США, также нет явных доказательств значительного увеличения атак с использованием уязвимостей. Хотя по уязвимостям PHP наблюдаются массовые попытки атак, пока нет публичных доказательств успешных крупных нарушений с их использованием.

Эксперты по безопасности подчеркивают необходимость различать способность ИИ находить уязвимости и вероятность успешных атак. Даже если ИИ находит уязвимости быстрее, для их фактического использования в атаках требуются дополнительные технологии и условия.

Однако с точки зрения защиты проблема заключается в том, что время на ответ после раскрытия уязвимостей значительно сократилось. Джейсон Клинтон, исполняющий обязанности главного специалиста по информационной безопасности в Anthropic, предупредил, что текущая путаница в кибербезопасности может усугубиться в ближайшее время.

Он посоветовал руководителям безопасности просить у руководства поддержку для укрепления основных систем безопасности, а не просто внедрения ИИ. В долгосрочной перспективе также существует прогноз, что ИИ может достичь стадии, когда уязвимости в процессе разработки программного обеспечения будут устраняться заранее. Клинтон описал это будущее как "vulnzero", когда уязвимости фактически исчезнут.

Тем не менее, до этого момента необходимо пройти через "цунами уязвимостей", которые будут стремительно увеличиваться благодаря ИИ.

Эта ситуация показывает, что конкурентная среда в кибербезопасности меняется. Ранее было важно, кто первым обнаружит уязвимость. Теперь ключевым элементом конкуренции становится то, кто быстрее исправит уязвимость, найденную ИИ, или использует ее для атаки.

С точки зрения бизнеса, важными задачами станут не только внедрение инструментов безопасности на основе ИИ, но и замена устаревших систем, управление доступом, автоматизация патчей безопасности и укрепление систем реагирования на инциденты.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.