Американская технологическая компания Anthropic, сосредоточенная на разработках в сфере ИИ, рассказала о масштабной кибершпионской операции, в которой злоумышленники использовали ИИ-сервис Claude для автоматизации атак почти без участия человека, сообщает издание The Decoder. По данным компании, предполагаемые хакеры, связанные с Китаем, нацелились примерно на 30 мировых организаций, включая технологические компании, финансовые структуры и госучреждения.
В отчёте говорится, что ИИ выполнял «80–90 процентов кампании», а, как отметил глава подразделения по расследованию угроз Джейкоб Кляйн, атаки запускались «практически нажатием одной кнопки». Люди вмешивались лишь на отдельных ключевых шагах. Чтобы обойти защиту Claude, злоумышленники выдавали себя за сотрудников легитимной фирмы, после чего модель самостоятельно проводила разведку, писала эксплойты, собирала учётные данные и выгружала данные с высокой скоростью.
В Anthropic подчёркивают, что такие технологии имеют двойное назначение: их можно использовать и для атаки, и для защиты. Во время расследования специалисты компании тоже активно применяли Claude. Логан Грэм из группы безопасности Anthropic ранее отмечал в интервью для Wall Street Journal, что у «безопасников» должно оставаться преимущество в долгосрочной перспективе, чтобы не уступить ИИ в сфере IT-безопасности.
