Claude в руках мошенников: как ИИ стал инструментом для вайб-хакинга и кибератак

Злоумышленники находят способы эксплуатировать чат-бота Claude для масштабных кибератак, несмотря на наличие серьезных систем безопасности. Об этом сообщает компания Anthropic в своем отчете о анализе угроз.

Алекс Моикс, Кен Лебедев и Джейкоб Клейн привели несколько примеров использования искусственного интеллекта преступниками. В ходе некоторых атак вымогатели запрашивали суммы свыше $500 000.

Чат-бот применялся не только для оказания технической помощи, но и для осуществления взломов с использованием тактики, известной как вайб-хакинг (vibe hacking). Для проведения таких атак достаточно лишь элементарных знаний в области программирования и шифрования.

Вайб-хакинг считается разновидностью социальной инженерии, при которой злоумышленники используют ИИ-агентов для манипуляции эмоциями и доверием своих жертв. В отличие от традиционного фишинга, где подделываются электронные письма или веб-сайты, здесь атака выглядит как “дружеское” или “убедительное” взаимодействие, что создает “правильный вайб” коммуникации. ИИ способен адаптироваться под тональность, стиль и настроение собеседника, что помогает завоевать доверие и склонить к совершению вредоносных действий.

Anthropic обнаружила хакера, который с помощью вайб-хакинга и Claude выкрал конфиденциальные данные минимум у 17 организаций, включая медицинские учреждения, службы экстренной помощи, государственные структуры и религиозные организации. Запрашиваемый им выкуп колебался от $75 000 до $500 000 в биткоинах.

Злоумышленник использовал Claude для анализа похищенных финансовых данных, вычисления адекватных сумм выкупа и написания персонализированных писем с требованиями, что усиливало психологическое давление на жертвы.

Представители компании подчеркнули: “Лица, которые не способны самостоятельно реализовать базовое шифрование или осознать принципы системных вызовов, теперь успешно разрабатывают программы-вымогатели, способные обходить защиту и применять антивирусные меры.”

Кроме того, Anthropic выявила, что северокорейские IT-специалисты использовали Claude для создания правдоподобных фейковых личностей, успешного прохождения технических собеседований и даже получения удаленных рабочих мест в американских технологических фирмах из списка Fortune 500. Они использовали ИИ для подготовки ответов на собеседования.

Предполагается, что один из злоумышленников успешно прошел собеседование на позицию программиста в Polygon Labs. В других подготовленных ответах утверждается, что он имел опыт работы в OpenSea и Chainlink.

Стоит отметить, что Anthropic запрограммировала чат-боты Claude Opus 4 и 4.1 так, чтобы они завершали взаимодействие с пользователями в “редких, экстремальных случаях систематически вредоносного или оскорбительного общения.”