Хакеры все чаще обращаются к LLM и инструментам искусственного интеллекта для совершенствования своей тактики, методов и процедур (TTP) в своих кампаниях, предупреждают новые отчеты.
Новое исследование, выпущенное Microsoft в сотрудничестве с OpenAI, показало, как злоумышленники используют новейшие технические инновации, чтобы держать защитников в напряжении.
Microsoft и OpenAI обнаружили и пресекли атаки со стороны России, Северной Кореи, Ирана и поддерживаемых Китаем злоумышленников, которые использовали LLM для совершенствования своих хакерских стратегий. ИИ усиливает преимущество хакеров
Хакеры, поддерживаемые государством, воспользовались встроенными механизмами языковой поддержки, чтобы точно настроить свои возможности нацеливаться на иностранных противников и сделать их более легитимными при проведении кампаний социальной инженерии. Они могут использовать эту языковую обработку для построения очевидно законных профессиональных отношений со своими жертвами.
Google также сообщает, что они наблюдали, как хакеры собирали разведданные, используя LLM для сбора информации об отраслях и местах, в которых живут и работают их жертвы, а также для получения дополнительной информации об их личных отношениях.
В одном из примеров Microsoft и OpenAI наблюдали, как связанная с подразделением 26165 российского ГРУ группа Forest Blizzard использовала LLM для сбора очень подробной информации о том, как спутники работают и общаются. Также было замечено, что они используют ИИ для совершенствования своих навыков написания сценариев, скорее всего, для автоматизации или повышения эффективности своей технической деятельности.
Было замечено, что связанная с Северной Кореей группа использовала степени LLM Emerald Sleet, чтобы научиться использовать критические уязвимости программного обеспечения, о которых сообщается публично, генерировать контент для использования в целевых фишинговых кампаниях и выявлять организации, собирающие информацию о ядерном и оборонном потенциале Северной Кореи.
Во всех этих случаях Microsoft и OpenAI идентифицировали и отключили все учетные записи, используемые этими субъектами угроз, при этом Microsoft заявила: «Технологии искусственного интеллекта будут продолжать развиваться и изучаться различными субъектами угроз.
«Microsoft продолжит отслеживать субъектов угроз и вредоносную деятельность, злоупотребляющую LLM, и будет работать с OpenAI и другими партнерами для обмена информацией, улучшения защиты клиентов и помощи более широкому сообществу безопасности». Другие работы из Нью-Йорка Брейкинга
Статья добавлена ботом, с использованием машинного перевода : https://nybreaking.com/category/tech/
