Microsoft заявила, что поймала хакеров из Китая, России и Ирана, используя свои инструменты искусственного интеллекта

Reuters:  Поддерживаемые государством хакеры из России, Китая и Ирана использовали инструменты OpenAI, поддерживаемые Microsoft, для оттачивания навыков взлома и достижения хакерских целей, согласно отчету, опубликованному в среду.

Microsoft заявила в своем отчете, что отслеживала хакерские группы, связанные с российской военной разведкой, Стражей Исламской революции Ирана и правительствами Китая и Северной Кореи, поскольку они пытались усовершенствовать свои хакерские кампании, используя большие языковые модели. Эти компьютерные программы, часто называемые искусственным интеллектом, используют огромные объемы текста для генерации ответов, похожих на человеческие.

Компания объявила об этом, когда ввела полный запрет поддерживаемым государством хакерским группам на использование ее продуктов искусственного интеллекта.

«Независимо от того, имеет ли место какое-либо нарушение закона или каких-либо условий обслуживания, мы просто не хотим, чтобы те субъекты, которых мы определили  и которых мы отслеживаем и знаем, что они являются субъектами угроз различного рода – мы не хотим, чтобы они имели  доступ к этой технологии», - сообщил Reuters вице-президент Microsoft по безопасности клиентов Том Берт в интервью перед публикацией отчета.

Российские, северокорейские и иранские дипломатические представители не сразу ответили на сообщения с просьбой прокомментировать эти обвинения.

Представитель посольства Китая в США Лю Пэнъюй заявил, что оно выступает против "необоснованных клеветнических заявлений и обвинений в адрес Китая" и выступает за "безопасное, надежное и контролируемое" внедрение технологии искусственного интеллекта для "повышения общего благосостояния всего человечества".

Утверждение о том, что поддерживаемые государством хакеры были пойманы с использованием инструментов искусственного интеллекта для усиления своих шпионских возможностей, вероятно, подчеркнет опасения по поводу быстрого распространения технологии и ее потенциальной возможности злоупотреблений. Высокопоставленные чиновники по кибербезопасности на Западе с прошлого года предупреждали о том, что мошеннические субъекты злоупотребляют такими инструментами, хотя конкретика до сих пор была скудной.

"Это один из первых, если не первый случай, когда компания, занимающаяся ИИ, выходит и публично обсуждает, как участники угроз кибербезопасности используют технологии ИИ", - сказал Боб Ротстед, возглавляющий аналитику угроз кибербезопасности в OpenAI.

OpenAI и Microsoft описали использование хакерами своих инструментов искусственного интеллекта как "раннюю стадию" и "постепенное". Берт сказал, что ни один из них не видел, чтобы кибершпионы совершали какие-либо прорывы.

"Мы действительно видели, что они просто использовали эту технологию, как любой другой пользователь", - сказал он.

В отчете по-разному описывались хакерские группы, использующие большие языковые модели.

Хакеры, предположительно работающие от имени российского военного шпионского агентства, широко известного как ГРУ, использовали модели для исследования "различных спутниковых и радарных технологий, которые могут иметь отношение к обычным военным операциям в Украине", заявила Microsoft.

Microsoft сообщила, что северокорейские хакеры использовали эти модели для создания контента, "который, вероятно, будет использоваться в рекламных фишинговых кампаниях" против региональных экспертов. По словам Microsoft, иранские хакеры также использовали модели для написания более убедительных электронных писем, в какой-то момент используя их для составления сообщений, пытающихся заманить "известных феминисток" на веб-сайт-ловушку.

Софтверный гигант заявил, что китайские хакеры, поддерживаемые государством, также экспериментировали с большими языковыми моделями, например, чтобы задавать вопросы о конкурирующих разведывательных службах, проблемах кибербезопасности и "известных личностях".

Ни Берт, ни Ротстед не сообщили об объеме деятельности или количестве заблокированных аккаунтов. А Берт выступил в защиту запрета нулевой терпимости к хакерским группам (запрет не распространяется на предложения Microsoft, такие как поисковая система Bing), указывая на новизну ИИ и обеспокоенность по поводу его внедрения.

"Эта технология одновременно новая и невероятно мощная", - сказал он.