В Иране американский ИИ Claude использовали для создания ракет, а в Китае — для разработки систем РЭБ и противоторпедного комплекса
iXBT.com ·
Anthropic сообщила о выявлении сотен связанных китайских аккаунтов, которые предположительно использовали ИИ-модель Claude как минимум в пяти сомнительных программах: согласно сентябрьскому отчету компании об угрозах, речь идет о двух проектах военного назначения, двух операциях наблюдения и попытке перенести возможности Claude в другие ИИ-модели.
Anthropic сообщила о выявлении сотен связанных китайских аккаунтов, которые предположительно использовали ИИ-модель Claude как минимум в пяти сомнительных программах: согласно сентябрьскому отчету компании об угрозах, речь идет о двух проектах военного назначения, двух операциях наблюдения и попытке перенести возможности Claude в другие ИИ-модели.
В одном из случаев пользователь из Китая, которого Anthropic связывает с оборонным предприятием КНР, применял Claude для разработки системы управления огнем для противоторпедного комплекса. Нейросеть использовали для подготовки технической спецификации, анализа открытых данных о противоторпедных и противолодочных средствах ВМС США и создания технического предложения объемом более 200 страниц. При этом пользователь якобы выдавал себя за американского оборонного подрядчика. По оценке Anthropic, система могла предназначаться для ВМС Народно-освободительной армии Китая.
Другая выявленная программа была связана с радиоэлектронной борьбой и подавлением противовоздушной обороны. С помощью Claude разрабатывалось около 16 программных модулей для анализа радаров, позиций зенитных комплексов, командных пунктов и узлов связи с последующим определением приоритетных целей. В одном из сценариев фигурировали 12 объектов на Тайване, включая позиции Patriot и Tien Kung, авиабазы, радар раннего предупреждения и командный бункер. Метаданные аккаунтов, как утверждает Anthropic, указывали на связи пользователей с исследовательскими учреждениями КНР, включая Академию военных наук НОАК.
Также Anthropic сообщила об операциях наблюдения за уйгурами за пределами Китая. Один из пользователей, которого компания связывает с китайскими государственными структурами, предположительно пытался проникнуть в уйгурские группы в Сирии, выдавая себя за арабоязычного консультанта, чтобы следить за представителями диаспоры и СМИ.
Claude, по данным Anthropic, использовалась для обработки информации более чем из 100 групп WhatsApp и десятков каналов Telegram, сопоставления профилей одних и тех же людей на разных платформах и анализа их социальных связей. ИИ также применяли для поиска потенциально уязвимых для вербовки людей, перевода переписки и подготовки сообщений на местных диалектах. Особый интерес представляли люди, чьи родственники оставались в Синьцзяне. В отчете также упоминаются предполагаемые кампании против уйгурских СМИ с использованием массовых жалоб и ботов.
Anthropic заявила, что заблокировала аккаунты, связанные с этой деятельностью.
Напомним, вчера сообщалось, что в Иране использовали ИИ Claude для создания ракет .
А еще глава Anthropic заявил, что если сейчас не притормозить развитие ИИ, то уже через 6-12 месяцев может появиться Skynet .