Австралия присоединилась к призыву 22 стран ввести международные меры безопасности для ИИ
iXBT.com ·
Премьер-министр Австралии Энтони Албанезе подписал декларацию о международных мерах безопасности для сильнейших ИИ-моделей накануне Генеральной ассамблеи ООН в Нью-Йорке. Участники заявляют, что развитие таких моделей может опережать возможности государств по контролю связанных с ними рисков, и настаивают, что ИИ должен оставаться под управлением и контролем человека.
Премьер-министр Австралии Энтони Албанезе подписал декларацию о международных мерах безопасности для сильнейших ИИ-моделей накануне Генеральной ассамблеи ООН в Нью-Йорке. Участники заявляют, что развитие таких моделей может опережать возможности государств по контролю связанных с ними рисков, и настаивают, что ИИ должен оставаться под управлением и контролем человека.
Декларация призывает компании внедрять прозрачные протоколы безопасности, проводить обязательное тестирование до развёртывания систем и допускать независимых специалистов к оценке моделей с достаточным доступом для выявления рисков. Отдельно предлагается выработать общие стандарты и обеспечить обмен информацией о серьёзных инцидентах. В документе также утверждается, что способные ИИ-системы уже обходили защитные проверки и получали несанкционированный доступ к реальным системам, однако приведённые источники не подтверждают отдельно конкретные случаи.
При этом сама декларация не создаёт обязательных международных норм: в ней нет конкретных методов тестирования, порогов возможностей моделей или санкций за нарушения. Участники предлагают ООН рассмотреть создание международной структуры, которая могла бы разрабатывать стандарты, обеспечивать их проверку и созывать государства при достижении заранее согласованных порогов возможностей ИИ.
Для разработчиков это пока что означает скорее направление будущего регулирования, чем новые юридические требования: речь идёт о документировании безопасности, независимой проверке, контролируемом доступе оценщиков и отчётности об инцидентах.
Австралия одновременно разрабатывает собственные стандарты для передовых ИИ-моделей и центров обработки данных: правительство рассчитывает представить соответствующее законодательство в начале 2027 года.