Глава Microsoft AI призвал США не откладывать меры безопасности из-за Китая
iXBT.com ·
Глава подразделения Microsoft AI Мустафа Сулейман заявил, что конкуренция с Китаем не должна становиться причиной для отсрочки мер безопасности в области искусственного интеллекта. В интервью CNN, вышедшем 20 сентября, он призвал США самостоятельно развивать механизмы контроля за всё более мощными ИИ-системами, одновременно сохраняя возможность сотрудничества с Китаем там, где интересы стран совпадают.
Глава подразделения Microsoft AI Мустафа Сулейман заявил, что конкуренция с Китаем не должна становиться причиной для отсрочки мер безопасности в области искусственного интеллекта. В интервью CNN, вышедшем 20 сентября, он призвал США самостоятельно развивать механизмы контроля за всё более мощными ИИ-системами, одновременно сохраняя возможность сотрудничества с Китаем там, где интересы стран совпадают.
Сулейман выступил за системы, в которых человек сохраняет возможность наблюдать за работой ИИ, прерывать её и проверять принятые решения. Он также поддержал независимую оценку моделей и международные соглашения по безопасности. При этом речь идёт именно о его публичной позиции: интервью не объявляет новую политику Microsoft и не содержит законодательного предложения.
Отдельный вопрос — как должна работать независимая проверка. По словам Сулеймана, внешним оценщикам потребуется достаточный доступ к системам, чтобы проверять их поведение, механизмы ограничения и внутренние средства контроля. На практике это означает необходимость заранее определять, кто может проводить такие проверки, какую информацию получает оценщик и каким образом компания должна реагировать на обнаруженные проблемы.
Позиция Сулеймана появляется на фоне дискуссии в США о том, могут ли более жёсткие требования к безопасности ИИ замедлить развитие отрасли по сравнению с Китаем. Он предлагает не связывать эти вопросы напрямую: технические механизмы остановки систем, защищённые журналы аудита и независимая проверка могут развиваться независимо от того, насколько быстро страны договорятся о международных правилах.