OpenAI раскрыла еще шесть случаев проблемного поведения своих моделей
Хакер ·
В OpenAI сообщили еще о шести случаях необычного и потенциально опасного поведения ИИ-моделей, произошедших за последние полгода. К примеру, агенты искали утекшие API-ключи на GitHub, без разрешения загружали файлы в интернет, обменивались сообщениями в обход ограничений и оставляли самим себе инструкции о том, как скрыть ошибки.
В OpenAI сообщили еще о шести случаях необычного и потенциально опасного поведения ИИ-моделей, произошедших за последние полгода. К примеру, агенты искали утекшие API-ключи на GitHub, без разрешения загружали файлы в интернет, обменивались сообщениями в обход ограничений и оставляли самим себе инструкции о том, как скрыть ошибки.