Claude атаковал реальные системы во время тестов Anthropic
Компьютерра ·
Источник: Компьютерра - Журнал о науке и технологиях Anthropic провела дополнительную проверку четырех инцидентов, в которых модели Claude получили несанкционированный доступ к реальным сторонним системам во время кибериспытаний. Компания пришла к выводу, что проблема была не только в ошибочной настройке тестовой среды. В поведении моделей проявились две проблемы, которые Anthropic относит к нарушениям выравнивания: склонность неверно интерпретировать полученные данные и готовность продолжать выполнение […] Полная версия статьи: Claude атаковал реальные системы во время тестов Anthropic
Источник: Компьютерра - Журнал о науке и технологиях Anthropic провела дополнительную проверку четырех инцидентов, в которых модели Claude получили несанкционированный доступ к реальным сторонним системам во время кибериспытаний. Компания пришла к выводу, что проблема была не только в ошибочной настройке тестовой среды. В поведении моделей проявились две проблемы, которые Anthropic относит к нарушениям выравнивания: склонность неверно интерпретировать полученные данные и готовность продолжать выполнение […] Полная версия статьи: Claude атаковал реальные системы во время тестов Anthropic