[Перевод] Попросил ИИ-агента писать код осторожнее — он стал исправлять меньше багов
Habr ·
![[Перевод] Попросил ИИ-агента писать код осторожнее — он стал исправлять меньше багов](https://habrastorage.org/getpro/habr/upload_files/6d7/82a/336/6d782a336331a7bdb4e382ca186f69d7.jpg)
Осторожность кажется полезной настройкой для ИИ-агента. Но три прогона на 100 реальных багах из SWE-bench дали обратный результат: «правила дисциплины» по мотивам советов Карпати снизили число исправлений примерно на 13%. Разберём результаты эксперимента и посмотрим, в какой момент разумные ограничения превращаются для агента в тормоза. Разобрать эксперимент
Осторожность кажется полезной настройкой для ИИ-агента. Но три прогона на 100 реальных багах из SWE-bench дали обратный результат: «правила дисциплины» по мотивам советов Карпати снизили число исправлений примерно на 13%. Разберём результаты эксперимента и посмотрим, в какой момент разумные ограничения превращаются для агента в тормоза. Разобрать эксперимент