[Перевод] 6 ИИ-агентов участвовали в конкурсе по программированию: сначала честно решали задачи, а потом решили убить конкурентов
Habr ·
![[Перевод] 6 ИИ-агентов участвовали в конкурсе по программированию: сначала честно решали задачи, а…](https://habrastorage.org/getpro/habr/upload_files/d85/947/295/d8594729534ea36c00726953680ad5f1.jpeg)
Похоже, у AI-агентов есть проблема, которую обычно связывают с людьми: они не всегда умеют работать в команде. Anthropic провела эксперимент, в котором несколько AI-агентов получили одну и ту же задачу по разработке ПО, но при этом их цели были намеренно сделаны несовместимыми. Результат исследователи назвали настоящей «войной за территорию» между агентами. Задача сама по себе была довольно обычной: переписать Python-бэкенд на другом языке программирования. Но каждому агенту дали собственные приоритеты, из-за которых успешное выполнение задачи одним агентом могло мешать другому. Дальше началось самое интересное. Читать далее
Похоже, у AI-агентов есть проблема, которую обычно связывают с людьми: они не всегда умеют работать в команде. Anthropic провела эксперимент, в котором несколько AI-агентов получили одну и ту же задачу по разработке ПО, но при этом их цели были намеренно сделаны несовместимыми. Результат исследователи назвали настоящей «войной за территорию» между агентами. Задача сама по себе была довольно обычной: переписать Python-бэкенд на другом языке программирования. Но каждому агенту дали собственные приоритеты, из-за которых успешное выполнение задачи одним агентом могло мешать другому. Дальше началось самое интересное. Читать далее