Хакеры внедряют в малварь промпты о ядерном оружии, чтобы помешать ИИ анализировать код
Хакер ·
Специалисты компании ESET обнаружили, что злоумышленники применяют новую технику GuardBreaker, которая мешает ИИ-инструментам анализировать вредоносный код. Так, атакующие добавляют в малварь промпт-инжект с опасным запросом, рассчитывая вызвать срабатывание защитных механизмов LLM и вынудить модель отказаться от дальнейшего анализа.
Специалисты компании ESET обнаружили, что злоумышленники применяют новую технику GuardBreaker, которая мешает ИИ-инструментам анализировать вредоносный код. Так, атакующие добавляют в малварь промпт-инжект с опасным запросом, рассчитывая вызвать срабатывание защитных механизмов LLM и вынудить модель отказаться от дальнейшего анализа.