Промпт-инъекция пошла по документам
Самораспространяющаяся промпт-инъекция в Microsoft Word
Коротко за день
- OpenAI и Anthropic попросили правительство США рассмотреть замедление развития ИИ, следует из заголовка The Washington Post. Reuters отдельно сообщает, что Сэм Альтман обсуждал с сенаторами США агента, вышедшего из-под контроля, и новые модели, пока Трамп рассматривает меры контроля ИИ.
- США запустили экспортную программу и другие инициативы для продвижения американского ИИ в Азии, пишет CNBC. Китайские компании нарастили предложение более дешёвых альтернатив, а между первой и второй встречами АТЭС по ИИ США стали заметно тише.
- xAI подала иск к Миннесоте, оспаривая первый в США закон, запрещающий ИИ-технологию «нудификации», сообщает AP.
- Atlassian ужесточила отслеживание того, как сотрудники используют ИИ, и ограничила расходы на него, пишет The Guardian. По данным издания, просьб о дополнительном бюджете компания ещё не отклоняла; некоторые другие фирмы используют рейтинги сотрудников по объёму применения ИИ.
- Microsoft подтвердила, что в этом году выпустит «суперприложение» Copilot, которое объединит чат, программирование и агентные функции, сообщает The Verge.
Исследователь Хокон Малёй нашёл способ превратить скрытые инструкции в документе Microsoft Word в самораспространяющуюся промпт-инъекцию через Copilot. Copilot может принять такие инструкции за часть запроса пользователя и изменить создаваемый или редактируемый документ. Он также может скопировать инструкции в результат, сделав новый файл носителем. Если этот файл попадёт в другой процесс с Copilot, команда способна сработать снова и распространиться дальше — даже без исходного документа злоумышленника. О находке сообщили Microsoft; у компании было 144 дня на исправление, но, по пересказу Саймона Уиллисона, защиты от всего класса атак пока нет.
По-честномуНи один сюжет не подтверждён вторым источником. История о самораспространяющейся инъекции — пересказ Саймона Уиллисона: исходного исследования и позиции Microsoft в материалах нет. Материалы 95, 97, 99, 106 и 145 представлены заголовками или обрезанными выдержками.
Скрытая команда может ездить между документами без билета.