ИИ может запустить вредоносный код из llms.txt — что делать?

Обсуждали с коллегами статью про то, как ИИ-агенты могут запускать чужой код из файла llms.txt — и это не фантастика, а реальный риск для сайтов с открытым доступом к таким файлам.

Прочитал, что в 120 из 6214 проверенных сайтов в файлах llms.txt содержались ссылки на несуществующие пакеты в npm и PyPI. ИИ-агенты, вроде Claude и Codex, воспринимают эти инструкции как доверенные и пытаются их выполнить. В одном случае злоумышленник зарегистрировал свободное имя пакета и разместил там вредоносный код — ИИ его установил. Это не уязвимость сайта, а уязвимость доверия к документации.

Считаю, что это серьёзно меняет подход к поддержке: файл llms.txt — не просто техническая штука, а потенциальный вход для вредоносного кода. Даже если сайт не использует ИИ-агентов, он может стать частью цепочки атаки через внешние инструкции. Главное — не полагаться на то, что «всё в порядке», если в файле есть команда, которую можно выполнить.

У себя уже проверил, нет ли в корне сайта llms.txt. У клиентов, где он есть, поставил в план на неделю — перепроверить содержимое и убрать команды, которые могут быть интерпретированы как запуск пакетов. Если файл нужен — оставляю только чистые описания, без команд. Пока не тороплюсь с массовым обновлением, но смотрю внимательно.