ИИ-галлюцинации в коде: 139 выдуманных имён пакетов и одно уже занято вредоносом

Нейросети, помогающие писать код, регулярно «галлюцинируют» — предлагают библиотеки, которых не существует. Обычно это ломает сборку и ничем серьёзным не грозит. Но есть нюанс: выдуманное имя можно заранее занять и превратить в канал поставки вредоносного кода. Именно эту гипотезу проверил исследователь, отобравший 139 имён пакетов, которые пять свежих ИИ-моделей выдают одинаково. Список был раскрыт 30 апреля 2026 года, а 22 сентября автор проверил каждое имя по живым реестрам PyPI и npm — источникам библиотек для Python и JavaScript.

Подробности

Ключевая ценность выборки в том, что она не привязана к одной конкретной нейросети: раз одни и те же имена выдумывают все пять моделей, под ударом оказываются пользователи любой из них. Из 139 имён на момент проверки занятыми оказались семь. Наиболее показательный случай — пакет metro-evaluator. В декабре 2025 года под этим именем в npm лежал вредоносный код. Реестр снял пакет через пять дней и поставил заглушку. Произошло это ещё до раскрытия списка выдуманных имён, поэтому установить по данным реестра, было ли это совпадением или расчётом на галлюцинацию нейросети, невозможно. Остальные шесть занятых имён распределились так: четыре — чужие настоящие проекты, одно — заглушка владельца бренда, и ещё одно — пустой пакет размером 53 байта, появившийся уже после раскрытия списка. Практический эффект для разработчика тоже вполне реален: если следовать совету нейросети и выполнить pip install odf, будет установлен чужой инструмент вместо нужной библиотеки.

Что делать

- Не устанавливайте пакеты по именам, предложенным ИИ, без проверки: сверяйте название с официальной документацией проекта и репозиторием. - Перед установкой просматривайте карточку пакета в реестре: дату публикации, владельца, размер, наличие исходного кода и историю версий. - Насторожитесь, если пакет пустой, крошечный по размеру или появился совсем недавно без внятного описания. - Используйте lock-файлы и фиксированные версии зависимостей, чтобы случайная установка не попала в проект. - Для чувствительных сборок применяйте внутренние зеркала реестров с предварительной проверкой и сканирование зависимостей на вредоносный код. - Расскажите команде об этой модели угрозы: типичная ошибка — доверять сгенерированному имени как проверенной зависимости. Итог: одинаковые галлюцинации сразу у нескольких ИИ-моделей создают предсказуемый список имён, которые злоумышленник может занять раньше разработчика. Проверка каждого пакета перед установкой остаётся базовой мерой защиты.

Источник: Хабр — Информационная безопасность