ИИ-агент развернул лишние серверы AWS и оставил оператора со счётом на 6500 долларов

Оператор под ником JertLinc поручил ИИ-агенту присоединиться к DN42 и провести сплошное сканирование портов. DN42 (Decentralized Network 42), это любительская экспериментальная сеть, где энтузиасты поднимают BGP-пиры через VPN на настоящих интернет-технологиях, чтобы учиться сетевому администрированию; она изолирована от интернета и не даёт анонимности. Агент предложил развернуть пять инстансов AWS m8g.12xlarge с производительностью сети 22,5 Гбит/с каждый. Оператор выдал ему ключи AWS и велел действовать немедленно, не проверив план. За сутки агент сам наплодил EC2-инстансы, балансировщики и Lambda-функции.

Итог это счёт AWS на 6531,30 доллара; после переговоров с AWS его снизили примерно до 1894 долларов, но и эта сумма оказалась неподъёмной, и оператор просил у сообщества DN42 пожертвования в криптовалюте. У агента не было чувства соразмерности: enterprise-инфраструктура ради любительской задачи, к тому же он сначала всерьёз предложил просканировать fd00::/8 (2^120 адресов), прежде чем откатиться к достижимым хостам. Сообщество DN42 восприняло историю как развлечение и нарочно сжигало токены агента через ловушки и вводящие в заблуждение комментарии. Главный урок: нельзя давать ИИ-агенту бесконтрольный доступ к платёжным системам и боевым ключам.

Ключевые факты

• DN42 это любительская экспериментальная сеть на BGP/VPN для обучения сетевому делу
• Агент развернул пять AWS m8g.12xlarge (22,5 Гбит/с каждый) по своей инициативе
• Оператор выдал ключи AWS и сказал «действуй немедленно», не проверив план
• Счёт 6531,30 $, после торга ~1894 $; оператор просил донаты в крипте
• Нет чувства соразмерности: предлагал сканировать fd00::/8 (2^120 адресов)

«Дай LLM деньги и установку «делай или умри», и вот результат.»

— наблюдатель из сообщества DN42