Маск выложил в X заказ Lego от Grok, и пользователи попытались его изменить
Илон Маск в воскресенье написал в X о том, как удобно его ИИ-агент Grok заказал наборы Lego Star Wars, и приложил скриншот заказа. По описанию WIRED, на скриншоте, который увидели более 240 миллионов его подписчиков, были видны 10-значный номер заказа, цена, адреса доставки и выставления счёта, последние четыре цифры банковской карты и адрес электронной почты, которым бот пользовался при покупке в Lego.
Почти сразу этим воспользовались. Пользователь X под ником Enderman выложил скриншоты переписки с чат-ботом поддержки на сайте Lego: по ним похоже, что с помощью почты и номера заказа из поста Маска ему удалось добиться отмены заказа. Через пару часов Маск ответил, что заказ всё-таки не отменён. WIRED предполагает, что он мог проверять, сработала ли затея.
Позже, по скриншотам в X, другой пользователь вернулся к ИИ-ассистенту Lego по имени Sophia и якобы с теми же данными вновь открыл доставку: количество увеличили до 400 наборов, адрес доставки изменили, а оплата шла с исходного способа оплаты Маска. Sophia, по этим скриншотам, ответила: «Отлично! Я верну ваше приключение с Lego в нужное русло». Lego отказалась комментировать запрос WIRED о том, происходило ли такое с заказом Маска. Издание замечает, что внутренние защитные механизмы ассистента могли отметить необычную активность, и надеется, что изменения проверили люди.
Контекст: в субботу Маск писал, что Grok может покупать товары в интернете по простой команде. По его описанию, достаточно загрузить фото банковской карты, а бот найдёт выгодные предложения и завершит покупку. О пользе своих агентов для покупок говорили и другие ИИ-компании, например Meta и OpenAI.
В конце прошлого года Visa предупреждала о мошенничестве в агентной торговле: злоумышленники строят правдоподобные сайты, которые могут заставить ИИ-агентов купить несуществующие товары за счёт сверхнизких цен. По словам Visa, после завершения покупки недобросовестный продавец может собрать платёжные данные и сразу использовать их для несанкционированных операций. Компания зафиксировала рост вредоносных транзакций, инициированных ботами, на 25 процентов во второй половине 2025 года, а в США этот показатель дошёл до 40 процентов.
Для иронии WIRED добавляет иллюстрацию со своим трекером «Потрать деньги Илона Маска»: на гипотетический $1 трлн можно было бы купить миллиард наборов «Звезда смерти» по $1000, по 9023 детали в каждом, так что 400 наборов выглядят скромно.
Ключевые факты
- Маск показал в X скриншот заказа Lego Star Wars, сделанного через Grok: на нём были номер заказа, цена, адреса, последние четыре цифры карты и почта.
- По скриншотам из X, пользователь Enderman через чат-бота Lego, судя по всему, добился отмены заказа, но Маск сказал, что заказ не отменён.
- Другой пользователь якобы вновь открыл заказ через ассистента Sophia, увеличил его до 400 наборов и сменил адрес доставки с оплатой исходным способом Маска.
- Lego отказалась комментировать, а подтверждения изменений нет: всё держится на скриншотах из X.
- Visa ранее предупреждала о мошенничестве в агентной торговле и сообщала о росте вредоносных бот-транзакций на 25% (в США на 40%) во второй половине 2025 года.
Почему это важно
История показывает типичную слабость ИИ-агентов для покупок: агент делает заказ от имени человека, а данные заказа затем оказываются публичными. Здесь достаточно было номера заказа и почты, чтобы, по скриншотам, пытаться управлять заказом через чат-бота магазина. На фоне заявлений Маска, что Grok может делать покупки в интернете по простой команде после загрузки фото карты, и предупреждений Visa о мошенничестве в агентной торговле эпизод выглядит наглядной иллюстрацией рисков.
Кому это важно
Тем, кто собирается доверять покупки ИИ-агентам и публикует подтверждения заказов в соцсетях. Также это сигнал для магазинов и платёжных компаний, которые внедряют чат-ботов поддержки с правом менять и отменять заказы, и для разработчиков агентных сервисов.
Как это применить
Практический вывод из сюжета: не публиковать скриншоты заказов и подтверждений с номерами, адресами и почтой, а ассистентам поддержки не давать менять заказ только по номеру и e-mail без дополнительной проверки владельца. Это вывод из истории, а не рекомендация, прозвучавшая в источнике.
Можно ли доверять
Материал WIRED написан в ироничном тоне и опирается на скриншоты из X. Сам автор осторожен в формулировках: отмена заказа произошла «судя по всему», повторное открытие и рост до 400 наборов, «якобы». Lego отказалась подтверждать или опровергать эти действия, поэтому реальные изменения заказа не подтверждены. Заявление Маска, что заказ не отменён, приведено в пересказе WIRED.
Риски и подводные камни
Не установлено, действительно ли заказ был изменён до 400 наборов и сменён ли адрес, а также было ли что-то списано сверх исходной оплаты. Не названы сумма заказа, состав наборов и второй пользователь, который менял заказ. Не описано и то, как именно Grok оформил покупку. Сюжет остаётся скорее показательным эпизодом, чем подтверждённым инцидентом с ущербом.
«Как только ИИ-агент завершает покупку … недобросовестный продавец может собрать платёжные данные и мгновенно использовать их для несанкционированных транзакций.»
— Visa, из блога компании (в пересказе WIRED)
Компания Meta Platforms признана экстремистской организацией, её деятельность на территории РФ запрещена.