Добавь сайт в закладки нажми CTRL+D
xAI экстренно изменила работу ИИ-инструмента Grok после обвинений в краже личных ключей
Искусственный интеллект021:47
Компания xAI срочно внесла изменения в функционирование инструмента Grok Build CLI после выхода исследования, в котором было показано, что он автоматически загружал на серверы компании не только файлы, необходимые для выполнения запросов, но и целые Git-репозитории с историей изменений. Позже Илон Маск заявил, что все ранее загруженные пользовательские данные будут полностью удалены.
Проблему выявил специалист в области информационной безопасности, работавший под псевдонимом Cereblab. Анализ сетевого трафика версии Grok Build 0.2.93 показал, что CLI формировал Git Bundle и отправлял его в облачное хранилище Google Cloud с именем grok-code-session-traces. При этом объём передаваемой информации многократно превышал необходимый для работы модели: к примеру, в тестовом репозитории размером 12 ГБ сам запрос к модели составлял около 192 КБ, в то время как загрузка в облако достигала 5,1 ГБ.
По словам исследователя, передавались не только исходные файлы проекта, но и вся история Git. Для проверки он поместил в файл .env тестовый ключ, который потом оказался в загруженном архиве без какой-либо маскировки. В другом эксперименте Grok Build загрузил репозиторий даже после команды просто ответить «OK», не затрагивая ни одного файла.
После публикации отчёта аналогичное поведение подтвердили и другие пользователи, включая случай, когда инструмент отправил содержимое домашнего каталога с SSH-ключами и базами данных менеджера паролей.
Особое внимание привлекло то, что отключение функции «Improve the model» в настройках не предотвращало загрузку репозитория. Как выяснил Cereblab, этот переключатель отвечал лишь за согласие на использование данных для обучения моделей, но не отключал саму отправку кода на серверы. При этом подобное поведение не было указано в документации, несмотря на то что Grok Build позиционировался как инструмент с преимущественно локальной обработкой данных.
Спустя несколько часов после выхода отчёта исследователь повторил тесты и заметил, что сервер начал передавать клиенту новые параметры disable_codebase_upload: true и trace_upload_enabled: false. После этого загрузка репозиториев прекратилась без выпуска новой версии — механизм был отключен на стороне серверов.
Тем не менее, xAI не выпустила официального уведомления, не объяснила назначение этой функции и не сообщила, что происходило с уже собранными данными.
Позднее компания подтвердила, что пользователи корпоративной версии с режимом Zero Data Retention (ZDR) изначально не сохраняли подобные данные. Для остальных клиентов xAI рекомендовала использовать команду /privacy, позволяющую отключить хранение информации и удалить ранее синхронизированные данные. Однако Cereblab отметил, что именно эта команда не решила проблему: остановка передачи репозиториев произошла исключительно из-за скрытого серверного флага, а не пользовательских настроек.
На ситуацию также отреагировал Илон Маск. Он заявил, что в качестве меры предосторожности компания полностью удалит все пользовательские данные, загруженные до внесения изменений. При этом Маск призвал пользователей по возможности продолжать делиться частью данных для отладки сервиса, подчеркнув, что это помогает улучшать продукт.
Тем не менее, исследователь считает инцидент показателем недостатков всей отрасли. По его мнению, критическая проблема заключалась не в доказанном неправомерном использовании исходного кода — таких свидетельств нет, — а в том, что инструмент без явного уведомления копировал значительно больше данных, чем требовалось для выполнения запросов.
Пока xAI не опубликовала технических деталей произошедшего, остаётся неизвестным, насколько широко применялся этот механизм, сколько пользователей он затронул и каким образом компания будет подтверждать удаление уже собранной информации.
Darth SaharaИсточники:international cyber digestlandianthe registerИскусственный интеллект0Кибербезопасностьутечка данныхИлон МаскXAIGrokКонфиденциальность данныхGitCLI21:47
ИсточникПоделись видео: