ایجنت برنامه‌نویسی Grok Build حجم زیادی از اطلاعات محرمانه، از جمله برخی داده‌های متعلق به SpaceXSI را فاش کرد

پژوهشگران دریافتند که ۳۵,۰۰۰ اپلیکیشن ساخته شده با Grok Build برای هر کسی که به دنبال آن‌ها باشد کاملاً در دسترس و باز هستند.

پژوهش‌های جدید نشان می‌دهد که Grok Build، ایجنت برنامه‌نویسی مبتنی بر حس‌وحال (vibe-coding) از شرکت SpaceXSI، در حال نشت داده‌هاست؛ داده‌هایی که برخی از آن‌ها اطلاعات تجاری اختصاصی و سایر اسرار حساس هزاران کاربر آن هستند، از جمله خودِ شرکت متعلق به ایلان ماسک که این پلتفرم را ارائه می‌دهد.

این اطلاعات از طریق لینک‌هایی فاش می‌شود که به کاربران Grok Build اجازه می‌دهد اپلیکیشن‌های خود را با دیگران به اشتراک بگذارند. Grok اقداماتی برای تصادفی‌سازی آدرس‌های وب (URL) انجام می‌دهد تا فقط افرادی که آدرس دقیق را می‌دانند بتوانند به داده‌های ذخیره‌شده در آن دسترسی پیدا کنند. با این حال، یک تصمیم طراحی توسط توسعه‌دهندگان این پلتفرم، این هدف را کاملاً خنثی کرده و این امکان را فراهم می‌کند که هر کسی بتواند هزاران پروژه زنده Grok Build را استخراج و شمارش کند. به جز در موارد نادر، کلیک کردن روی این لینک‌ها اپلیکیشن را باز کرده و تمام داده‌های مرتبط با آن را آشکار می‌کند.

شما فقط یک وظیفه داشتید

پژوهش‌های شرکت امنیتی Claroc نشان می‌دهد که داده‌های افشامده شامل مواردی مانند برنامه‌های تجاری داخلی، پیشنهادهای تبلیغاتی، نتایج معاینات پزشکی، چک‌لیست‌های آشپزخانه یک خط کروز تفریحی مشهور، و اسامی و شماره‌های شناسایی کارمندان است. به طعنه، برخی از داده‌های حساس از دو جین اپلیکیشن ساخته‌شده توسط خودِ شرکت SpaceXSI (نام شرکت‌های ادغام‌شده SpaceX و xAI) به دست آمده است. نمونه کوچکی از اسناد فاش‌شده در اپلیکیشن‌های SpaceXSI — که Claroc تعداد ۲۴ مورد از آن‌ها را یافته است — شامل یک برنامه آشناسازی با محیط کار (onboarding)، با برچسب محرمانه، برای یک عضو جدید تیم فروش سازمانی SpaceXSI، نقشه منطقه فروش شامل ۵۹۴ حساب کاربری، آدرس‌های سیستم داخلی برای ابزارهای تیم فروش، و پیشنهادهای تبلیغاتی است.

Claroc در پستی در روز سه‌شنبه اعلام کرد: «ما شوکه شده بودیم. شرکتی که Grok را می‌سازد، مطالب داخلی خودش را برای هر کسی که لینک را در اختیار داشته باشد باز گذاشته بود، در حالی که این لینک هرگز به ما داده نشده بود. اگر تیم فروش ابزاری برای این کار خریده بود، پشت سیستم ورود به سیستم شرکت قرار می‌گرفت و فقط برای تیم باز بود. اما این ابزار که با هوش مصنوعی ساخته شده بود، به‌صورت کاملاً باز و در دسترس برای هر کسی که لینک را داشت، آنلاین شد.»

شرکت Claroc روز یکشنبه نشت حریم خصوصی را به SpaceXSI اطلاع داد. وقتی هیچ پاسخی دریافت نشد، یکی از مقامات Claroc در شبکه اجتماعی X اقدام به تگ کردن ایلان ماسک و مت پالمر، مدیر Grok، درباره این تهدید کرد. در زمان انتشار این پست، تقریباً تمام داده‌ها با یک استثنای قابل توجه همچنان در دسترس بودند: محتویات مربوط به ۲۴ اپلیکیشن SpaceXSI. همه آن‌ها تا عصر دوشنبه در حال افشای اطلاعات بودند. شرکت SpaceXSI ظرف چند ساعت پس از ارسال ایمیل حاوی سوالات این مقاله توسط Ars، شروع به حذف لینک‌ها کرد. در زمان انتشار این پست، لینک‌های هر ۲۴ اپلیکیشن خطای «اپلیکیشن پیدا نشد» را نشان می‌دادند.

Claroc داده‌های حساسی را پیدا کرد که متعلق به سایر کاربران Grok Build بود؛ برخی از آن‌ها برای شرکت‌های بزرگ (Fortune 500) و یک پیمانکار دفاعی کار می‌کردند. برخی از سازمان‌های آسیب‌دیده و داده‌های افشاشده شامل موارد زیر است:

• یک شرکت ساخت‌وساز پروویی: داشبورد بهداشت حرفه‌ای با ۳,۷۸۴ معاینه پزشکی کارگران
• تسلا: کارت امتیازی مرکز خدمات با ذکر نام ۲۲ تکنسین همراه با وضعیت بهره‌وری و پاداش
• یک پیمانکار مهندسی کشتی نیروی دریایی ایالات متحده: فهرست ۱۰۸ نفر در یک قرارداد پشتیبانی لجستیکی نیروی دریایی
• یک شرکت پیشرو در زمینه سفرهای دریایی لوکس: چک‌لیست آشپزخانه برای یک خط کروز مشهور که خدمه را با نام کامل و شماره کارمندی فهرست کرده است
• یک شرکت مراقبت بهداشتی: اپلیکیشن کارکنان بیمارستان با فهرستی از حدود ۳,۵۶۵ کارمند بر اساس نام و شناسه
• یک شرکت خدمات فناوری اطلاعات ایالات متحده: پیشنهاد محرمانه به یک مشتری خرده‌فروشی بزرگ به همراه صورتحساب مواد اولیه سخت‌افزاری
• یک گروه هوافضا و دفاعی نروژی-فنلاندی: تابلوی بارگیری و روش بارگیری برای یک ساختمان مواد منفجره در کارخانه ایالات متحده، به‌علاوه ماتریس آموزش HSE آن
• یک شرکت خانه‌سازی در ایالات متحده: کاربرگ تماس‌های فروش با حدود ۵۸۳ خریدار احتمالی مسکن، بودجه‌ها و یادداشت‌های تأمین مالی
• یک شرکت هلدینگ مالزیایی: مانیتور پروژه برای ۳۷ توسعه ملکی به همراه ارقام سود و فروش
• یک شرکت حمل‌ونقل خودرو: میز استعلام قیمت با حدود ۴,۰۰۰ سفارش حمل خودرو، قیمت‌ها و حاشیه‌های سود
• یک سرویس میزبانی و کولکیشن مرکز داده در ایالات متحده: پیشنهاد محرمانه ترانزیت IP به یک اپراتور مخابراتی اروپایی

آساف آپروزپر، هم‌بنیان‌گذار و مدیر ارشد فناوری (CTO) شرکت Claroc، گفت که او در حال اطلاع‌رسانی به شرکت‌ها است. پس از صحبت با مدیر ارشد امنیت اطلاعات (CISO) شرکت سفرهای دریایی لوکس، آن‌ها «به محض اینکه یافته‌ها را به اشتراک گذاشتیم، کل تیم امنیت خود را پای کار آوردند و هم‌اکنون در حال تلاش برای مهار نشت داده‌های Grok هستند.»

یک نقص مرگبار… که در بیشتر پلتفرم‌های هوش مصنوعی دیگر نیز مشترک است

اشتراک‌گذاری لینک برای Grok Build با هدف ساده‌سازی فرآیند توسعه و استقرار اپلیکیشن‌ها در نظر گرفته شده است. کاربر می‌تواند گفتار یا متن را وارد کند و در عرض چند دقیقه یک اپلیکیشن کاربردی آماده برای آزمایش داخلی داشته باشد. این لینک‌ها به گونه‌ای طراحی شده‌اند که به توسعه‌دهندگان راهی برای نمایش سریع اپلیکیشن به کاربران مجاز ارائه دهند. سمت چپ‌ترین قسمت آدرس‌های وب حاوی دو یا چند «کلمه تاس» (dice words) است، به این معنی که عباراتی به‌صورت تصادفی تولید می‌شوند مانند «failing chassis traders»،虽然 کاربران می‌توانند آن‌ها را تغییر دهند. سمت راست‌ترین بخش لینک عبارت grok.me است. URL یک برنامه کمپین تبلیغاتی در X به این صورت بود: https://cinder-crane-sand-frost.grok.me.

این طرح برای جلوگیری از حدس زدن آسان لینک‌ها در نظر گرفته شده است. وقتی کار به درستی انجام شود، عبارتی شامل سه کلمه تاس دارای حدود ۳۸ بیت انتروپی است که به میلیاردها ترکیب احتمالی بالغ می‌شود. این ایده — که گاهی کنترل دسترسی مبتنی بر قابلیت (capability-based access control) نامیده می‌شود — بر این فرض است که داشتن URL به عنوان مجوز دسترسی به منابع پشت آن عمل می‌کند. گوگل مدت‌هاست از این تکنیک استفاده می‌کند تا اشتراک‌گذاری URLها را آسان اما حدس زدن آن‌ها را دشوار کند. یک لینک اشتراک‌گذاری شده در آن پلتفرم ممکن است شبیه به این باشد: https://docs.google.com/document/d/1BxiMVs0XRA5nFMdKvBdBZjgmUUqptlbs74OgvE2upms/edit

یک نقص مرگبار در نحوه پیاده‌سازی این مکانیزم توسط شرکت SpaceXSI وجود دارد. برخلاف لینک‌های گوگل که تصادفی‌سازی در سمت راست دامنه قرار دارد، تصادفی‌سازی برای لینک‌های Grok Build در سمت چپ آن قرار گرفته است. این امر باعث می‌شود لینک‌ها به راحتی با استفاده از سرویس‌های DNS غیرفعال (passive DNS) شمارش شوند. این سرویس‌ها سرورهای مرکزی جستجوی DNS را مانیتور می‌کنند. هنگامی که یک جستجوی سرور، آدرس IP یک URL را که قبلاً هرگز دیده نشده است درخواست می‌کند، تراکنش در یک پایگاه داده قابل جستجوی عمومی ثبت می‌شود. اگر Grok رویکرد گوگل را دنبال کرده بود، لینک‌ها برای جستجوگران DNS غیرفعال نامرئی بودند. ایجنت Muse (متعلق به متا) که مارک زاکربرگ مدیرعامل آن گفته بود از پایه برای امنیت ساخته شده است، اخیراً ویژگی اشتراک‌گذاری لینک خود را پس از مشخص شدن اینکه آن هم داده‌های حساس را نشت می‌دهد، به حالت تعلیق درآورد.

آپروزپر گفت که یک جستجوی DNS غیرفعال، ۴۳,۶۰۱ لینک با پسوند grok.me را به دست آورد. از این تعداد، بیش از ۳۵,۰۰۰ لینک، یعنی نزدیک به ۹۵ درصد، عمومی بودند؛ به این معنی که با کلیک روی لینک، اپلیکیشن مربوطه و تمام داده‌های ذخیره‌شده در آن باز می‌شد. او گفت آزمایش‌هایی که طی هفته گذشته انجام داده نشان می‌دهد که به طور پیش‌فرض، Grok لینک‌ها را روی حالت «هر کس که لینک را داشته باشد» (Anyone with the link) تنظیم می‌کند. کاربران این اختیار را دارند که تنظیمات را به «کاربران دعوت‌شده» یا «فقط شما» تغییر دهند.

یک نماینده از Cursor (سرویس برنامه‌نویسی هوش مصنوعی که SpaceXSI اخیراً آن را خریداری کرده است) در یک ایمیل گفت که اپلیکیشن‌های Grok Build «به طور پیش‌فرض خصوصی هستند و هیچ‌چیز عمومی نمی‌شود مگر اینکه سازنده تصمیم به اشتراک‌گذاری آن بگیرد.» این نماینده گفت که ایجنت‌های برنامه‌نویسی رقیب از جمله ChatGPT، Lovable و Bolt نیز به کاربران توانایی تولید لینک‌های قابل اشتراک‌گذاری را می‌دهند.

آزمایش‌های آپروزپر با اظهارات این نماینده در تناقض است. در تمام موارد، Grok Build کاربران را ملزم می‌کرد که تنظیمات «هر کس که لینک را داشته باشد» را به یکی از دو گزینه دیگر تغییر دهند.

بیانیه Cursor در رابطه با سایر پلتفرم‌های برنامه‌نویسی هوش مصنوعی صحیح است. آپروزپر گفت که سازندگان اپلیکیشن از جمله Lovable، Bolt و Replit «نیز به هر اپلیکیشن آدرس وب خاص خود را می‌دهند، بنابراین رکوردهای DNS مشابه آن‌ها را نیز آشکار می‌کنند. با این حال، Grok جایی است که ما تا حد زیادی حساس‌ترین داده‌های شرکت را در آن پیدا کردیم.» این یعنی افرادی که از این پلتفرم‌های دیگر استفاده می‌کنند نیز در معرض خطر افشای داده‌های حساس از طریق لینک‌های اشتراک‌گذاری‌شده هستند. جالب اینجاست که پلتفرم‌های هوش مصنوعی که رویه صحیح لینک اشتراک‌گذاری را دنبال می‌کنند عبارتند از آرتیفکت‌های منتشرشده کلود (claude.ai/public/artifacts/)، مکالمات اشتراک‌گذاری‌شده ChatGPT (chatgpt.com/share/) و جمنای (gemini.google.com/share/). برای هر سه مورد، تصادفی‌سازی محرمانه در مسیر (path) قرار دارد، بنابراین DNS هرگز آن را نمی‌بیند.

این نماینده به سوالات تکمیلی پاسخ نداد؛ از جمله اینکه آیا SpaceXSI عمداً اطلاعات داخلی اختصاصی را فاش کرده است، چرا این شرکت پس از پرسش Ars داده‌ها را حذف کرد، و آیا قصد دارد به مشتریانی که آن‌ها نیز انواع مشابهی از اطلاعات را فاش کرده‌اند اطلاع دهد. هر کسی که از لینک‌های قابل اشتراک‌گذاری با Grok Build استفاده می‌کند باید گزینه «دعوت دیگران» را انتخاب کند، مگر اینکه قصد داشته باشد یک اپلیکیشن را به طور گسترده در دسترس عموم قرار دهد.