توهم هوش مصنوعی در خصوص قطعات هستهای چین تقریباً به یک حمله نظامی از سوی ایالات متحده منجر شد
با این حال، به نظر میرسد استفاده کلی ارتش از هوش مصنوعی در حال شتاب گرفتن است.
بر اساس گزارش CNN، ایالات متحده بر اساس یک گزارش اطلاعاتی «کاملاً نادرست» که با کمک ابزارهای هوش مصنوعی تولید شده بود، در آستانه ورود و بازرسی از یک کشتی چینی قرار داشت اما از این حادثه به طور مخاطرهآمیزی نجات یافت.
به گفته «چهار منبع مطلع در خصوص این رویداد» که CNN به آنها استناد کرده است، این اطلاعات نادرست که توسط یک تحلیلگر فرماندهی عملیات ویژه ایالات متحده ارائه شده بود، ادعا میکرد که این کشتی چینی در حال انتقال قطعات برنامه تسلیحات هستهای از طریق خاورمیانه است. ارتش ایالات متحده پیش از آنکه مقامها کشف کنند چتباتِ استفادهشده برای تولید این گزارش، «محیط یا مواد حملشده توسط کشتی را به نادرستی شناسایی کرده است»، در حال آماده شدن برای رهگیری و توقف کشتی به همراه پشتیبانی هوایی بود.
یک منبع به CNN گفت که این افتضاحِ مبتنی بر هوش مصنوعی «تقریباً یک جنگ را به راه انداخته بود».
بدترین اتفاقی که میتواند بیفتد چیست؟
گزارش CNN حاکی از آن است که تحلیلگر مذکور از یک چتبات برای تحلیل گزارشهای اطلاعاتی مربوط به مانیفست کشتی چینی استفاده کرده که به این نتیجه نزدیک به فاجعه منجر شده است. به گفته CNN، آن چتبات «اطلاعات منبعباز را با اطلاعات سیگنالی محرمانه در اختیار دولت ادغام کرده بود» و این اطلاعات در قالب یک گزارش اطلاعاتی بستهبندی شد که تقریباً زنجیرهای از رویدادهای فاجعهبار را به راه انداخته بود.
این رویدادِ خطرناک و در عین حال به خیر گذشته، یکی از بارزترین و پیامددارترین نمونههایی است که در آن، توهم زدنِ هوش مصنوعی، اعتبار یک گزارش حرفهای را زیر سؤال برده است. از زمانی که کلمه «توهم» (Hallucinating) به عنوان کلمه سال ۲۰۲۳ در فرهنگ لغت کمبریج انتخاب شد، ما نمونههای برجستهای از نویسندگان آثار غیرداستانی، روزنامهنگاران، پژوهشگران دانشگاهی، قضات، پزشکان، بخشهای پلیس، مرکز تماس شرکتها و موارد دیگری را دیدهایم که فریب ابزارهای هوش مصنوعی را خوردهاند؛ ابزارهایی که وقتی دادههای آموزشی آنها زمینه کافی را فراهم نمیکند، به سادگی از خودشان مطلبی را میبافند. و با وجود برخی تلاشهای جالب برای استفاده از دستوراتِ (Prompts) «توهم نزن»، برخی پژوهشگران پیشنهاد میکنند که جلوگیری کامل از توهم زدن مدلهای زبانی بزرگ (LLMها) ممکن است غیرممکن باشد.
انسان انتظار دارد ارتش ایالات متحده هنگام تکیه بر هوش مصنوعی برای تحلیل گزارشهای اطلاعاتی، از اینگونه مشکلات آگاه باشد. اما وزارت دفاع در ماه ژانویه «استراتژی شتابدهی هوش مصنوعی» را به اجرا گذاشت که به دنبال آن بود «تمامی دادههای مناسب را در سراسر سیستمهای فناوری اطلاعات فدرال برای بهرهبرداری هوش مصنوعی، از جمله سیستمهای مأموریتی در هر بخش و مؤلفه، در دسترس قرار دهد.»
پیت هگستث، وزیر دفاع، هنگام معرفی این ابتکار گفت: «هوش مصنوعی تنها به خوبیِ دادههایی است که دریافت میکند، و ما مطمئن خواهیم شد که آن دادهها فراهم شوند.»
دسامبر گذشته، وزارت دفاع اعلام کرد که از نسخه Gemini گوگل برای دولت به عنوان پایه و اساس پلتفرم سفارشی خود یعنی «GenAI.mil» استفاده خواهد کرد. ماه گذشته، این وزارتخانه Grok برای دولت را نیز به عنوان یک گزینه به این پلتفرم اضافه کرد. شرکت Anthropic نیز نسخه سفارشیسازیشدهای از Claude را برای کارهای جاسوسی ایالات متحده ارائه میدهد.
در ماه ژوئن، یک نماینده پنتاگون به کنگره بالید که آنها از هوش مصنوعی مولد برای کمک به تهیه گزارشهای الزامیِ کنگره استفاده میکنند و ۱.۵ میلیون نفر از پرسنل فعال وزارت دفاع از ابزارهای هوش مصنوعی مولد ارتش استفاده کردهاند.
در سال ۲۰۲۳، «بیانیه استفاده مسئولانه از هوش مصنوعی و خودمختاری در امور نظامی» وزارت امور خارجه تأکید کرد که استفاده «اصولی» از هوش مصنوعی توسط نیروهای مسلح «باید شامل بررسی دقیق خطرات و مزایا باشد و همچنین باید سویگیریها (bias) و حوادث ناخواسته را به حداقل برساند.» آن گزارش همچنین اصرار داشت که استفاده «پاسخگو» از سیستمهای هوش مصنوعی باید همیشه شامل «یک انسان در حلقه نظارت، و یک زنجیره فرماندهی و کنترل انسانی مسئول» باشد.
با این حال، در سالهای پس از آن، شاهد بودهایم که پهپادهای تهاجمی کاملاً خودمختار در درگیری روسیه در اوکراین مورد استفاده قرار گرفتند و توسط پیمانکاران نظامیِ تحت حمایت ناتو آزمایش شدند. در ماه مارس، وزارت دفاع شرکت Anthropic را در فهرست سیاه قرار داد که دلیل آن مخالفت این شرکت با استفاده از مدلهایش در سیستمهای تسلیحاتی خودمختار بود؛ اقدامی که یک قاضی فدرال ماه گذشته آن را «تلافیجویی غیرقانونی و نقض متمم اول قانون اساسی» توصیف کرد.
این حادثه خطرناکی که به خیر گذشت، همزمان با آن رخ داده است که هشدارهای سطح انقراض از سوی پژوهشگران هوش مصنوعی به گفتگویی ملی و برجسته درباره ایمنی هوش مصنوعی منجر شده است؛ از جمله درخواستها برای وضع مقررات و تنظیم سرعتِ هماهنگ تحقیقات از سوی آزمایشگاههای پیشروی هوش مصنوعی.
نظر مهندس بهمن آبادی: به عنوان یک توسعهدهنده، بزرگترین خطای این سناریو اعتماد کور به خروجیهای متنمحور LLM در تصمیمهای بحرانی بدون داشتن مکانیزمهای اعتبارسنجی قطعی است. توهم هوش مصنوعی در دادههای حساس نظامی نشان میدهد که مدلهای زبانی به هیچ عنوان برای تحلیلهای اطلاعاتیِ بیخطا ساخته نشدهاند و اصرار بر اتوماسیون حداکثری بدون «حلقه نظارت انسانی واقعی»، فاجعهآفرین است. هوش مصنوعی باید ابزار کمکی باشد، نه تصمیمگیرنده نهایی؛ به ویژه زمانی که هزینه یک خطای منطقی، آغاز یک جنگ جهانی باشد.