تصمیمات پنهان پشت هر درخواست هوش مصنوعی

انتخاب مدل، تازه آغاز یک درخواست هوش مصنوعی است. ادعای خسارت بیمه‌ای را در نظر بگیرید که توسط یک ایجنت هوش مصنوعی پردازش می‌شود. این ایجنت عکس یک سپر آسیب‌دیده را می‌خواند، بیمه‌نامه را بیرون می‌کشد، برآورد تعمیر را با قیمت‌های منطقه‌ای مطابقت می‌دهد، خلاصه‌ای تهیه می‌کند و پرونده را به یک ارزیاب انسانی تحویل می‌دهد. چیزی که این کسب‌وکار […]

انتخاب مدل، تازه آغاز یک درخواست هوش مصنوعی است.

ادعای خسارت بیمه‌ای را در نظر بگیرید که توسط یک ایجنت هوش مصنوعی پردازش می‌شود. این ایجنت عکس یک سپر آسیب‌دیده را می‌خواند، بیمه‌نامه را بیرون می‌کشد، برآورد تعمیر را با قیمت‌های منطقه‌ای مطابقت می‌دهد، خلاصه‌ای تهیه می‌کند و پرونده را به یک ارزیاب انسانی تحویل می‌دهد.

چیزی که این کسب‌وکار آن را یک وظیفه واحد می‌داند، در واقع ۴۰ یا بیشتر فراخوانی (Call) به یک مدل است.

هر یک از این فراخوانی‌ها الزامات خاص خود را دارد. خواندن یک فرم اسکن‌شده کار ساده‌ای است که یک مدل کوچک با کسری از سنت از پس آن برمی‌آید. قضاوت در مورد اینکه آیا ادعا کلاهبردارانه به نظر می‌رسد یا خیر، به یک مدل بزرگ‌تر و کندتر نیاز دارد، و اگر پرونده حاوی سوابق پزشکی باشد، ممکن است اجازه خروج از کشور را نداشته باشد.

در بیشتر سه سال گذشته، شرکت‌ها بر روی این موضوع تمرکز کرده‌اند که از کدام مدل هوش مصنوعی استفاده کنند. اکنون، تمرکز به سمت یک سؤال گسترده‌تر در مورد مکان‌یابی تغییر یافته است: کدام مدل هر فراخوانی را مدیریت می‌کند، کجا اجرا می‌شود، و آیا ظرفیت لازم برای پذیرش آن وجود دارد یا خیر.

این تغییر در بودجه‌ها نیز نمایان شده است. گارتنر در مارس ۲۰۲۶ گزارش داد که مدل‌های ایجنتی بین ۵ تا ۳۰ برابر بیشتر از یک تبادل چت‌بات استاندارد در هر وظیفه توکن مصرف می‌کنند، حتی با وجود اینکه هزینه اجرای استنتاج (Inference) برای ارائه‌دهندگان کاهش می‌یابد. شرکت ارنست اند یانگ (EY) رقم مشخصی را برای همین روند اعلام کرده است: یک تعامل خدمات مشتری که ارائه آن در سال ۲۰۲۳ حدود ۰.۰۴ دلار هزینه داشت، هنگامی که به عنوان یک ایجنت هماهنگ‌شده با ابزارها، مراحل استدلال و زیرایجنت‌ها اجرا می‌شود، در سال ۲۰۲۶ تقریباً ۱.۲۰ دلار هزینه در بر دارد.

بار پردازشی هوش مصنوعی نیز همگام با آن در حال جابه‌جایی است. گارتنر پیش‌بینی می‌کند که هزینه جهانی استنتاج امسال از هزینه آموزش (Training) پیشی بگیرد و به ۲۳.۳ میلیارد دلار در برابر ۱۹ میلیارد دلار برسد. مک‌کینزی انتظار دارد تقاضا برای استنتاج تا سال ۲۰۳۰ با نرخ رشد مرکب سالانه ۳۵ درصد رشد کند و تا آن زمان به بار کاری غالب هوش مصنوعی در مراکز داده تبدیل شود.

سه مسئله‌ای که قبلاً به تیم‌های مختلفی تعلق داشتند، اکنون همگی با هم ظاهر می‌شوند: کدام مدل کار را انجام دهد، کجای پردازش برای اجرای آن وجود دارد، و چه کسی پس از عملیاتی شدن، آن را روشن نگه می‌دارد.

دیوید وانگ، بنیان‌گذار و مدیرعامل GoodVision AI می‌گوید: «شرکت‌ها ماه‌ها صرف انتخاب یک مدل می‌کنند، سپس متوجه می‌شوند که مدل، بخش آسان کار بوده است. در محیط عملیاتی (Production)، همان برنامه هر ثانیه هزاران تصمیم کوچک درباره مدل، محیط و هزینه می‌گیرد. این تصمیمات تعیین می‌کنند که آیا پروژه‌های آزمایشی هوش مصنوعی از سال اول جان سالم به در می‌برند یا خیر.»

شرکت GoodVision AI در سال ۲۰۱۹ در کالیفرنیا آغاز به کار کرد و ظرفیت ابری را برای شرکت‌های فعال در حوزه بازی، ویدیو و تجارت فرامرزی تأمین و مدیریت می‌کرد. از ماه مارس، این شرکت خدمات استنتاج را نیز بر اساس میزان مصرف، از طریق یک موتور مسیریابی هوشمند (Smart Routing Engine) که نحوه مدیریت هر درخواست را تعیین می‌کند، به فروش رسانده است. بخش تجاری سوم به نام AI Factory، توان پردازشی استنتاج را در سایت‌های فشرده و نزدیک‌تر به کاربران قرار می‌دهد. وانگ قبل از تأسیس GoodVision AI، به مدت ۲۵ سال در شرکت‌های IBM، آمازون وب سرویس (AWS) و اینتل فعالیت کرده بود.

هر درخواست، یک تصمیم مکان‌یابی است

دیگر کمتر شرکتی با یک مدل فعالیت می‌کند. تحقیقات S&P Global Market Intelligence که به سفارش Vultr انجام شده است، نشان داد که پیشرفته‌ترین استفاده‌کنندگان هوش مصنوعی به طور میانگین ۱۷۵ مدل را در محیط عملیاتی اجرا می‌کنند و انتظار دارند ظرف یک سال به ۲۰۰ مدل برسند.

یک مدل پیش‌فرض واحد، بر روی هر درخواست سازش و مصالحه‌ای را تحمیل می‌کند. مدل‌های بسیار بزرگ برای کارهایی که مدل‌های کوچک‌تر به خوبی از پس آن‌ها برمی‌آیند، پرهزینه هستند؛ آنتروپیک (Anthropic) قیمت Claude Haiku 4.5 را یک‌سوم Claude Sonnet 4.5 تعیین کرده و گزارش می‌دهد که در برخی ارزیابی‌ها عملکرد کدنویسی مشابهی دارند. در عوض، ارسال همه چیز به مدل کوچک باعث شکست خوردن کارهای دشوار می‌شود. ارسال داده‌های قانون‌گذاری شده به یک پایگاه عمومی نیز خطرات انطباق (Compliance) را به همراه دارد.

تیم‌های مهندسی شروع به ساخت راه‌حل‌های خود کرده‌اند. وبلاگ مهندسی اوبر در ماه اوت گزارش داد که تغییر مدل‌ها برای سیستم بررسی کد خودکار آن، ضمن کاهش هزینه به ازای هر درخواست پول (Pull Request)، نمره‌های کیفیت را بهبود بخشیده است؛ این بخشی از برنامه‌ای است که هزینه هر هزار درخواست مدل را حدود ۳۴ درصد نسبت به اوج خود کاهش داد. شرکت Sword Health یک پروکسی داخلی بین ابزارها و ارائه‌دهندگان خود ساخته و بخشی از کاهش هزینه ۹۴ درصدی خود را مدیون مسیریابی کارها به سمت مدل‌های ارزان‌تر و میزبان شخصی (Self-hosted) می‌داند.

ابر بزرگ‌ها نسخه‌ای از این قابلیت را به صورت محصول ارائه کرده‌اند. شرکت آمازون (AWS) مسیریابی هوشمند پرامپت Bedrock (Bedrock Intelligent Prompt Routing) را در آوریل ۲۰۲۵ به طور عموم عرضه کرد و می‌گوید می‌تواند هزینه‌ها را تا ۳۰ درصد کاهش دهد. مسیریاب مدل فونداسیون مایکروسافت (Foundry Model Router) که در رویداد Build 2025 معرفی شد، برای هر پرامپت یک مدل انتخاب می‌کند. گوگل کلود نیز در اوت ۲۰۲۶ مسیریابی مدل را به API Gateway خود اضافه کرد. هر یک از این موارد به این سؤال پاسخ می‌دهند که چه مدلی اجرا شود. با این حال، هیچ‌کدام تعیین نمی‌کنند که یک درخواست در کدام کشور اجرا می‌شود، یا اینکه آیا روی سخت‌افزاری خارج از یک منطقه مقیاس‌پذیر بزرگ (Hyperscale) اجرا می‌شود یا خیر.

موتور مسیریابی هوشمند GoodVision AI هر درخواست را بر اساس چهار فاکتور امتیازدهی می‌کند: پیچیدگی، نیاز به تاخیر (Latency)، هزینه و حساسیت داده‌ها. سپس هم مدل و هم محیط را انتخاب می‌کند؛ ابر عمومی برای کارهای عمومی و پردازش اختصاصی یا محلی برای کارهای حساس و دارای حساسیت زمانی، که روی نرم‌افزار استنتاج انویدیا اجرا می‌شوند. وانگ این قانون را به عنوان «مدل مناسب برای کار مناسب» توصیف می‌کند. این پلتفرم در فوریه ۲۰۲۶ با دسترسی محدود برای مشتریان سازمانی دعوت‌شده وارد مرحله پیش‌نمایش شد، این شرکت از ماه بعد شروع به فروش خدمات استنتاج کرد، و عرضه گسترده‌تر آن هنوز در پیش است.

دو نمونه استقرار، طیف این کاربردها را نشان می‌دهد. یک استودیوی بازی‌سازی که یک سیستم ایجنت درون‌بازی طراحی کرده بود، اما پردازشی برای اجرای آن نداشت و تیمش می‌خواست روی گیم‌پلی تمرکز کند، آن را روی این پلتفرم ساخت؛ GoodVision AI کاهش هزینه‌های توکن تا ۳۵ درصد و کاهش تلاش‌های توسعه تا ۶۰ درصد را گزارش می‌کند. یک مشتری بیوتکنولوژی که ورود داده‌های مشتریانش به یک گلوگاه دستی تبدیل شده بود، مرحله جذب داده را خودکار کرد و از کاهش هزینه توکن تا ۴۰ درصد و کاهش ۷۰ درصدی کارهای دستی خبر می‌دهد. تحقیقاتی که این شرکت به سفارش Frost & Sullivan انجام داده است، یک راه‌حل ترکیبی را مدل‌سازی می‌کند که در آن کارهای حساس و با بسامد بالا به صورت محلی نگه داشته می‌شوند و حدود ۷۰ درصد توکن کمتری نسبت به ارسال همه چیز به یک API عمومی مصرف می‌کنند.

وانگ می‌گوید: «هر درخواست دارای سه محدودیت است: چقدر هزینه دارد، چقدر سریع باید برگردد، و داده‌ها اجازه رفتن به کجا را دارند. یک انسان می‌تواند این موارد را برای یک درخواست بسنجد. هیچ‌کس نمی‌تواند این کار را برای یک میلیون درخواست در روز انجام دهد.»

مسیریابی تنها زمانی کمک می‌کند که پردازش وجود داشته باشد

مکان‌یابی به یک محدودیت فیزیکی برخورد می‌کند. آژانس بین‌المللی انرژی انتظار دارد مصرف برق مراکز داده بیش از دو برابر شود و تا سال ۲۰۳۰ به حدود ۹۴۵ تراوات ساعت برسد که کمی بیشتر از کل مصرف امروز ژاپن است. موسسه EPRI مصرف مراکز داده در ایالات متحده را تا سال ۲۰۳۰ بین ۳۸۳ تا ۷۹۳ تراوات ساعت پیش‌بینی می‌کند که دو تا چهار برابر سطح سال ۲۰۲۴ است.

اتصال ظرفیت‌های جدید به شبکه کند است. JLL در ماه ژانویه گزارش داد که میانگین انتظار برای اتصال به شبکه برق در بازارهای اصلی مراکز داده اکنون از چهار سال فراتر رفته است. در اتحادیه اروپا، آژانس بین‌المللی انرژی صف‌های اتصال را بسته به کشور بین دو تا ده سال، و در هاب‌های فرانکفورت، لندن، آمستردام، پاریس و دوبلین بین هفت تا ده سال تخمین می‌زند.

دولت‌ها در حال تأمین بودجه برای ظرفیت‌های خود هستند. کره جنوبی در حال ساخت یک مرکز ملی پردازش هوش مصنوعی با بودجه‌ای تا ۲ تریلیون وون است، و کمیسیون اروپا در ماه ژوئیه فراخوانی را برای ساخت حداکثر هفت گیگافکتوری هوش مصنوعی با پشتیبانی تا سقف ۱۰ میلیارد یورو از منابع مالی عمومی افتتاح کرد.

یک مسیریاب می‌تواند تصمیم بگیرد که یک درخواست به جای یک منطقه مقیاس‌پذیر بزرگ، به فوکوشیما یا دالاس تعلق دارد. اما این تصمیم بدون وجود ظرفیت در آنجا برای پذیرش درخواست، هیچ ارزشی ندارد.

شرکت GoodVision AI توافق‌نامه‌های غیرالزام‌آوری را برای سه سایت تحت برنامه‌ای که آن را AI Factory می‌نامد امضا کرده است: فوکوشیما در ژاپن، تگزاس، و گیمپو در کره جنوبی. هر سایت به گونه‌ای طراحی شده است که فشرده، با چگالی بالا و دارای سیستم خنک‌کننده مایع باشد، با اندازه‌ای که از ۱.۵ تا ۵ مگاوات شروع شده و از آنجا گسترش می‌یابد، و به جای مقیاس‌های غول‌پیکر، در نزدیکی کاربران و درون حوزه‌های قضایی مربوط به داده‌هایشان مستقر شود. استقرار اولیه برای سال جاری هدف‌گذاری شده است. این شرکت می‌گوید یک سایت می‌تواند ظرف ۳۰ روز پس از نصب تجهیزات راه‌اندازی شود. پلتفرم مسیریابی در حال حاضر روی ظرفیت خریداری‌شده از ارائه‌دهندگان بزرگ ابری اجرا می‌شود؛ همان محدودیتی که اکثر مشتریانش با آن روبرو هستند.

وانگ می‌گوید: «مردم می‌پرسند چرا یک شرکت مسیریابی باید سایت‌های پردازشی بسازد؟ مسیریابی یک تصمیم است. تصمیمی که جایی برای اجرای کار (ظرفیت) نداشته باشد، هیچ ارزشی ندارد. این دو نیمه باید در کنار هم حل شوند.»

هنوز هم کسی باید آن را اجرا کند

مشکل سوم این است که یک برنامه هوش مصنوعی در محیط عملیاتی هرگز از تغییر باز نمی‌ایستد و کسی باید این تغییرات را پوشش دهد. این موضوع کمترین توجه را به خود جلب می‌کند زیرا تازه پس از راه‌نشازی آغاز می‌شود. یک ارائه‌دهنده، نسخه مدلی را که یک برنامه روی آن ساخته شده بود بازنشسته می‌کند، و پرامپت‌های بهینه‌شده برای نسخه قدیمی، روی جایگزین آن به شکل دیگری عمل می‌کنند. قیمت‌ها و محدودیت‌های نرخ تغییر می‌کنند و اقتصادِ یک قابلیت نیز به دنبال آن تغییر می‌کند. یک محصول مورد توجه قرار می‌گیرد و ترافیک در یک روز سه‌شنبه ده برابر می‌شود. یک قرارداد جدید می‌گوید داده‌های یک مشتری نباید خارج از اتحادیه اروپا پردازش شوند، بنابراین یک بار کاری باید جابه‌جا شود.

این کار بر عهده کسی است که از قبل حساب‌های ابری شرکت را مدیریت می‌کند؛ جایی که GoodVision AI کار خود را از آنجا آغاز کرد. تیم ابری این شرکت امور تدارکات، مهاجرت، بهینه‌سازی عملکرد و عملیات روزانه را در میان ارائه‌دهندگان بزرگ مدیریت می‌کند؛ کاری که به گفته این شرکت، صورت‌حساب‌های ابری مشتریان (مجزا از هزینه‌های توکن آن‌ها) را بین ۳۰ تا ۵۰ درصد در مقایسه با قیمت‌گذاری استاندارد ابر عمومی کاهش داده است. این بخش، کمترین میزان نوآوری را در میان سه خط کسب‌وکار این شرکت دارد، اما برای بیشتر خریداران سازمانی، بخشی است که تعیین می‌کند آیا دو مورد دیگر اصلا به مرحله عملیاتی می‌رسند یا خیر.

وانگ می‌گوید: «استنتاج پروژه‌ای با تاریخ پایان نیست. این روند هر روز اجرا می‌شود و هر ماه تغییر می‌کند. بیشتر تیم‌ها آن بخش را دست‌کم می‌گیرند.»

تبدیل تقاضای استنتاج به درآمد

خدمات ابری همچنان شالوده کسب‌وکار GoodVision AI باقی مانده‌اند. بر اساس فرم S-4 ثبت‌شده در کمیسیون بورس و اوراق بهادار ایالات متحده (SEC)، درآمد این شرکت در سال مالی ۲۰۲۴ تقریباً ۳.۶ میلیون دلار، در سال مالی ۲۰۲۵ حدود ۷.۷ میلیون دلار، و برای دوره نه‌ماهه منتهی به ۳۰ ژوئن ۲۰۲۶ برابر با ۲۴ میلیون دلار بوده است.

مرحله بعدی رشد تا حدی به عملیاتی کردن کارخانه‌های هوش مصنوعی (AI Factories) بستگی دارد. برآوردهای مدیریتی افشاشده در فرم S-4 نشان می‌دهد که ظرفیت مستقرشده AI Factory در سال مالی ۲۰۲۷ تقریباً ۱۷.۵ مگاوات است که در سال مالی ۲۰۲۸ به حدود ۴۰ مگاوات افزایش می‌یابد. مدیریت بر اساس استقرار پیش‌بینی‌شده این ظرفیت، درآمد خدمات پردازشی AI Factory را برای سال مالی ۲۰۲۷ حدود ۶۴ میلیون دلار و برای سال مالی ۲۰۲۸ حدود ۲۲۴ میلیون دلار پیش‌بینی می‌کند. این پیش‌بینی‌ها به توسعه سایت، تدارکات تجهیزات، تأمین مالی و تعهدات مشتریان بستگی دارد.

معمولاً تصور می‌شود که رشد در این مقیاس به معنای فروش توکن‌های بیشتر است. وانگ استدلال متفاوتی دارد:

«مشتریان نتیجه یک وظیفه تجاری را خریداری می‌کنند، نه تعداد مشخصی توکن.» مسیریابی بهتر با حذف فراخوانی‌ها و تلاش‌های مجدد غیرضروری، می‌تواند مصرف توکن را کاهش دهد و در عین حال ارزش ارائه شده را افزایش دهد.

فرم S-4 برای ادغام پیشنهادی با Calisa در ۱۱ سپتامبر اجرایی شد و سهامداران Calisa در ۸ اکتبر رای خواهند داد. تاریخ نهایی قطعی نشده است. وانگ می‌گوید عایدات حاصل از آن ابتدا صرف سایت‌های جدید AI Factory، کارهای بیشتر روی موتور مسیریابی هوشمند، و گسترش تیم‌های فروش و تحقیق خواهد شد.

مزیت رقابتی در حال انتقال به لایه‌های زیرین مدل است

هر شرکتی می‌تواند از طریق همان APIها با همان مدل‌ها ارتباط برقرار کند. آنچه کپی کردنش سخت‌تر است، تمام چیزهایی است که در لایه‌های زیرین قرار دارد: تعیین محل اجرای هر وظیفه، حفظ ظرفیت برای اجرای آن در همان جا، و حفظ پایداری این چیدمان در حالی که مدل‌ها، قیمت‌ها و قوانین مدام در حال تغییرند. مزیت رقابتی در هوش مصنوعی سازمانی به این سمت در حرکت است.

بخش بزرگی از این مسائل هنوز حل‌نشده باقی مانده است. قضاوت در این باره که آیا تصمیم مسیریابی درست بوده است یا خیر، همچنان دشوار است، زیرا سنجش کیفیت سخت‌تر از هزینه است. ظرفیت پردازشی با سرعت کمتری نسبت به رشد تقاضا در حال ساخت است، و فعالیت در میان چندین ارائه‌دهنده و مکان، پیچیدگی‌هایی را اضافه می‌کند که باید به طریقی هزینه‌های آن پرداخت شود.

وانگ می‌گوید: «هرکسی می‌تواند مدل را بخрад. خلبان‌هایی جان سالم به در می‌برند که تصمیم بعدی را درست بگیرند: اینکه کار کجا اجرا شود، اجرای آن چقدر هزینه داشته باشد، و آیا اصلاً ظرفیت آن وجود دارد یا خیر. این همان لایه استدلالی است که هوش مصنوعی روی آن اجرا می‌شود.»

درباره GoodVision AI در goodvision.ai بیشتر بیاموزید.