شرکت آنتروپیک (Anthropic) دسترسی «شبیه به کارمند» به ناظر بیرونی هوش مصنوعی می‌دهد

این ناظر بیرونی می‌تواند یافته‌های خود را بدون نیاز به تأیید آنتروپیک منتشر کند.

شرکت آنتروپیک در راستای تعهد خود برای افزایش اقدامات حفاظتی در برابر نگرانی‌های مربوط به خارج شدن احتمالی این فناوری از کنترل، به ارزیابان خارجی «دسترسی شبیه به کارمند» داده است تا ریسک‌های مدل‌های خود را ارزیابی کنند.

سازمان غیرانتفاعی METR که با آزمایشگاه‌های پیشرو از جمله OpenAI، آنتروپیک، گوگل و متا همکاری کرده است، اکنون تیمی مستقر در دفتر سازنده کلود (Claude) دارد که به سخت‌افزارها و سیستم‌های داخلی این شرکت دسترسی دارند.

نقش پررنگ‌تر برای ارزیابان شخص ثالث، یکی از مهم‌ترین اقدامات ملموسی است که آزمایشگاه‌ها در واکنش به افزایش نگرانی‌ها درباره خطراتی که سیستم‌های پیشرفته‌تر هوش مصنوعی متوجه اقتصاد، امنیت سایبری و بشریت به طور کلی می‌کنند، پیشنهاد داده‌اند.

داریو آمودی، مدیرعامل آنتروپیک، در ماه سپتامبر موفق شد لحظه‌ای نادر از اتحاد را با رقبای سرسخت خود، سم اولمن و ایلان ماسک، رقم بزند؛ زمانی که مدیران OpenAI و اسپیس‌اکس از پیشنهاد او برای مستقر کردن حسابرسان خارجی در آزمایشگاه‌های پیشرو حمایت کردند.

اعلامیه روز پنج‌شنبه، گام نخست در اجرای این تعهدات محسوب می‌شود. شرکت OpenAI هنوز برنامه‌های خود را برای به‌کارگیری ارزیابان اعلام نکرده است، هرچند اولتمن پیش‌تر پیشنهادهای آمودی را ایده خوبی دانسته بود.

آنتروپیک روز پنج‌شنبه اعلام کرد: «از آنجا که مدل‌ها قدرتمندتر شده‌اند، به حفاظت‌های قوی‌تر و ارزیابی‌های ریسک چالش‌برانگیزتری نیاز دارند. ما می‌خواهیم در قبال تصمیماتی که می‌گیریم پاسخگوی عموم باشیم. اما نمی‌توانیم تمام اطلاعات مرتبط با فعالیت‌های ایمنی خود را به صورت عمومی به اشتراک بگذاریم.»

منتقدان پیشنهاد آنتروپیک برای استفاده از ارزیابان استدلال کرده‌اند که این توافقات ممکن است به تضاد منافع منجر شود — و با اشاره به چالش‌های بخش حسابداری بر این موضوع تأکید کرده‌اند — و معتقدند که به نظارت دولتی بیشتری نیاز است.

آنتروپیک استدلال کرد که اشتراک‌گذاری عمومی اطلاعات می‌تواند به بازیگران مخرب یا رقبا کمک کند و افزود که ارزیابان این شرکت مشابه با نظارت بانکی عمل خواهند کرد؛ به این صورت که نهادهای نظارتی بازرسانی را به طور دائم برای کار در داخل بزرگ‌ترین بانک‌ها می‌گمارند.

این شرکت افزود: «اگر ریسک‌پذیری یک بانک بتواند عموم مردم را تهدید کند، اشخاص ثالث تلاش می‌کنند پیش از وقوع، آن را شناسایی کنند.»

آنتروپیک همچنین تحت فشار است تا سرمایه‌گذاران را مطمئن سازد که مسائل مربوط به ایمنی، عرضه‌ اولیه سهام (IPO) این شرکت را که قرار است امسال با ارزشی بیش از ۲ تریلیون دلار انجام شود، تحت‌الشعاع قرار ندهد. این شرکت بخش بزرگی از ارائه‌های خود به سرمایه‌گذاران در هفته جاری را به تشریح رویه‌های ایمنی خود اختصاص داد.

سازمان METR یکی از نهادهایی بود که هک شدن هاقینگ فیس (Hugging Face) توسط مدل‌های سرکش OpenAI را بررسی کرد؛ این سازمان هزاران لاگ را بررسی کرده و لپ‌تاپ‌های شرکت را تحویل گرفته بود.

آنتروپیک اکنون شش کارمند METR را پذیرفته و سخت‌افزار شرکتی، فضای اداری و «دسترسی به ابزارها و سیستم‌های داخلی که تقریباً هم‌سطح دسترسی تیم‌های ارزیابی ریسک خودمان است» را در اختیار آن‌ها قرار داده است.

این آزمایشگاه اعلام کرد که کارمندان را تشویق کرده است تا اطلاعات را با ارزیابان بههمان شکلی به اشتراک بگذارند که با یک همکار دیگر در بخش ریسک رفتار می‌کنند.

آنتروپیک بابت این توافق هیچ پولی به METR پرداخت نمی‌کند. این گروه پژوهشی هیچ‌گونه کمکی مالی از شرکت‌های هوش مصنوعی یا کارمندان آن‌ها نمی‌پذیرد. بودجه این سازمان از طریق کمک‌های مالی افراد و سازمان‌های خیریه، و همچنین نهادهای دولتی مانند مؤسسه امنیت هوش مصنوعی بریتانیا تأمین می‌شود.

ارزیابان تحلیل‌های خود را منتشر خواهند کرد و آنتروپیک حق وتوی انتشار آن‌ها را ندارد. با این حال، این شرکت می‌تواند از آن‌ها بخواهد اطلاعاتی را که در دسته‌بندی‌های خاصی قرار می‌گیرند — مانند داده‌های مشتریان، جزئیات تحت پوشش حق محرمانگی وکیل و موکل، یا اطلاعات مربوط به معماری مدل‌ها — ویرایش (مخفی) کنند.

آنتروپیک افزود که همچنان با شرکت اکسنچر (Accenture) که ماه گذشته به عنوان شریک تست ایمنی معرفی شد همکاری می‌کند و هر یک حداقل ۱ میلیارد دلار برای ایجاد حفاظ‌های جدید اختصاص داده‌اند.

یکی دیگر از ارزیابان شخص ثالث، SecureBio است که ریسک سلاح‌های شیمیایی و بیولوژیکی را برای این شرکت بررسی می‌کند.

آنتروپیک گفت: «ما به طور داوطلبانه ارزیابان را مستقر می‌کنیم و معتقدیم که هر شرکت پیشرو در زمینه هوش مصنوعی باید همین کار را انجام دهد.»

سازمان METR اعلام کرد: «ما آماده‌ایم تا با تمام توسعه‌دهندگان پیشرو هوش مصنوعی همکاری کنیم تا شواهد بهتری را به گوش عموم برسانیم.»

© ۲۰۲۶ فایننشال تایمز با مسئولیت محدود. کلیه حقوق محفوظ است. بازنشر، کپی‌برداری یا هرگونه تغییر در آن ممنوع است.