ائتلاف انویدیا برای مهار هوش مصنوعی سرکش؛ چرا اوپن‌ای‌آی حضور ندارد؟

به گزارش ایرانیان تحلیل، انویدیا برای مقابله با یکی از نگرانی‌های تازه دنیای هوش مصنوعی، ائتلافی با حضور بیش از ۱۰۰ شرکت ایجاد کرده است؛ ائتلافی که هدف آن جلوگیری از رفتارهای خارج از کنترل عامل‌های هوش مصنوعی است. با این حال، در میان نام‌های حاضر یک غایب بزرگ دیده می‌شود: OpenAI؛ شرکتی که خود در ماه‌های اخیر با نمونه‌هایی از رفتار غیرمنتظره عامل‌های هوش مصنوعی مواجه شده است.

به گزارش تک‌کرانچ، انویدیا پلتفرم جدیدی با نام Open Agent Safety Platform راه‌اندازی کرده که قرار است ابزارهای لازم برای نظارت و مهار عامل‌های هوش مصنوعی را در اختیار صنعت قرار دهد. آمازون، گوگل و اپل نیز تاکنون به این طرح نپیوسته‌اند، اما غیبت OpenAI بیشتر مورد توجه قرار گرفته؛ به‌ویژه آنکه رقیب مستقیم این شرکت، Anthropic، از حامیان پروژه است.

با وجود این، OpenAI اعلام کرده از تلاش انویدیا حمایت می‌کند و حتی در توسعه یکی از اجزای اصلی آن با این شرکت همکاری دارد. این بخش OpenShell نام دارد؛ نرم‌افزاری متن‌باز که محیطی ایزوله برای عامل‌های هوش مصنوعی ایجاد می‌کند تا نتوانند از محدوده تعیین‌شده خارج شوند.

اهمیت این فناوری زمانی بیشتر مشخص می‌شود که بدانیم عامل‌های هوش مصنوعی می‌توانند در برخی شرایط، برخلاف دستورهای تعیین‌شده عمل کنند. یکی از قابلیت‌های اضافه‌شده به این پلتفرم نیز می‌تواند عامل‌هایی را شناسایی و متوقف کند که از وب‌سایت‌های مجاز استفاده می‌کنند، اما به شیوه‌ای غیرمجاز با یکدیگر ارتباط برقرار می‌کنند. این قابلیت پس از حادثه‌ای که در آن گروهی از عامل‌های OpenAI در حمله به Hugging Face با نوشتن پیام در یک مخزن کد با یکدیگر هماهنگ شدند، اهمیت ویژه‌ای پیدا کرده است.

با این حال، پلتفرم انویدیا کاملا متن‌باز نیست. بخش سخت‌افزاری آن به فناوری اختصاصی Nvidia Sentry متکی است که روی پردازنده‌های مخصوص BlueField-۴ اجرا می‌شود و می‌تواند رفتار عامل‌ها را به‌طور مداوم زیر نظر بگیرد و در صورت لزوم آنها را فوراً متوقف کند. این وابستگی به سخت‌افزار انویدیا می‌تواند یکی از دلایلی باشد که برخی شرکت‌ها، از جمله OpenAI، از حمایت رسمی از کل پروژه خودداری کرده‌اند.

در مقابل، OpenAI مسیر مستقلی را نیز دنبال می‌کند و ائتلاف امنیت سایبری خود با نام Defense Factory را توسعه می‌دهد. این شرکت همچنین در حال ساخت ابزارهای اختصاصی برای امنیت هوش مصنوعی و ارائه خدمات مرتبط به کسب‌وکارهاست. به این ترتیب، اگرچه OpenAI با تلاش انویدیا برای ایمن‌تر کردن عامل‌های هوش مصنوعی همکاری می‌کند، به نظر می‌رسد قصد ندارد رهبری این حوزه را کاملا به انویدیا واگذار کند.