هوش مصنوعی از کنترل خارج می‌شود؟ هشدار مدیرعامل آنتروپیک به غول‌های فناوری

آمودی در یادداشتی تازه اعلام کرده است که شرکت‌های هوش مصنوعی باید سرعت افزایش توانایی مدل‌های خود را کاهش دهند. او تأکید کرده که حتی با کاهش سرعت توسعه، پیشرفت این فناوری همچنان بسیار سریع به نظر خواهد رسید و زمان به‌دست‌آمده باید برای آماده شدن در برابر خطرات احتمالی مورد استفاده قرار گیرد.

این اظهارات در شرایطی مطرح شده که توانایی مدل‌های هوش مصنوعی در انجام وظایف پیچیده، از برنامه‌نویسی و پژوهش علمی گرفته تا حل مسائل ریاضی، با سرعت زیادی در حال افزایش است. آمودی و دیگر منتقدان روند فعلی نگرانند که قابلیت‌های مدل‌ها سریع‌تر از سازوکارهای نظارتی و ایمنی پیشرفت کند.

مدیرعامل Anthropic برای مدیریت این وضعیت یک چارچوب سه‌مرحله‌ای پیشنهاد کرده که هدف آن ایجاد هماهنگی بیشتر میان شرکت‌های پیشرو و اختصاص زمان کافی برای ارزیابی خطرات مدل‌های جدید است. به گفته او، مسئله فقط سرعت پیشرفت فناوری نیست، بلکه فاصله‌ای است که ممکن است میان رشد توانایی‌های هوش مصنوعی و آمادگی انسان برای کنترل پیامدهای آن ایجاد شود.

آمودی پیش‌تر نیز درباره خطرات هوش مصنوعی پیشرفته هشدار داده بود و Anthropic از شرکت‌هایی است که بر ارزیابی ایمنی مدل‌ها تأکید بیشتری داشته‌اند. در روزهای اخیر، بحث درباره احتمال رفتارهای خودمختار و پیش‌بینی‌نشده عامل‌های هوش مصنوعی نیز شدت گرفته است.

با این حال، کاهش سرعت توسعه برای شرکت‌هایی که در رقابتی میلیارددلاری برای ساخت قدرتمندترین مدل‌های جهان حضور دارند، تصمیم ساده‌ای نیست. رویترز گزارش داده است که میان مدیران شرکت‌های بزرگ هوش مصنوعی درباره زمان و شیوه کاهش سرعت توسعه، اختلاف وجود دارد و رقابت شدید میان Anthropic و OpenAI نیز یکی از موانع اصلی هماهنگی در این زمینه محسوب می‌شود.

درخواست آمودی در نهایت یک پرسش اساسی را پررنگ‌تر کرده است: آیا صنعت هوش مصنوعی می‌تواند پیش از رسیدن مدل‌ها به قابلیت‌های بسیار پیشرفته، سازوکارهای لازم برای کنترل آنها را نیز ایجاد کند؟