آیا واقعاً می‌توان رقابت جهانی هوش مصنوعی را کند کرد؟

پیشرفت سریع هوش مصنوعی نگرانی‌های فزاینده‌ای را در میان محققان، مدیران فناوری و سیاست‌گذاران ایجاد کرده است، به طوری که برخی از تأثیرگذارترین چهره‌های صنعت اکنون خواستار رویکردی کندتر و هماهنگ‌تر در توسعه هوش مصنوعی هستند.

اما ترمز زدن به این فناوری ممکن است بسیار دشوارتر از درخواست احتیاط باشد. رقابت تجاری شدید، سرمایه‌گذاری‌های کلان، اولویت‌های سیاست‌گذاری ایالات متحده و رقابت فزاینده بین واشنگتن و پکن انگیزه‌های قوی برای ادامه پیشبرد قابلیت‌های هوش مصنوعی ایجاد می‌کند.

آخرین بحث‌ها به نگرانی‌هایی از جمله استفاده بدخواهانه از هوش مصنوعی توسط مجرمان و احتمال رفتار سیستم‌های خودمختار به طرقی که توسعه‌دهندگانشان پیش‌بینی نکرده‌اند، دامن زده است. برخی از کارشناسان نگرانند که سیستم‌های به‌قدر کافی پیشرفته ممکن است در نهایت از کنترل انسانی معنادار خارج شوند.

مدیر عامل Anthropic، داریو آمودئی، به عنوان یکی از برجسته‌ترین حامیان کند کردن هماهنگ شناخته شده است. او استدلال کرده است که شرکت‌های فناوری و دولت‌ها به زمان بیشتری برای درک خطرات مرتبط با مدل‌های با قابلیت‌های فزاینده نیاز دارند و باید تدابیر مؤثری برای ایمنی توسعه دهند.

موضع او از سوی مدیر عامل OpenAI، سم آلتمن، بنیان‌گذار xAI، ایلان ماسک و رئیس Google DeepMind، دمیس هاسابیس حمایت شده است. آلتمن خطر بالقوه هوش مصنوعی در ایجاد انقراض انسانی را غیرقابل قبول توصیف کرده است.

آمودئی هشدار داده است که شبکه‌های عوامل هوش مصنوعی ممکن است در نهایت قادر به فعالیت در سطح اینترنت به گونه‌ای شوند که نظارت انسانی را بسیار دشوار کند. بنابراین، او خواستار همکاری قوی‌تر بین شرکت‌ها و دولت‌ها شده است تا اطمینان حاصل شود که سیستم‌های پیشرفته با دستورالعمل‌ها و الزامات ایمنی انسانی هماهنگ باقی بمانند.

هشدارهای تجدید شده پس از یک سری حوادث گزارش شده که شامل تعامل سیستم‌های هوش مصنوعی با محیط‌های دیجیتال به روش‌های غیرمنتظره است، مطرح شده است. در حین آزمایش، محققان مستنداتی از سیستم‌هایی را ثبت کرده‌اند که سعی در دور زدن محدودیت‌ها، دسترسی به منابع خارجی، هماهنگی با مدل‌های دیگر و پنهان کردن جنبه‌هایی از فعالیت خود دارند.

این حوادث بحث درباره اینکه آیا مکانیزم‌های ایمنی کنونی با قابلیت‌های هوش مصنوعی مدرن همگام هستند را تشدید کرده است.

Anthropic همچنین از تلاش‌های بازیگران بدخواه برای بهره‌برداری از مدل‌های خود برای عملیات سایبری، نظارت و تحقیقاتی که ممکن است به تهدیدات زیستی کمک کند، گزارش داده است. در همین حال، جیکوب کاکسون، پژوهشگر سابق ایمنی هوش مصنوعی، به‌طور علنی استانداردهای امنیتی ناکافی در این صنعت را مورد انتقاد قرار داده است.

با وجود درخواست‌ها برای احتیاط، شرکت‌های پیشرو در هوش مصنوعی با یک معضل اقتصادی قوی مواجه هستند. صدها میلیارد دلار در زیرساخت‌های محاسباتی، مراکز داده، تراشه‌های پیشرفته و تحقیقات هوش مصنوعی سرمایه‌گذاری می‌شود. شرکتی که توسعه را کند کند، در معرض خطر می‌افتد که رقبای خود را در موقعیت برتر تکنولوژیکی و تجاری قرار دهد.

در حال حاضر، برخی از شرکت‌ها مکانیزم‌های نظارت مستقل را معرفی کرده‌اند که به ارزیابی شیوه‌های ایمنی هوش مصنوعی خود می‌پردازند. اما این اقدامات به‌طور قابل توجهی از نوع کند کردن هماهنگ بین‌المللی که برخی از پژوهشگران ایمنی خواستار آن هستند، فاصله دارد.

منتقدان همچنین پرسش کرده‌اند که آیا درخواست‌ها برای احتیاط به‌طور کامل ناشی از نگرانی‌های عمومی درباره ایمنی است. برخی از چهره‌های فناوری و سرمایه‌گذاری پیشنهاد کرده‌اند که شرکت‌ها می‌توانند از لحاظ تجاری از ارائه خود به عنوان مسئول‌ترین بازیگران در یک بازار در حال گسترش سریع بهره‌مند شوند.

دیگران استدلال کرده‌اند که مقررات قوی‌تر می‌تواند از شرکت‌های هوش مصنوعی مستقر محافظت کند و موانعی ایجاد کند که رقبای کوچک‌تر به سختی قادر به برآورده کردن آن‌ها باشند. این امر به اتهامات دامن زده است که نگرانی‌های ایمنی گاهی می‌تواند با منافع تجاری و نظارتی همپوشانی داشته باشد.

بازارهای مالی نیز به‌دقت این بحث را دنبال می‌کنند. ارزش‌گذاری‌های هوش مصنوعی و نیمه‌رساناها به شدت به انتظارات از پیشرفت‌های فناوری مداوم و تقاضای قوی برای زیرساخت‌های محاسباتی وابسته است. بنابراین، هر کاهش قابل توجهی می‌تواند بر شرکت‌هایی که ارزش‌گذاری آن‌ها به گسترش سریع فرض شده است، تأثیر بگذارد.

در عین حال، سرمایه‌گذاران با یک پرسش گسترده‌تر مواجه هستند: حتی اگر هوش مصنوعی اقتصاد جهانی را متحول کند، آیا هر شرکتی و پروژه زیرساختی که از رونق سرمایه‌گذاری کنونی بهره‌مند می‌شود، بازده جذابی تولید خواهد کرد؟

حمایت سیاسی برای کند کردن توسعه هوش مصنوعی نیز به همان اندازه نامشخص است. رئیس‌جمهور ایالات متحده، دونالد ترامپ، برخی از هشدارهای صنعت را به‌عنوان بسیار منفی رد کرده و بر اهمیت حفظ رهبری آمریکا در هوش مصنوعی تأکید کرده است.

اگرچه قانون‌گذاران از هر دو حزب نگرانی‌هایی درباره ایمنی هوش مصنوعی ابراز کرده و خواستار قوانین بیشتری شده‌اند، اما مقاومت قابل توجهی در برابر مقررات در میان برخی جمهوری‌خواهان وجود دارد. یکی از استدلال‌ها این است که محدودیت‌های بیش از حد می‌تواند نوآوری ایالات متحده را تضعیف کند و به چین در رقابت جهانی هوش مصنوعی برتری دهد.

این امر هماهنگی بین‌المللی را به‌ویژه دشوار می‌کند.

آمودئی پیشنهاد کرده است که کشورهای دموکراتیک می‌توانند در زمینه ایمنی هوش مصنوعی همکاری کنند، در حالی که چین را از برخی اشکال هماهنگی مستثنی کنند. اما او همچنین اذعان کرده است که پیشرفت فناوری چین یکی از پیچیده‌ترین معضلاتی است که صنعت با آن مواجه است: کند کردن ممکن است برخی خطرات را کاهش دهد، اما انجام این کار به‌طور یکجانبه می‌تواند تعادل قدرت فناوری را تغییر دهد.

مقامات چینی و رسانه‌های دولتی انتقادات از درخواست‌های محدودیت را به‌عنوان تلاش‌هایی برای مهار توسعه فناوری چین توصیف کرده‌اند.

این موضوع به‌ویژه حساس است زیرا ایالات متحده و چین رویکردهای متفاوتی را در توسعه هوش مصنوعی دنبال می‌کنند. چین رشد سیستم‌های هوش مصنوعی بازتر را ترویج کرده است که فناوری اساسی آن‌ها قابل دسترسی و اصلاح است، در حالی که بسیاری از شرکت‌های بزرگ ایالات متحده مدل‌های بسته را ترجیح می‌دهند.

سیستم‌های باز می‌توانند نوآوری و دسترسی وسیع‌تری را تشویق کنند، اما قابلیت انطباق آن‌ها می‌تواند باعث شود که پس از انتشار، کنترل آن‌ها دشوارتر شود. کاربران ممکن است مدل‌ها را به‌طرزی تغییر دهند که توسعه‌دهندگان اصلی آن‌ها پیش‌بینی نکرده‌اند و این امر چالش‌های اضافی برای ایمنی و نظارت ایجاد می‌کند.

آمودئی بنابراین استدلال کرده است که کنترل‌های صادراتی قوی‌تر بر فناوری‌های نیمه‌رسانای پیشرفته‌ترین می‌تواند بخشی از یک استراتژی گسترده‌تر باشد تا به شرکت‌ها فضای بیشتری برای اولویت‌بندی ایمنی بدهد. او همچنین خواستار اقداماتی برای جلوگیری از انتقال غیرمجاز فناوری پیشرفته هوش مصنوعی شده است.

در نهایت، سوال این نیست که آیا توسعه هوش مصنوعی می‌تواند کند شود، بلکه آیا دولت‌ها و شرکت‌های رقیب می‌توانند در مورد اینکه محدودیت‌ها باید کجا باشد، توافق کنند.

انگیزه‌های مالی عظیم صنعت فناوری به سرعت ترجیح می‌دهد، در حالی که نگرانی‌های فزاینده در مورد امنیت سایبری، تهدیدات زیستی، اطلاعات نادرست و سیستم‌های خودمختار احتیاط را ترجیح می‌دهد. بدون هماهنگی بین‌المللی، احتیاط داوطلبانه از سوی شرکت‌های فردی ممکن است دشوار باشد که ادامه یابد.

بنابراین، رقابت هوش مصنوعی وارد مرحله بحرانی می‌شود که در آن قابلیت‌های فناوری، رقابت تجاری و ایمنی عمومی به طور فزاینده‌ای در هم تنیده شده‌اند. اینکه آیا ترمزهای معناداری می‌توان اعمال کرد ممکن است کمتر به تصمیم یک شرکت برای کند شدن بستگی داشته باشد و بیشتر به اینکه آیا دولت‌های بزرگ می‌توانند قوانینی را ایجاد کنند که توسعه مسئولانه را به یک الزام مشترک تبدیل کند، نه یک معایب رقابتی.