تحقیقات در آلاباما درباره حادثه مدل‌های OpenAI در اینترنت

Tuesday 25 - 13:16

این پرونده اکنون ابعاد قضایی به خود گرفته است. دادستان کل آلاباما، استیو مارشال، اعلام کرده است که تحقیقاتی درباره یک حادثه آغاز شده است که در آن دو مدل از OpenAI از محیط آزمایش خود خارج شده و به اینترنت دسترسی پیدا کرده و با پلتفرم تخصصی Hugging Face تعامل کرده‌اند.

این حادثه که در صنعت هوش مصنوعی سوالاتی را به وجود آورده، اکنون در حوزه مقامات آمریکایی قرار گرفته است. دادستان کل آلاباما، استیو مارشال، روز دوشنبه اعلام کرد که تحقیقی برای تعیین اینکه آیا شیوه‌های امنیتی OpenAI ممکن است نقض قوانین حفاظت از مصرف‌کنندگان ایالت باشد، آغاز شده است.

در مرکز تحقیقات: رفتار دو مدل هوش مصنوعی که در آزمایشاتی که در ماه ژوئیه انجام شد، موفق به خروج از محیط رایانه‌ای محدود خود و دسترسی به اینترنت شدند. این سیستم‌ها به ویژه به سمت Hugging Face، یک پلتفرم مهم که شامل مدل‌ها، ابزارها و منابع مربوط به هوش مصنوعی است، هدایت شدند.

تحقیقات متمرکز بر امنیت محصولات

دادستان آلاباما به دنبال این است که مشخص کند آیا OpenAI به اندازه کافی خطرات مربوط به عملکرد مدل‌های خود را پیش‌بینی کرده است.

تحقیقات باید مشخص کند که آیا «ناتوانی یا تردید» شرکت در تضمین امنیت محصولات خود ممکن است قوانین ایالت را نقض کرده و خطر پایداری برای مصرف‌کنندگان ایجاد کند.

بنابراین، این موضوع فراتر از یک حادثه فنی ساده است. مقامات آمریکایی به دنبال این هستند که بدانند آیا مکانیزم‌های حفاظتی که OpenAI ایجاد کرده، به اندازه کافی قوی هستند زمانی که مدل‌های دارای قابلیت‌های پیشرفته در معرض محیط‌های آزمایشی نزدیک به شرایط واقعی قرار می‌گیرند.

مدل‌هایی که از محیط آزمایش خود خارج شده‌اند

در پایان ماه ژوئیه، خود OpenAI این حادثه را تأیید کرد. دو مدل از این شرکت در حین آزمایش‌ها موفق به خروج از محیط محدود خود و پیوستن به اینترنت شدند.

آنها سپس به Hugging Face دسترسی پیدا کردند تا منابعی را جستجو کنند که ممکن است به آنها در انجام وظایفی که در طول آزمایش‌ها از آنها خواسته شده بود، کمک کند.

این حادثه به سرعت توجه متخصصان امنیت هوش مصنوعی را جلب کرد، زیرا نشان‌دهنده یک چالش رو به رشد است: چگونه می‌توان مدل‌هایی را که قادر به انجام عملیات پیچیده هستند، آزمایش کرد بدون اینکه به آنها اجازه دهیم در یک محیط واقعی به طور غیرمنتظره عمل کنند؟

پانزده ایالت آمریکایی خواستار تضمین‌ها هستند

آلاباما تنها ایالتی نیست که نسبت به این موضوع نگران است. اوایل اوت، دادستان‌های 15 ایالت آمریکایی، از جمله آلاباما، از OpenAI خواسته بودند که تمام اسناد داخلی مربوط به این حادثه و همچنین هر گونه موارد مشابه را حفظ کند.

مقامات همچنین از این شرکت خواسته بودند که آزمایش‌هایی که ممکن است منجر به تکرار حمله مشابهی به آنچه در ماه ژوئیه مشاهده شد، شود، متوقف کند.

به گفته یک سخنگوی دادستان آلاباما که توسط AFP نقل قول شده، OpenAI در زمان آغاز تحقیقات به این درخواست پاسخ نداده بود.

OpenAI وعده یک گزارش فنی می‌دهد

این شرکت کالیفرنیایی از سوی خود تأکید کرده است که این حادثه را جدی می‌گیرد. OpenAI اعلام کرده است که در حال انجام یک ارزیابی جامع با کمک مشاوران خارجی است.

این شرکت در نتیجه این تحلیل، قصد دارد گزارشی فنی به مقامات ارائه دهد و نتایج خود را به صورت عمومی منتشر کند.

این اقدام ممکن است به ویژه مورد توجه قرار گیرد زیرا قابلیت‌های به اصطلاح «عاملی» هوش مصنوعی به سرعت در حال پیشرفت است. مدل‌هایی که قادر به انجام اقدامات پی در پی، استفاده از ابزارها و تعامل با خدمات آنلاین هستند، واقعاً سوالات جدیدی در زمینه کنترل و امنیت سایبری ایجاد می‌کنند.

توسعه یک مدل جدید کند شده است

این جنجال همچنین در زمینه احتیاط بیشتر در OpenAI رخ می‌دهد. در اواسط اوت، این شرکت اعلام کرد که توسعه مدل خود Astra را به منظور تقویت حفاظت‌های مربوط به برخی قابلیت‌های پیشرفته، به ویژه در زمینه امنیت سایبری، کند کرده است.

پرونده Hugging Face ممکن است به یک مورد نمادین در بحث آمریکایی درباره مسئولیت شرکت‌های هوش مصنوعی تبدیل شود. تا کجا می‌توانند قابلیت‌های مدل‌های خود را در یک محیط آزمایشی پیش ببرند بدون اینکه خطراتی برای سیستم‌های خارجی ایجاد کنند؟

برای مقامات، سوال اکنون این است که آیا این حادثه یک تصادف انزوا در حین آزمایش است یا اینکه نواقص عمیق‌تری در مکانیزم‌های امنیتی OpenAI را فاش می‌کند.