OpenAI تلاش بزرگی برای تکرار قابلیت‌های ChatGPT را مختل می‌کند

Friday 02 - 19:10

OpenAI اعلام کرده است که یک عملیات بزرگ را که هدف آن استخراج خروجی‌ها از مدل‌های هوش مصنوعی خود برای تولید برخی از قابلیت‌های آن‌ها از طریق تکنیکی به نام تقطیر مدل بود، مختل کرده است. این شرکت گفت که این فعالیت شامل هزاران حساب کاربری بوده و پس از شناسایی الگوهای هماهنگ استفاده، متوقف شده است.

تقطیر مدل یک تکنیک قانونی است که به طور گسترده در تحقیقات هوش مصنوعی استفاده می‌شود. این امکان را به توسعه‌دهندگان می‌دهد تا مدل‌های کوچک‌تر یا کارآمدتری را با استفاده از اطلاعات تولید شده توسط سیستم‌های بزرگ‌تر آموزش دهند. با این حال، OpenAI می‌گوید که همین رویکرد می‌تواند بدون مجوز برای تولید قابلیت‌هایی که از طریق سرمایه‌گذاری‌های قابل توجه در منابع محاسباتی، داده‌های آموزشی و تحقیقات توسعه یافته‌اند، استفاده شود.

بر اساس گفته‌های OpenAI، این فعالیت در مقیاس محدودی در ماه ژوئیه آغاز شد و سپس از طریق یک شبکه هماهنگ از حساب‌ها گسترش یافت. این شرکت گفت که بیش از ۱۵,۰۰۰ حساب مرتبط با این عملیات را شناسایی کرده و سپس حساب‌هایی را که در تلاش برای استخراج و استفاده مجدد از قابلیت‌های مدل در نظر گرفته شده بودند، معلق کرده است.

OpenAI بخشی از این فعالیت را به Moonshot AI، توسعه‌دهنده چینی پشت دستیار Kimi AI، مرتبط کرده است و تأکید کرده که هنوز مشخص نکرده است آیا این شرکت مسئول کل عملیات بوده است یا خیر. این اتهامات در میان نظارت فزاینده در ایالات متحده بر استفاده از تقطیر مدل توسط شرکت‌های هوش مصنوعی چینی مطرح شده است. مقامات آمریکایی به طور جداگانه چندین شرکت چینی، از جمله Moonshot AI، را متهم کرده‌اند که از تقطیر برای تولید قابلیت‌هایی که توسط شرکت‌های هوش مصنوعی آمریکایی توسعه یافته‌اند، استفاده کرده‌اند. چین این اتهامات را رد کرده و استدلال کرده است که تقطیر یک تکنیک استاندارد در توسعه هوش مصنوعی است.

این مسئله فراتر از رقابت تجاری است. OpenAI استدلال می‌کند که استخراج غیرمجاز قابلیت‌های پیشرفته مدل می‌تواند نگرانی‌های امنیتی ایجاد کند اگر سیستم‌ها قابلیت‌های قدرتمند را بدون گنجاندن تدابیر ایمنی و هم‌راستایی که در کنار مدل‌های اصلی توسعه یافته‌اند، تولید کنند. این شرکت قبلاً تقطیر خصمانه را به عنوان یک خطر تجاری، ایمنی و استراتژیک بالقوه توصیف کرده است.

OpenAI گفت که با بستن حساب‌های مشکوک، تقویت سیستم‌های نظارتی و پرداختن به آسیب‌پذیری‌هایی که می‌توانستند این فعالیت را تسهیل کنند، پاسخ داده است. این شرکت همچنین اعلام کرد که با ارائه‌دهندگان خدمات خارجی همکاری کرده است تا حساب‌ها و زیرساخت‌های مرتبط با این عملیات را مختل کند و یافته‌های مربوطه را با سایر شرکت‌های فناوری و دولت‌ها به اشتراک گذاشته است.

این حادثه دشواری فزاینده‌ای را در حفاظت از مدل‌های هوش مصنوعی مرزی نشان می‌دهد، زیرا توسعه‌دهندگان به طور فزاینده‌ای به سیستم‌های خودکار، دسترسی به API در مقیاس بزرگ و داده‌های مصنوعی وابسته می‌شوند. OpenAI گفته است که تلاش‌های شناسایی آن‌ها اکنون شامل طبقه‌بندی‌کننده‌های خودکار، تحلیل رفتاری، نظارت فنی و تحقیقات انسانی برای شناسایی تلاش‌ها برای تولید سیستماتیک قابلیت‌های مدل است.

این شرکت انتظار دارد که چنین تلاش‌هایی به دلیل بهبود سیستم‌های هوش مصنوعی پیچیده‌تر شوند. این اختلاف همچنین یک چالش گسترده‌تر برای صنعت را منعکس می‌کند: تعادل بین تحقیقات قانونی و انتشار گسترده قابلیت‌های هوش مصنوعی با حفاظت از فناوری‌های مالکیتی و تدابیر ایمنی مربوط به مدل‌های به طور فزاینده‌ای قدرتمند.

OpenAI گفته است که به تقویت تدابیر نظارتی و امنیتی خود ادامه خواهد داد و در عین حال به اشتراک‌گذاری اطلاعات بیشتر بین شرکت‌های هوش مصنوعی و مقامات دولتی را در حین توسعه فناوری تشویق می‌کند.