OpenAI دو عملیات نفوذ مرتبط با روسیه و ایران را مختل می‌کند

Wednesday 14 - 13:33

OpenAI اعلام کرده است که دو عملیات نفوذ را شناسایی و مختل کرده که به طور ظاهری از ChatGPT برای تولید و توزیع محتوای گمراه‌کننده درباره درگیری‌های ژئوپولیتیکی استفاده کرده‌اند. این کمپین‌ها که به ترتیب به نام‌های “دارک کلارک” و “بگوس بیلینز” شناخته می‌شوند، به بازیگران روسی و ایرانی مرتبط بوده‌اند، طبق آخرین گزارش این شرکت درباره سوءاستفاده از هوش مصنوعی.

یافته‌ها نگرانی‌های فزاینده‌ای را در مورد چگونگی ادغام ابزارهای هوش مصنوعی تولیدی در کمپین‌های اطلاعاتی هماهنگ برجسته می‌کند. در حالی که چنین سیستم‌هایی می‌توانند در نوشتن، ترجمه و تحقیق کمک کنند، همچنین می‌توانند به طور نادرست برای آماده‌سازی روایت‌های فریبنده، جعل هویت‌ها و تطبیق محتوا برای مخاطبان مختلف مورد سوءاستفاده قرار گیرند.

طبق گفته OpenAI، عملیات دارک کلارک به مخاطبان در چندین کشور آمریکای لاتین با محتوایی که هدف آن تضعیف اوکراین و انتقاد از برخی رهبران سیاسی منطقه‌ای بود، هدف قرار گرفت. از جمله فعالیت‌های شناسایی شده، انتشار یک ضبط صوتی جعلی به طور ظاهری به کنسول اوکراین در اکوادور نسبت داده شده، در TikTok بود. اپراتورها همچنین به طور گزارش شده از یک آدرس ایمیل جعلی برای تشویق مدارس در پرو به برگزاری رویدادهای مرتبط با اوکراین استفاده کردند.

OpenAI گفت که این کمپین را در مقیاس شش‌نقطه‌ای خود به عنوان سطح پنج ارزیابی کرده است. با این حال، این شرکت هشدار داد که برخی از ادعاهای مطرح شده توسط افراد درگیر نمی‌توانند به طور مستقل تأیید شوند و این امر دشواری تعیین دامنه و اثربخشی کامل فعالیت‌های آنلاین پنهان را زیر سوال می‌برد.

عملیات دوم، که به نام بگوس بیلینز شناخته می‌شود، به طور ظاهری بر تولید مقالات گمراه‌کننده درباره درگیری بین ایالات متحده و ایران متمرکز بود. OpenAI گفت که از ChatGPT برای اصلاح پیش‌نویس‌ها، تطبیق مقالات با الزامات ویرایشی نشریات آنلاین و آماده‌سازی ایمیل‌های ارسال برای تأمین انتشار استفاده شده است.

این کمپین به طور گزارش شده به هفت نویسنده جعلی وابسته بود که خود را به عنوان روزنامه‌نگاران غربی معرفی کردند. OpenAI گفت که تقریباً 100 مقاله منتشر شده در بیش از دوازده رسانه از جولای 2025 شناسایی کرده است. این فعالیت گزارش شده نشان می‌دهد که چگونه هویت‌های جعلی و نوشتن با کمک هوش مصنوعی می‌توانند در تلاشی برای معتبر نشان دادن مواد گمراه‌کننده ترکیب شوند.

استفاده از پلتفرم‌های رسانه‌ای معتبر می‌تواند به محتوای فریبنده دسترسی به مخاطبان فراتر از آنهایی که از طریق حساب‌های تازه ایجاد شده در شبکه‌های اجتماعی دسترسی پیدا کرده‌اند، بدهد. مقالات منتشر شده در وب‌سایت‌های شناخته‌شده نیز ممکن است در جاهای دیگر به اشتراک گذاشته شوند، توسط سایر کاربران نقل قول شوند یا در بحث‌های آنلاین گسترده‌تر گنجانده شوند، که ممکن است شناسایی منبع و هدف اصلی محتوا را دشوارتر کند.

با این حال، انتشار یک مقاله به تنهایی نشان نمی‌دهد که چند نفر با آن مواجه شده‌اند، آیا خوانندگان به ادعاهای آن باور داشتند یا اینکه آیا این موضوع بر نظر عمومی تأثیر گذاشته است. ارزیابی تأثیر واقعی چنین کمپین‌هایی نیاز به شواهدی درباره توزیع، تعامل مخاطب و محیط اطلاعاتی وسیع‌تر دارد.

این موارد همچنین سوالاتی را درباره نقش شرکت‌های هوش مصنوعی در شناسایی و محدود کردن سوءاستفاده‌های هماهنگ مطرح می‌کند. OpenAI می‌گوید که فعالیت‌های مشکوک را زیر نظر دارد و اقداماتی علیه حساب‌هایی که سیاست‌های آن را نقض می‌کنند، انجام می‌دهد. این اقدامات بخشی از تلاش‌های گسترده‌تر در سراسر بخش فناوری برای شناسایی دستکاری‌های خودکار، جعل هویت و انتشار عمدی اطلاعات نادرست است.

در عین حال، در دسترس بودن روزافزون ابزارهای نوشتن هوش مصنوعی تلاش‌ها برای تمایز بین نظریه‌های سیاسی مشروع و فریب‌های سازمان‌یافته را پیچیده‌تر می‌کند. محققان و پلتفرم‌ها باید نه تنها محتوای خود بلکه الگوهای رفتار، هماهنگی بین حساب‌ها، هویت‌های جعلی و تلاش‌ها برای پنهان کردن اینکه چه کسی پشت یک پیام است را در نظر بگیرند.

یافته‌های OpenAI به یک شکل در حال تحول از پروپاگاندای دیجیتال اشاره دارد که در آن هوش مصنوعی می‌تواند در تولید و تطبیق مواد گمراه‌کننده پشتیبانی کند، در حالی که شبکه‌های اجتماعی موجود و نشریات آنلاین کانال‌های بالقوه‌ای برای توزیع فراهم می‌کنند. این گزارش بر اهمیت منبع‌یابی شفاف، تأیید مستقل و همکاری قوی‌تر بین شرکت‌های فناوری، سازمان‌های رسانه‌ای و محققان در حال بررسی کمپین‌های نفوذ تأکید می‌کند.