ما را در فیس‌بوک دنبال کنید

Walaw

فن آوری

عذرخواهی xAI به خاطر پست‌های افراطی دستیار هوش مصنوعی گروک

Yesterday 17:43

Zoom

استارتاپ xAI متعلق به ایلان ماسک، روز شنبه به خاطر پست‌های افراطی و توهین‌آمیز منتشر شده توسط دستیار هوش مصنوعی (AI) خود، گروک، در اوایل این هفته عذرخواهی کرد.

xAI در حساب رسمی گروک در X نوشت: «ما به خاطر رفتار وحشتناکی که بسیاری مشاهده کرده‌اند عذرخواهی می‌کنیم.»

پس از به‌روزرسانی در ۷ جولای، این چت‌بات در برخی از پاسخ‌های خود، آدولف هیتلر را ستود، «کلیشه‌های ضد سفیدپوست» در X و نمایش «نامتناسب» یهودیان در هالیوود را محکوم کرد.

در مجموعه‌ای از پیام‌ها که روز شنبه منتشر شد، xAI دلایلی را که معتقد بود منجر به خطاهای مدل هوش مصنوعی و اقدامات اصلاحی انجام شده پس از آن شده است، به تفصیل شرح داد.

به گفته مدیران گروک، از مسیر خارج شدن دستیار به دستورالعمل‌های جدیدی که در یک به‌روزرسانی در مدل ادغام شده‌اند، مرتبط است.

برنامه‌نویسان به رابط کاربری دستور دادند که «صریح باشد» و «از رنجاندن افرادی که از نظر سیاسی درست فکر می‌کنند، نترسد.»

آنها همچنین به آن دستور دادند که «مانند یک انسان» و به گونه‌ای پاسخ دهد که کاربر را به ادامه مکالمه تشویق کند.

این دستورات «باعث شد گروک در شرایط خاص ارزش‌های اصلی خود را نادیده بگیرد» و پاسخ‌هایی «حاوی نظرات غیراخلاقی و بحث‌برانگیز» تولید کند.

xAI اذعان کرد که در برخی موارد، گروک به جای «پاسخ مسئولانه یا امتناع از پاسخ به سوالات مشکوک»، به دنبال «اعتبارسنجی جهت‌گیری‌های کاربر، از جمله سخنان نفرت‌پراکن» بوده است.

از زمان ایجاد آن در سال ۲۰۲۳، ایلان ماسک، گروک را به عنوان یک دستیار هوش مصنوعی با اصول سیاسی کمتر از رقبای اصلی خود ChatGPT (OpenAI)، Claude (Anthropic) یا Le Chat (Mistral) معرفی کرده است.

بنابراین با محدودیت‌های کمتری برنامه‌ریزی شده بود که منجر به چندین جنجال حتی قبل از این به‌روزرسانی شد.

در ماه مه، گروک از «نسل‌کشی سفیدپوستان» در آفریقای جنوبی صحبت کرد، یک تئوری توطئه بی‌اساس که توسط راست افراطی آمریکا و خود دونالد ترامپ ترویج می‌شد.

آنها روز شنبه توضیح دادند که برای رسیدگی به خطاهای اخیر مدل، مهندسان دستورالعمل‌های جدید را حذف کردند.

xAI اظهار داشت: «ما می‌خواهیم گروک پاسخ‌های مفید و صادقانه‌ای برای کاربران تولید کند.»

ایلان ماسک روز چهارشنبه نسخه جدیدی از دستیار خود، گروک ۴، را ارائه داد که ربطی به به‌روزرسانی ۷ جولای ندارد.

به نظر می‌رسد که گروک ۴ قبل از پاسخ دادن، در مورد چندین درخواست با ایلان ماسک مشورت می‌کند.