OpenAI اقدامات ایمنی ChatGPT را برای کاربران نوجوان تقویت می‌کند

Tuesday 18 - 17:17

OpenAI در حال گسترش اقدامات ایمنی خود برای نوجوانان استفاده‌کننده از ChatGPT است و به دنبال ارائه تجربه‌ای مناسب‌تر برای سنین پایین‌تر است در حالی که به کاربران جوان‌تر اجازه می‌دهد از هوش مصنوعی برای یادگیری، خلاقیت و انجام کارهای روزمره بهره‌مند شوند.

رویکرد این شرکت به طور فزاینده‌ای به فناوری پیش‌بینی سن وابسته است که برای تعیین اینکه آیا یک حساب احتمالاً متعلق به فردی زیر 18 سال است، طراحی شده است. وقتی سیستم یک کاربر نوجوان ممکن را شناسایی می‌کند، ChatGPT می‌تواند به‌طور خودکار تدابیر حفاظتی اضافی را اعمال کند، حتی اگر اطلاعات سنی که در زمان ثبت‌نام ارائه شده، چیز دیگری را نشان دهد.

حفاظت‌های تقویت‌شده به منظور کاهش قرارگیری نوجوانان در معرض محتوای حساس یا بالقوه نامناسب طراحی شده‌اند. این موارد شامل خشونت گرافیکی، چالش‌های آنلاین پرخطر، بازی‌های نقش‌آفرینی جنسی یا خشونت‌آمیز، محتوای مرتبط با خودآزاری و مطالبی که استانداردهای زیبایی افراطی، رژیم‌های غذایی ناسالم یا شرم از بدن را ترویج می‌کنند، می‌باشد.

OpenAI می‌گوید هدف این نیست که نوجوانان را از استفاده از ChatGPT بازدارد، بلکه خدمات را به نیازهای سنی و توسعه‌ای آن‌ها سازگار کند. این شرکت بر نقش هوش مصنوعی در آموزش و بهره‌وری تأکید کرده و خاطرنشان می‌کند که بسیاری از کاربران جوان‌تر قبلاً به این فناوری برای یادگیری، اطلاعات و توسعه مهارت‌ها وابسته‌اند.

سیستم تشخیص سن ترکیبی از سیگنال‌های حساب و استفاده را ارزیابی می‌کند، از جمله الگوهای فعالیت، مدت زمان وجود حساب و سنی که توسط کاربر اعلام شده است. زمانی که سیستم مطمئن نیست، OpenAI می‌گوید ممکن است به تجربه محافظتی‌تر زیر 18 سال تمایل پیدا کند. بزرگسالانی که به اشتباه طبقه‌بندی شده‌اند می‌توانند سن خود را تأیید کنند تا تدابیر اضافی نوجوانان حذف شود.

این شرکت همچنین کنترل‌های والدینی را توسعه داده است که به والدین یا سرپرستان با حساب‌های نوجوان متصل اجازه می‌دهد جنبه‌های خاصی از تجربه ChatGPT را مدیریت کنند. این کنترل‌ها می‌توانند شامل ویژگی‌هایی مانند ساعات سکوت، تنظیمات مدل خاص و اعلان‌های ایمنی باشند.

اقدامات OpenAI منعکس‌کننده یک بحث گسترده‌تر در مورد چگونگی استفاده از هوش مصنوعی تولیدی توسط نوجوانان است. با ادغام روزافزون ابزارهای هوش مصنوعی در آموزش، ارتباطات و سرگرمی، شرکت‌های فناوری با فشار فزاینده‌ای برای تمایز بین تجربیات بزرگسالان و نوجوانان مواجه هستند در حالی که کاربران جوان‌تر را از تعاملات نامناسب محافظت می‌کنند.

این شرکت قبلاً اصولی را به‌طور خاص برای کاربران 13 تا 17 ساله تعیین کرده است که بر پیشگیری، شفافیت و حمایت از روابط واقعی تأکید می‌کند. این اصول به‌منظور اطمینان از اینکه ChatGPT نوجوانان را متفاوت از بزرگسالان در نظر می‌گیرد، در حالی که از رویکرد تحقیرآمیز به کاربران جوان‌تر اجتناب می‌کند، طراحی شده‌اند.

ChatGPT برای کودکان زیر 13 سال طراحی نشده است، در حالی که کاربران 13 تا 18 ساله مشمول الزامات و حفاظت‌های اضافی هستند. OpenAI به بهبود سیستم‌های پیش‌بینی سن خود ادامه می‌دهد زیرا فناوری در حال توسعه است و اذعان می‌کند که هیچ سیستم خودکاری نمی‌تواند سن را با دقت کامل تعیین کند.

آخرین اقدامات بر اهمیت فزاینده ایمنی و طراحی مناسب سن تأکید می‌کند زیرا هوش مصنوعی به‌طور گسترده‌تری توسط نسل‌های جوان‌تر استفاده می‌شود. برای OpenAI، چالش این خواهد بود که دسترسی به ابزارهای آموزشی و خلاقانه هوش مصنوعی را با حفاظت‌های قوی‌تر برای کاربرانی که ممکن است در برابر محتوای مضر یا نامناسب آسیب‌پذیرتر باشند، متعادل کند.