OpenAI امنیت ChatGPT را با ویژگی پیشگیری از خودآزاری تقویت میکند
OpenAI از راهاندازی یک ویژگی امنیتی جدید به نام "تماس مطمئن" خبر داده است که برای بهبود مدیریت موقعیتهای حساس مربوط به خطرات خودآزاری هنگام استفاده از ChatGPT طراحی شده است.
این گزینه جدید به کاربران بزرگسال اجازه میدهد تا یک فرد مورد اعتماد - یکی از اعضای خانواده یا دوست نزدیک - را تعیین کنند که در صورت تشخیص علائم نگرانکننده توسط سیستم در طول مکالمه، به او هشدار داده شود. هدف اعلام شده، تقویت پیشگیری ضمن حفظ حریم خصوصی کاربر است.
به گفته این شرکت، هنگامی که مکالمهای علائم خودآزاری بالقوه را نشان میدهد، ابتدا کاربر تشویق میشود که خودش با این فرد مورد اعتماد تماس بگیرد. اگر وضعیت پس از تجزیه و تحلیل بحرانی تلقی شود، میتوان به طور خودکار اعلانی ارسال کرد تا از این شخص بخواهد که کاربر را بررسی کند.
این سیستم به ترکیبی از ابزارهای خودکار و بررسی انسانی متکی است. مکالماتی که به عنوان حساس شناسایی میشوند، توسط تیمهای تخصصی که قادر به ارزیابی سطح خطر قبل از ایجاد هرگونه هشدار هستند، بررسی میشوند. OpenAI اظهار میدارد که هدف آن پردازش بسیار سریع این گزارشها برای اطمینان از پاسخ سریع به موقعیتهای بالقوه جدی است.
این شرکت همچنین تصریح میکند که اعلانهای ارسالی عمداً محدود شدهاند و هیچ جزئیاتی از مکالمات را شامل نمیشوند تا از حریم خصوصی کاربران محافظت شود.
راهاندازی این ویژگی در بحبوحه افزایش فشار پیرامون مسئولیتهای پلتفرمهای هوش مصنوعی صورت میگیرد. OpenAI در حال حاضر با چندین دادخواست از سوی خانوادههایی مواجه است که برخی از چتباتها را به تشدید موقعیتهای روانی شکننده متهم میکنند.
این اقدام جدید با سیاستهای امنیتی که قبلاً توسط این شرکت اجرا شده است، از جمله ویژگیهای کنترل والدین و هشدارهای خودکار که کاربران را تشویق میکند در صورت شناسایی مکالمات حساس، از کمکهای حرفهای استفاده کنند، سازگار است.
OpenAI تأکید میکند که فعالسازی «تماس مورد اعتماد» کاملاً اختیاری است. این شرکت اظهار میکند که به دنبال تعادل بین پیشگیری از ریسک، محافظت از دادههای شخصی و بهبود مستمر ابزارهای امنیتی مرتبط با هوش مصنوعی خود است.
-
16:03
-
15:45
-
15:40
-
15:30
-
14:52
-
14:06
-
13:29
-
11:32
-
11:17
-
11:17
-
11:12
-
11:08
-
11:08
-
11:07
-
11:07
-
10:57
-
10:56
-
10:56
-
10:56
