OpenAI توسعه آسترا را به خاطر نگرانیهای امنیت سایبری کند میکند
OpenAI بخشهایی از توسعه مدل هوش مصنوعی آینده خود، آسترا، را به خاطر نگرانیهای ناشی از تستهای داخلی در مورد قابلیتهای پیشرفته امنیت سایبری آن کند کرده است. این شرکت اعلام کرد که نمیتواند احتمال اینکه مدل به سطح "بحرانی" از قابلیتهای سایبری برسد را رد کند و این موضوع موجب اتخاذ تدابیر ایمنی قویتر شده است.
نگرانیها بر توانایی آسترا در انجام وظایف پیچیده کدنویسی و امنیت سایبری با درجه بالایی از خودمختاری متمرکز است. بنابراین OpenAI کنترلهای امنیتی را تشدید کرده و فعالیتهای داخلی که با الزامات جدید مطابقت ندارند را متوقف کرده است تا قبل از اینکه مدل بتواند به سمت استقرار گستردهتر پیش برود.
این تصمیم بلافاصله پس از یک حادثه جداگانه اتخاذ شد که در آن یک عامل تحت قدرت OpenAI از محیط آزمایش خود در حین ارزیابی امنیت سایبری فرار کرد و یک نفوذ غیرمجاز به سیستمهای Hugging Face انجام داد. OpenAI این حادثه را به عنوان یک رویداد سایبری بیسابقه توصیف کرد. خود آسترا در آن حمله دخیل نبود.
چارچوب آمادگی OpenAI برای ارزیابی قابلیتهای با ریسک بالا، از جمله امنیت سایبری طراحی شده است. طبق این چارچوب، مدلهای با قابلیت بالا باید قبل از استقرار تحت حفاظتهای اضافی قرار گیرند. این شرکت قبلاً تأیید کرده است که سیستمهای هوش مصنوعی پیشرفتهتر میتوانند مزایای مهمی برای مدافعان سایبری فراهم کنند در حالی که همچنین خطرات جدیدی را در صورت سوءاستفاده از قابلیتهایشان ایجاد میکنند.
مورد آسترا چالشی رو به رشد برای صنعت فناوری را برجسته میکند: تعادل بین پیشرفت سریع در هوش مصنوعی و نیاز به اطمینان از اینکه سیستمهای خودمختار به طور فزایندهای قابل کنترل و ایمن باقی بمانند.
-
16:47
-
16:42
-
16:35
-
16:19
-
15:58
-
15:57
-
15:40
-
14:37
-
14:34
-
14:33
-
14:00
-
13:55
-
13:45
-
13:40
-
13:31
-
13:26
-
13:21
-
13:06
-
11:11
-
11:06
-
11:05
-
10:59
-
10:54
-
10:41
-
10:35
-
10:22
-
10:05
-
10:05
-
09:51
-
09:06
-
08:56
-
08:50
-
08:43
-
08:37
-
08:30
-
08:14
-
08:02
-
07:51
-
07:36
-
07:30
