هوش مصنوعی میتواند منجر به انقراض انسان شود
همزمان با گسترش سریع هوش مصنوعی در تمام بخشها، گروهی از محققان و مدیران فناوری زنگ خطر را به صدا درآوردهاند: اگر مسیر فعلی ادامه یابد، سیستمهای هوش مصنوعی فوق قدرتمند میتوانند ظرف یک سال باعث انقراض انسان شوند.
امضاکنندگان این درخواست شامل جفری هینتون، یکی از «پدران هوش مصنوعی»، یوشوا بنگیو، برنده جایزه تورینگ، و مدیران شرکتهای پیشرو مانند OpenAI، Anthropic، DeepMind و گوگل هستند. آنها در نامهای سرگشاده، خواستار جلوگیری از برخورد با خطرات وجودی مرتبط با هوش مصنوعی به عنوان یک اولویت جهانی، در سطح بیماریهای همهگیر یا جنگهای هستهای، شدهاند.
سناریوهای ترسناک شامل استفاده از هوش مصنوعی برای طراحی و استقرار مخفیانه سلاحهای بیولوژیکی در شهرهای بزرگ یا ظهور رفتارهای غیرقابل پیشبینی و دستکاریشده فراتر از کنترل انسان است. نیت سوارز، مدیر موسسه تحقیقات هوش ماشینی، احتمال انقراض انسان را در صورت عدم ترمزگیری «کمتر از ۹۵٪» تخمین میزند و این وضعیت را با «اتومبیلی که با سرعت ۱۶۰ کیلومتر در ساعت به سمت دره میرود» مقایسه میکند.
این خطر در درجه اول از تغییر از «هوش مصنوعی محدود» که محدود به وظایف خاص است، به هوش مصنوعی عمومی (AGI) که قادر به برابری و سپس پیشی گرفتن از قابلیتهای انسانی است، ناشی میشود. تکامل به سمت «ابر هوش مصنوعی» میتواند دیدگاههای علمی بیسابقهای را باز کند، اما مشکل لاینحل همسویی آن با منافع انسانی را مطرح میکند.
با این حال، برخی از صداها این پیشبینیها را تعدیل میکنند. هالی المور، مدیر سازمان مردمنهاد PauseAI، خطر انقراض را بین ۱۵ تا ۲۰٪ تخمین میزند، اما تأکید میکند که هوش مصنوعی، حداقل، منجر به از دست رفتن تدریجی قدرت تصمیمگیری انسان میشود و به نقشی ثانویه در دنیای خودکار تبدیل میشود. او طرفدار یک مهلت قانونی بینالمللی برای توسعه هوش مصنوعی و ایجاد معاهدات الزامآور است.
با این حال، این فراخوان با رقابت شدید بین دولتها و کسبوکارها، بهویژه در ایالات متحده تحت دولت ترامپ، برای آزادسازی بیشتر تحقیقات هوش مصنوعی و جذب بهترین استعدادها در تضاد است.
-
16:03
-
15:45
-
15:40
-
15:30
-
14:52
-
14:06
-
13:29
-
11:32
-
11:17
-
11:17
-
11:12
-
11:08
-
11:08
-
11:07
-
11:07
-
10:57
-
10:56
-
10:56
-
10:56
