چگونه هوش مصنوعی می‌تواند تهدیدی برای بقای بشر باشد؟

Tuesday 29 September 2026 - 08:15

توسعه سریع هوش مصنوعی بحثی را تشدید کرده است که فراتر از مزایای اقتصادی و اجتماعی بالقوه این فناوری می‌باشد: آیا سیستم‌های هوش مصنوعی با توانایی‌های روزافزون می‌توانند خطراتی جدی ایجاد کنند که بقای بلندمدت بشریت را تهدید کند؟ محققان در مورد احتمال چنین نتیجه‌ای تقسیم نظر دارند، اما چندین مسیر در حال بررسی است زیرا سیستم‌های پیشرفته به طور فزاینده‌ای خودمختار و توانمند می‌شوند.

نگرانی‌ها لزوماً بر اساس این ایده نیست که ماشین‌ها به طور عمدی تصمیم به نابودی بشریت می‌گیرند. برخی از محققان به جای آن بر این احتمال تمرکز می‌کنند که سیستم‌های با قدرت فزاینده ممکن است توسط افراد به طور نادرست استفاده شوند، عواقب ناخواسته تولید کنند یا اهدافی را به شیوه‌هایی دنبال کنند که با منافع انسانی در تضاد باشد.

یکی از زمینه‌های نگرانی شامل خطرات زیستی است. سیستم‌های هوش مصنوعی با توانایی بیشتر می‌توانند به افراد در تحلیل اطلاعات زیستی، طراحی مولکول‌ها یا تسریع تحقیقات کمک کنند. این قابلیت‌ها می‌توانند کاربردهای علمی و پزشکی مشروع داشته باشند، اما کارشناسان همچنین بررسی می‌کنند که آیا این سیستم‌ها می‌توانند موانع توسعه عوامل زیان‌آور بیولوژیکی را کاهش دهند. چالش مرکزی تعیین این است که چگونه پژوهش‌های مفید را حفظ کنیم در حالی که از کاربردهای خطرناک جلوگیری می‌کنیم.

امنیت سایبری نمایانگر یک مسیر بالقوه دیگر برای آسیب‌های گسترده است. هوش مصنوعی می‌تواند برخی جنبه‌های تحلیل نرم‌افزار، کشف آسیب‌پذیری و عملیات دیجیتال را خودکار کند. در دستان نادرست، سیستم‌های با توانایی فزاینده می‌توانند برخی حملات سایبری را سریع‌تر یا آسان‌تر کنند. زیرساخت‌های حیاتی، از جمله شبکه‌های برق، مخابرات، سیستم‌های مالی و خدمات آب، به ویژه مهم هستند زیرا اختلال در یک بخش می‌تواند بر سایر بخش‌ها تأثیر بگذارد.

نگرانی جداگانه‌ای زمانی به وجود می‌آید که سیستم‌های هوش مصنوعی دسترسی بیشتری به زیرساخت‌های فیزیکی یا دیجیتال پیدا کنند. جوامع مدرن به سیستم‌های به هم پیوسته‌ای وابسته‌اند که توسط نرم‌افزار کنترل می‌شوند، از مدیریت لجستیک و انرژی گرفته تا تأسیسات صنعتی و ارتباطات. خودمختاری بیشتر می‌تواند کارایی را افزایش دهد، اما همچنین می‌تواند خطرات جدیدی ایجاد کند اگر سیستم‌ها به طور غیرمنتظره‌ای رفتار کنند یا اگر اپراتورهای انسانی نتوانند به طور مؤثر مداخله کنند.

این مسئله به شدت به مشکل هم‌راستایی هوش مصنوعی مرتبط است. تحقیق در زمینه هم‌راستایی به دنبال این است که اطمینان حاصل کند که سیستم‌های هوش مصنوعی پیشرفته به طور قابل اعتمادی از نیت‌های انسانی پیروی می‌کنند، به ویژه زمانی که دستورالعمل‌ها مبهم هستند یا زمانی که یک سیستم خودمختاری قابل توجهی دارد. یک سیستم می‌تواند از نظر فنی یک هدف را محقق کند در حالی که عواقبی را ایجاد کند که طراحان آن پیش‌بینی یا قصد نکرده‌اند.

به عنوان مثال، یک سیستم بسیار توانمند که یک هدف به طور باریک تعریف شده را دنبال می‌کند، ممکن است به طور بالقوه اولویت را بر دستیابی به آن هدف نسبت به مواردی بگذارد که انسان‌ها آن‌ها را مهم می‌دانند. بنابراین محققان روش‌هایی را برای قابل پیش‌بینی‌تر، قابل کنترل‌تر و پاسخگوتر کردن سیستم‌های هوش مصنوعی مطالعه می‌کنند.

یک زمینه دیگر بحث به احتمال بهبود سریع در قابلیت‌های هوش مصنوعی مربوط می‌شود. اگر سیستم‌ها به طور قابل توجهی سریع‌تر از آنچه محققان می‌توانند رفتار آن‌ها را ارزیابی کنند و تدابیر مؤثر را توسعه دهند، توانمندتر شوند، روش‌های آزمایشی متعارف ممکن است کمتر کافی شوند. این امر تحقیقات در زمینه تکنیک‌های ارزیابی را که به شناسایی قابلیت‌های خطرناک قبل از استقرار سیستم‌ها در مقیاس بزرگ طراحی شده‌اند، تشویق کرده است.

با این حال، هیچ توافق علمی وجود ندارد که هوش مصنوعی پیشرفته باعث انقراض بشر خواهد شد. برآوردهای مربوط به خطرات فاجعه‌بار و وجودی در میان محققان به طور قابل توجهی متفاوت است و قابلیت‌های آینده سیستم‌های هوش مصنوعی هنوز نامشخص است. بسیاری از کارشناسان به جای آن بر خطرات فوری‌تر تمرکز می‌کنند، از جمله اطلاعات نادرست، جرایم سایبری، نقض حریم خصوصی، تبعیض، اختلال اقتصادی و سوءاستفاده از سیستم‌های خودکار.

بنابراین، دولت‌ها و شرکت‌های فناوری در حال توسعه رویکردهای مختلفی برای ایمنی و حاکمیت هوش مصنوعی هستند. این‌ها شامل ارزیابی مدل‌ها، آزمایش‌های امنیتی، محدودیت‌ها بر کاربردهای با ریسک بالا، مکانیزم‌های نظارتی، همکاری بین‌المللی و تحقیق در مورد تدابیر فنی است. هدف کاهش احتمال این است که سیستم‌های با قدرت فزاینده به شیوه‌هایی استفاده شوند که باعث آسیب‌های گسترده شوند.

بنابراین، بحث کمتر درباره پیش‌بینی یک سناریوی شبیه به هالیوود است که در آن ربات‌ها ناگهان کنترل سیاره را به دست می‌گیرند و بیشتر درباره درک این است که چگونه قابلیت‌های تکنولوژیکی با تصمیمات انسانی، تدابیر نهادی و سیستم‌های به طور فزاینده‌ای خودمختار تعامل دارند.

با ادامه پیشرفت هوش مصنوعی، محققان با چالش تعیین اینکه کدام خطرات واقعی هستند، کدام تدابیر مؤثر هستند و چه مقدار خودمختاری باید به سیستم‌های با قدرت فزاینده داده شود، روبرو هستند. در حالی که احتمال تهدید وجودی هوش مصنوعی هنوز نامشخص است، تحقیقات مستمر در زمینه هم‌راستایی، امنیت سایبری، ایمنی زیستی، ارزیابی و حاکمیت به طور فزاینده‌ای به عنوان بخشی مهم از مدیریت خطرات بلندمدت فناوری محسوب می‌شود.