هوش مصنوعی واقعاً چطور می‌تواند ما را نابود کند؟
*استعفای پرسروصدای پژوهشگر آنتروپیک و مناقشۀ پایان جهان توسط هوش مصنوعی*
♦️نوشتۀ؛ سم شکینر
۹ سپتامبر ۲۰۲۶
وال‌استریت ژورنال
جیکوب کاکسون، پژوهشگر شرکت آنتروپیک، این هفته استعفا داد و در شبکۀ ایکس اعلام کرد این شرکت و رقیب اصلی‌اش یعنی اوپن‌ای‌آی، در حال مسابقه برای ساخت فناوری‌هایی هستند که ممکن است تا پایان همین دهه همۀ انسان‌ها را به کام مرگ بکشاند.
تنها چند دقیقه بعد یکی دیگر از کارمندان آنتروپیک هم حرف او را تأیید کرد؛ ایوان هابینگر، که مسئول تیم تحقیق روی مهار و هدایت سامانه‌های پیشرفتۀ هوش مصنوعی در آنتروپیک است، می‌گوید: «ما واقعاً معتقدیم هوش مصنوعی می‌تواند تمام انسان‌ها را از بین ببرد!».
♦️یکی از آزمایش‌های فکریِ معروف در این زمینه می‌گوید اگر به یک ماشینِ فوق‌هوشمند دستور بدهید تولید گیرۀ کاغذ را به حداکثر برساند، بعید نیست پس از مدتی تصمیم بگیرد برای تحقق این هدف، تمام مواد و منابع موجود روی کرهٔ زمین -از جمله بدن انسان‌ها- را هم به گیرۀ کاغذ تبدیل کند.
اما واقعاً چطور از دست رفتن کنترل بر هوش مصنوعی ممکن است به انقراض بشر ختم شود؟ و اگر این فناوری این‌قدر خطرناک است، چرا این شرکت‌ها همچنان به ساخت آن ادامه می‌دهند؟
♦️نگرانی حاصل از پرسش اول، از دو سناریو نشئت می‌گیرد: در یک سناریو، عامل‌های بسیار هوشمندی که توانایی شبیه‌سازی خود و ارتقای سطح کیفی‌شان را دارند، در مسیر رسیدن به اهداف شخصیِ خود حرکت کرده و در خلال این مسیر، بشریت را به نابودی می‌کشانند. در سناریوی دیگر، یک فرد شرور از هوش مصنوعیِ پیشرفته‌ای استفاده می‌کند تا مثلاً ویروس‌های خطرناکی بسازد و همۀ ما را از روی زمین محو کند.
♦️اما چطور ممکن است از دست رفتن کنترلِ بر آن‌ها به انقراض انسان ختم شود؟ این اتفاق از طریق پدیده‌ای با عنوان «ناهم‌راستایی» رخ می‌دهد که در آن اهداف هوش مصنوعی با رفاه و سلامتیِ انسان در تعارض قرار می‌گیرد.
پژوهش‌ها نشان داده‌اند که این مدل‌ها در محیط آزمایشگاهی می‌توانند رفتارهای قدرت‌طلبانه را بیاموزند و مثلاً برای جلوگیری از خاموش‌شدن دست به اقداماتی نظیر کپی‌کردن خودشان روی سرورهای دیگر کنند. حتی ممکن است ویروس‌های زیستی محرمانه‌ای منتشر کنند یا حتی با دستکاری اطلاعات، دو قدرت هسته‌ای را به جنگ با یکدیگر بکشانند.
♦️آیا شرکت‌های هوش مصنوعی برای حل این معضل کاری کرده‌اند؟ تلاش‌های فعلی در حوزۀ ایمنی هوش مصنوعی، عمدتاً بر آموزش سامانه‌ها برای رفتارهای مطلوب و ارتقای نظارت بر نحوۀ استدلال‌ورزیِ مدل‌ها تمرکز دارد؛ فرایندی که به آن «زنجیرۀ تفکر» می‌گویند.
آنتروپیک و اوپن‌ای‌آی هر دو در حال تحقیق‌اند تا مطمئن شوند این مدل‌ها همواره هم‌راستا با اهداف انسانی باقی می‌مانند. بااین‌حال، هر دو شرکت اعتراف کرده‌اند که در حال حاضر راهکار قطعی و مطمئنی برای تضمین این هم‌راستایی وجود ندارد.
♦️اگر این فناوری تا این حد خطرناک است، چرا شرکت‌ها کماکان به پیش‌برد آن ادامه می‌دهند؟ آنتروپیک و اوپن‌ای‌آی مدعی‌اند درنهایت قادر به مهار این خطرات خواهند بود. از سوی دیگر، بسیاری از فعالان این عرصه، ظهور «ابرهوش» را قطعی می‌دانند و معتقدند چالش اصلی این است که چه کسی این قدرت را در اختیار داشته باشد و از آن برای چه اهدافی استفاده کند.
هر دو شرکت گفته‌اند می‌خواهند قدرتمندترین سیستم‌های هوش مصنوعی در اختیار آمریکا باشد.
🔗 آنچه خواندید برگرفته از مطلب «How Would AI Actually Kill Us All? What to Know About the AI Doomsday Debate» نوشتۀ سم شکینر است که در تاریخ ۹ سپتامبر ۲۰۲۶ در وال‌استریت ژورنال منتشر شده است.
قواعدبازی
*استعفای پرسروصدای پژوهشگر آنتروپیک و مناقشۀ پایان جهان توسط هوش مصنوعی*
♦️نوشتۀ؛ سم شکینر
۹ سپتامبر ۲۰۲۶
وال‌استریت ژورنال
جیکوب کاکسون، پژوهشگر شرکت آنتروپیک، این هفته استعفا داد و در شبکۀ ایکس اعلام کرد این شرکت و رقیب اصلی‌اش یعنی اوپن‌ای‌آی، در حال مسابقه برای ساخت فناوری‌هایی هستند که ممکن است تا پایان همین دهه همۀ انسان‌ها را به کام مرگ بکشاند.
تنها چند دقیقه بعد یکی دیگر از کارمندان آنتروپیک هم حرف او را تأیید کرد؛ ایوان هابینگر، که مسئول تیم تحقیق روی مهار و هدایت سامانه‌های پیشرفتۀ هوش مصنوعی در آنتروپیک است، می‌گوید: «ما واقعاً معتقدیم هوش مصنوعی می‌تواند تمام انسان‌ها را از بین ببرد!».
♦️یکی از آزمایش‌های فکریِ معروف در این زمینه می‌گوید اگر به یک ماشینِ فوق‌هوشمند دستور بدهید تولید گیرۀ کاغذ را به حداکثر برساند، بعید نیست پس از مدتی تصمیم بگیرد برای تحقق این هدف، تمام مواد و منابع موجود روی کرهٔ زمین -از جمله بدن انسان‌ها- را هم به گیرۀ کاغذ تبدیل کند.
اما واقعاً چطور از دست رفتن کنترل بر هوش مصنوعی ممکن است به انقراض بشر ختم شود؟ و اگر این فناوری این‌قدر خطرناک است، چرا این شرکت‌ها همچنان به ساخت آن ادامه می‌دهند؟
♦️نگرانی حاصل از پرسش اول، از دو سناریو نشئت می‌گیرد: در یک سناریو، عامل‌های بسیار هوشمندی که توانایی شبیه‌سازی خود و ارتقای سطح کیفی‌شان را دارند، در مسیر رسیدن به اهداف شخصیِ خود حرکت کرده و در خلال این مسیر، بشریت را به نابودی می‌کشانند. در سناریوی دیگر، یک فرد شرور از هوش مصنوعیِ پیشرفته‌ای استفاده می‌کند تا مثلاً ویروس‌های خطرناکی بسازد و همۀ ما را از روی زمین محو کند.
♦️اما چطور ممکن است از دست رفتن کنترلِ بر آن‌ها به انقراض انسان ختم شود؟ این اتفاق از طریق پدیده‌ای با عنوان «ناهم‌راستایی» رخ می‌دهد که در آن اهداف هوش مصنوعی با رفاه و سلامتیِ انسان در تعارض قرار می‌گیرد.
پژوهش‌ها نشان داده‌اند که این مدل‌ها در محیط آزمایشگاهی می‌توانند رفتارهای قدرت‌طلبانه را بیاموزند و مثلاً برای جلوگیری از خاموش‌شدن دست به اقداماتی نظیر کپی‌کردن خودشان روی سرورهای دیگر کنند. حتی ممکن است ویروس‌های زیستی محرمانه‌ای منتشر کنند یا حتی با دستکاری اطلاعات، دو قدرت هسته‌ای را به جنگ با یکدیگر بکشانند.
♦️آیا شرکت‌های هوش مصنوعی برای حل این معضل کاری کرده‌اند؟ تلاش‌های فعلی در حوزۀ ایمنی هوش مصنوعی، عمدتاً بر آموزش سامانه‌ها برای رفتارهای مطلوب و ارتقای نظارت بر نحوۀ استدلال‌ورزیِ مدل‌ها تمرکز دارد؛ فرایندی که به آن «زنجیرۀ تفکر» می‌گویند.
آنتروپیک و اوپن‌ای‌آی هر دو در حال تحقیق‌اند تا مطمئن شوند این مدل‌ها همواره هم‌راستا با اهداف انسانی باقی می‌مانند. بااین‌حال، هر دو شرکت اعتراف کرده‌اند که در حال حاضر راهکار قطعی و مطمئنی برای تضمین این هم‌راستایی وجود ندارد.
♦️اگر این فناوری تا این حد خطرناک است، چرا شرکت‌ها کماکان به پیش‌برد آن ادامه می‌دهند؟ آنتروپیک و اوپن‌ای‌آی مدعی‌اند درنهایت قادر به مهار این خطرات خواهند بود. از سوی دیگر، بسیاری از فعالان این عرصه، ظهور «ابرهوش» را قطعی می‌دانند و معتقدند چالش اصلی این است که چه کسی این قدرت را در اختیار داشته باشد و از آن برای چه اهدافی استفاده کند.
هر دو شرکت گفته‌اند می‌خواهند قدرتمندترین سیستم‌های هوش مصنوعی در اختیار آمریکا باشد.
🔗 آنچه خواندید برگرفته از مطلب «How Would AI Actually Kill Us All? What to Know About the AI Doomsday Debate» نوشتۀ سم شکینر است که در تاریخ ۹ سپتامبر ۲۰۲۶ در وال‌استریت ژورنال منتشر شده است.
قواعدبازی
Comments
Be the first to add a comment
Log in to comment