چهره های وافق و مخالف رشد هوش مصنوعی/تبدیل سرعت توسعه هوش مصنوعی به مسئله امنیت ملی آمریکا

این اختلاف در چند روز گذشته به شکافی کم‌سابقه در صنعت فناوری تبدیل شده است. داریو آمودی، مدیر عامل آنتروپیک، خواستار کاهش آهنگ افزایش قابلیت مدل‌های هوش مصنوعی شده است. سم آلتمن و ایلان ماسک نیز اصل استدلال او درباره ضرورت کندکردن حرکت در مرز قابلیت‌ها را تأیید کرده‌اند. در سوی دیگر، جنسن هوانگ، مدیر عامل انویدیا، سرعت و ایمنی را قابل قبول می‌داند و دونالد ترامپ نگرانی‌های وجودی درباره هوش مصنوعی را در برابر ضرورت حفظ برتری آمریکا نسبت به چین قرار داده است.

از «ایمنی مدل» تا «ایمنی سرعت توسعه»

مهم‌ترین تحول مفهومی را می‌توان در موضع تازه آمودی دید. استدلال او بر یک عدم‌تقارن زمانی بنا شده است. قابلیت مدل‌ها با سرعتی افزایش می‌یابد که ممکن است سازوکارهای ارزیابی، هم‌ترازی و کنترل نتوانند آن را دنبال کنند. از همین روی، آمودی تصریح کرده که سرمایه‌گذاری بیشتر در پیشگیری از خطر کفایت نمی‌کند و سرعت پیشرفت قابلیت‌ها نیز باید به نحوی تنظیم شود که مدیریت خطر فرصت همگام‌شدن داشته باشد.

این موضع با درخواست توقف کامل توسعه هوش مصنوعی تفاوت دارد. پیشنهاد آمودی بر نوعی تنظیم سرعت در مرز فناوری استوار است و یکی از اجزای مشخص آن، اعطای دسترسی دائمی در سطح کارکنان به ارزیابان مستقل شخص ثالث است تا رعایت تدابیر ایمنی، رخدادهای خطرناک و وضعیت هم‌ترازی مدل‌ها را حتی در جریان آموزش بررسی کنند. آلتمن نیز از همین سازوکار استقبال و اعلام کرده اوپن‌ای‌آی نیز اقدام مشابهی خواهد کرد.

پشت این چرخش، نگرانی مشخصی درباره قابلیت خودبهبوددهی بازگشتی یا «Recursive Self-Improvement» قرار دارد. جاکوب کاکسون، پژوهشگر سابق آنتروپیک و اوپن‌ای‌آی، پس از استعفا از آنتروپیک مدعی شد دو شرکت در مسیر توسعه «فراهوش خودبهبوددهنده» با مخاطرات غیرقابل‌قبولی پیش می‌روند. جاسمین وانگ، پژوهشگر هم‌ترازی اوپن‌ای‌آی نیز طی روزهای اخیر، شتاب به سوی قابلیت مذکور را بسیار خطرناک خوانده و یاکوب پاچوکی، دانشمند ارشد اوپن‌ای‌آی، گفته است انتظار دارد روند پیشرفت بتواند وارد مرحله خودبهبوددهی بازگشتی شود و درباره آمادگی برای پیامدهای افزایش سریع هوش ماشینی ابراز نگرانی کرده است.

الکس ترنر، پژوهشگر سابق گوگل دیپ مایند، این استدلال را یک مرحله جلوتر می‌برد. از نگاه او، مسئله بنیادین به شیوه ساخت مدل‌های کنونی بازمی‌گردد. رفتار این سامانه‌ها مانند یک سازه مهندسی متعارف جزءبه‌جزء طراحی و فهم نمی‌شود و روش قابل اتکایی برای تضمین اینکه مدل جدید دقیقاً اولویت‌های طراح را دنبال کند وجود ندارد. او سپس یک حلقه بازخورد را ترسیم می‌کند که در آن مدل‌های هوشمندتر در ساخت نسل بعدی مدل‌ها مشارکت می‌کنند و افزایش قابلیت امروز، سرعت افزایش قابلیت فردا را بیشتر می‌کند.

پاسخ مخالفان: ایمنی مسئله مهندسی است

جنسن هوانگ تقریباً از نقطه مقابل به مسئله نگاه می‌کند. مدیر عامل انویدیا هوش مصنوعی را یک «ذهن بیگانه» تلقی نمی‌کند و آن را در نهایت مجموعه‌ای از سخت‌افزار و نرم‌افزار ساخته انسان می‌داند. از دید او، ایمنی فناوری یک مسئله مهندسی است و قوانین موجود همراه با سازوکار بازار می‌توانند شرکت‌ها را از عرضه محصولات ناایمن بازدارند.

هوانگ بر همین مبنا دوگانه سرعت یا ایمنی را کاذب می‌داند. به عقیده وی، شرکت‌ها می‌توانند با حداکثر سرعت پیش بروند و هرگاه نسبت به ایمنی محصول اطمینان نداشتند، همان‌جا توقف کنند. در این چارچوب، متولی تصمیم‌گیری درباره سرعت از قانون‌گذار به خود توسعه‌دهنده تغییر می‌کند و تنظیم سرعت نیز از یک قاعده پیشینی به واکنشی در برابر خطر تبدیل می‌شود.

اینجا دقیقاً مرز اصلی اختلاف آشکار می‌شود. آمودی مسئله را فاصله میان سرعت ایجاد قابلیت و سرعت تدوین سازوکار ایمنی می‌بیند. از سوی دیگر، هوانگ بر قابلیت مهندسی خطر در جریان توسعه سریع تکیه می‌کند. اختلاف این دو روایت درباره وجود خطر نیست. نقطه مناقشه آنجاست که چه کسی باید درباره سرعت تصمیم بگیرد و آیا ایمنی می‌تواند پس از ظهور قابلیت خطرناک به آن برسد یا باید پیشاپیش بر سرعت ظهور آن قابلیت اثر بگذارد.

تبدیل سرعت توسعه هوش مصنوعی به مسئله امنیت ملی آمریکا

ورود سیاست به این معادله، مناقشه آهنگ توسعه هوش مصنوعی را پیچیده‌تر کرده است. ترامپ طی روزهای اخیر در پاسخ به پرسشی درباره انقراض انسان بر اثر هوش مصنوعی اعلام کرده که نگران این موضوع نیست و دغدغه خود را عقب‌نماندن آمریکا در رقابت با چین معرفی کرد. این موضع با جهت‌گیری رسمی دولت او نیز سازگار است. اسناد کاخ سفید در سال ۲۰۲۶ بر تسریع نوآوری، توسعه زیرساخت و حفظ رهبری آمریکا در هوش مصنوعی تأکید دارند.

پکن نیز از زاویه دیگری به روایت لزوم کاهش سرعت توسعه فناوری هوش مصنوعی نگاه می‌کند. بر همین اساس، گوئو جیاکون، سخنگوی وزارت خارجه چین، در پاسخ به پرسشی درباره درخواست مدیران فناوری آمریکایی برای کاهش سرعت توسعه، بر توسعه باز و فراگیر هوش مصنوعی تأکید کرد و هراس‌افکنی، تقابل و رقابت مخرب را مانع حکمرانی سالم جهانی بر فناوری مذکور دانست. بنابراین بحثی که در ابتدا حول احتمال از کنترل ‌خارج ‌شدن مدل‌ها شکل گرفته بود، اکنون با منطق رقابت قدرت‌های بزرگ درهم آمیخته است. در این معادله، هر محدودیت داخلی می‌تواند از منظر مخالفان به هزینه ژئوپلیتیکی تبدیل شود و هر استدلال مبتنی بر رقابت نیز از منظر موافقان کاهش سرعت توسعه می‌تواند سازوکاری برای تداوم مسابقه‌ای باشد که خود منشأ خطر تلقی می‌شود.

از نظارت مستقل تا ممنوعیت توسعه ابرهوش مصنوعی

در سیاست داخلی آمریکا نیز یک پاسخ واحد به این چالش نوظهور شکل نگرفته است. بر همین اساس، باراک اوباما خواستار تدوین چارچوبی گسترده برای گفت‌وگوی عمومی درباره مدیریت هوش مصنوعی شده که از کاهش سرعت برای ایمنی تا آثار اشتغال و سلامت کودکان را پوشش دهد. صورت‌بندی او میان مخاطرات و منافع فناوری تعادل برقرار می‌کند و در کنار هشدار درباره سرعت توسعه در دست بازیگران خصوصی، ظرفیت هوش مصنوعی برای تسریع کشف دارو و فناوری انرژی پاک را برجسته می‌سازد.

از سوی دیگر، برنی سندرز و گرگ کسار نیز مسیر مداخله در این حوزه را پیشنهاد کرده‌اند. طرح ارائه شده این دو قانون‌گذار آمریکایی توسعه و استقرار «ابرهوش مصنوعی» را ممنوع می‌کند و توسعه سامانه‌های پیشرفته را تا زمان استقرار قواعد ایمنی فدرال به‌طور موقت متوقف می‌سازد. طرح مذکور همچنین ایجاد یک نهاد فدرال در سطح کابینه برای نظارت بر چرخه عمر هوش مصنوعی مرزی را پیش‌بینی کرده است.

مسئله اصلی دیگر خطرناک بودن هوش مصنوعی نیست

آنچه از کنار هم قرار دادن این مواضع آشکار می‌شود، شکل‌گیری یک اختلاف عمیق‌تر درباره حکمرانی سرعت توسعه فناوری است. تقریباً تمام طرف‌های اصلی این مناقشه، می‌پذیرند که هوش مصنوعی قدرتمند می‌تواند مخاطراتی ایجاد کند. شکاف اصلی در سه پرسش کلیدی نهفته است:

• آیا توانایی کنترل با همان سرعت قابلیت فنی پیشرفت می‌کند؟
• چه نهادی صلاحیت تشخیص لحظه خطر را دارد؟
• هزینه کاهش سرعت یک بازیگر در محیط رقابت بین‌المللی چیست؟

از همین زاویه، مناقشه سپتامبر ۲۰۲۶ احتمالاً نقطه مهمی در تحول سیاست هوش مصنوعی است. یک سوی بحث می‌خواهد سرعت توسعه را به متغیری قابل حکمرانی تبدیل کند و از ارزیابی مستقل تا توقف موقت و حتی ممنوعیت برخی قابلیت‌ها پیش می‌رود. سوی دیگر، سرعت را جزء مزیت نوآوری و قدرت ملی می‌بیند و مدیریت خطر را به مهندسی، مسئولیت شرکت و قواعد عمومی موجود می‌سپارد. سرنوشت تنظیم‌گری هوش مصنوعی تا حد زیادی به پاسخ همین پرسش وابسته خواهد بود. آیا جامعه باید پس از ظهور یک قابلیت خطرناک برای مهار آن اقدام کند، یا حق دارد پیش از عبور از آستانه‌ای که پیامدهایش هنوز قابل اندازه‌گیری نیست، سرعت رسیدن به آن آستانه را کنترل کند؟