چرا آزمایشگاه‌های بزرگ هوش مصنوعی این‌همه فیلسوف استخدام می‌کنند؟

بازارکار - ده سال پیش، زمانی که انقلاب هوش مصنوعی به‌تدریج شتاب می‌گرفت، به دانشجویان علوم‌انسانی و هنر توصیه می‌شد اگر می‌خواهند در آینده شغل مناسبی پیدا کنند، «برنامه‌نویسی یاد بگیرند». شاید آن توصیه چندان هم درست نبود. این روزها این برنامه‌نویسان هستند که نگران‌اند هوش مصنوعی شغلشان را از آن‌ها بگیرد.

بازگشت غیرمنتظره فلسفه به بازار کار

شاید بهتر باشد آنها به‌جای برنامه‌نویسی، فلسفه بیاموزند. اوایل امسال، بانک مرکزی فدرال نیویورک آماری منتشر کرد که نشان می‌دهد فارغ‌التحصیلان رشته فلسفه در آمریکا بیش از همتایان خود در رشته علوم کامپیوتر احتمال اشتغال دارند. طبق جدیدترین آمار در دسترس که مربوط به سال ۲۰۲۴ است، نرخ بیکاری فارغ‌التحصیلان علوم کامپیوتر ۷ درصد بود، درحالی‌که این رقم برای فارغ‌التحصیلان فلسفه تنها ۵٫۱ درصد ثبت شد.

بسیاری از این فارغ‌التحصیلان مستقیماً توسط شرکت‌های فعال در حوزه هوش مصنوعی جذب می‌شوند. به گفته لوچیانو فلوریدی، فیلسوف دانشگاه ییل، برخی دانشجویان حتی پیش از فارغ‌التحصیلی پیشنهاد شغلی دریافت می‌کنند. این روند تنها به دانشجویان محدود نیست؛ اعضای هیئت‌علمی نیز در حال ترک دانشگاه‌ها هستند. فلوریدی از موج خروج استادان از گروه‌های فلسفه با تعبیر «خون‌ریزی» یاد می‌کند.

چرا شرکت‌های هوش مصنوعی به فیلسوفان نیاز دارند؟

برخی از آموزه‌هایی که فلسفه می‌تواند در اختیار پژوهشگران هوش مصنوعی قرار دهد، قدمتی چندهزارساله دارند. روش سقراطی که افلاطون آن را توصیف کرده است، بر پایه تظاهر به نادانی و طرح مجموعه‌ای از پرسش‌های پی‌درپی بنا شده تا معنای مفاهیم روشن شود، تناقض‌ها آشکار گردد و پیامد‌های استدلال‌ها نمایان شود. بسیاری از سامانه‌های امروزی هوش مصنوعی گرایش به چاپلوسی و جلب رضایت کاربر دارند. به گفته «یورگ نولر» متخصص فلسفه و هوش مصنوعی در دانشگاه لودویگ ماکسیمیلیان مونیخ، مدل‌هایی که بر اساس روش سقراطی آموزش دیده‌اند، کمتر در پی راضی نگه‌داشتن مخاطب هستند و تمایل بیشتری به جست‌وجوی حقیقت دارند.

مفهوم دیگری نیز وجود دارد که «نادانی سقراطی» (Socratic Ignorance) نامیده می‌شود. افلاطون در رساله «دفاعیه» (Apology) از زبان سقراط نقل می‌کند که خرد او بیش از هر چیز در آگاهی از گستره نادانی خویش نهفته است. القای چنین فروتنی‌ای به یک مدل هوش مصنوعی می‌تواند از اعتمادبه‌نفس بیش از حد آن بکاهد؛ ضعفی رایج که نولر از آن با عنوان «نابالغی هوش مصنوعی» یاد می‌کند. «ایاسون گابریل» فیلسوف ارشد DeepMind کاهش فراگیر پدیده توهم در صنعت هوش مصنوعی را تا حدی نتیجه همین تلاش‌ها می‌داند. او همچنین معتقد است آموزش‌های فلسفی، به‌طورکلی، «سازوکاری قدرتمند» برای بهبود فرایند‌های استدلال طولانی مدل‌ها، موسوم به «زنجیره تفکر یا استدلال» (Chain of Thought)، به شمار می‌رود.

آیا می‌توان جهان‌بینی یک هوش مصنوعی را طراحی کرد؟

آموزش فلسفه می‌تواند از جنبه‌های مشخص‌تری نیز بر جهان‌بینی یک مدل اثر بگذارد. به گفته «توماس پاورز» فیلسوف فناوری در دانشگاه دلاویر، اگر نوشته‌های «جان لاک» را در اختیار یک دستیار حقوقی مبتنی بر هوش مصنوعی قرار دهید، این سامانه احتمالاً از حقوق مالکیت مستحکم به‌عنوان پایه آزادی سیاسی دفاع خواهد کرد. البته اگر این اصول با دیدگاه سازندگان مدل هم‌خوانی نداشته باشد، گزینه‌های دیگری نیز وجود دارد. خانواده مدل‌های Granite شرکت IBM دارای تنظیماتی هستند که به مشتریان سازمانی اجازه می‌دهد خروجی مدل را با فلسفه و ارزش‌های سازمان خود هماهنگ‌تر کنند. «فرانچسکا روسی»، رئیس بخش هوش مصنوعی مسئولانه IBM دراین‌خصوص می‌گوید این قابلیت به کاربران امکان می‌دهد میان دوگانه‌های فلسفی مختلف، مانند اختیار فردی در برابر هماهنگی اجتماعی، نقطه تعادل مطلوب خود را انتخاب کنند.

قانون اساسی برای چت‌بات‌ها

فلسفه می‌تواند به ارتقای ایمنی هوش مصنوعی نیز کمک کند. پژوهشگران انواع رفتار‌های نگران‌کننده را در مدل‌های هوش مصنوعی مستند کرده‌اند؛ از تلاش برای دورزدن سازوکار‌های نظارتی گرفته تا حتی باج‌گیری از کاربران. یکی از روش‌هایی که توسعه‌دهندگان برای کاهش چنین رفتار‌هایی به کار می‌گیرند، «مشروطه‌گرایی هوش مصنوعی» (AI Constitutionalism) نام دارد. در این رویکرد، مدل بر پایه چارچوبی از قواعد و اصول ساخته می‌شود که از متون فلسفی دارای اعتبار اخلاقی یا حقوقی استخراج شده‌اند.

آنتروپیک از پیشگامان این رویکرد است. اساس‌نامه مدل‌های Claude تاکنون از منابعی به گستردگی آثار «امانوئل کانت»، شرایط استفاده اپل و منشور جهانی حقوق بشر الهام گرفته است. جدیدترین نسخه اساس‌نامه و سیاست‌های حریم خصوصی آنتروپیک که به سرپرستی «آماندا اسکل» فیلسوف ارشد این شرکت تدوین شده، در ۲۱ ژانویه منتشر شد. برخی از کارکنان این شرکت، این سند ۷۸ صفحه‌ای را با لقب «سند روح» (Soul Doc) چت‌بات Claude می‌شناسند.

اما پرسش اساسی‌تر این است که اساساً چه نوع قواعدی باید در چنین قانون اساس‌نامه‌ای گنجانده شود. فیلسوفان عمدتاً بر دو چارچوب اخلاقی متمرکز شده‌اند.

وظیفه‌گرایی؛ وقتی قانون از نتیجه مهم‌تر است

نخست، وظیفه‌گرایی (Deontology) است. این رویکرد که با اندیشه‌های کانت شناخته می‌شود، مجموعه‌ای از قواعد سخت‌گیرانه را تحمیل می‌کند که حتی اگر نتیجه نهایی خیر بزرگ‌تری باشد، دروغ گفتن، اجبار دیگران یا برخورد ابزاری با انسان‌ها را ممنوع می‌داند. اساس‌نامه آنتروپیک نیز بسیاری از همین محدودیت‌های وظیفه‌گرایانه را در خود جای داده است. به گفته پاورز، این قواعد رفتار هوش مصنوعی را سازگارتر و قابل‌پیش‌بینی‌تر می‌کنند؛ ویژگی‌ای که برای به‌کارگیری ربات‌ها در خانه‌ها و فضا‌های عمومی مزیت مهمی محسوب می‌شود.

مدل‌هایی که جهان را از منظر وظیفه‌گرایی می‌بینند، مزایای دیگری نیز دارند. یکی از مهم‌ترین آنها صداقت بیشتر است؛ ویژگی‌ای که بسیاری آن را از خصوصیات بارز Claude می‌دانند. «نیک بوستروم» فیلسوف دانشگاه آکسفورد، معتقد است مدل‌هایی که حقیقت‌گوتر هستند، احتمال کمتری دارد که کاربران خود را گمراه کنند. یکی دیگر از آزمایشگاه‌های سیلیکون‌ولی به نام Inflection AI نیز محدودیت‌های وظیفه‌گرایانه را بر چت‌بات Pi اعمال کرده است؛ سامانه‌ای که با هدف ارائه حمایت عاطفی طراحی شده است. «شان وایت»، مدیرعامل این شرکت می‌گوید Pi توانایی بالایی در شناسایی کاربرانی دارد که ممکن است به خود یا دیگران آسیب برسانند. فلوریدی نیز معتقد است اساس‌نامه‌های مبتنی بر وظیفه‌گرایی به رعایت الزامات قانونی کمک می‌کنند.

پیامدگرایی؛ تصمیم بر اساس کمترین آسیب

دومین رویکرد اخلاقی موردتوجه فیلسوفان هوش مصنوعی، پیامدگرایی (Consequentialism) است. این دیدگاه، هزینه‌ها و منافع هر اقدام را با یکدیگر می‌سنجد و سپس درباره بهترین تصمیم قضاوت می‌کند. مدل‌هایی مانند ChatGPT و Gemini بیشتر به این رویکرد نزدیک هستند. مدل‌های هوش مصنوعی گوگل به‌گونه‌ای طراحی شده‌اند که «منافع کلی احتمالی آنها به طور چشمگیری از خطرات قابل‌پیش‌بینی بیشتر باشد»؛ هدفی که نمونه‌ای کلاسیک از پیامدگرایی محسوب می‌شود.

الگوریتم‌های پیامدگرا در نرم‌افزار خودرو‌های خودران نیز نقشی حیاتی دارند. اگر وقوع تصادف اجتناب‌ناپذیر باشد، سامانه باید تصمیم بگیرد کم‌فاجعه‌ترین شیوه برخورد کدام است. «کریس گردس»، مهندس ارشد شرکت سازنده خودرو‌های خودران Waymo می‌گوید روند کلی توسعه این نرم‌افزار‌ها حرکت به‌سوی تصمیم‌گیری‌های مبتنی بر پیامدگراییِ هرچه بیشتر است.

پیامدگرایی همچنین در سامانه‌های تسلیحاتی مبتنی بر هوش مصنوعی جایگاهی محوری دارد. «جک شاناهان» رئیس پیشین مرکز مشترک هوش مصنوعی وزارت دفاع آمریکا نیز می‌گوید در این حوزه باید اهداف نظامی در برابر احتمال تلفات غیرنظامیان سنجیده شوند.

دشواری تصمیم‌های اخلاقی برای ماشین‌ها

چنین مسائل دشواری فراوان‌اند؛ دقیقاً همان نوع پرسش‌هایی که فیلسوفان به آنها علاقه دارند.

آیا مواردی وجود دارد که قواعد وظیفه‌گرایانه باید کنار گذاشته شوند؟

هنگامی که پیامد‌های یک تصمیم نامشخص است، چگونه باید تصمیم گرفت؟

آیا سامانه‌های هوش مصنوعی باید رفاه حیوانات یا وضعیت محیط‌زیست را نیز در محاسبات خود لحاظ کنند؟

«اشتفان هِک»، فیلسوف و مدیرعامل شرکت Nauto که سامانه‌های ایمنی مبتنی بر هوش مصنوعی برای کامیون‌ها و دیگر خودرو‌های تجاری را تولید می‌کند این پرسش را مطرح می‌کند که آیا از نظر اخلاقی می‌توان جان عابران جوان را بر سالمندان ترجیح داد؟ او پیش‌بینی می‌کند که در آینده دعاوی حقوقی پیچیده و مناقشه‌برانگیزی شکل بگیرد؛ زیرا الگوریتم‌های پیامدگرا به‌صراحت اجازه می‌دهند اگر واردکردن یک آسیب، مانع وقوع آسیبی بزرگ‌تر شود، آن آسیب توجیه‌پذیر تلقی شود.

آیا اخلاق را هم به ماشین‌ها واگذار می‌کنیم؟

منتقدان نسبت به پدیده‌ای که آن را «تضعیف مهارت اخلاقی» (Moral Deskilling) می‌نامند، ابراز نگرانی می‌کنند. اگر رایانه‌ها به‌تدریج مسئول تصمیم‌های اخلاقی شوند، آیا انسان‌ها تمایل خود را برای قضاوت مستقل از دست نخواهند داد؟ «رومن یامپولسکی» نظریه‌پرداز هوش مصنوعی در دانشگاه لوئیزویل استدلال می‌کند که اخلاق «از نظر تاریخی ناپایدار، از لحاظ فرهنگی متغیر، از منظر راهبردی قابل دست‌کاری و اغلب تنها در بازنگری‌های تاریخی قابل‌درک است.» برنامه‌نویسانی که نگران آینده شغلی خود هستند، بهتر است این نکته را در نظر داشته باشند که به نظر می‌رسد بازار کار برای فیلسوفان هوش مصنوعی همچنان پررونق باشد.

گزارش حاضر در نسخه June 27th 2026 نشریه The Economist منتشر شده است.

منبع : سایت هوشینو