تازه ها
هشدار ۳۷ کشور درباره آینده هوش مصنوعی؛ ریسکهای بزرگ در کمین جهان
نتایج یک مطالعه بینالمللی با مشارکت متخصصان هوش مصنوعی از ۳۷ کشور جهان، از افزایش ریسکهای بزرگ ناشی از توسعه شتابان این فناوری تا سال ۲۰۳۰ حکایت دارد؛ ریسکهایی که از حملات سایبری، توسعه سلاحهای هوشمند و گسترش اطلاعات نادرست تا تشدید بیکاری، آسیبهای زیستمحیطی و تمرکز قدرت در دست شمار محدودی از شرکتها و دولتها را در بر میگیرد و میتواند پیامدهای گستردهای برای امنیت، اقتصاد و ثبات اجتماعی جهان به همراه داشته باشد.
به گزارش بازارکار به نقل از ایرنا ا در مطالعاتی که در این زمینه صورت گرفته کارشناسان ۲۴ دسته ریسک هوش مصنوعی را ارزیابی کرده و تخمین میزنند که تا سال ۲۰۳۰، بیش از یک میلیون مرگ، بیش از ۱۰۰ میلیارد دلار خسارت مالی یا آسیب در مقیاس تمدنی به هنجارهای دموکراتیک، حقوق مدنی و ثبات اجتماعی از پیامدها و آسیبهای این حوزه باشد.
کارشناسان تحت سناریوی «وضعیت عادی»، احتمال آسیب فاجعهبار بالای ۱۰ درصد را برای ۱۸ مورد از ۲۴ ریسک در نظر گرفتند.
سلاحها و حملات سایبری
خبرگزاری کازینفوم قزاقستان در این مورد نوشت: کارشناسان خطر هوش مصنوعی در عرصه سلاحها و حملات سایبری مجهز به هوش مصنوعی را ۲۱ درصد تخمین زدهاند و به باور آنها، هوش مصنوعی میتواند توسعه بدافزارهای مؤثرتر، سلاحهای خودکار و تهدیدهای شیمیایی، بیولوژیکی، رادیولوژیکی یا هستهای را تسهیل کند.
این مطالعه نشان میدهد که حملات سایبری از سوی بازیگران دولتی و غیردولتی، بخش ثابتی از خطرات مرتبط با هوش مصنوعی تا سال ۲۰۳۰ خواهد بود.
قابلیتهای خطرناک هوش مصنوعی
بالاترین احتمال تخمینی، ۲۱.۵ درصد، مربوط به سیستمهای هوش مصنوعی است، این موارد شامل توانایی فریب و دستکاری افراد، انجام عملیات سایبری، کمک به توسعه سلاحها و مشارکت در ایجاد سیستمهای هوش مصنوعی پیشرفتهتر میشود.
چنین قابلیتهایی میتوانند توسط انسانها مورد سوءاستفاده قرار گیرند، اما آسیبها همچنین میتوانند از نقص سیستم یا رفتاری که با اهداف انسانی در تضاد است، ناشی شوند.
کارشناسان هشدار دادند: قابلیتهای خطرناک به عنوان یک ویژگی نوظهور سیستمهای هوش مصنوعی در حال توسعه پدیدار میشوند که پیشبینی و کنترل آنها را دشوار میکند و حتی با وجود اقدامات ایمنی، احتمال سوءاستفاده فاجعهبار همچنان وجود دارد.»
تمرکز قدرت
کارشناسان احتمال آسیب ناشی از تمرکز قدرت و منابع در عرصه هوش مصنوعی را ۱۸ درصد تخمین زدند.
توسعه هوش مصنوعی پیشرفته نیازمند حجم زیادی از دادهها، ظرفیت محاسباتی و سرمایهگذاری است و در نتیجه، قدرتمندترین سیستمها میتوانند تحت کنترل تعداد محدودی از شرکتها و دولتها باقی بمانند.
در این گزارش آمده است: تمرکز قدرت شاید سرسختترین و پایدارترین ریسک باشد، زیرا همان نهادهایی که هوش مصنوعی را توسعه میدهند، اغلب در بهترین موقعیت برای بهرهبرداری از مزایای آن قرار دارند و پویاییهای خودتقویتکنندهای ایجاد میکنند که معکوس کردن آنها تنها از طریق مداخلات فنی دشوار است.
رقابت بین شرکتها و ایالتها
در این مطالعه احتمال آسیب به پویایی رقابتی در توسعه هوش مصنوعی ۱۶.۶ درصد تعیین شده است.
رقابت برای انتشار سیستمهای قدرتمند میتواند شرکتها و دولتها را تشویق کند تا آزمایشهای ایمنی را کاهش دهند یا مدلهایی را قبل از درک کامل خطرات آنها به کار گیرند.
طبق این گزارش، توسعهدهندهای که برای سرمایهگذاری در ایمنی، سرعت خود را کاهش میدهد، بلافاصله متحمل هزینه رقابتی میشود، در حالی که مزایای این احتیاط در سراسر جامعه توزیع میشود.
بیکاری و نابرابری
هوش مصنوعی میتواند مشاغل را خودکار کند، کیفیت اشتغال را کاهش دهد و شکاف بین کسانی که فناوریهای پیشرفته را کنترل میکنند و بقیه جامعه را افزایش دهد.
حتی تحت سناریویی که شامل اقدامات حفاظتی عملی بود، کارشناسان احتمال آسیب فاجعهبار ناشی از نابرابری و بیکاری را ۱۱ درصد تخمین زدند.
کارشناسان میگویند: هوش مصنوعی ممکن است از طریق از دست دادن مشاغل ناشی از اتوماسیون در بخشهای خاص، نابرابریهای موجود را تشدید کند و در عین حال برای کسانی که سیستمهای هوش مصنوعی را در اختیار دارند و کنترل میکنند، ثروت ایجاد کند.
آسیبهای زیستمحیطی
توسعه و بهرهبرداری از مدلهای بزرگ هوش مصنوعی نیازمند افزایش میزان برق، آب، زیرساختهای محاسباتی و سختافزارهای تخصصی است.
حتی تحت سناریوی کاهش عملی، احتمال وقوع پیامدهای فاجعهبار برای آسیبهای زیستمحیطی ۱۲ درصد باقی میماند.
کارشناسان بر این عقیدهاند که زیرساختهای داده سنگین و مدلهای بزرگ همچنان به مصرف انرژی ادامه خواهند داد و باعث فشار بر منابع میشوند.
از دست دادن یک واقعیت مشترک
هوش مصنوعی میتواند متون، صداها، تصاویر و ویدیوهای جعلی قانعکنندهای را در مقیاس وسیع تولید کند و این امر میتواند تأیید اطلاعات را دشوارتر کرده، دستکاری سیاسی را تسهیل و اعتماد به رسانهها و نهادهای عمومی را تضعیف کند.
احتمال آسیب فاجعهبار در عرصه اطلاعات ۱۲.۸ درصد تخمین زده شده است و بهطور جداگانه، ۲۲.۱ درصد از کارشناسان، اطلاعات نادرست و تأثیرگذاری را جزو سه نگرانی بزرگ خود قرار دادند، در حالی که ۲۱.۶ درصد، از دست دادن واقعیت اجماع را انتخاب کردند.
کارشناسان تأکید میکنند که این درصدها، قضاوتهای جمعی کارشناسان را نشان میدهند و پیشبینیهای دقیقی نیستند و نمیتوان آنها را با هم جمع کرد، زیرا بسیاری از ریسکها با هم همپوشانی دارند و میتوانند از طریق رویدادهای یکسانی تحقق یابند.
ارسال نظرات