در روزهای اخیر ادعاهای نگرانکنندهای درباره ایمنی و آینده هوش مصنوعی مطرح شده است؛ از احتمال ۱۰ درصدی نابودی بشریت گرفته تا این ادعا که هوش مصنوعی میتواند تهدیدی همسطح یا حتی بزرگتر از سلاحهای هستهای باشد.
به گزارش اینتومان، برخی نیز درباره احتمال ایجاد یک «باتنت» گسترده توسط عوامل هوش مصنوعی هشدار دادهاند که میتواند بخش بزرگی از اینترنت را تحت تأثیر قرار دهد. در مقابل، منتقدان معتقدند برخی از این هشدارها بیش از آنکه بر شواهد قابل سنجش متکی باشند، بر سناریوهای فرضی استوارند.
به گزارش گاردین، در ادامه، شش ادعای مطرحشده درباره خطرات هوش مصنوعی و واکنش کارشناسان به آنها بررسی میشود.
۱. آیا هوش مصنوعی میتواند در کمتر از یک سال کنترل اینترنت را در دست بگیرد؟
داریو آمودئی، مدیرعامل Anthropic، ۱۲ سپتامبر ۲۰۲۶ هشدار داد که ممکن است طی ۶ تا ۱۲ ماه آینده، گروهی از عوامل هوش مصنوعی توانایی ایجاد یک باتنت پایدار و تصاحب بخش بزرگی از اینترنت را پیدا کنند؛ رخدادی که به گفته او میتواند صدها میلیارد دلار خسارت ایجاد کند.
گری مارکوس، استاد بازنشسته دانشگاه نیویورک و از منتقدان هوش مصنوعی، معتقد است این نگرانی را نمیتوان کاملاً نادیده گرفت، اما باید با احتیاط بسیار زیادی به آن نگاه کرد.
او ادعای آسیبپذیر بودن کل اینترنت را «بیمعنا» دانست و گفت مشخص نیست چنین اتفاقی چگونه میتواند بدون «سهلانگاری شدید» خود آزمایشگاههای هوش مصنوعی رخ دهد.
مارکوس به ارزیابی اخیر مؤسسه ایمنی هوش مصنوعی بریتانیا اشاره کرد که بر اساس آن، Mythos، یکی از مدلهای پیشرفته Anthropic، تنها توانسته است به صورت مستقل برخی سامانههای کوچک و ضعیف محافظتشده را به خطر بیندازد.
از سوی دیگر، نلس روگه، مهندس Hugging Face که این شرکت در یک حمله توسط عوامل OpenAI هک شد، ادعای تصاحب اینترنت را «کاملاً عجیب و بیمعنا» توصیف کرد.
او گفت حمله به Hugging Face نتیجه کنترل انسانی نامناسب و استفاده از حجم بسیار زیادی از توان محاسباتی بود که فقط تعداد محدودی از شرکتها توان تأمین آن را دارند.
مارکوس و دو همکارش نیز با توجه به اینکه بخش بزرگی از زیرساخت اینترنت در اختیار شرکتهایی مانند Cloudflare، Google و Amazon Web Services قرار دارد، بعید دانستهاند که این شرکتها بتوانند برای مدت طولانی از کار انداخته یا کنترل شوند، مگر اینکه پای نیروی دولتی در میان باشد.
آلن وودوارد، استاد مرکز امنیت سایبری دانشگاه ساری، نیز یادآوری کرده است که باتنتها معمولاً با محدودیتهایی روبهرو میشوند، زیرا اینترنت ساختاری یکپارچه ندارد و ایجاد سامانهای که بتواند در تمام بخشهای آن به شکل پایدار فعالیت کند، دشوار است.
او همچنین گفت ترافیک اینترنت انعطافپذیر است و معمولاً میتواند در صورت آسیب دیدن بخشی از زیرساخت، مسیرهای دیگری پیدا کند.
وودوارد تأکید کرد: «هوش مصنوعی خودش تصمیم نمیگیرد که این کار را انجام دهد. این انسانها هستند که مسئولاند و هوش مصنوعی یک ابزار است. چیزی که باید کنترل کنیم، همین است، نه خود هوش مصنوعی.»
۲. آیا احتمال نابودی انسانها توسط هوش مصنوعی بیش از ۱۰ درصد است؟
ایوان هوبینگر، مدیر بخش علوم همترازی در Anthropic، ۹ سپتامبر گفت: «ما واقعاً و صادقانه باور داریم که هوش مصنوعی میتواند همه انسانها را بکشد. من شخصاً فکر میکنم احتمال آن در دهه آینده بیش از ۱۰ درصد است.»
این دیدگاه در ادبیات هوش مصنوعی با مفهوم «p(doom)» یا احتمال نابودی شناخته میشود. منظور از آن احتمال وقوع سناریویی است که در آن هوش مصنوعی با خارج شدن از کنترل انسان، به فاجعهای منجر شود؛ برای مثال از طریق تولید سلاحهای زیستی قدرتمند یا ایجاد اختلال گسترده در نظام مالی جهان.
با این حال، برخی کارشناسان با تعیین درصد برای چنین سناریوهایی مخالفاند.
هایدی خلاف، دانشمند ارشد مؤسسه AI Now، میگوید این ادعاها قابل اثبات یا رد تجربی نیستند و به همین دلیل نمیتوان آنها را به معنای دقیق کلمه علمی دانست.
به گفته او، کمبود نمونههای عینی درباره اینکه یک هوش مصنوعی «فوقهوشمند» دقیقاً چگونه میتواند به نابودی انسانها منجر شود، باعث میشود تعیین یک عدد مشخص برای این احتمال دشوار باشد.
حتی فردی آشنا با دیدگاههای Anthropic نیز پذیرفته است که احتمال دقیق وقوع یک نتیجه مشخص احتمالاً قابل محاسبه نیست.
با این حال، دشواری تعیین احتمال به معنای نبود نمونههایی از خطرات واقعی نیست.
OpenAI در ماه ژوئیه تأیید کرد که عوامل هوش مصنوعی این شرکت در جریان یک آزمایش ایمنی از کنترل خارج شده و به یک استارتاپ حمله سایبری کردهاند. طبق گزارش این شرکت، عوامل هوش مصنوعی با یکدیگر همکاری، ارتباط و برنامهریزی کردند تا به بخشهای دیگری از اینترنت نفوذ کنند.
دن سلسام، پژوهشگر OpenAI، نیز اخیراً هشدار داده است که هوش مصنوعی بسیار قدرتمند میتواند به «صنعتیسازی افسارگسیخته» منجر شود و سیاره را برای زندگی انسان نامناسب کند.
Anthropic نیز هفته گذشته اعلام کرد پنج مورد استفاده از مدلهای خود را شناسایی کرده که میتوانسته از توسعه سلاحهای زیستی حمایت کند.
۳. آیا هشدار درباره خطرات هوش مصنوعی یک «عملیات روانی» برای محدود کردن رقباست؟
ایلان ماسک، مدیرعامل SpaceX، ۱۰ سپتامبر گفت زمینه لازم برای آنچه خودش یک «عملیات روانی» توصیف کرد، از مدتها قبل فراهم شده و رویدادهای اخیر تنها جرقهای بودهاند که این بحث را شعلهور کردهاند.
این دیدگاه به این استدلال مربوط میشود که شرکتهای بزرگ هوش مصنوعی با درخواست مقررات سختگیرانهتر، ممکن است عملاً ورود رقبای کوچکتر و شرکتهای نوپا به حوزه هوش مصنوعی پیشرفته را دشوار کنند.
جیدی ونس، معاون رئیسجمهوری آمریکا، نیز روز دوشنبه گفت از اینکه شرکتهای بزرگ هوش مصنوعی به دولت مراجعه میکنند و خواستار قانونگذاری برای این حوزه هستند، «کمی احساس عجیبی» دارد و آن را شبیه یک «اسب تروا» دانست.
در مقابل، جک کلارک، یکی از بنیانگذاران Anthropic، معتقد است دولتها باید زمانی اقدام کنند که تعداد شرکتهای کلیدی هنوز محدود است تا بتوانند چارچوبی برای جلوگیری از حوادث و خارج شدن فناوری از کنترل ایجاد کنند.
منتقدان این رویکرد را نوعی «تسخیر مقرراتی» میدانند؛ یعنی وضع مقرراتی که ممکن است در عمل به سود شرکتهای بزرگ موجود و به زیان رقبای آینده تمام شود.
با این حال، همه کارشناسان هشدارهای آمودئی را یک تاکتیک لابیگری نمیدانند.
یوشوا بنجیو، دانشمند کانادایی و از پیشگامان هوش مصنوعی مدرن، معتقد است بعید است این هشدارها بخشی از یک طرح پیچیده برای اثرگذاری بر قانونگذاران باشد.
او استدلال کرده است که محدود کردن سرعت توسعه هوش مصنوعی میتواند از نظر مالی برای شرکتهایی که برای ورود به بازار سهام آماده میشوند، هزینهبر باشد.
۴. آیا هوش مصنوعی فوقهوشمند میتواند به اندازه سلاح هستهای خطرناک باشد؟
دز براون، وزیر دفاع پیشین بریتانیا، ۷ سپتامبر گفت هوش مصنوعی فوقهوشمند ممکن است تهدیدی در همان مقیاس، و احتمالاً در مقیاسی بزرگتر، از سلاحهای هستهای ایجاد کند.
توبی اورد، پژوهشگر ارشد طرح حکمرانی هوش مصنوعی دانشگاه آکسفورد، با این ارزیابی موافق است و استدلال میکند همانطور که پس از ساخت بمب هستهای نمیتوان دانش آن را از بین برد، بازگشت از مرحلهای که سامانههای هوش مصنوعی از تواناییهای انسانی فراتر بروند نیز ممکن است بسیار دشوار باشد.
با این حال، یک نکته اساسی وجود دارد: هوش مصنوعی فوقهوشمند هنوز وجود ندارد و وقوع آن نیز قطعی نیست.
برخی پیشبینیها ظهور چنین فناوریای را در سالهای آینده محتمل دانستهاند، اما زمان دقیق آن مشخص نیست. پروژه AI Futures ظهور چنین سامانهای را پیش از دسامبر ۲۰۲۸ پیشبینی نمیکند و سم آلتمن نیز گفته است این اتفاق ممکن است تا سال ۲۰۳۵ طول بکشد.
شرکت RAND نیز در بررسی خود نتیجه گرفته است که هوش مصنوعی به تنهایی نمیتواند موجب استفاده از سلاحهای هستهای شود، زیرا سامانههای فرماندهی و کنترل این سلاحها دارای سازوکارهای حفاظتی سختگیرانه هستند.
البته این نتیجه به فرضهایی از جمله وارد نکردن هوش مصنوعی به سامانههای مدیریت سلاحهای هستهای وابسته است.
خطر هوش مصنوعی برای حوزه هستهای میتواند شکل دیگری نیز داشته باشد. برای مثال، یک سامانه هوش مصنوعی میتواند با انتشار اطلاعات نادرست، تصمیمگیرندگان انسانی را تحت تأثیر قرار دهد و به شکل فریبندهای این تصور را ایجاد کند که طرف مقابل در آستانه حمله هستهای است.
کمپین بینالمللی برای لغو سلاحهای هستهای نیز هشدار داده است که حملات سایبری میتوانند اطلاعاتی را که تصمیمگیرندگان برای صدور فرمان حمله دریافت میکنند دستکاری کنند یا حتی در عملکرد خود سلاحها اختلال ایجاد کنند.
۵. آیا باید توسعه هوش مصنوعی را متوقف کرد؟
برنی سندرز، سناتور دموکرات ایالت ورمونت، خواستار ممنوعیت ساخت هوش مصنوعی فوقهوشمند و توقف توسعه هوش مصنوعی پیشرفته شده است.
او با استناد به هشدارهای برخی مدیران صنعت هوش مصنوعی معتقد است خود رهبران این صنعت نیز درباره خطرناک بودن فناوریای که در حال توسعه آن هستند هشدار میدهند.
در طرف دیگر، دونالد ترامپ با درخواستها برای کاهش سرعت توسعه مخالفت کرده و گفته است تنها «محدودیتهای لازم» به یک رئیسجمهور «قوی و باهوش» مربوط میشود. ترامپ همچنین نگرانیهای موجود درباره هوش مصنوعی و مراکز داده را به یک «توطئه» نسبت داده و گفته است چین از چنین وضعیتی سود میبرد.
پدرو دومینگوس، استاد بازنشسته علوم کامپیوتر دانشگاه واشنگتن، از جمله کسانی است که بر ادامه تحقیقات و توسعه هوش مصنوعی تأکید دارد.
او استدلال کرده است که مسیر رسیدن به درک بهتر و کنترل بیشتر هوش مصنوعی، تحقیقات بیشتر است نه کمتر.
الکس کارپ، مدیرعامل Palantir، نیز گفته است اگر رقبای خارجی وجود نداشتند، از توقف کامل این فناوری حمایت میکرد، اما در شرایط فعلی معتقد است به دلیل مزیت راهبردی ایجادشده توسط هوش مصنوعی، توقف توسعه امکانپذیر نیست.
۶. آیا رقابت آمریکا و چین اجازه کاهش سرعت توسعه هوش مصنوعی را میدهد؟
اسکات بسنت، وزیر خزانهداری آمریکا، ۸ سپتامبر گفت اگر چین در زمینه هوش مصنوعی از آمریکا پیش بیفتد، پیامدهای آن میتواند آنقدر جدی باشد که سایر مسائل اهمیت خود را از دست بدهند.
آمریکا و چین در حال حاضر دو بازیگر اصلی در توسعه هوش مصنوعی محسوب میشوند و برخی معتقدند از دست دادن برتری در این رقابت میتواند غیرقابل جبران باشد. این نگاه، هوش مصنوعی را تا حدی مشابه یک ابرسلاح در رقابت دوران جنگ سرد با سلاحهای هستهای در نظر میگیرد.
اما منتقدان میگویند هوش مصنوعی یک فناوری واحد نیست و مجموعهای متنوع از فناوریها با کاربردهای گسترده را شامل میشود؛ بنابراین مقایسه مستقیم آن با ساخت تسلیحات هستهای میتواند گمراهکننده باشد.
آمودئی گفته است پیشتازی چین در هوش مصنوعی میتواند «خطری جدی برای آمریکا و جهان» ایجاد کند. در مقابل، سخنگوی دولت چین هشدار داده است که «ترساندن مردم، تقابل و رقابت خصمانه» روند حکمرانی جهانی هوش مصنوعی را مختل میکند.
برخی منتقدان همچنین معتقدند هشدارهای مطرحشده درباره تهدید چین ممکن است با منافع شرکتهای بزرگ آمریکایی و تلاش برای محدود کردن توسعه مدلهای ارزان و متنباز چینی همراستا باشد.
نلس روگه، مهندس سابق Hugging Face، از جمله افرادی است که چنین تفسیری را مطرح کرده است. به گفته او، مدلهای چینی متنباز با وجود هزینه پایین یا رایگان بودن و در دسترس قرار گرفتن کد منبع، در برخی موارد به قابلیتهایی نزدیک به مدلهای شرکتهایی مانند OpenAI و Anthropic رسیدهاند.
این مدلها میتوانند برای شرکتهایی مانند Anthropic و OpenAI که به دنبال ایجاد درآمد و سودآوری از مدلهای خود هستند، یک رقیب جدی باشند.
در نهایت، اختلاف اصلی فقط بر سر میزان خطر هوش مصنوعی نیست؛ بلکه درباره نحوه مواجهه با این خطر نیز اختلاف نظر وجود دارد. گروهی بر کاهش سرعت، ارزیابی مستقل و هماهنگی بینالمللی تأکید دارند، در حالی که گروهی دیگر معتقدند ادامه تحقیقات و توسعه میتواند به درک بهتر و کنترل بیشتر این فناوری منجر شود.
در میان این دیدگاههای متفاوت، یک موضوع مشترک همچنان پابرجاست: توانایی مدلهای هوش مصنوعی با سرعت زیادی در حال افزایش است و همزمان با گسترش کاربرد آنها، بحث درباره میزان نظارت انسانی، امنیت، مقررات و پیامدهای بلندمدت این فناوری نیز جدیتر شده است.
