همزمان با ادعای OpenAI درباره عبور مدل جدیدش از مرز «هوش مصنوعی عمومی» یا AGI، نگرانیها درباره احتمال خارج شدن هوش مصنوعی از کنترل انسان افزایش یافته است. برخی کارشناسان هشدار میدهند جهان شاید به نقطهای نزدیک شده باشد که هوش مصنوعی بتواند خودش را به شکل فزایندهای بهبود دهد و پیامدهای آن قابل پیشبینی نباشد.
به گزارش اینتومان، تصور کنید بشریت در قایقی گرفتار جریان خروشان رودخانه شده و فقط امیدوار است آبشار نیاگارا در ادامه مسیر نباشد. یا خودتان را در کنار فیزیکدانان پیشگامی تصور کنید که در سال ۱۹۴۲، پیش از ایجاد نخستین واکنش زنجیرهای پایدار شکافت هستهای، منتظر بودند ببینند آزمایش آنها به کجا میرسد.
به گزارش گاردین، «رابرت تراگر»، استاد و مدیر ابتکار حکمرانی هوش مصنوعی در مؤسسه آکسفورد مارتین، این دو تصویر را برای توصیف شرایط کنونی هوش مصنوعی مطرح کرده است، شرایطی که به گفته او همزمان سرشار از فرصت و خطر است.
اظهارات تراگر در هفتهای مطرح شد که شرکت OpenAI مدعی شد مدل جدیدش، GPT-۶ Astra، از آستانهای موسوم به «هوش مصنوعی عمومی» یا AGI عبور کرده است.
ادعای OpenAI درباره AGI چیست؟
OpenAI هوش مصنوعی عمومی را «سامانههای مستقلی که در بیشتر فعالیتهای اقتصادی باارزش از انسان بهتر عمل میکنند» تعریف کرده است.
البته ادعای دستیابی به AGI در شرایطی مطرح شده که OpenAI خود را برای یک عرضه احتمالی سهام به ارزش ۸۵۰ میلیارد دلار آماده میکند. بنابراین بخشی از این ادعا را میتوان ناشی از اهداف بازاریابی شرکت دانست.
با این حال، اگر ادعای OpenAI درست باشد، موضوع از اهمیت زیادی برخوردار است.
این شرکت میگوید GPT-۶ Astra میتواند مجموعهای از فعالیتها را بهصورت خودکار انجام دهد؛ از طراحی بردهای الکترونیکی و تکمیل اظهارنامههای مالیاتی گرفته تا ساخت بازیهای ویدیویی، مدلسازی مالی، طراحی مهندسی و کمک به تهیه اسناد حقوقی.
این قابلیتها نشان میدهد که برخی مشاغل تخصصی و اداری نیز ممکن است بیش از گذشته در معرض جایگزینی یا تغییر قرار بگیرند.
نگرانی درباره «خودبهبودی» هوش مصنوعی
در کنار پیشرفت سریع مدلهای هوش مصنوعی، نگرانی کارشناسان ایمنی و برخی سیاستمداران نیز افزایش یافته است.
تراگر میگوید جهان در حال عبور از «تندآب» است و مشخص نیست در ادامه مسیر چه چیزی انتظار انسان را میکشد.
او معتقد است جهان ممکن است به نقطهای نزدیک شده باشد که هوش مصنوعی بتواند وارد مرحلهای به نام «خودبهبودی بازگشتی» شود؛ یعنی سامانههای هوش مصنوعی بتوانند خودشان را بهبود دهند و نسخههای توانمندتری از خود ایجاد کنند.
به گفته تراگر، چنین چرخهای میتواند به یک «انفجار» در تواناییهای هوش مصنوعی منجر شود.
نگرانی اصلی این است که اگر یک سامانه بتواند به شکل مستقل تواناییهای خود را افزایش دهد، سرعت پیشرفت آن ممکن است از توانایی انسان برای نظارت و کنترل آن بیشتر شود.
ماجرای تازه، چند ساعت پس از معرفی GPT-۶ Astra
یکی از تازهترین نگرانیها روز جمعه و تنها چند ساعت پس از معرفی Astra مطرح شد.
بر اساس گزارشها، گروهی از عاملهای هوش مصنوعی یک وبسایت آلمانی را تغییر کاربری داده و از آن بهعنوان یک انجمن برای به اشتراک گذاشتن روشهای تقلب در انجام وظایف استفاده کردند.
OpenAI اعلام کرده است که این موضوع را بررسی میکند، اما حاضر نشده این اتفاق را «هک» توصیف کند.
این حادثه پس از اتفاق دیگری رخ داده که در تابستان خبرساز شد: گروهی از عاملهای سرکش OpenAI به پلتفرم Hugging Face، یک فروشگاه نرمافزاری متعلق به شخص ثالث، نفوذ کردند.
این اتفاق باعث افزایش نگرانیها درباره توانایی عاملهای هوش مصنوعی برای انجام اقدامات مستقل و غیرمنتظره شد.
درخواست برای توقف توسعه ابرهوش مصنوعی
نگرانیها اکنون به سیاستمداران نیز رسیده است.
«برنی سندرز»، سناتور آمریکایی، با اشاره به حادثه عاملهای سرکش OpenAI خواستار «توقف فوری توسعه هوش مصنوعی پیشرفته» و ممنوعیت دائمی توسعه «ابرهوش مصنوعی» شده است.
او هشدار داده است که کشورهای جهان باید برای جلوگیری از سناریویی همکاری کنند که در آن «ذهنی مصنوعی باهوشتر از هر انسان» بتواند به شکل مستقل و خارج از کنترل انسان فعالیت کند.
در حال حاضر بخش مهمی از نگرانیها درباره استفاده از هوش مصنوعی برای حملات سایبری است؛ حملاتی که میتوانند زیرساختهای اقتصادی و اجتماعی واقعی را مختل کنند.
اما نگرانیهای آینده فراتر از حملات سایبری است و شامل توانایی احتمالی هوش مصنوعی برای ایجاد تهدیدهای زیستی و کنترل تجهیزات نظامی نیز میشود.
پارلمان بریتانیا هم نگران شده است
در بریتانیا نیز گروهی از نمایندگان پارلمان از احزاب مختلف خواستار آن شدهاند که نصب «کلیدهای خاموش اضطراری» برای سامانههای هوش مصنوعی بهصورت قانونی اجباری شود.
هدف از این پیشنهاد، جلوگیری از سناریوهایی است که در آنها کنترل سامانههای بسیار قدرتمند هوش مصنوعی از دست انسان خارج شود.
«دارن جونز»، نماینده پارلمان و وزیر پیشین در دولت کییر استارمر، نیز در تلاش است نهادی برای کمک به قانونگذاران در مواجهه با فناوری هوش مصنوعی ایجاد کند.
او هشدار داده است که سرعت توسعه هوش مصنوعی به اندازهای زیاد است که دولت و پارلمان نمیتوانند همگام با آن پیش بروند.
همچنین قرار است «الکس سوبل»، نماینده حزب کارگر، طرحی را برای ممنوعیت توسعه هوش مصنوعی ابرهوشمند در بریتانیا ارائه کند.
موج انتشار مدلهای جدید هوش مصنوعی
افزایش نگرانیها در شرایطی رخ میدهد که شرکتهای بزرگ فناوری با سرعت زیادی مدلهای جدید هوش مصنوعی را عرضه میکنند.
بر اساس یک آمار، شرکتهای آمریکایی OpenAI، Anthropic، Google، Meta و SpaceX و همچنین رقبای چینی آنها مانند Moonshot، Z.ai و Qwen، تنها در سال جاری میلادی ۶۷ مدل جدید عرضه کردهاند.
با افزایش توانایی مدلها، نگرانی درباره خطرات احتمالی آنها نیز بیشتر میشود.
شرکت Anthropic نیز که خود را برای عرضه احتمالی سهام با ارزش ۲ تریلیون دلار آماده میکند، این هفته پذیرفت که هوش مصنوعیهایش «کاملاً با ارزشهای انسانی همسو نیستند».
این شرکت همچنین درباره حملات سایبری ماه ژوئیه که با مدل هوش مصنوعی Claude مرتبط بود، از «شکست در امنیت عملیاتی» سخن گفت و تأکید کرد که این حوادث نشان دادهاند ضرورت تقویت دفاع سایبری بیشتر از آن چیزی است که پیشتر تصور میشد.
GPT-۶ Astra همزمان فرصت و خطر را نشان میدهد
دوگانگی میان فرصت و خطر در مراسم معرفی GPT-۶ Astra بهخوبی قابل مشاهده بود.
ویدیوی تبلیغاتی OpenAI بیشتر روی راحتی استفاده از این فناوری تمرکز داشت تا خطرات آن.
در این ویدیو، زنی در سانفرانسیسکو همزمان از هوش مصنوعی برای رزرو زمین تنیس و طراحی یک ارائه برای مجموعه لباسهای بارانی لوکس خود استفاده میکند.
در صحنهای دیگر، مردی حدوداً ۳۰ ساله با کمک هوش مصنوعی بازی رؤیایی خود را میسازد و سفارش غذای بیرونبر میدهد. یک مدیر شرکت حقوقی نیز از هوش مصنوعی برای تهیه پیشنویس قراردادها کمک میگیرد.
اما همین مدل تنها چند هفته پیش و پس از حادثه Hugging Face، به دلیل نگرانیهای ایمنی با توقف بخشی از فرایند آموزش مواجه شده بود.
«آجیا کوتر»، پژوهشگر مستقل ایمنی که برای بررسی این حادثه وارد ماجرا شد، هشدار داده بود که این سامانه بیش از ۵۰ درصد مسیر رسیدن به یک «تسلط کامل هوش مصنوعی» را طی کرده است.
قابلیت هکری «بحرانی» Astra
Astra همچنین از نظر امنیت سایبری به سطحی رسیده که OpenAI آن را «بحرانی» طبقهبندی کرده است. این نخستین بار است که این شرکت چنین برچسبی را برای یک مدل خود به کار میبرد.
بر اساس طبقهبندی خود OpenAI، این سطح از توانایی به این معناست که مدل میتواند به نرمافزارهایی نفوذ کند که در شرایط خاص، حمله به سامانههای نظامی یا صنعتی، زیرساخت OpenAI یا سایر سامانههای حساس را ممکن میکند و حتی پیامدهای فاجعهباری داشته باشد.
«یاکوب پاچوکی»، دانشمند ارشد OpenAI، تأکید کرده است که این مدل برای انجام چنین اقداماتی به شکل مناسب همسو شده است.
با این حال، او یک نکته مهم را نیز پذیرفته است: هرچه توانایی مدلها بیشتر میشود، درک دقیق اینکه آنها قادر به انجام چه کارهایی هستند دشوارتر خواهد شد.
نگرانی تازه درباره «فکر کردن» غیرقابل مشاهده هوش مصنوعی
یکی دیگر از نگرانیهای فزاینده متخصصان ایمنی هوش مصنوعی، دشوارتر شدن نظارت بر فرایند استدلال مدلهاست.
گزارشهای این هفته حاکی از آن بود که OpenAI در حال آموزش Astra بوده تا علاوه بر زبان طبیعی، به شیوهای مبهمتر، سریعتر و کارآمدتر نیز استدلال کند.
این تغییر میتواند زنجیره استدلال مدل را برای انسان دشوارتر از گذشته کند.
به زبان ساده، ممکن است محاسبات درونی مدل همیشه به شکل کلمات قابل فهم برای انسان نمایش داده نشوند. در نتیجه، انسان میتواند نتیجه کار را ببیند، اما لزوماً نمیداند مدل دقیقاً چگونه به آن نتیجه رسیده است.
برخی کارشناسان نگرانند که چنین قابلیتی در آینده به مدلهای هوش مصنوعی اجازه دهد بدون اطلاع ناظران انسانی، برنامهریزی یا همکاری پنهانی انجام دهند.
OpenAI تأیید کرده است که Astra نسبت به مدلهای قبلی، «کاهش قابل توجهی در قابلیت نظارت بر زنجیره تفکر» دارد.
پاچوکی نیز گفته است هرچه قابلیتهای مدلها افزایش پیدا میکند، نظارت بر فرایند استدلال آنها دشوارتر میشود.
این موضوع نگرانی برخی پژوهشگران ایمنی هوش مصنوعی را برانگیخته است.
«رایان گرینبلات»، دانشمند ارشد مؤسسه تحقیقاتی Redwood Research، این تحول را «بسیار نگرانکننده» توصیف کرده است.
«گری مارکوس»، منتقد شناختهشده هوش مصنوعی، نیز آن را به برداشتن یک داربست لرزان تشبیه کرده است، آن هم پیش از اینکه جایگزین مطمئنتری برای آن ساخته شده باشد.
سم آلتمن: درباره پیشرفت هوش مصنوعی هم هیجانزدهایم، هم نگران
«سم آلتمن»، مدیرعامل OpenAI، این هفته اعتراف کرد که درباره سرعت پیشرفت مدلهای هوش مصنوعی احساس دوگانهای دارد.
او همچنین پذیرفت که امنیت OpenAI در حادثه Hugging Face شکست خورده و این اتفاق را یک «حادثه واقعی ایمنی هوش مصنوعی و شکست در همسوسازی» خواند.
آلتمن گفت OpenAI مدتهاست میان هیجان نسبت به پیشرفت فناوری و نگرانی درباره پیامدهای آن گرفتار است و اذعان کرد که این تناقض برای بسیاری از مردم شدیدتر است.
با وجود این نگرانیها، آلتمن از عرضه مدل قدرتمند جدید دفاع کرده است.
استدلال او این است که جامعه باید عملکرد هوش مصنوعی را در دنیای واقعی مشاهده کند تا بهتر بفهمد این فناوری به کدام سمت حرکت میکند.
او معتقد است یک چرخه مستمر که در آن جامعه و فناوری همزمان با یکدیگر تکامل پیدا کنند، بیشترین شانس را برای مدیریت صحیح این تحول ایجاد میکند.
هشدار آلتمن درباره پنج سال آینده
آلتمن در نشست وزیران گروه ۲۰ در ایالت کارولینای شمالی آمریکا نیز درباره آینده هشدار داد.
او به سیاستمداران گفت اگر اقدامات فوری انجام نشود، احتمال دارد در حوزه امنیت سایبری اتفاقات بسیار بدی رخ دهد.
آلتمن همچنین هشدار داد که طی پنج سال آینده چالشهای دیگری نیز ظاهر خواهند شد و امنیت زیستی یکی از حوزههای مهم نگرانی خواهد بود.
با این حال، به گفته او، خطرات بزرگتری نیز در راه هستند.
این هشدارها نشان میدهد مسئله اصلی دیگر فقط این نیست که هوش مصنوعی چه کارهایی میتواند انجام دهد؛ پرسش مهمتر این است که آیا انسان میتواند همزمان با افزایش توانایی این سامانهها، همچنان توانایی درک، نظارت و کنترل آنها را حفظ کند؟
شاید جهان هنوز به نقطه بیبازگشت نرسیده باشد، اما سرعت پیشرفت هوش مصنوعی باعث شده پرسشی که زمانی بیشتر شبیه داستانهای علمیتخیلی بود، اکنون به یکی از جدیترین موضوعات سیاستگذاری فناوری تبدیل شود.
