آمریکا و چین در حال آمادهسازی برای برگزاری نخستین گفتوگوی رسمی دوجانبه با تمرکز اختصاصی بر خطرات ایمنی هوش مصنوعی پس از آغاز دور دوم ریاستجمهوری دونالد ترامپ هستند.
به گزارش اینتومان، مذاکراتی که قرار است در اواسط سپتامبر برگزار شود و موضوعاتی مانند حملات سایبری هدایتشده توسط هوش مصنوعی و کنترل خطرات مدلهای پیشرفته را بررسی کند.
به گزارش رویترز، دو منبع آگاه از روند برنامهریزی مذاکرات اعلام کردند این گفتوگوها قرار است در میانه ماه سپتامبر انجام شود. اسکات بسنت، وزیر خزانهداری آمریکا، ریاست هیئت آمریکایی را بر عهده خواهد داشت.
با این حال، یک مقام کاخ سفید اعلام کرده است که «در حال حاضر هیچ نشست برنامهریزیشدهای درباره هوش مصنوعی در اواسط سپتامبر وجود ندارد». دونالد ترامپ و شی جینپینگ، رئیسجمهوری چین، قرار است ۲۴ سپتامبر در جریان نشستی در واشنگتن با یکدیگر دیدار کنند.
آمریکا به دنبال همکاری برای مقابله با حملات سایبری هوش مصنوعی
یکی از محورهای پیشنهادی واشنگتن، همکاری در زمینه نظارت بر حملات سایبری است که توسط سامانههای هوش مصنوعی هدایت میشوند.
بر اساس اطلاعات منتشرشده، آمریکا پیشنهاد کرده است آزمایشگاههای هوش مصنوعی دو کشور تا حدی مسئولیت نظارت بر فعالیت مدلهای خود را بر عهده بگیرند و اطلاعات مربوط به تهدیدهای احتمالی را با یکدیگر به اشتراک بگذارند تا از حملات سایبری مرتبط با هوش مصنوعی جلوگیری شود.
اهمیت این موضوع در ماههای اخیر افزایش یافته است. طبق گزارشهای منتشرشده، نزدیک به ۷۰۰ عامل هوش مصنوعی مخرب که بر پایه مدلهای شرکت OpenAI ساخته شده بودند، در ماه ژوئیه به استارتاپ هوش مصنوعی Hugging Face نفوذ کردند و تلاش کردند آثار فعالیت خود را با جعل گزارشهای سیستمی پنهان کنند.
این اتفاق نگرانیها درباره امکان فعالیت گروهی و خودمختار عاملهای هوش مصنوعی برای مدت طولانی، بدون شناسایی توسط انسانها، را افزایش داده است.
در حادثهای دیگر که رویترز بهتازگی گزارش داده، گروهی از عاملهای هوش مصنوعی نیز در بهار امسال یک وبسایت آلمانی را تحت کنترل گرفتند و آن را به بستری برای ارتباط و تبادل اطلاعات میان دیگر عاملهای هوش مصنوعی تبدیل کردند.
پل تریولو، از مدیران گروه DGA-Albright Stonebridge، درباره اهمیت مذاکرات احتمالی آمریکا و چین گفت دو قدرت بزرگ هوش مصنوعی جهان در «حساسترین مقطع» ممکن قرار دارند.
نگرانی آمریکا از مدلهای هوش مصنوعی چین
واشنگتن علاوه بر خطر حملات سایبری، نگران ظهور یک مدل هوش مصنوعی چینی با قابلیتهایی مشابه مدل «Mythos» است که بتواند حملات سایبری پیچیدهای را اجرا کند.
آمریکا همچنین قصد دارد موضوع ادعایی انتقال یا استخراج دانش از مدلهای اختصاصی آمریکایی توسط شرکتهای چینی را مطرح کند.
شرکت آمریکایی Anthropic توسعهدهنده مدل Mythos است. مایکل کراتسیوس، مشاور ارشد علمی و فناوری کاخ سفید، در ماه ژوئن شرکت چینی Moonshot AI را متهم کرد که با استفاده از مدل Fable متعلق به Anthropic، فناوری مورد استفاده در نسخه K3 خود را توسعه داده است.
فرایندی که در صنعت هوش مصنوعی «تقطیر مدل» یا Distillation نامیده میشود، به آموزش یک مدل کوچکتر با استفاده از خروجیهای یک مدل بزرگتر و پرهزینهتر گفته میشود. هدف از این روش معمولاً کاهش هزینه ساخت و آموزش مدلهای قدرتمند است.
چه کسی از طرف چین مذاکره میکند؟
بر اساس گزارش منابع آگاه، ممکن است «هه لیفنگ»، معاون نخستوزیر چین، ریاست هیئت چینی را بر عهده داشته باشد، چرا که او همتای تشریفاتی بسنت در ساختار سیاسی چین محسوب میشود.
با این حال، نام «دینگ شوئشیانگ»، هفتمین مقام ارشد چین، نیز به عنوان یکی از گزینههای احتمالی مطرح شده است.
دینگ از نزدیکان شی جینپینگ و عضو کمیته دائمی هفتنفره دفتر سیاسی حزب کمونیست چین است و بر سیاستهای فناوری، هوش مصنوعی و نیمهرساناها در این کشور نظارت و هماهنگی دارد.
هنوز محل برگزاری مذاکرات و فهرست کامل شرکتکنندگان مشخص نشده است. احتمال حضور مایکل کراتسیوس و یین ههجون، وزیر علوم و فناوری چین، نیز مطرح شده، اما منابع تأکید کردهاند دستور کار و ترکیب نهایی هیئتها همچنان در حال تغییر است.
چرا چین مذاکرات ایمنی هوش مصنوعی را مهم میداند؟
منابع آگاه میگویند مقامهای چینی در دیدارهای مقدماتی با همتایان آمریکایی خود بارها بر اهمیت گفتوگو درباره هوش مصنوعی تأکید کردهاند و آن را یکی از دستاوردهای مهم مورد انتظار از نشست سران آمریکا و چین میدانند.
در هفته گذشته، نهاد تنظیمگر فضای مجازی چین درباره «خطرات شدید از دست رفتن کنترل هوش مصنوعی» هشدار داد.
همزمان، رسانههای نزدیک به دولت چین نیز با انتقاد از Anthropic تأکید کردهاند هرگونه محدودیت احتمالی برای مدلهای پیشرفته هوش مصنوعی باید به شکل یکسان درباره مدلهای آمریکایی و چینی اعمال شود.
شرکتهای چینی نیز در ماههای اخیر محصولاتی را معرفی کردهاند که به گفته خودشان قابلیتهایی مشابه مدل Mythos دارند.
تلاش برای ایجاد قواعد ایمنی مشترک
کریگ ماندی، مدیر سابق مایکروسافت، نیز در پشت صحنه به یکی از واسطههای مهم میان دو طرف تبدیل شده و درباره پیشنهادهای آمریکا برای گفتوگوی هوش مصنوعی با طرف چینی رایزنی کرده است.
ماندی یکی از روسای کانال غیررسمی گفتوگوی دوجانبه هوش مصنوعی آمریکا و چین موسوم به Track II است.
در هفته گذشته نیز دو طرف در قالب یک گفتوگوی Track ۱.۵ در پکن درباره ایجاد سازوکارهای ایمنی برای هوش مصنوعی مذاکره کردند.
دولت ترامپ در ماه ژوئن با صدور یک فرمان اجرایی، چارچوبی داوطلبانه برای بررسی امنیت سایبری مدلهای پیشرفته هوش مصنوعی پیش از عرضه آنها ایجاد کرد، اما معیارهای دقیق این ارزیابیها هنوز از سوی دولت آمریکا منتشر نشده است.
در همین حال، شماری از کارکنان شرکتهای بزرگ هوش مصنوعی آمریکا، از جمله Anthropic و OpenAI، خواستار ایجاد سازوکاری برای کنترل سرعت پیشرفت مدلهای پیشرفته شدهاند تا خطرات جهانی ناشی از این فناوری مدیریت شود.
آمریکا و چین هر دو در برابر هوش مصنوعی آسیبپذیرند
اسکات سینگر، یکی از مدیران ابتکار هوش مصنوعی چین در بنیاد کارنگی برای صلح بینالمللی، گفت طرف چینی درباره کافی بودن مقررات آمریکا برای کنترل پیشرفتهترین مدلهای هوش مصنوعی نگرانیهایی دارد.
او همچنین تأکید کرد هر دو کشور انگیزه دارند اطمینان پیدا کنند که در صورت وقوع یک بحران فرامرزی مرتبط با هوش مصنوعی، توانایی مدیریت مؤثر آن را خواهند داشت.
سام ساکس، پژوهشگر ارشد اندیشکده New America، نیز معتقد است حتی اگر مذاکرات به نتایج گستردهای منجر نشود، ایجاد کانالی برای به اشتراک گذاشتن اطلاعات و رصد مشترک حوادث مرتبط با ایمنی هوش مصنوعی میتواند نقطه شروع مهمی باشد.
او هشدار داد جهان در نقطهای قرار گرفته است که عاملهای هوش مصنوعی پیشرفته، در صورت فعالیت بدون نظارت، میتوانند خسارتهای بسیار بزرگی ایجاد کنند و این تهدید فقط به رقابت ژئوپلیتیکی آمریکا و چین محدود نمیشود.
با افزایش توانایی عاملهای هوش مصنوعی در انجام مستقل وظایف پیچیده، همکاری میان دو رقیب اصلی فناوری جهان میتواند به یکی از مهمترین موضوعات امنیتی سالهای آینده تبدیل شود؛ موضوعی که در آن، برخلاف بسیاری از رقابتهای معمول سیاسی، شکست یک طرف الزاماً به معنای پیروزی طرف دیگر نخواهد بود.
