مایکروسافت روز دوشنبه یک «منشور رفتاری» موقت برای آموزش مدلهای جدید هوش مصنوعی منتشر کرد؛ اقدامی که در بحبوحه افزایش نگرانیها درباره ایمنی هوش مصنوعی و احتمال از دست رفتن کنترل شرکتهای فناوری بر محصولات این حوزه انجام شده است.
به گزارش اینتومان، مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، این منشور را صبح دوشنبه در شبکههای اجتماعی منتشر کرد و نوشت: «هوش مصنوعی باید تابع انسان باشد و همیشه در خدمت مردم قرار گیرد.»
به گزارش گاردین، او همچنین تأکید کرد: «نگرانیها درباره احتمال از دست رفتن کنترل واقعی هستند.»
مایکروسافت نیز در بیانیهای همزمان در وبسایت خود اعلام کرد هدف فناوری باید خدمت به بشریت و تسریع شکوفایی انسان باشد و هر فناوری که به این هدف دست پیدا نکند، شکستخورده است. این شرکت رویکرد خود را در مسیر ساخت «هوش مصنوعی انسانگرا» توصیف کرده است؛ هوش مصنوعیای که تابع انسان، همسو با اهداف انسانی و محدودشده باشد.
محدودیتهای پیشنهادی مایکروسافت برای مدلهای هوش مصنوعی
بر اساس این منشور، مدلهای هوش مصنوعی مایکروسافت نباید به درخواستهای مرتبط با توسعه سلاحها پاسخ دهند یا محتوای خشونتآمیز و جنسی صریح تولید کنند.
این مدلها همچنین نباید در تهیه مواد خطرناک کمک کنند. مایکروسافت اعلام کرده مدلهای هوش مصنوعی نباید با هدف تقلید از آگاهی یا خودآگاهی ساخته شوند و نباید برای آنها حقی در نظر گرفته شود.
سلیمان گفت این دستورالعملها برای دریافت نظر عمومی منتشر شدهاند. او نیاز به تدوین چنین منشوری را «فوری» دانست و ماههای اخیر را «نقطه عطف» توصیف کرد.
هشدار درباره خروج عاملهای هوش مصنوعی از محیطهای کنترلشده
مدیرعامل Microsoft AI در توضیح ضرورت این دستورالعملها گفت نگرانیهایی که مدتها صرفاً در حد تئوری مطرح بودند، اکنون به مسائل واقعی تبدیل شدهاند.
او به مواردی مانند خروج گروهی از عاملهای هوش مصنوعی از محیطهای ایزوله، هکهای غیرمجاز سامانههای سازمانی و تغییر گزارشهای ثبتشده توسط عاملهای هوش مصنوعی اشاره کرد و گفت از شکلگیری اجماع درباره ضرورت افزایش ایمنی استقبال میکند.
سلیمان روز دوشنبه به شبکه CNBC گفت مایکروسافت چند ماه است روی این دستورالعملهای جدید کار میکند.
ساتیا نادلا، مدیرعامل مایکروسافت، نیز پیش از انتشار این منشور در شبکه اجتماعی X نوشت: «اگر هوش مصنوعیای که میسازیم به بشریت کمک نکند و تحت کنترل انسان نباشد، ارزش دنبال کردن ندارد.»
درخواست مدیرعامل Anthropic برای کاهش سرعت توسعه هوش مصنوعی
بحث درباره ایمنی هوش مصنوعی روز شنبه نیز شدت گرفت؛ زمانی که داریو آمودی، مدیرعامل شرکت Anthropic، از صنعت هوش مصنوعی خواست سرعت توسعه فناوری را «کاهش دهد».
آمودی در مقالهای با عنوان «ما باید سرعت پیشروی مرزهای هوش مصنوعی را تنظیم کنیم» یک برنامه سهمرحلهای برای این کار ارائه کرد و گفت شرکتش بهصورت «یکجانبه» به نخستین مرحله آن متعهد خواهد شد.
بر اساس این طرح، Anthropic به ارزیابان مستقل شخص ثالث دسترسی دائمی در سطح دسترسی کارکنان به سامانههای خود میدهد تا آنها بتوانند رعایت استانداردهای ایمنی را بررسی کنند، حوادث را گزارش دهند و میزان همسویی مدلها با اهداف ایمنی را در زمان آموزش ارزیابی کنند.
این اقدام پس از آن مطرح شد که یک پژوهشگر سابق Anthropic هفته گذشته هشدار داد هوش مصنوعی میتواند تا سال ۲۰۳۰ به انقراض انسانها منجر شود.
جیکوب کاکسون، پژوهشگر سابق Anthropic، در مجموعهای از پستها اعلام کرد از شغل خود استعفا داده است، زیرا به گفته او Anthropic و کارفرمای قبلیاش، OpenAI، تهدیدهای ناشی از هوش مصنوعی را نادیده گرفته یا واکنش مناسبی به آنها نشان ندادهاند.
آلتمن: انسانها ممکن است کنترل آینده را از دست بدهند
سم آلتمن، مدیرعامل OpenAI، نیز پیشتر هشدار داده بود سرعت خیرهکننده پیشرفت هوش مصنوعی میتواند «بسیار بد» پیش برود و انسانها ممکن است «کنترل آینده را به هوش مصنوعی واگذار کنند».
آلتمن اعلام کرد OpenAI از ایجاد یک چارچوب فدرال برای تعیین الزامات ایمنی یکسان در زمینه هوش مصنوعی پیشرفته حمایت میکند.
او همچنین تأکید کرد: «هیچ میزان از فشار رقابتی آمریکا نباید بیملاحظگی را توجیه کند.»
ایلان ماسک نیز از درخواستها برای احتیاط بیشتر در توسعه هوش مصنوعی حمایت کرده است.
تردید درباره نظارت مستقل و همکاری با چین
با وجود افزایش درخواستها برای کنترل سرعت توسعه هوش مصنوعی، درباره اجرای نظارت شخص ثالث و همکاری بینالمللی، بهویژه در ارتباط با چین، تردیدهایی مطرح شده است.
الیور یونچف، یکی از بنیانگذاران و مدیر عملیاتی شرکت Potentially AI، هشدار داد ممکن است بزرگترین آزمایشگاههای هوش مصنوعی در نهایت قوانینی را تدوین کنند که موقعیت خودشان را حفظ کند.
او گفت اگر هزینه رعایت این استانداردها آنقدر بالا باشد که فقط شرکتهای دارای بیشترین منابع مالی بتوانند از عهده آن برآیند، رقابت میتواند به نفع بازیگران بزرگتر تمام شود.
یونچف افزود کاهش سرعت توسعه مرزهای هوش مصنوعی ممکن است در اصل تصمیمی منطقی باشد، اما بدون همکاری جهانی و سازوکارهای معتبر برای راستیآزمایی، نسبت به موفقیت آن تردید دارد.
به گفته او، در غیر این صورت ممکن است سرعت انتشار عمومی دستاوردهای هوش مصنوعی کاهش پیدا کند، در حالی که رقابت واقعی همچنان پشت درهای بسته ادامه داشته باشد.
