جدال مدیران بزرگ هوش مصنوعی بر سر سرعت توسعه؛ آمودئی خواستار کاهش سرعت شد، هوانگ گفت سریعتر حرکت کنید
داریو آمودئی، مدیرعامل Anthropic، بار دیگر خواستار کاهش سرعت توسعه هوش مصنوعی شد؛ در حالی که جنسن هوانگ، مدیرعامل Nvidia، از ادامه شتاب در توسعه این فناوری دفاع کرد.
به گزارش اینتومان، آمودئی روز سهشنبه در کنفرانس Dreamforce شرکت Salesforce در سانفرانسیسکو با استفاده از یک مثال درباره صنعت خودرو، بر ضرورت بازنگری شرکتهای هوش مصنوعی در زمینه ایمنی تأکید کرد.
به گزارش گاردین، او گفت اگر یک شرکت خودروسازی رقیب با حادثهای مانند خرابی ترمز مواجه شود، این اتفاق باید برای همه شرکتهای خودروسازی فرصتی باشد تا عملکرد و رویههای ایمنی خود را بررسی کنند.
آمودئی گفت: «خیلی وسوسهانگیز است که به رقیب خود حمله کنیم و بگوییم این افراد ناامن هستند. اما فکر میکنم واکنش مسئولانهتر این است که بگوییم بیایید سابقه خودمان را بررسی کنیم. شاید ما با چنین حادثه بزرگ و پرسروصدایی مواجه نشده باشیم، اما مطمئنم که بینقص نیستیم.»
در مقابل، هوانگ که او نیز روز سهشنبه در Dreamforce حضور داشت، اندکی بعد موضع متفاوتی گرفت و گفت: «تا جایی که میتوانید با بیشترین سرعت حرکت کنید.»
پیشنهاد سهمرحلهای Anthropic برای ایمنی هوش مصنوعی
آمودئی برای افزایش ایمنی هوش مصنوعی سه اقدام را پیشنهاد کرده است: حضور ارزیابان مستقل و شخص ثالث در شرکتهای هوش مصنوعی، هماهنگی استانداردهای ایمنی میان کشورهای دموکراتیک و در نهایت ایجاد سازوکارهای هماهنگی در سطح جهانی.
او در Dreamforce گفت Anthropic برای حضور ارزیابان مستقل متعهد شده است و قصد دارد درباره دو مرحله دیگر با سایر شرکتهای فعال در صنعت گفتوگو کند.
آمودئی، ایلان ماسک، مدیرعامل xAI، و سم آلتمن، مدیرعامل OpenAI، اخیراً درباره ضرورت کاهش سرعت توسعه هوش مصنوعی اظهارنظر کردهاند.
این بحث پس از اظهارات جیکوب کاکسون، پژوهشگر سابق Anthropic، نیز شدت گرفت. کاکسون پس از استعفا به صورت علنی هشدار داد که هوش مصنوعی ممکن است طی یک دهه آینده به انقراض بشریت منجر شود. اظهارات او بحث گستردهتری را در سیلیکونولی به راه انداخت و توجه قانونگذاران و افکار عمومی را نیز جلب کرد.
هوانگ: شرکتها نباید توسعه هوش مصنوعی را متوقف کنند
هوانگ با کاهش سرعت توسعه هوش مصنوعی مخالفت کرد و گفت شرکتها نباید توسعه این فناوری را کند کنند.
او همچنین استدلال کرد که مقررات جدید لزوماً ضروری نیستند و شرکتهای هوش مصنوعی میتوانند به جای درخواست مداخله دولت آمریکا، تا زمانی که از ایمنی محصولات خود مطمئن نشدهاند، از عرضه آنها خودداری کنند.
هوانگ آیندهای را تصور کرد که در آن «هر شرکت، هر کسبوکار» به یک شرکت هوش مصنوعی تبدیل شود. به گفته او، شرکتها با استفاده از هوش مصنوعی جاهطلبتر خواهند شد و کسانی که این فناوری را نپذیرند، از دیگران عقب خواهند ماند.
مدیرعامل Nvidia همچنین این دیدگاه را که هوش مصنوعی موجب نابودی مشاغل خواهد شد رد کرد و آن را «کاملاً بیمعنی» خواند.
یک روز پیش از این اظهارات، دونالد ترامپ در جریان نشست All-In در لسآنجلس با هوانگ تماس گرفت. هوانگ تماس را در حالی که روی صحنه بود روی بلندگو قرار داد. ترامپ نگرانیهای فزاینده درباره هوش مصنوعی را «یک حقه» توصیف کرد و بار دیگر گفت کاهش سرعت توسعه این فناوری تنها به نفع چین خواهد بود.
هوانگ در پاسخ گفت: «ما اطمینان حاصل خواهیم کرد که همه در رقابت هوش مصنوعی آمریکا برنده باشند.»
آلتمن: نگرانی مردم درباره هوش مصنوعی قابل درک است
سم آلتمن نیز روز سهشنبه درباره ضرورت افزایش سطح امنیت و نظارت بر مدلهای هوش مصنوعی سخن گفت.
او اظهار کرد که مدلهای هوش مصنوعی با چنان سرعتی پیشرفت کردهاند که نظارت و امنیت آنها باید با «سطح جدیدی از جدیت» دنبال شود.
آلتمن به حادثهای اشاره کرد که در آن عوامل هوش مصنوعی OpenAI به یک شرکت دیگر هک کردند و آن را «زنگ بیدارباش» برای صنعت دانست.
مدیرعامل OpenAI همچنین گفت مردم «کاملاً حق دارند از هوش مصنوعی بترسند»، زیرا احتمال از دست رفتن کنترل بر این فناوری و همچنین احتمال اعمال دیدگاههای تعداد محدودی از شرکتهای قدرتمند هوش مصنوعی بر جهان وجود دارد.
او گفت: «مردم سرعتی را که اتفاقات با آن در حال رخ دادن هستند احساس میکنند. برای تصور اینکه این روند چگونه میتواند به اشتباه پیش برود، دیگر به تخیل زیادی نیاز نیست.»
آلتمن پیشتر با درخواست آمودئی برای کاهش سرعت توسعه هوش مصنوعی موافقت کرده بود، اما در Dreamforce گفت از نحوه مطرح شدن این استدلال ناراضی است.
او گفت برخی شرکتها اینگونه استدلال میکنند که «تنها زمانی سرعت را کاهش میدهیم یا مسئولانه عمل میکنیم که شرکتهای دیگر نیز مسئولانه عمل کنند» و معتقد بود چنین رویکردی میتواند باعث افزایش ترس عمومی شود.
آلتمن افزود: «دنیا باید به ما اعتماد کند که کار درست را انجام میدهیم، چون انجام کار درست، دلیل انجام آن است.»
هشدار OpenAI درباره موج حملات سایبری
آلتمن همچنین گفت حوادث هکری اخیر نشان میدهد شرکتها باید خود را برای «موج قریبالوقوع حملات سایبری» آماده کنند.
او هشدار داد که فاصله زیادی با مدلهای متنباز هوش مصنوعی که قادر به ایجاد خسارت جدی باشند، وجود ندارد و شرکتها باید از «این دوره کوتاه برتری» برای دفاع از خود استفاده کنند.
افزایش نگرانیها درباره ایمنی هوش مصنوعی همزمان با آماده شدن OpenAI و Anthropic برای عرضه اولیه سهام خود مطرح شده است؛ رویدادی که میتواند اطلاعات بیشتری درباره وضعیت مالی این شرکتها در اختیار سرمایهگذاران و عموم مردم قرار دهد.
در میان این نگرانیها، آلتمن اعلام کرد قصد دارد عرضه اولیه سهام OpenAI را به دلیل ملاحظات ایمنی تا سال آینده به تعویق بیندازد.
آمودئی: سرعت گسترش هوش مصنوعی غافلگیرکننده بود
آمودئی روز سهشنبه گفت چیزی که بیش از همه درباره هوش مصنوعی او را غافلگیر کرده، سرعت گسترش این فناوری بوده است.
او گفت: «این سرعت پیشرفت بود، نه فقط در فناوری، بلکه در بُعد اقتصادی آن.»
به گفته آمودئی، شرکتها پیشبینیهایی درباره میزان توانایی مدلهای هوش مصنوعی داشتند، اما سرعت رشد اقتصادی شرکتهای فعال در این حوزه چیزی نبود که به اندازه کافی مورد توجه قرار گرفته باشد.
با وجود سرعت بالای توسعه هوش مصنوعی، آلتمن گفت معتقد است مردم از این فناوری به عنوان ابزاری برای کمک به دیگران و توسعه کسبوکارهایشان استفاده خواهند کرد.
او این دوره را نقطهای توصیف کرد که در آن سناریوهای «علمیتخیلی» به واقعیت تبدیل شدهاند؛ شرایطی که در آن مردم با دستیارهای هوش مصنوعی صحبت میکنند و شیوه کار خود را تغییر میدهند.
آلتمن در پایان گفت: «فکر میکنم بدون توجه به اینکه فناوری تا چه اندازه خوب شود، همچنان در جهانی با محوریت انسان زندگی خواهیم کرد.»
