مدیران بزرگ ترین شرکت های فعال در حوزه هوش مصنوعی خواستار کاهش سرعت توسعه مدلهای پیشرفته شد؛ هشداری که با واکنش منفی دونالد ترامپ رو به رو شد.
به گزارش اینتومان، داریو آمودی مدیرعامل شرکت آنتروپیک (توسعهدهنده مدل کلود)، خواستار کاهش سرعت توسعه مدلهای پیشرفته هوش مصنوعی شد؛ هشداری که با توجه به جایگاه او در رأس یکی از بزرگترین شرکتهای تجاری این حوزه و خط مقدم رقابت هوش مصنوعی، توجهها را به خود جلب کرده است.
طبق گزارش بلومبرگ، او با اشاره به افزایش نگرانیها درباره خطرات «جدی» این فناوری برای بشریت، در یادداشتی وبلاگی نوشت: «باید سرعتی را که با آن تواناییهای مدلهای هوش مصنوعی را بهبود میدهیم، کاهش دهیم.»
آمودی با تاکید بر ضرورت اولویتبخشی به ایمنی و مهار ریسکهای فاجعهبار افزود: «پیشرفت همچنان سریع به نظر خواهد رسید و باید از زمانی که به دست میآوریم، عاقلانه استفاده کنیم.»
آمودی دو عامل اصلی را مطرح کرد؛ نخست توانایی هوش مصنوعی برای بهبود خود و دوم رخداد اخیر میان اوپنایآی (OpenAI)و هاگینگ فیس(Hugging Face) که در آن، یک دسته از عاملهای هوش مصنوعی با همکاری یکدیگر توانستند یک وبسایت شخص ثالث را نفوذ کنند.
او همچنین توضیح داد که «کندشدن» بهمعنای متوقفکردن آموزش مدل یا پیشرفت فنی نیست، بلکه هدف آن است که شرکتها زمان کافی برای همراستا کردن و ایمنسازی مدلهای خود داشته باشند و ارزیابهای شخص ثالث هم بتوانند این موضوع را تأیید کنند.
نگرانیها در خصوص خطرات جدی هوش مصنوعی راه خود را به افکار عمومی باز کرده است؛ موضوعی که تا حدی ناشی از استعفای جنجالی این هفته یکی از پژوهشگران شرکت آنتروپیک در پی هراسهای وجودی (اگزیستانسیال) از رویکرد غیرمسئولانه این شرکت بود.
در طول دوران رونق هوش مصنوعی، مدیران ارشد آزمایشگاههای پیشرو در این حوزه درباره خطرات وجودی بالقوه هشدار دادهاند؛ ادعاهایی که گاهی به عنوان تلاشهایی برای بازاریابی قابلیتهای محصولاتشان و معرفی خود به عنوان بهترین متولیان این فناوری رد شده است. خود آمودی پیش از این گفته بود که ۲۵ درصد احتمال دارد اوضاع «واقعاً، واقعاً بد» پیش برود.
آنتروپیک مدتهاست خود را شرکتی معرفی میکند که بر توسعه مسئولانهتر و ایمنتر هوش مصنوعی تمرکز دارد تا خطرهای بالقوه این فناوری را کاهش دهد و منافع اجتماعی آن را به حداکثر برساند.
این شرکت اوایل سال جاری نیز با هدف محدودکردن عرضه مدل میتوس(Mythos)، پس از تشخیص تهدیدهای منحصربهفرد سایبری، دست به احتیاط زد.
آنتروپیک پیشتر گفته بود جهان به سامانهای نیاز دارد که بهصورت جمعی مشخص کند چه زمانی باید کار روی این فناوری آهسته شود.
همزمان، آنتروپیک در رقابتی سخت با رقیب دیرینهاش اوپنایآی برای ساخت مدلهایی پیشرفتهتر باقی مانده است؛ مدلهایی که بتوانند کارهای پیچیدهتر و ارزشمندتری را برای مشتریان کسبوکار خودکار کنند.
هر دو شرکت اسناد محرمانهای برای عرضه عمومی سهام ثبت کردهاند و بلومبرگ میگوید انتظار میرود آنتروپیک همین امسال وارد والاستریت شود.
