شرکت آمریکایی «آنتروپیک» خواستار توقف جهانی توسعهٔ هوش مصنوعی شد: «مدلهای هوش مصنوعی در آستانهٔ خودبهبودسازی بدون نیاز به دخالت انسان»
نویسنده: روان جیاچی، نشریهٔ مشاهدهگ گوانچا وانگ چین
ترجمه مجله جنوب جهانی
به گزارش والاستریت ژورنال در چهارم ژوئن، شرکت نوپای آمریکایی فعال در حوزهٔ هوش مصنوعی، «آنتروپیک» (Anthropic)، روز پنجشنبه با انتشار نامهای سرگشاده از تمام آزمایشگاههای برتر جهان خواست تا سرعت توسعهٔ فناوریهای پیشگامانهٔ هوش مصنوعی را کاهش دهند یا متوقف کنند.
این شرکت هشدار داده که نرخ کنونی تکامل فناوری هوش مصنوعی بسیار سریع است و ممکن است در کوتاهمدت، این سیستمها به توانایی خودبهبودی و بهینهسازی بدون دخالت انسان دست یابند که پیامدهای پیشبینیناپذیر و مخاطرهآمیزی برای جامعه به همراه خواهد داشت.
از دیدگاه آنتروپیک، برای ایجاد فرصت لازم جهت تطابق جامعه و انجام پژوهشهای همراستاسازی (alignment research) – یعنی هماهنگسازی هوش مصنوعی با ارزشها و نیات انسانی – باید پیمانی جهانی مشابه «پیمان تسلیحات هستهای» وضع شود تا سرعت توسعهٔ هوش مصنوعی را مهار کند. همچنین سازوکارهای راستیآزمایی باید تضمینکنندهٔ پایبندی رقبای بینالمللی به این توافق باشد.
در ادامهٔ گزارش آمده که راستیآزمایی روند آموزش هوش مصنوعی کار دشواری است؛ «پروژههای آموزش هوش مصنوعی بسیار آسانتر از سیلوهای موشکی قابلیت پنهانشدن دارند. هنگامی که دیگران توسعه را متوقف میکنند، هرکسی که به کار خود ادامه دهد، مزیت رقابتی چشمگیری به دست خواهد آورد.»
آنتروپیک در ماههای آینده قصد دارد نشستهایی با حضور سیاستگذاران و پژوهشگران این حوزه برگزار کند تا دربارهٔ فناوری «خودتکامل بازگشتی» (recursive self‑improvement) و سازوکارهای جهانی راستیآزمایی بحث و تبادل نظر شود. در این نامه سرگشاده تأکید شده: «اکنون پنجرهٔ فرصت برای بحث پیرامون این مسائل گشوده شده است و افراد خارج از شرکتهای فعال در عرصهٔ هوش مصنوعی نیز باید در این گفتوگوها مشارکت کنند.»
به گزارش منابع، این مقالهٔ مفصل توسط مسئول بخش تحقیقات داخلی آنتروپیک و یکی از بنیانگذاران این شرکت نگاشته شده و دادههای آزمونهای داخلی را منتشر کرده است که نشاندهندهٔ شتاب فزایندهٔ نسلهای جدید مدل پرچمدار این شرکت میباشد.
در این مقاله اشاره شده که مدلهای کنونی هوش مصنوعی به سمت «خودتکامل بازگشتی» در حرکتاند؛ حالتی که در آن دیگر نیازی به دخالت انسان برای بهبود عملکرد سیستم نیست. بسیاری از متخصصان این حوزه، این نقطهٔ عطف فنی را یک تهدید بالقوه میدانند و پیشبینی میکنند که میتواند آشفتگیهای اجتماعی شدیدی پدید آورد.
در این نامه چنین استدلال شده که کاهش سرعت جهانی توسعهٔ هوش مصنوعی «احتمالاً کار پسندیدهای است»: «به نظر ما، اگر جهان بتواند گزینهٔ کاهش سرعت یا توقف موقتی پژوهش در مرزهای دانش هوش مصنوعی را در اختیار داشته باشد تا نهادهای اجتماعی و پژوهشهای همراستاسازی فرصت همراهی با پیشرفت فناوری را پیدا کنند، این امر سودمند خواهد بود.»
نویسندگان همچنین تصریح کردهاند که خودتکامل بازگشتی هنوز رخ نداده و لزوماً هم رخ نخواهد داد، «اما ممکن است زودتر از آنچه بیشتر سازمانها آمادهاند، از راه برسد.»
والاستریت ژورنال مینویسد که اگرچه آنتروپیک از بدو تأسیس خود را مدافع ایمنی هوش مصنوعی معرفی کرده، همواره در گیرودار جنجالهای افکار عمومی بوده و منتقدان بارها او را متهم کردهاند که ابتکارات سیاسیاش در عمل اقدامی برای زمینزدن رقبا و کند کردن پژوهشهای آنان است.
دیوید ساکس، مسئول پیشین امور رمزارز و هوش مصنوعی کاخ سفید، آشکارا رهبری آنتروپیک را به دنبال کردن «دستور کار تصاحب نظارتی» متهم کرده و گفته که چنین رویکردی میتواند به سیاستهایی منجر شود که مدلهای متنباز (open source) هوش مصنوعی را از میان بردارد.
برخی دیگر از منتقدان نیز بر این باورند که هشدارهای آنتروپیک دربارهٔ خطرات بالقوهٔ ابزارهایش، صرفاً یک راهبرد بازاریابی است. به اعتقاد آنان، محدود کردن انتشار مدل امنیت سایبری «مایتوس» (Mythos) از سوی آنتروپیک، در واقع شیوهای برای لافزدن از توانمندی محصولات خودش است.
البته همهٔ کارشناسان با خطرات وجودی یا احتمال «خودبهبودی بازگشتی» توصیفشده از سوی آنتروپیک موافق نیستند. یان لِکون (Yann LeCun)، برندهٔ جایزهٔ تورینگ و یکی از «سه غول یادگیری عمیق» و معاون پیشین و دانشمند ارشد سابق متا در حوزهٔ هوش مصنوعی، معتقد است سیستمهای پیشگامانهٔ هوش مصنوعی مبتنی بر مدلهای زبانی بزرگ هرگز نخواهند توانست با هوش انسانی برابری کنند. از دیدگاه او، هوش مصنوعی تنها ابزاری کارآمد است و سطح هوشی آن در حد یک گربه است.
ایتن مولیک (Ethan Mollick)، استاد دانشکدهٔ کسبوکار وارتون دانشگاه پنسیلوانیا و پژوهشگر سرشناس حوزهٔ هوش مصنوعی، به رسانههای آمریکایی گفته است که بسیاری از منتقدان اعلامیههای ایمنی آنتروپیک را «تبلیغی توخالی و دستاویزی بازاریابی» میدانند.
مولیک همچنین اشاره کرده که آنتروپیک بهعنوان شرکتی با ارزش بازار هزار میلیارد دلاری، در درون خود دارای تضادهای متعددی است: از تیم بازاریابی و حقوقی که اهداف تجاری را دنبال میکنند، تا متخصصان توسعهدهندهٔ نسل جدید مدلها که بیوقفه روی تکرار و بهبود کار میکنند، و نیز کسانی که واقعاً نگران آیندهٔ بشرند و میتوان آنان را «پادشاهان فیلسوف» نامید. این چندگانگی هویتی باعث شده که بیرون از شرکت نیز نسبت به شعار «ایمنی اولویت نخست» آنتروپیک تردید وجود داشته باشد.
مدیران آنتروپیک در پاسخ به این جنجالها گفتهاند که این شرکت برای ایمنی هوش مصنوعی ارزش بسیاری قائل است و تلاش میکند گفتمان بیشتری پیرامون خطرات فناوری شکل دهد.
لازم به ذکر است که آنتروپیک در تاریخ اول ژوئن (۱۱ خرداد) اسناد عرضهٔ اولیهٔ سهام (IPO) خود را به طور رسمی ثبت کرده است. این شرکت که توسعهدهندهٔ مدل معروف کلود (Claude) است، ممکن است در زمان عرضه به ارزشی بیش از یک هزار میلیارد دلار دست یابد و بدینترتیب به رقابت با شرکتهای اوپنایآی (OpenAI) و اسپیسایکس (SpaceX) برای ورود به بازار سهام بپیوندد. این رقابت نشان خواهد داد که آیا بازار سرمایه تمایل دارد همچنان از آزمایشگاههای پولسوز هوش مصنوعی حمایت مالی کند یا خیر.
ارزش اوپنایآی در آخرین برآوردها به ۸۵۲ میلیارد دلار رسیده و این شرکت نیز بهزودی برای عرضهٔ اولیه ثبتنام خواهد کرد. اسپیسایکس نیز ماه گذشته اطلاعیهٔ عرضه را منتشر کرده و برنامه دارد طی هفتههای آینده وارد بازار شود؛ ارزش هدف این شرکت ۱۷۵۰ میلیارد دلار برآورد شده است.
پنجشنبهٔ گذشته، آنتروپیک دور جدیدی از تأمین مالی به ارزش ۶۵ میلیارد دلار را نهایی کرد. پیش از این دور تأمین مالی، ارزش این شرکت ۹۰۰ میلیارد دلار تخمین زده میشد. این رقم در مقایسه با ارزش ۶۰۰ میلیارد دلاری آن در ماه مارس سال گذشته، نشاندهندهٔ رشد بیش از پانزده برابری در مدت تنها پانزده ماه است.
در بعد تجاری، آنتروپیک با شرکتهایی همچون گوگل (Google)، برودکام (Broadcom) و آمازون (Amazon) قراردادهای بلندمدت همکاری در زمینهٔ محاسبات ابری به ارزش صدها میلیارد دلار امضا کرده است. ماه گذشته نیز با اسپیسایکس به توافقی دست یافت تا دو مرکز بزرگ داده (دیتاسنتر) را اجاره کند. این اجارهنامه میتواند سالانه ۱۵ میلیارد دلار درآمد برای اسپیسایکس به همراه داشته باشد.
در همین حال، آنتروپیک که همچنان با وزارت دفاع ایالات متحده درگیر اختلافات حقوقی است، در استقرار مدل زبانی بزرگ «مایتوس» برای عملیات تهاجمی سایبری به آژانس امنیت ملی آمریکا (NSA) کمک میکند. این شرکت همچنین مهندسان مقیم خود را برای سفارشیسازی و بهینهسازی مدل بر اساس نیازهای عملیاتی آمریکا، در محل مستقر کرده است. این موضوع، اعتبار تعهدات ایمنی این شرکت را بیش از پیش زیر سؤال برده است.
رسانه بریتانیایی: آژانس امنیت ملی آمریکا با بهرهگیری از مدل «مایتوس» متعلق به «آنتروپیک»، حملات سایبری ترتیب میدهد
نویسنده: چن سیجیا، نشریه گوانچا وانگ چین
ترجمه مجله جنوب جهانی
اخیراً تشدید اختلافات میان شرکت آمریکایی فعال در حوزهٔ هوش مصنوعی، «آنتروپیک» (Anthropic)، و وزارت دفاع ایالات متحده (پنتاگون) به طرح دعوای حقوقی از سوی آنتروپیک علیه پنتاگون انجامیده است. او این وزارتخانه را به سوءاستفاده از برچسب «ریسک زنجیره تأمین» متهم کرده است. با این حال، به نظر میرسد که این کشمکش حقوقی تأثیری بر همکاری سایبری آنتروپیک با پنتاگون نداشته باشد.
روز چهارم ژوئن، روزنامهٔ فایننشال تایمز بریتانیا به نقل از دو منبع آگاه گزارش داد که شرکت آنتروپیک کارمندانی را برای کمک به استقرار مدل «مایتوس» (Mythos) در اختیار آژانس امنیت ملی آمریکا (NSA) قرار داده است؛ مدلی که برای انجام حملات سایبری به کار گرفته میشود.
آژانس امنیت ملی آمریکا که بزرگترین نهاد اطلاعاتی این کشور و زیرمجموعهٔ وزارت دفاع ایالات متحده است، مسئولیت عملیات سیگنالهای مخابراتی و حفاظت از سامانههای اطلاعاتی آمریکا را بر عهده دارد. منابع آگاه گفتند نزدیک به شش نفر از کارمندان آنتروپیک به عنوان مهندسان «خط مقدم استقرار» در این آژانس مستقر شدهاند تا شیوهٔ بهرهگیری از فناوری هوش مصنوعی را آموزش دهند و مدل را برای کاربردهای خاص سفارشیسازی کنند.
مشخص نیست که مهندسان آنتروپیک آیا در اجرای عملیات واقعی به آژانس امنیت ملی کمک میکنند یا نه، اما یکی از منابع آگاه مدعی شده که مدل مایتوس میتواند در حملات سایبری علیه چین یا ایران به کار گرفته شود.
این منبع آگاه به فایننشال تایمز گفت: «بهترین راه برای ایجاد دفاع مؤثر، ایجاد حملهٔ مؤثر است. رقبای آمریکا به احتمال فراوان در حال توسعهٔ فناوریهای تهاجمی مبتنی بر هوش مصنوعی هستند؛ اگر از مایتوس برای ساخت عاملهای تهاجمی (offensive agents) استفاده نشود، رقبا راه خود را پیدا خواهند کرد.»
در پی انتشار این گزارشها، آنتروپیک و وزارت دفاع آمریکا از اظهارنظر خودداری کردند.
تصویر: مقر آژانس امنیت ملی آمریکا در فورت مید، ایالت مریلند – منبع: خبرگزاری فرانسه
دقیقاً در زمانی که همکاری فنی آنتروپیک و وزارت دفاع آمریکا جریان دارد، این دو طرف درگیر یک مناقشهٔ حقوقی نیز هستند. پیش از این، در جریان مذاکرات قراردادی به ارزش حدود ۲۰۰ میلیون دلار، بر سر نحوهٔ استفاده از ابزارهای هوش مصنوعی در جنگ، بحثهای داغی میان آنان درگرفته بود.
آنتروپیک از پنتاگون خواسته بود تضمین دهد که مدل هوش مصنوعی «کلود» (Claude) برای نظارت گسترده بر شهروندان آمریکایی یا هدایت سلاحهای کاملاً خودمختار کشنده به کار گرفته نخواهد شد. در مقابل، پنتاگون معتقد است که یک شرکت خصوصی حق ندارد برای دولت آمریکا سیاستگذاری کند.
پس از شکست مذاکرات، پیت هِگسِت، وزیر دفاع ایالات متحده، آنتروپیک را در فهرست شرکتهای دارای «ریسک زنجیره تأمین» قرار داد. در نهم مارس، آنتروپیک از وزارت دفاع آمریکا شکایت کرد و آن را به سوءاستفاده از این برچسب و اقدام تنبیهی فراقانونی علیه یک شرکت آمریکایی متهم ساخت.
پس از این کشمکش، آنتروپیک در ماه آوریل مدل «کلود مایتوس» را عرضه کرد که فقط برای گروهی از نهادهای آمریکاییِ احراز صلاحیتشده قابل دسترسی است. این شرکت ادعا میکند که مایتوس در حوزهٔ امنیت سایبری «عملکردی برجسته» دارد و میتواند آسیبپذیریهای شبکه را «در مقیاسی فراتر از توان انسان» شناسایی کند.
آنتروپیک مدعی شده که مایتوس ممکن است چشمانداز امنیت سایبری را «دگرگون» کند و اعلام داشته که برنامهای برای انتشار گستردهٔ آن وجود ندارد. با این حال، این شرکت در دوم ژوئن اعلام کرد که دامنهٔ استفاده از مایتوس را فراتر از آمریکا و بریتانیا گسترش داده و این مدل را در اختیار ۱۵۰ نهاد در ۱۵ کشور قرار خواهد داد.
فایننشال تایمز خاطرنشان کرده که آنتروپیک همواره همکاری نزدیکی با دولت آمریکا داشته و مدلهای هوش مصنوعی خود را در نهادهای دولتی ایالات متحده ترویج کرده است. از جمله، وزارت دفاع آمریکا در تلاش است ابزارهای سایبری مبتنی بر هوش مصنوعی برای «مقابله با چین» طراحی کند.
دونالد ترامپ، رئیسجمهور آمریکا، همچنین در دوم ژوئن یک فرمان اجرایی امضا کرده که چارچوب «بازبینی داوطلبانه» را ایجاد میکند. بر این اساس، دولت آمریکا میتواند تا سی روز پیش از انتشار یک مدل هوش مصنوعی، به آن دسترسی پیدا کرده و بازبینیهای امنیتی را از پیش انجام دهد. این فرمان الزامآور نیست و شرکتها میتوانند داوطلبانه در آن شرکت کنند.