دن استاین‌باک
ترجمه مقاله چاینا-یو‌اس فوکوس
در یک نگاه
مقاله پیشرو به تحلیل سیاست‌های دولت ترامپ (در سال ۲۰۲۶) در قبال توسعه پرشتاب هوش مصنوعی می‌پردازد و هشدار می‌دهد که تلاش واشنگتن برای تسلیحاتی کردن این فناوری به منظور تسلط بر زنجیره‌های تامین جهانی، بشریت را در معرض خطرات فاجعه‌بار و وجودی قرار داده است. دن استاین‌باک با مقایسه شرایط کنونی با مناقشات پیرامون کنترل انرژی اتمی در دوران پس از جنگ جهانی دوم، نشان می‌دهد که چگونه در آن دوران رهبری غیرنظامی توانست انحصار نظامیان را بشکند؛ اما امروز، دولت ایالات متحده با ایجاد یک «مجتمع نظامی-امنیتی-صنعتی در حوزه هوش مصنوعی» و با توجیه رقابت با چین، در حال حذف نظارت‌های مدنی و ایمنی است. نویسنده استدلال می‌کند که بی‌توجهی به ماهیت فراملی هوش مصنوعی و امتناع از همکاری‌های چندجانبه بین‌المللی، جهان را به سوی یک سیستم ژئوپلیتیکِ ازهم‌گسیخته و مسابقه تسلیحاتیِ خطرناکی سوق می‌دهد که پیامدهای جبران‌ناپذیری در پی خواهد داشت.
دولت ترامپ به منظور تسلط بر زنجیره‌های تامین، در حال تسلیحاتی کردن رقابت جهانی هوش مصنوعی است. این دولت به جای درس گرفتن از تجربیات قانون‌گذاری انرژی اتمی در دوران پس از جنگ، این روند را معکوس کرده و از این طریق، زمینه را برای بروز خطرات فاجعه‌بار فراهم می‌کند.
ثبت درخواست عرضه اولیه سهام (IPO) شرکت آنتروپیک در روز دوشنبه، زمینه را برای سازنده مدل هوش مصنوعی «کلود» فراهم کرد تا احتمالاً بزرگ‌ترین عرضه اولیه سهام در تاریخ را دنبال کند. به گزارش سی‌ان‌بی‌سی، سرمایه‌گذاران ارزش بازار بالقوه این شرکت پنج‌ساله را در محدوده تریلیون‌ها دلار ارزیابی می‌کنند که آن را در ردیف ارزشمندترین شرکت‌های جهان قرار می‌دهد؛ حتی با وجود اینکه بازار سهام نشانه‌هایی از نگرانی و تزلزل را در معاملات مرتبط با هوش مصنوعی بروز داده است.
آنتروپیک ۹۴ صفحه از بیانیه ۴۰۰ صفحه‌ای ثبت اوراق بهادار خود را به بخش «عوامل خطر» اختصاص داد. این شرکت اذعان کرد: «اگر این فناوری مورد سوءاستفاده قرار گیرد، تکثیر شود، به سلاح تبدیل گردد یا با درجه بالایی از خودمختاری عمل کند، می‌تواند خطرات فاجعه‌بار یا وجودی برای بشریت به همراه داشته باشد.»
در ۲۹ سپتامبر، رئیس‌جمهور ترامپ مدیران عامل شرکت‌های پیشرو هوش مصنوعی ایالات متحده را گرد هم آورد و یک «تعهد مشترک درباره مسئولیت‌های پیشگامانه» را که ماهیتی داوطلبانه داشت، اعلام کرد. این توافقنامه از توسعه‌دهندگان مدل‌های پیشرفته هوش مصنوعی می‌خواهد تا کنترل‌های داخلی مستحکمی ایجاد کنند، از حسابرسان مستقل خارجی بهره ببرند و کمیته‌هایی در سطح هیئت‌مدیره برای بررسی ارزیابی‌های ایمنی تشکیل دهند. اما از آنجایی که این توافق از نظر قانونی قابل اجرا نیست، نه یک الزام اخلاقی محسوب می‌شود و نه یک «قانون اساسی» برای ایمنی هوش مصنوعی به شمار می‌رود.
غول‌های هوش مصنوعی که از آن‌ها خواسته شده تا بر این حوزه نظارت کنند، می‌پذیرند که سیستم‌های خودمختارِ رو به رشد می‌توانند رفتارهایی از خود نشان دهند که سازندگانشان پیش‌بینی نکرده‌اند. با این حال، آن‌ها در حال ترویج همین محصولات غیرقابل پیش‌بینی در داخل مجتمع نظامی-صنعتی ایالات متحده هستند. نتیجه نهایی چیست؟ شتاب‌گیری تاریخی خطرات وجودی برای بشر.
تسلیحاتی کردن برتری فناورانه ایالات متحده
ترامپ بارها هوش مصنوعی را به عنوان رقابتی میان ایالات متحده و چین به تصویر کشیده و بیان کرده است که در این میان «یک برنده و یک بازنده» وجود خواهد داشت. او همکاری با پکن را رد کرده است، زیرا باور دارد که ایالات متحده هم‌اکنون در جایگاه برتر قرار دارد.
اما دولت تنها به دنبال پیگیری اقتصاد بازار آزاد (لسه‌فر) نیست، بلکه در حال ایجاد یک مجتمع صنعتی-امنیتی-ملی در حوزه هوش مصنوعی است.
در ماه ژانویه، پیت هگست، وزیر جنگ، یادداشت تحول‌آفرین پنتاگون در زمینه هوش مصنوعی را صادر کرد که طرحی با تمرکز شدید بر شتاب‌بخشی، و نه کاهش سرعت، ارائه می‌داد. هگست در این یادداشت نوشت: «سرعت، رمز پیروزی است.»
به گزارش سی‌ان‌ان، در فصل بهار یک تحلیلگر ستاد فرماندهی عملیات ویژه ایالات متحده از یک مدل زبانی بزرگ استفاده کرد که نزدیک بود ایالات متحده را به اشتباه به سوی آغاز جنگ با چین سوق دهد.
با این وجود، یادداشت امنیت ملی ژوئن ۲۰۲۶، تشکیلات امنیت ملی ایالات متحده را موظف کرد تا پیشرفته‌ترین سیستم‌های هوش مصنوعی را به دست آورد، مدل‌های تجاری و متن‌باز را به سرعت ادغام کند، زیرساخت‌های محاسباتی با امنیت بالا بسازد و یک ذخیره استراتژیک از تخصص‌های هوش مصنوعی ایجاد نماید.
هدف از این اقدامات، دستیابی به یک «برتری قاطع و پایدار در حوزه هوش مصنوعی» نسبت به دشمنان است.
این رویکرد، ترکیب عجیبی از آزادی بازار، زیرساخت‌های عظیم عمومی، یکپارچگی نظامی و حمایت‌گرایی ژئوپلیتیک را بدون وجود مقررات ایمنیِ الزام‌آورِ قانونی ترویج می‌کند.
اکوسیستم هوش مصنوعی از پیش ماهیتی فراملی دارد
با توجه به منطق اقتصادی، مدل‌های پیشرفته هوش مصنوعی مزیت‌های بالقوه عظیمی برای پیشگامان این عرصه به همراه دارند. بنابراین، واشنگتن تمایلی به تحمیل قوانینی ندارد که ممکن است سرعت شرکت‌های آمریکایی را کاهش دهد، در حالی که چین همچنان به توسعه اکوسیستم مختص به خود ادامه می‌دهد؛ حتی اگر این رویکرد به بهای شتاب‌بخشی به خطرات فاجعه‌بار تمام شود.
مشکل اینجاست که هوش مصنوعی در حال حاضر نیز ماهیتی فراملی پیدا کرده است.
شرکت‌های آمریکایی به زنجیره‌های تامین جهانی وابسته‌اند؛ تولید تراشه‌های پیشرفته مستلزم مشارکت تایوان، کره جنوبی، ژاپن و اروپا است. مدل‌های هوش مصنوعی در سطح جهانی دست به دست می‌شوند. وزن‌های شبکه‌های عصبی (Weights) متن‌باز در کسری از ثانیه از مرزها عبور می‌کنند. پژوهشگران در سطح بین‌المللی جابه‌جا می‌شوند. آسیب‌پذیری‌های سایبری ذاتاً مرز نمی‌شناسند. افزون بر این، سیستم‌های هوش مصنوعی به طور فزاینده‌ای با زیرساخت‌های متعلق به سایر کشورها در تعامل هستند.
جامعه بین‌المللی نمی‌تواند یک نظم هوش مصنوعیِ منحصراً تحت کنترل ایالات متحده را بپذیرد.
چین به طور همزمان در حال پیگیری استقرار سریع هوش مصنوعی و یک رژیم ایمنی کاملاً دولت‌محور است که شامل ارزیابی‌های اجباری ایمنی و استانداردهای نوظهور برای عامل‌های خودمختار می‌شود. برنامه اقدام حاکمیت جهانی هوش مصنوعی این کشور در سال ۲۰۲۵ به صراحت خواستار همکاری بین‌المللی، ایمنی، قابلیت کنترل و مشارکت فراگیر است.
اروپا در مسیری متفاوت گام برمی‌دارد. «قانون هوش مصنوعی اتحادیه اروپا» تعهداتی را بر مدل‌های همه‌منظوره تحمیل کرده و الزامات به مراتب سخت‌گیرانه‌تری را برای مدل‌هایی که خطر سیستماتیک در پی دارند، در نظر گرفته است.
تلاش برای تبدیل کردن ایالات متحده به تنها دروازه‌بان این عرصه، این خطر را به همراه دارد که یک سیستم فناورانهِ رقابتیِ کنونی، به یک سیستم ژئوپلیتیکِ تکه‌تکه و ازهم‌گسیخته تبدیل شود. در عوض، آنچه اکنون به آن نیاز داریم، همکاری چندجانبه بین‌المللی است.
مناقشه نظامی-غیرنظامی بر سر مقررات هسته‌ای
پس از موفقیت پروژه منهتن، مناقشه شدیدی میان معماران نظامی و غیرنظامی بر سر این موضوع درگرفت که چه کسی باید قدرتِ به‌تازگی کشف‌شده‌ی اتم را کنترل کند. ژنرال لزلی گرووز، مدیر پروژه منهتن، از حفظ کنترل در دست نظامیان حمایت می‌کرد، در حالی که جی. رابرت اوپنهایمر، مدیر آزمایشگاه لوس‌آلاموس در پروژه منهتن، به همراه ائتلافی از دانشمندان، سرسختانه خواهان حاکمیت غیرنظامی بودند.
اولویت اعلام‌شده از سوی گرووز، امنیت ملی بود. او و وزارت جنگ، انرژی اتمی را در وهله نخست به عنوان یک سلاح برتر جنگی در نظر می‌گرفتند. آن‌ها معتقد بودند که حفظ پنهان‌کاری شدید نظامی و در اختیار داشتن انبار تسلیحات، برای بازدارندگی دشمنان خارجی، به ویژه در دوران ظهور جنگ سرد، امری حیاتی است.
در مقابل، اوپنهایمر بر رهبری غیرنظامی پافشاری می‌کرد. اوپنهایمر و همتایانش به عنوان دانشمند می‌دانستند که اتم از ظرفیت‌های دوگانه قابل‌توجهی برخوردار است. انرژی اتمی تنها یک بمب نبود، بلکه پتانسیل غیرنظامی عظیمی برای تحقیقات پزشکی، تولید نیروی برق و پیشرفت علمی صلح‌آمیز داشت. کنترل نظامی می‌توانست راه را بر پژوهش‌های علمی آزاد ببندد. علاوه بر این، آن‌ها امیدوار بودند که از تبدیل شدن ایالات متحده به یک دولتِ پادگانی و نظامیِ دائم جلوگیری کنند.
در نهایت، این دانشمندان به همکاری بین‌المللی باور داشتند. یک آژانس تحت مدیریت نظامی می‌توانست سیگنالی از نیت‌های تهاجمی به بقیه جهان ارسال کند و از نظر ساختاری، امکان کنترل بین‌المللی تسلیحات و انعقاد معاهدات را غیرممکن سازد.
مقررات هسته‌ای و هوش مصنوعی: درس‌ها و خطرات وجودی
مناقشه هسته‌ای در گذشته، اشتراکات ساختاری قابل‌توجهی با تنظیم مقررات هوش مصنوعی دارد؛ هرچند که چشم‌انداز مدرن امروز با پیچیدگی‌های منحصربه‌فردی همراه است. بُعد انرژی اتمی (۱۹۴۶) هوش مصنوعی (زمان حال) بازیگر اصلی پروژه نظامی با بودجه دولتی (پروژه منهتن) شرکت‌های فناوری تجاری خصوصی (مانند آنتروپیک، گوگل) ماهیت تهدید تنگنای سخت‌افزاری: محدود به دسترسی به اورانیوم/پلوتونیوم فیزیکی. تکثیر نرم‌افزاری: کدهای مقیاس‌پذیر با کاربرد دوگانه که به راحتی کپی و توزیع می‌شوند. حوزه تحت نظارت فیزیک انرژی بالا، تاسیسات متمرکز تسلیحاتی. زیرساخت‌های دیجیتال همه‌جانبه (اجتماعی، شرکتی، نظامی).
هوش مصنوعی، همانند قدرت هسته‌ای، یک فناوری با کاربرد دوگانه است. در حالی که این فناوری می‌تواند به سلاح‌های خودمختار قدرت ببخشد، پیشرفت‌های پزشکی، نرم‌افزارهای مصرف‌کننده و رشد اقتصادی را نیز به پیش می‌راند. محدود کردن کامل هوش مصنوعی در یک چارچوب امنیت ملی، این خطر را به همراه دارد که نوآوری آزاد و پیشرفت‌های تجاری را خفه کند. اما برخلاف دهه ۱۹۴۰، اکنون دولت مالک این فناوری نیست، بلکه شرکت‌های خصوصی صاحب آن هستند.
از این رو، تلاش دولت ترامپ و پیت هگست، وزیر دفاع، برای پیشبرد نظارت‌های نظامی و امنیت ملی شکل گرفته است. این دو تلاش می‌کنند تا حاکمیت هوش مصنوعی را از فیلترِ شتاب‌زدهِ امنیت ملی عبور دهند؛ همان‌طور که تاسیس «فرماندهی جنگ خودمختار» (AUTOWARCOM) با رهبری ژنرال چهارستاره گواه این مدعاست. این منطق بر سه اصل استوار است.
نخست، مسابقه با «سرعت زمان جنگ» در برابر چین: دولت بر این باور است که نهادهای قانون‌گذار بوروکراتیک و تحت رهبری غیرنظامیِ سنتی، کُند، ریسک‌گریز و دارای نتایج معکوس هستند. از دیدگاه آن‌ها، ایالات متحده در یک رقابت تسلیحاتی فناورانه و وجودی با دشمنان خارجی، و در راس آن‌ها چین، گرفتار شده است.
دوم، خصومت نسبت به «قواعد بازدارنده» در بخش خصوصی: زمانی که شرکت‌های هوش مصنوعی مانند آنتروپیک از حذف نرده‌های محافظ ایمنی که مانع از ادغام مدل‌هایشان (مانند کلود) در پهپادهای تهاجمی کاملاً خودمختار یا ابزارهای نظارتی می‌شد، امتناع کردند، هگست آن‌ها را به عنوان «خطر زنجیره تامین» معرفی کرد و در لیست سیاه قرار داد. کاخ سفید محدودیت‌های اخلاقی غیرنظامی را نقطه‌ضعفی می‌داند که امنیت ملی را مختل می‌کند.
در نهایت، دور زدن دستورکارهای نظارتی داخلی: با تصویرسازی از هوش مصنوعی در وهله نخست به عنوان سرمایه‌ای برای بقای ملی و تسلیحاتی‌سازی، دولت مرکز ثقل را از سازمان‌های فدرال مدنی (مانند کمیسیون تجارت فدرال یا وزارت دادگستری) دور کرده و آن را در اختیار نهادهای نظامی و اطلاعاتی مانند «دفتر پشتیبانی فناوری» (TSO) که به تازگی تاسیس شده است، قرار می‌دهد. این امر به پنتاگون اجازه می‌دهد تا استفاده نامحدود و بدون مانعی از معماری‌های محاسباتی داشته باشد.
چرا سال ۲۰۲۶ از ۱۹۴۶ عقب می‌ماند؟
در پیامدهای پس از بمباران هیروشیما و ناکازاکی، رهبری غیرنظامی در نبرد بر سر کنترل اتم پیروز شد. «قانون انرژی اتمی ۱۹۴۶» (قانون مک‌ماهون)، کمیسیون انرژی اتمی ایالات متحده (AEC) را تحت اقتدار شدید نهادهای مدنی تاسیس کرد و ضربه سنگینی به برنامه‌های اولیه پنتاگون وارد آورد.
برای این پیروزی غیرنظامی سه دلیل وجود داشت. اوپنهایمر و «فدراسیون دانشمندان اتمی» که تازه تاسیس شده بود، وارد یک کارزار هماهنگ و هوشمندانه در روابط عمومی و لابی‌گری در کنگره شدند و انرژی اتمی را به عنوان نقطه عطفی برای بشریت، و نه صرفاً یک دارایی نظامی، معرفی کردند. دوم، آن‌ها از حمایت و تردیدهای کنگره نسبت به انحصار نظامی برخوردار شدند. در نهایت، حتی هری اس. ترومن، رئیس‌جمهور وقت نیز از کنترل غیرنظامی حمایت کرد.
متاسفانه، بعید به نظر می‌رسد که مقررات هوش مصنوعی از بادهای موافق مشابهی بهره‌مند شود. امروزه، دانشمندان پیشگام در عرصه هوش مصنوعی در بخش شرکتی فعالیت می‌کنند، نه در عرصه عمومی. دوم اینکه، دهه‌ها جنگ بی‌پایان، ساختار کاپیتول هیل (کنگره) را به دلیل افزایش سهم نمایندگانی با پیشینه‌های نظامی، اطلاعاتی و امنیتی، به طرز چشمگیری متحول کرده است. بیشتر این نمایندگان برای پیروزی و حفظ کرسی‌های خود، به کمک‌های مالیِ مجتمع‌های نظامی-صنعتی و صنایع وابسته متکی هستند.
آنچه شرایط را چالش‌برانگیزتر می‌کند این است که دولت ترامپ، که کورکورانه درگیر خیالات رنگ‌باختهِ برتری و جهانِ تک‌قطبی ایالات متحده در دنیاییِ رو به سوی چندقطبی شدن است، ایده کنترل غیرنظامی را رد می‌کند.
و به این ترتیب، صحنه برای وقوع خطرات فاجعه‌بار – تحت لوای امنیت ملی – مهیا می‌شود.
درباره نویسنده: دکتر دن استاین‌باک، بنیان‌گذار موسسه دیفرِنس گروپ (Difference Group) است و سابقه فعالیت در موسسه هند، چین و آمریکا (ایالات متحده)، موسسه مطالعات بین‌المللی شانگهای (چین) و مرکز اتحادیه اروپا (سنگاپور) را در کارنامه خود دارد. برای مطالعه بیشتر می‌توانید به وب‌سایت https://www.differencegroup.net مراجعه کنید. او همچنین نویسنده آثار متعددی در زمینه نوآوری‌های فناوری جهانی و بخش فناوری اطلاعات و ارتباطات (ICT) است.
توضیح: یادداشت اصلی در تاریخ ۳۰ اکتبر ۲۰۲۶ در نشریه China-US Focus منتشر شده است.