چرا کابینه ترامپ به استقبال خطرات وجودی هوش مصنوعی رفت؟
دن استاینبوک
ترجمه مجله جنوب جهانی
در یک نگاه: دولت ترامپ در حالی توافقی داوطلبانه برای ایمنی هوش مصنوعی با غول‌های فناوری امضا کرده که این توافق فاقد سازوکار مؤثر اجرایی است؛ در نتیجه، به‌جای ایجاد چارچوبی بین‌المللی برای مهار خطرات هوش مصنوعی، می‌تواند به ادامه رقابت برای توسعه هرچه سریع‌تر و قدرتمندتر این فناوری کمک کند. از نگاه نویسنده، پیوندزدن برتری هوش مصنوعی آمریکا با امنیت ملی و رقابت با چین، مقررات‌زدایی انتخابی را با سیاست صنعتی تهاجمی درهم آمیخته و امکان همکاری چندجانبه جهانی را تضعیف می‌کند؛ در حالی که زنجیره تأمین، سرمایه، زیرساخت، دانش و نیروی انسانی هوش مصنوعی ماهیتی جهانی دارند و هیچ کشوری به‌تنهایی قادر به کنترل کل این اکوسیستم نیست.
در ۲۹ سپتامبر ۲۰۲۶، دونالد ترامپ، رئیس‌جمهور آمریکا، مدیران ارشد چند شرکت از قدرتمندترین شرکت‌های فناوری جهان را در کاخ سفید گرد هم آورد و از یک توافق داوطلبانه درباره ایمنی هوش مصنوعی با عنوان «توافق کاخ سفید درباره ابرهوش» رونمایی کرد.
تنها نکته واقعاً جدید در این توافق، تغییر نام هوش مصنوعی به «ابرهوش» از سوی ترامپ است. رئیس‌جمهور کنونی آمریکا گویی تصور می‌کند اگر برای یک موجود ناشناخته نامی تعیین شود، می‌توان آن را تحت کنترل درآورد.
با وجود عنوان پرطمطراق فرعی آن، یعنی «تعهد مشترک درباره مسئولیت‌های پیشگامان»، این سند احتمالاً در آینده به بی‌مسئولیتی بیشتر در حوزه هوش مصنوعی منجر خواهد شد.
از نظر رسمی، شرکت‌های مشار‌کننده متعهد شده‌اند کنترل‌های داخلی قدرتمندی ایجاد کنند، نظارت داخلی اختصاصی داشته باشند، حسابرسی مستقل خارجی انجام دهند و نظارت هیئت‌مدیره را برقرار کنند. آنها همچنین بر توجه به خطرات امنیت سایبری و زیستی و همکاری منظم برای تدوین استانداردهای ایمنی متناسب با تحولات فناوری تأکید کرده‌اند.
در ظاهر، همه‌چیز بسیار خوب به نظر می‌رسد؛ اما این تعهدات به دلیل فقدان یک سازوکار مؤثر برای اجرای آنها، معنای چندانی ندارند. بدتر از آن، این توافق می‌تواند نظارت بین‌المللی بر هوش مصنوعی را دشوارتر کند.
ترامپ این توافق را «از نظر اخلاقی الزام‌آور» خوانده و گفته است که شاهد «خودنظارتی فوق‌العاده‌ای» خواهد بود. این سخن شاید اطمینان‌بخش به نظر برسد؛ تا زمانی که پرسش بدیهی مطرح شود: این غول‌های هوش مصنوعی چگونه قرار است بر خودشان نظارت کنند و چه کسی قرار است بر آنها نظارت داشته باشد؟
مغالطه خودتنظیمی
زمان‌بندی این توافق نیز قابل توجه است. تنها چند روز پیش از نشست کاخ سفید، گزارش‌هایی منتشر شد مبنی بر اینکه شرکت‌های OpenAI و Anthropic در حال بررسی ده‌ها هزار موردی هستند که در آنها مدل‌های پیشرفته از سدهای حفاظتی عبور کرده، از محیط‌های کنترل‌شده خارج شده، وب‌سایت‌ها را در اختیار گرفته، تابلوهای پیام ایجاد کرده، کوشیده‌اند از نظارت فرار کنند یا به شیوه‌هایی رفتار کرده‌اند که ارزیابان آنها را خارج از چارچوب قابل قبول می‌دانستند.
OpenAI اعلام کرد که مدل‌هایش در جریان یک آزمایش امنیت سایبری از یک آسیب‌پذیری ناشناخته قبلی بهره‌برداری کرده و به زیرساخت عملیاتی Hugging Face دست یافته‌اند. Anthropic نیز به‌طور جداگانه از سه مورد خبر داد که در آنها مدل‌های Claude از محیط‌های آزمایشی به اینترنت دسترسی پیدا کرده و به سامانه‌های واقعی سازمان‌ها، بدون مجوز، دسترسی یافته‌اند.
این موارد ــ دست‌کم در حال حاضر ــ شواهدی نیستند که نشان دهند هوش مصنوعی در آستانه خودمختارشدن و نابودی تمدن قرار دارد. اما نشان می‌دهند توانایی صنعت برای پیش‌بینی و مهار عوامل هوش مصنوعی هرچه قدرتمندتر، همچنان با کاستی‌های جدی روبه‌روست.
مشکل خودتنظیمی داوطلبانه این نیست که شرکت‌ها الزاماً فاقد نیت‌های خوب هستند. مشکل آن است که همین شرکت‌ها هم‌زمان انگیزه‌های مالی عظیمی برای افزایش توانایی سامانه‌های خود، استقرار سریع‌تر آنها و تصاحب سهم بیشتری از بازار دارند.
بنابراین پرسش اصلی، بیش از آنکه فنی باشد، نهادی است: آیا می‌توان از شرکت‌ها انتظار داشت خطراتی را مهار کنند که کنترل آنها ممکن است همان رقابتی را کند کند که سودآوری و اهمیت راهبردی این شرکت‌ها به آن وابسته است؟
سابقه گذشته نیز گویای واقعیت است. در نهایت، این خط اقتصادی و سودآوری است که اولویت‌های شرکت‌ها را تعیین می‌کند؛ و پس از بیانیه کاخ سفید، این مسئله بیش از گذشته اهمیت خواهد داشت.
بهانه «اخلاقی» برای سلطه جهانی فناوری
ترتیبات کاخ سفید با راهبرد گسترده‌تر دولت ترامپ در حوزه هوش مصنوعی نیز همخوانی دارد. برنامه اقدام هوش مصنوعی ۲۰۲۵ ترامپ صراحتاً هوش مصنوعی را به‌عنوان عرصه‌ای برای رقابت بر سر سلطه جهانی تعریف کرده است: کشوری که بزرگ‌ترین اکوسیستم هوش مصنوعی را در اختیار داشته باشد، استانداردهای جهانی را شکل خواهد داد و از مزایای اقتصادی و امنیتی آن بهره خواهد برد. سه محور اصلی این برنامه عبارت‌اند از تسریع نوآوری، توسعه زیرساخت‌ها و رهبری دیپلماسی و امنیت بین‌المللی.
در این رقابت برای برتری، مقررات به‌عنوان مانع دیده می‌شود. از این رو، تعهدات داوطلبانه به مصالحه‌ای سیاسی و جذاب تبدیل می‌شوند: ایجاد ظاهری از وجود حفاظ‌های ایمنی، بدون تحمل هزینه‌های اقتصادی و سیاسی محدودیت‌های الزام‌آور.
البته استانداردهای داوطلبانه می‌توانند سریع‌تر از قانون‌گذاری حرکت کنند، امکان آزمایش و تجربه را افزایش دهند و پیش از آنکه دولت‌ها به فناوری برسند، به شکل‌گیری هنجارهای جدید کمک کنند. اما کارآمدی آنها به شفافیت، استقلال و وجود پیامدهای واقعی وابسته است.
اگر یک حسابرس وجود قابلیتی خطرناک را شناسایی کند، چه کسی می‌تواند شرکت را ملزم کند که از استقرار آن فناوری خودداری کند؟ اگر شرکت نپذیرد چه اتفاقی می‌افتد؟ چه کسی به شواهد و داده‌های اصلی دسترسی خواهد داشت؟ چه کسی تعیین می‌کند که یک خطر «قابل قبول» است؟ و زمانی که رقابت تجاری، خویشتنداری را پرهزینه کند، چه خواهد شد؟
یک تعهد «اخلاقی» با یک تعهد حقوقی یکسان نیست. تعهد اخلاقی به‌خودی‌خود سازوکار اجرایی ندارد. در بهترین حالت، الهام‌بخش است؛ و در بدترین حالت، می‌تواند بهانه‌ای اخلاقی برای حرص و طمع شرکتی باشد.
این تمایز زمانی اهمیت بیشتری پیدا می‌کند که خود فناوری با سرعتی بسیار بیشتر از نهادهای متعارف نظارتی در حال تحول باشد.
پیوند لسه‌فر با «اول آمریکا»
رویکرد ترامپ گاهی صرفاً به‌عنوان لسه‌فر یا اقتصاد آزاد از مداخله دولت توصیف می‌شود. این توصیف فقط تا حدی درست است. بهتر است این رویکرد را مقررات‌زدایی گزینشی همراه با سیاست صنعتی تهاجمی در سطح ملی بدانیم.
دولت ترامپ در برابر هوش مصنوعی کنار نایستاده است؛ برعکس، فعالانه از ساخت مراکز داده، تأمین انرژی، زیرساخت‌های هوش مصنوعی، صادرات فناوری آمریکایی و حفظ رهبری فناورانه آمریکا حمایت می‌کند.
اسناد رسمی دولت نیز هدف را به‌صراحت حفظ برتری آمریکا در هوش مصنوعی اعلام کرده‌اند. این برتری نیز با حفظ برتری نظامی آمریکا پیوند خورده است.
در نتیجه، وظیفه دولت دیگر صرفاً تأمین خیر عمومی نیست؛ بلکه برداشتن موانع از سر راه گسترش خصوصی هوش مصنوعی و استفاده از قدرت ملی برای تقویت اکوسیستم هوش مصنوعی آمریکا است. این همان رویکرد «اول آمریکا» است.
این رویکرد همچنین تنشی ذاتی ایجاد می‌کند. اگر برتری فناورانه آمریکا به‌عنوان یک ضرورت امنیت ملی تلقی شود، آنگاه کندکردن توسعه هوش مصنوعی آمریکا می‌تواند اقدامی خطرناک از نظر راهبردی معرفی شود؛ زیرا رقبایی ــ پیش از همه چین ــ ممکن است جلو بیفتند.
ترامپ صراحتاً بر ضرورت حفظ برتری آمریکا نسبت به چین تأکید کرده و در مخالفت با درخواست‌ها برای کندکردن روند توسعه هوش مصنوعی، به همین مسئله استناد کرده است. هر مخالفتی «ضدآمریکایی» تلقی می‌شود و هرگونه همراهی، نشانه میهن‌پرستی دانسته می‌شود. با همین منطق، دیدگاه دولت ترامپ درباره تغییرات اقلیمی ــ «یک فریب است!» ــ نیز به شکلی افراطی با میهن‌پرستی گره می‌خورد.
هیچ کشوری نمی‌تواند اکوسیستم فناوری هوش مصنوعی را «کنترل» کند
دولت ترامپ در ساده‌انگاری فناورانه خود، ظاهراً بر این فرض استوار است که یک کشور می‌تواند بر هوش مصنوعی سلطه پیدا کند. این تصور که یک کشور در نهایت بتواند کل اکوسیستم هوش مصنوعی را «کنترل» کند، یک مغالطه است. در بهترین حالت، هدف واقع‌بینانه‌تر می‌تواند اعمال نفوذ بر گره‌های حیاتی این اکوسیستم باشد.
هوش مصنوعی با یک سامانه تسلیحاتی سنتی تفاوت دارد. این فناوری به زنجیره‌های تأمین نیمه‌رسانا که در سراسر جهان توزیع شده‌اند، زیرساخت‌های ابری، جوامع پژوهشی، نرم‌افزارهای متن‌باز، داده، سرمایه، مهندسان و کاربران وابسته است. هیچ دولتی مالک یا کنترل‌کننده کل این اکوسیستم نیست.
آمریکا می‌تواند بر برخی لایه‌های مهم آن سلطه داشته باشد. چین می‌تواند بر لایه‌های دیگری مسلط شود و اروپا بر بخش‌های دیگری. تایوان همچنان در تولید پیشرفته نیمه‌رساناها نقشی حیاتی دارد. کشورهای خلیج فارس به تأمین‌کنندگان مهم زیرساخت و سرمایه تبدیل می‌شوند. هند و دیگر اقتصادهای نوظهور نیز نیروی انسانی متخصص و بازارهای مصرف را فراهم می‌کنند و این فهرست همچنان ادامه دارد.
همکاری جهانی برای همه کشورها فضا ایجاد می‌کند. اما مغالطه‌های مبتنی بر سلطه، بر سرکوب و حذف دیگر کشورها استوارند.
امروز، دولت ترامپ به نام «آزادی و دموکراسی» زمینه را برای خطرات وجودی ناشی از هوش مصنوعی فراهم کرده است.
دن استاینبوک
دکتر دن استاینبوک، متخصص جهان چندقطبی، بنیان‌گذار Difference Group است و در مؤسسه هند، چین و آمریکا در ایالات متحده، مؤسسه مطالعات بین‌المللی شانگهای در چین و مرکز اتحادیه اروپا در سنگاپور فعالیت داشته است. او همچنین نویسنده آثار متعددی درباره نوآوری‌های فناوری جهانی و بخش فناوری اطلاعات و ارتباطات است.