هوش مصنوعی و جنگ آمریکا علیه ایران – نوشتهی ویجی پراشاد
ترجمه مجله جنوب جهانی
مدرسهی ایرانیِ میناب، فراتر از یک حمله، یک ابتکار یا یک جنگِ ساده، هشداری است برای آیندهای که در آن قدرتِ تکنولوژیک از مسئولیتِ عمومی پیشی میگیرد.
در شهرِ میناب، در جنوبِ ایران، جایی که گرما از زمین بهموجِ ارتعاش برمیخیزد و واقعیتِ امپریالیسم در هر بندر و تأسیساتِ نظامی پابرجاست، در ۲۸ فوریه، موشکی به مدرسهای اصابت کرد.
این حمله، مرگِ ۱۵۶ تن را در پی داشت که ۱۲۰ تن از آنان دانشآموز بودند و دولتِ ایران، بیدرنگ، آن را «جنایتی آشکار» خواند. سازمان ملل متحد نیز این حمله را «نقضی جدیِ حقوقِ بشردوستانه» تلقی کرد.
نامِ کودکانِ کشتهشده، در محافلِ قدرتِ جهانی، با همان شدّتی که نامِ ژنرالها، سامانههایِ تسلیحاتی و بسترهایِ فناورانه نقل میشود، دستبهدست نشد.
ایرانیانِ درگذشته، برای کسانی که بر سرِ آیندهی هوش مصنوعی بحث میکنند —که بنابر اطلاعاتِ موجود، آمریکا در این حمله از آن استفاده کرده— تا حدِ زیادی ناشناخته باقی ماندهاند.
کشتارِ این کودکان، یکی از مسائلِ محوریِ زمانهی ما را آشکار ساخته است: هنگامی که ماشینی در زنجیرهی خشونت مداخله میکند، چه کسی مسئولیت را بر عهده میگیرد؟
نقشِ هوش مصنوعی هنوز روشن نیست. بهگفتهی رسانهها، سامانهی هوشمندِ «ماوِن» ارتشِ آمریکا، که ابزارهایِ هوش مصنوعیِ مدلِ «کلود» از شرکتِ «آنتروپیک» را در خود جای داده، در عملیاتِ نظامی علیه ایران مشارکت داشته است.
پژوهشگران همچنان در حالِ بررسیاند که آیا سامانههایِ مبتنی بر هوش مصنوعی، بهگونهای در فرایندِ انتخابِ هدف مؤثر بودهاند یا نه. شواهدِ موجود هنوز ناقص است.
آنچه شگفتآور است، نهتنها کنارهنگیریِ پیشگامانِ صنعتِ هوش مصنوعی از چرخدندههایِ جنگی نیست، بلکه درگیریِ تمامعیارِ آنان است. داریو آمودی، مدیرعاملِ آنتروپیک، وقتی دربارهی این حمله پرسیده شد، گفت که از چگونگیِ استفادهی «کلود» در آن حمله آگاهیِ دقیقی ندارد و آن را «بهراستی اشتباهی هولناک» خواند.
با اینحال، آمودی تأکید کرد که حمله به مدرسه «موردی منفرد بود که حتی از مرزهایِ ما فراتر نمیرود.» در واقع، این یک جنگجویِ انسانی بود که تصمیمِ نهاییِ حمله به مدرسه را گرفت.
پاسخِ آمودی شایستهی توجهی ویژه است.
دهههاست که معمارانِ قدرتِ تکنولوژیک، زبانی را پروردهاند که مسئولیت را چنان گسترده توزیع میکند که در نهایت، آن را حلّ میکند.
مهندس، ابزار را میسازد؛ پیمانکارِ فرعی، سامانه را یکپارچه میکند؛ تحلیلگرِ نظامی، نتایج را بررسی میکند؛ افسر، حمله را مجاز میدارد؛ و سیاستمدار، جنگ را تأیید میکند.
نتیجه، زنجیرهایست که همگان در آن سهیماند و هیچکس پاسخگو نیست. زبانِ «مداخلهی انسانی» بخشی از همین سنت است.
بیگمان، انسانها تصمیماتِ نهایی را میگیرند. انسانها در جنگهایِ استعماریِ غرب که آسیا و آفریقا را ویران کرد نیز تصمیماتِ نهایی را گرفتند. انسانها بودند که وقتی آمریکا روستاهایی در ویتنام را بمباران میکرد، تصمیماتِ نهایی را گرفتند.
تصمیماتِ نهایی در جریانِ تهاجمِ غیرقانونیِ آمریکا به عراق نیز توسطِ انسانها گرفته شد. حضورِ اثری انسانی در پایانِ یک فرایند، دربارهی ساختارِ قدرتی که آن نتیجه را تولید کرده، اطلاعاتِ اندکی به ما میدهد.
پرسشِ مهمتر این است: هوش مصنوعی در تعیینِ دامنهی تصمیماتِ در دسترسِ انسانها چه نقشی ایفا میکند؟
سامانههایِ نظامیِ مدرن، ماشینحسابِ سادهای نیستند. اطلاعات را سامان میدهند، احتمالات را اولویتبندی میکنند، الگوها را شناسایی میکنند، توصیههایی تولید و توجه را هدایت میکنند. بر آنچه فرماندهان میبینند و نمیبینند، تأثیر میگذارند.
حتی هنگامی که انسانی، قدرتِ رسمی را در اختیار دارد، ممکن است معماریِ ادراک، از پیش، توسطِ ماشینها ساخته شده باشد. از این رو، بحث نمیتواند با عبارتِ «یک انسان تصمیمِ نهایی را گرفته» پایان یابد.
جنایتِ میناب در زمانی رخ میدهد که شرکتهایِ فناورانه، بیش از پیش، خود را بهعنوانِ نگهبانانِ مرزهایِ اخلاقی معرفی میکنند. آنتروپیک، بهویژه، چهرهای از احتیاط پرورده است (چنان که «قانونِ اساسیِ کلود» نشان میدهد).
به موضوعاتی چون ایمنی، انسجام و حدود پرداخته و خود را از مواضعِ رادیکالتر در زمینهی کاربستِ فناوری دور داشته است. با اینحال، در نهایت، هر نهادی را نه اصولش، که موقعیتهایی که در آن اصول به محکِ آزمایش گذاشته میشوند، تعریف میکنند. مرگِ کودکان در مدرسه، یکی از آن آزمونهاست.
اگر شرکتی نتواند تعیین کند که فناوریاش چگونه در عملیاتی نظامی بهکار رفته، پس نظارت چه معنایی دارد؟ اگر مدیران، از کاربستِ آن بیخبر باشند، ارزیابیِ ادعاهایِ مربوط به اقداماتِ ایمنی دشوار میشود.
اگر سامانهای در عملیاتِ نظامیِ سهیم باشد که پیامدهایِ آن، تلفاتِ غیرنظامیِ فراوانی را در بر دارد، آیا مسئولیت میتواند تنها بر عهدهی کنشگرِ نهاییِ انسانی باشد؟ این پرسشها، ویژهی آنتروپیک نیست. تمامِ ائتلافِ نوظهورِ سیلیکونولی و دستگاهِ امنیتِ ملیِ آمریکا را دربرمیگیرد.
در طولِ تاریخ، دورههایِ دگرگونیِ تکنولوژیک، ائتلافهایی تازه میانِ سرمایه و قدرتِ نظامی پدید آوردهاند. راهآهن، تلگراف، هوانوردی، فیزیکِ هستهای و شبکههایِ دیجیتال، این مسیر را پیمودهاند.
هوش مصنوعی نیز همان مسیر را دنبال میکند. طرفدارانش، دقّت، کارایی و خطاهایِ کمتر را نوید میدهند. با اینحال، هر نسلی وعدههایی مشابه شنیده است.
قرنِ بیستم، سرشار از ادعاهایی بود که فناوریهایِ نوین، جنگ را پاکتر، عقلانیتر و انسانیتر خواهند کرد. با اینحال، دادههایِ تاریخی، پشتوانهی اندکی برای این خوشبینی فراهم میکنند. فناوری، غالباً، مقیاس و سرعتِ خشونت را افزایش میدهد، حتی هنگامی که وعدهی مهارِ آن را میدهد.
کودکانِ میناب با هوش مصنوعی، چون بحثی فلسفی، مواجه نشدند. آن را بهمثابۀ مؤلفهای از سامانهای نظامی کشف کردند که پیامدهایِ آن، بهسانِ نیرویی انفجاری، آشکار شد.
اینکه «کلود» نقشیِ چشمگیر، ناچیز یا صفر در فرایندِ انتخابِ هدف داشته، همچنان نیازمندِ تعیین است. پژوهشگران باید حقایق را روشن کنند، روزنامهنگاران باید به طرحِ پرسشهایِ ناخوشایند ادامه دهند و شهروندان باید شفافیت را طلب کنند.
اما پیش از آنکه همهی جزئیات معلوم شود، این رویداد، نکتهای مهم دربارهی بسترِ کنونیِ سیاسیِ ما آشکار میسازد. پرسشِ دیگر این نیست که آیا هوش مصنوعی در جنگ ادغام خواهد شد. این ادغام، از هماکنون در جریان است.
پرسش این است که آیا جوامع اجازه خواهند داد تصمیماتِ مرگوزندگی، بهشکلِ فزایندهای، مشروط به سامانههایی شود که حتی آفرینندگانِ آنان، در نظارت، توضیح یا کنترلِ آنان دچار دشواریاند؟
مدرسهی میناب، نه فقط دربارهی یک حمله، یک ابتکارِ تجاری یا یک جنگ، بلکه دربارهی آیندهای هشدار میدهد که در آن قدرتِ تکنولوژیک از مسئولیتِ عمومی پیشی میگیرد.
در این آینده، فاصلهی میانِ مهندس و میدانِ نبرد، بهلطفِ هوش مصنوعی و پهپادها، پیوسته کاهش مییابد، در حالی که یافتنِ مسئولانِ واقعی در میانِ انسانهایی که ماشینها را بهجایِ خود به کشتار میفرستند، دشوارتر میشود.