هانور اینستیتوت؛ اتاق فکری ساختگی که برای نفوذ در پاسخ‌های هوش مصنوعی طراحی شده است
فلسطین کرونیکل
ترجمه مجله جنوب جهانی
گزارش‌ها حاکی از آن است که یک عملیات با پشتیبانی اسرائیل، اقدام به ایجاد یک اتاق فکر جعلی آمریکایی کرده است که با انتشار گزارش‌هایی به ظاهر بی‌طرفانه، در پی تأثیرگذاری بر پاسخ‌های سامانه‌های هوش مصنوعی در خصوص فلسطین است.
نکات کلیدی:
· هانور اینستیتوت خود را به عنوان یک اتاق فکر سیاست‌گذاری عمومی آمریکایی معرفی می‌کند، اما در توضیحات خود افشا کرده که به سفارش یک نهاد دولتی اسرائیل ایجاد شده است. · پیمانکار این پروژه، شرکت پیرو، مبلغ ۹۰۰,۰۰۰ دلار بابت این کار دریافت کرده و به صراحت تکنیک‌های خود را برای تولید محتوای بهینه‌شده برای سامانه‌های هوش مصنوعی به بازار عرضه می‌کند. · از تاریخ ۶ اوت، بیش از ۱۰۰ گزارش درباره اسرائیل و فلسطین منتشر شده است که با استفاده از ارجاعات، آمار و زبانی به ظاهر بی‌طرفانه، به گونه‌ای طراحی شده‌اند که به گفته کارشناسان، برای جلب نظر ربات‌های گفت‌وگوگرای هوش مصنوعی جذابیت دارند.
اتاق فکری که آنچه می‌نماید نیست
وب‌سایتی که خود را یک مؤسسه سیاست‌گذاری عمومی آمریکایی معرفی می‌کند، در کمتر از دو هفته بیش از ۱۰۰ گزارش درباره اسرائیل و فلسطین منتشر کرده است. این پروژه که ظاهراً با بودجه دولتی اسرائیل تغذیه می‌شود، در نظر دارد تا بر اطلاعاتی تأثیر بگذارد که سامانه‌های هوش مصنوعی جذب و پردازش می‌کنند.
مؤسسه هانور برای سیاست‌گذاری عمومی از لحاظ ظاهری شبیه به اتاق‌های فکر متعارف آمریکایی است و گزارش‌های پژوهشی‌نمایی با عناوینی چون «آیا آیپک از پول‌های پنهان در انتخابات استفاده می‌کند؟»، «آیا اسرائیل در غزه به طور عمدی سیاست گرسنگی‌دهی را دنبال می‌کند؟» و «دلیل اصلی آوارگی فلسطینی‌ها در سال ۱۹۴۸ چه بود؟» منتشر می‌کند.
با این حال، بر اساس تحقیقات منتشرشده در رسپانسیبل استیت‌کرافت، هانور اینستیتوت یک اتاق فکر مستقل نیست. توضیحی در پایین وب‌سایت آن حکایت از آن دارد که این مؤسسه از سوی آژانس تبلیغاتی دولت اسرائیل و توسط شرکت پیرو، که یکی از بنیان‌گذاران آن تهیه‌کننده فیلم، دانیل روزنبرگ، است، ایجاد شده است. بر اساس این گزارش، پیرو تاکنون ۹۰۰,۰۰۰ دلار از دولت اسرائیل بابت این کار دریافت کرده است. همچنین کار این شرکت از طریق کنگلومرای روابط‌عمومی فرانسوی، هاواس مدیا، به صورت پیمان‌فرعی واگذار شده است.
هیچ‌یک از گزارش‌های هانور اینستیتوت نام نویسنده مشخصی را یدک نمی‌کشد. در وب‌سایت این مؤسسه آمده است که این سازمان «ورودی‌هایی را که یهودستیزی در ایالات متحده را دامن می‌زنند، مطالعه کرده و آنچه را شواهد نشان می‌دهند، منتشر می‌کند.» با این حال، از زمان آغاز انتشار در ۶ اوت، این مؤسسه بیش از ۱۰۰ گزارش تولید کرده که همگی بر محور اسرائیل و فلسطین متمرکز بوده‌اند.
محتوایی که برای هوش مصنوعی «مهندسی» شده است
بر اساس این گزارش، ساختار گزارش‌ها به گونه‌ای است که به ویژه با نحوه گردآوری و ارزیابی اطلاعات توسط مدل‌های زبانی بزرگ سازگاری دارد. مقالات دارای فهرست مطالب، پانویس‌ها، آمار و ارجاعات گسترده هستند و در عین حال از زبان و ارائه‌های بصری تحقیقات رایج در حوزه سیاست‌گذاری بهره می‌برند. بسیاری از آنها با سؤالات مستقیمی آغاز می‌شوند که کاربران ممکن است از یک ربات گفت‌وگوگرای هوش مصنوعی بپرسند؛ از جمله «وضعیت فعلی در نوار غزه چگونه است؟» و «کدام سازمان‌های بشردوستانه جنایات جنگی اسرائیل را مستند کرده‌اند؟»
آلیس لی، تحلیلگر شرکت نظارت بر اطلاعات نادرست، نیوزگارد، در گفت‌وگو با رسپانسیبل استیت‌کرافت اظهار داشت که این وب‌سایت‌ها به نظر می‌رسند برای دستیابی به آمریکایی‌هایی طراحی شده‌اند که از طریق موتورهای جستجوی معمولی یا سامانه‌های هوش مصنوعی به دنبال اطلاعات درباره جنگ هستند. لی گفت: «مدل‌های زبانی بزرگ به آمار و داده‌های عینی و همچنین ارجاعات و منابع معتبر تمایل دارند که همه اینها در این مقالات وجود دارد. این یک تقلید کامل از یک اتاق فکر معتبر آمریکایی است، درست از نام عمومی گرفته تا چیدمان سایت و طرح رنگی قرمز-سفید-آبی.»
شرکت پیرو خود خدماتی را با عنوان «بهینه‌سازی داستان برای هوش مصنوعی» به بازار عرضه می‌کند. در وب‌سایت این شرکت آمده است که می‌تواند «محتوایی را تولید کند که برای نحوه ارزیابی اعتبار توسط مدل‌های زبانی بزرگ مهندسی شده است.» روزنبرگ همچنین به طور عمومی توانایی پیرو در تأثیرگذاری بر اطلاعات تولیدشده توسط ربات‌ها را تبلیغ کرده است. او ماه گذشته در لینکدین نوشت: «وقتی کسی از چت‌جی‌پی‌تی، جمینی یا پرپلکسیتی در مورد حوزه‌تان سؤال می‌کند، پاسخ در یک پاراگراف قانع‌کننده بازمی‌گردد. اکثر برندها هیچ ایده‌ای ندارند که آن پاراگراف چگونه ساخته می‌شود. به همین دلیل ما ماه‌ها را صرف مهندسی معکوس آن کردیم.» او در ادامه پرسید: «در پیرو، ما از قبل می‌دانستیم که چگونه داستان‌هایی بسازیم که مردم را تحت تأثیر قرار دهد. سؤال این بود: چگونه مطمئن شویم که هوش مصنوعی می‌داند چگونه آنها را روایت کند؟»
این تکنیک گاهی اوقات به عنوان تأثیرگذاری یا «مسموم‌سازی» محیط اطلاعاتی توصیف می‌شود که مدل‌های زبانی بزرگ از آن اطلاعات را بازیابی یا یاد می‌گیرند.
غزه، گرسنگی و عملکرد نظامی اسرائیل
موضوعاتی که هانور اینستیتوت به آنها پرداخته، به دقت برخی از جنجالی‌ترین پرسش‌های سیاسی پیرامون جنگ اسرائیل در غزه و رفتار این کشور با فلسطینی‌ها را دنبال می‌کند. یک مقاله به بررسی این ادعا می‌پردازد که ارتش اسرائیل «اخلاقی‌ترین ارتش جهان» است. مقاله دیگری ارزیابی یونیسف را که ۹۰ درصد از آب و زیرساخت‌های نهادی غزه آسیب دیده یا نابود شده است، به چالش می‌کشد. گزارش جداگانه‌ای نیز ادعاهای مربوط به گرسنگی‌دهی عمدی فلسطینی‌ها در غزه توسط اسرائیل را بررسی می‌کند.
این مؤسسه مدعی است که تحقیقات مورد استناد آن «همتا-داوری شده و دانشگاهی» هستند، هرچند رسپانسیبل استیت‌کرافت دریافت که گزارش‌های آن نیز اغلب به منابع دولتی اسرائیل، از جمله ارتش و وزارت امور خارجه این کشور، متکی هستند. برخی از گزارش‌ها در نهایت مناقشات پیرامون اسرائیل و فلسطین را به یهودستیزی در ایالات متحده پیوند می‌دهند و اغلب بر مطالعات و مجموعه‌داده‌های تکراری تکیه دارند. در یک مطالعه به ظاهر اصلی، هانور اینستیتوت ۳۶ ویدئوی پربازدید آنلاین را که به بررسی اسرائیل و غزه می‌پرداختند، مورد واکاوی قرار داد و ادعا کرد که ۱۹ مورد از آنها حاوی اظهارات بحث‌برانگیزی هستند که بیشتر آنها از روایت فلسطینی حمایت می‌کنند.
هر چند همه گزارش‌های هانور از موضع دولت اسرائیل حمایت نمی‌کنند. به عنوان مثال، در یکی از انتشارات، ادعاهایی مبنی بر اینکه تأمین مالی خارجی از دانشگاه‌های آمریکا باعث بروز حوادث یهودستیزی می‌شود، «ضعیف و مملو از استثنا» توصیف شده است، علیرغم آنکه بنیامین نتانیاهو، نخست‌وزیر اسرائیل، به طور عمومی استدلال مشابهی را مطرح کرده است. با این حال، ساختار کلی این پروژه به نظر می‌رسد برای پر کردن محیط اطلاعاتی آنلاین با مطالبی آراسته و دارای منابع گسترده طراحی شده است که به سؤالاتی می‌پردازند که کاربران ممکن است بعداً از سامانه‌های هوش مصنوعی بپرسند.
تشخیص هوش مصنوعی، سؤالات بیشتری را مطرح می‌کند
رسپانسیبل استیت‌کرافت همچنین نمونه‌ای از خروجی‌های هانور اینستیتوت را با استفاده از جی‌پی‌تی‌زیرو، نرم‌افزاری که برای شناسایی متون تولیدشده توسط هوش مصنوعی طراحی شده است، مورد آزمایش قرار داد. از میان ۱۲ مقاله به‌طور تصادفی انتخاب‌شده که توسط رسپانسیبل استیت‌کرافت تحلیل شد، ۱۱ مقاله با «اطمینان بالا» به عنوان متون نوشته‌شده توسط هوش مصنوعی طبقه‌بندی شدند. مقاله باقی‌مانده نیز با «اطمینان متوسط» به عنوان نوشته‌شده توسط هوش مصنوعی ارزیابی شد. اگرچه چنین ابزارهای تشخیصی نمی‌توانند به طور قطعی ثابت کنند که یک متن خاص توسط هوش مصنوعی تولید شده است، اما نتایج به دست‌آمده، ابعاد تازه‌ای به پروژه‌ای می‌افزاید که پیمانکار آن آشکارا توانایی خود را در بهینه‌سازی محتوا برای مدل‌های زبانی بزرگ تبلیغ می‌کند.
در ثبت‌نام شرکت پیرو بر اساس قانون ثبت عوامل خارجی در وزارت دادگستری ایالات متحده، به صراحت ذکر نشده است که کار این شرکت برای دولت اسرائیل با هدف تأثیرگذاری بر هوش مصنوعی انجام می‌شود. روزنبرگ پیشتر به پلیتیکو گفته بود که هدف کار این شرکت «قرار دادن حقایق مستند و معتبر در دسترس عموم و مقابله با اطلاعات نادرست درباره اسرائیل با اطلاعات قابل‌راستی‌آزمایی» است. با این حال، تبلیغات بعدی او در مورد کار بهینه‌سازی هوش مصنوعی پیرو، به صراحت شرکت را در تلاش برای درک نحوه ساخت پاسخ‌های ربات‌ها توصیف کرده است.
کارزار گسترده‌تر نفوذ اسرائیل
پروژه هانور اینستیتوت تنها عملیات پشتیبانی‌شده توسط دولت اسرائیل نیست که به دنبال تأثیرگذاری بر محیط اطلاعاتی پیرامون هوش مصنوعی است. گزارش‌ها حاکی از آن است که اسرائیل همچنین با برد پاراسکیل، مدیر سابق کارزار انتخاباتی ترامپ، به عنوان بخشی از یک پروژه ۴۶.۵ میلیون دلاری که شامل ایجاد وب‌سایت‌های طرفدار اسرائیل برای تأثیرگذاری بر پاسخ‌های ربات‌ها می‌شود، قرارداد بسته است. تحقیقات پیشین دراپ سایت نیوز نشان داد که چندین سامانه هوش مصنوعی، به ویژه مایکروسافت کاپایلوت و گوگل جمینی، اطلاعاتی را از این وب‌سایت‌ها در پاسخ‌های خود گنجانده‌اند. بر اساس آن تحقیق، برخی از ربات‌ها بدون آنکه کاربران را از تشکیل بخشی از یک عملیات نفوذ اسرائیل مطلع کنند، به این وب‌سایت‌ها استناد کرده‌اند.
این پروژه‌ها در چارچوب کارزار بسیار گسترده‌تر دیپلماسی عمومی اسرائیل در ایالات متحده انجام می‌شوند. تحقیقات اخیر مؤسسه کوئینسی برای دولتمداری مسئولانه نشان داد که اسرائیل از سال ۲۰۲۳ بیش از یک میلیارد دلار برای دیپلماسی عمومی هزینه کرده است که بیش از ۱۰۰ میلیون دلار از آن صرف عملیات نفوذ در ایالات متحده شده که تحت قانون ثبت عوامل خارجی افشا شده است.