موضوع اصلی، ریاضیات است – چگونه چین از حباب هوش مصنوعی دوری می‌کند؟

در


بیت‌ها و درختان. (عکس: netzpolitik.org)

پایگاه خبری مانتلی ریویو آن‌لاین

ترجمه مجله جنوب جهانی

حباب هوش مصنوعی در ایالات متحده همچنان در حال بزرگ‌تر شدن است و سهم عظیمی از منابع مالی موجود را می‌بلعد؛ اما خروجی آن در قالب محصولات واقعی، تا کنون بسیار ناچیز بوده است.

ابزارهایی برای تولید کد وجود دارند که گاهی مفیدند، اما اگر سوبسید دریافت نکنند، فوق‌العاده گران تمام می‌شوند. چت‌جی‌پتی و سایر «جعبه‌های غارغارکننده» (جعبه‌های پرسروصدا) نیز حضور دارند که در نهایت چیزی جز شکل جدیدی از ابزارهای بومیِ غیرقابل اعتماد برای جستجوی وب نیستند.

آنچه غایب است، برنامه‌ها و کاربردهای همگانیِ مفیدی است که میلیاردها نفر حاضر باشند بابت آن پول پرداخت کنند.

با این حال، شمار زیادی از «افراد بسیار مهم» باور دارند که مدل‌های بزرگ زبانی (LLM) — که هسته اصلی محصولات شرکت‌های اوپن‌ای‌آی و آنتروپیک را تشکیل می‌دهند — روزی به توانمندی‌های موجودات هوشمند و دارای درک دست خواهند یافت. از نظر من، این حرف‌ها یاوه‌سرایی محض است، اما من که باشم که بخواهم به شما درس بدهم!

روزنامه نیویورک تایمز در گزارش مفصلی (در نسخه آرشیو شده) به لری الیسون، بنیان‌گذار اوراکل، و ریسک او بر سر تقریباً تمام دارایی‌اش روی حباب هوش مصنوعی پرداخته است. در این گزارش آمده است:

«داستان هوش مصنوعی به همان اندازه که داستانی فناوری محور بوده، داستانی مالی نیز هست؛ مسئله بر سر نحوه ساختاردهی به سرمایه‌گذاری‌های حیرت‌انگیزی است که برای آموزش و اجرای این مدل‌ها نیاز است. کمتر کسی شک دارد که این فناوری همه چیز را تغییر خواهد داد. آنچه چندان روشن نیست، زمان آغاز سرازیر شدن سودها و میزان سودآوری آن است. اسد رمضانی، مدیر بخش هوش مصنوعی در مرکز سیاست‌گذاری دانشگاه واندربیلت می‌گوید: “از نظر من، این یک مسئله ریاضی است. ما بر پایه ده‌ها میلیارد دلار درآمد، در حال انجام سرمایه‌گذاری‌های چند تریلیون دلاری هستیم.”»

به همین دلیل است که اد زیتِرون و دیگران کاملاً به‌جا و درست به شما خواهند گفت که سرمایه‌گذاری‌های سنگین انجام‌شده روی هوش مصنوعی مطلقاً هیچ منطقی ندارد.

محصولات و مشتریانی که قرار باشد صدها میلیارد دلارِ مشکوکِ خرج‌شده برای دیتاسنترهای هوش مصنوعی را بازگردانند، کجا هستند؟

ساختار مالی احداث دیتاسنترها، آن را به شدت در برابر فروپاشی و سقوط آسیب‌پذیر می‌کند. خود قراردادها بر پایه طرح‌های پیچیده بدهی و سرمایه‌گذاری شکل گرفته‌اند که شامل «تأمین مالی چرخه‌ای» می‌شوند. ابرشرکت‌های ارائه‌دهنده خدمات ابری (Hyperscalers) به شدت در همان شرکت‌هایی سرمایه‌گذاری می‌کنند که روی خرید توان پردازشی‌شان حساب باز کرده‌اند. این همان چیزی است که اقتصاددانان آن را «ساختار تعهدات متقاطع» می‌نامند. اگر مشتریان آنها در تجاری‌سازی محصولات خود ناکام بمانند، ضربه شدیدی خواهند خورد — و سرمایه‌گذارانشان نیز که شامل شمار زیادی از مردم عادی آمریکا هستند، آسیب می‌بینند. این موضوع تازه فقط محدود به شرکت‌های آمریکایی است؛ رونق هوش مصنوعی پدیده‌ای جهانی بوده و فروپاشی آن نیز جهانی خواهد بود.

روزنامه نیویورک تایمز فرض را بر این می‌گذارد که هر کاری ایالات متحده انجام می‌دهد، در سراسر جهان کپی می‌شود. در نتیجه اگر حباب در آمریکا بترکد، در جاهای دیگر — به ویژه در چین — نیز خواهد ترکید.

این برداشت، ناشی از کج‌فهمی نسبت به ماهیت مدل‌های هوش مصنوعی چینی و عملکرد شرکت‌های این کشور است.

در طول یک سال گذشته، چند شرکت چینی با ارائه مدل‌های هوش مصنوعی که تقریباً به اندازه بهترین مدل‌های شرکت‌های آمریکایی توانمند هستند اما با قیمتی معادل یک‌دهم هزینه مدل‌های (به شدت سوبسیددار) آمریکایی عرضه می‌شوند، افکار عمومی را شگفت‌زده کرده‌اند.

علاوه بر این، شرکت‌های چینی وزن‌ها (Weights) و سورس‌کد مدل‌های خود را منتشر کرده‌اند و به هر کسی که سخت‌افزار مناسب را داشته باشد اجازه می‌دهند آنها را روی زیرساخت‌های بومی خود اجرا کند.

نشریه اکونومیست تلاش کرده این موضوع را درک کند:

چگونه چین در حوزه هوش مصنوعی بهره‌وری بیشتری نسبت به آمریکا دارد؟ (نسخه آرشیو شده) سرمایه‌گذاری چین بسیار عقب‌تر از آمریکا است، اما مدل‌هایش این گونه نیستند.

ریخت‌وپاش هوش مصنوعی در آمریکا، در مقایسه با صرفه‌جویی چینی‌ها بسیار اسراف‌کارانه به نظر می‌رسد. پیش‌بینی می‌شود غول‌های فناوری چین در سال ۲۰۲۶ کمتر از یک‌دهم همتایان آمریکایی خود در دیتاسنترها سرمایه‌گذاری کنند (جدول را ببینید).

با وجود این صرفه‌جویی، مدل‌های آن‌ها تنها اندکی ضعیف‌تر به نظر می‌رسند. مدل K3، یک مدل پیشرفته که ماه گذشته توسط استارت‌آپ Moonshot AI در پکن معرفی شد، (در بنچمارک‌های رایج) ۹۵ درصد به اندازه مدل Fable 5 — از مدل‌های پیشرو آزمایشگاه آمریکایی Anthropic — هوشمند است، در حالی که هزینه استفاده از آن ۷۰ درصد ارزان‌تر است. در ۳ اوت نیز غول فناوری چین، علی‌بابا، مدلی را منتشر کرد که طبق گزارش‌ها در برخی ارزیابی‌ها در میان بهترین‌های جهان قرار گرفت.

نویسندگان اکونومیست در ادامه به گمانه‌زنی درباره ارزان‌تر بودن هزینه دیتاسنترها در چین می‌پردازند. آنها می‌گویند این کشور همچنین شانس کمتری برای سرمایه‌گذاری روی سخت‌افزارهای گران‌قیمت آمریکایی دارد، خریدارانش خسیس‌تر هستند و جستجو برای کاربردهای واقعی برای چین مهم‌تر از تلاش برای رسیدن به «تکینگی» (Singularity) یا «هوش مصنوعی عمومی» است که شرکت‌های آمریکایی به دنبال آن هستند.

تمام این تحلیل‌ها — مانند اقتباس نیویورک تایمز — تا حد زیادی یاوه‌سرایی است.

عامل واقعی تفکیک‌کننده میان شرکت‌های هوش مصنوعی آمریکا و چین، ریاضیاتی است که استفاده می‌کنند.

مدل‌های آمریکایی روی الگوریتم‌هایی اجرا می‌شوند که از نظر پردازشی اتلاف زیادی دارند، در حالی که مدل‌های چینی از روش‌های هوشمندانه‌تری بهره می‌برند که برای دست‌یابی به کیفیتی مشابه، به توان پردازشی کمتری نیاز دارند.

مدل‌های زبانی که با دریافت یک متن ورودی، متن مرتبطی را در خروجی تولید می‌کنند، چیز جدیدی نیستند.

اکثر آنها بر پایه الگوریتم‌های موسوم به شبکه عصبی بنا شده‌اند که شبیه‌سازی عملکردی ابتدایی از مغز انسان است. شبکه‌های عصبی می‌توانند برای تشخیص یک ورودی و سپس تولید خروجی مرتبط، آموزش داده شوند.

مشکلي که شبکه‌های عصبی و نسخه‌های اولیه آنها دارند این است که فرآیند آموزش بسیار زمان‌بر است و همین امر اندازه مدل‌ها را محدود می‌کند.

در سال ۲۰۱۸، پژوهشگران گوگل راهی هوشمندانه برای دور زدن این محدودیت یافتند:

«مدل‌های غالبِ تبدیل توالی، بر پایه شبکه‌های عصبی پیچیده برگشتی یا پیچشی در پیکربندی رمزگذار-رمزگشا استوارند. مدل‌هایی با بهترین عملکرد نیز رمزگذار و رمزگشا را از طریق مکانیزم توجه (Attention Mechanism) به هم متصل می‌کنند. ما معماری شبکه ساده و جدیدی به نام «ترنسفورمر» (Transformer) را پیشنهاد می‌کنیم که صرفاً بر پایه مکانیزم‌های توجه استوار است و ساختارهای برگشتی و پیچشی را کاملاً کنار می‌گذارد. آزمایش‌ها روی دو مسئله ترجمه ماشینی نشان می‌دهد این مدل‌ها ضمن داشتن قابلیت موازی‌سازی بیشتر و نیاز به زمان به مراتب کمتر برای آموزش، از نظر کیفیت نیز برتر هستند.»

شرکت‌های آمریکایی به سمت مدل ترنسفورمر هجوم بردند. این مدل به عنوان فرصی برای خلق مدل‌های هرچه بزرگ‌تر و بهتر دیده شد، با این امید که یک مدل فوق‌العاده بزرگ در نهایت به توانمندی‌های مغز انسان برسد یا از آن فراتر رود.

مزیت مدل ترنسفورمر این است که ریاضیاتِ لازم برای آموزش آن قابل موازی‌سازی است. تراشه‌های کامپیوتر که برای تولید گرافیک ساخته شده‌اند، دارای سخت‌افزار ویژه‌ای برای پردازش پیکسل‌ها هستند. آن‌ها به جای پردازش تک‌تک پیکسل‌ها، تصاویر کامل را با محاسبات هم‌زمان ارزش (رنگ) هزاران پیکسل پردازش می‌کنند. استفاده از واحدهای پردازش گرافیکی (GPU) امکان عملیات موازی (ماتریسی) روی هزاران پارامتر را فراهم می‌سازد. (ویدئوی گرنت سندرسون با عنوان «توضیح مختصر مدل‌های بزرگ زبانی» مقدمه خوبی در این باره ارائه می‌دهد.)

عیب مدل ترنسفورمر، رفتار نماییِ مکانیزم توجه آن است. مدل برای هضم یک جمله ورودی، باید هر عنصر درون آن را در برابر تمام عناصر دیگر موجود در همان زمینه (Context) پردازش کند. این یک عملیات نمایی است. برای زمینه‌ای شامل ۵۰۰,۰۰۰ کلمه ورودی (مثلاً برای خلاصه کردن کتابی با این طول)، مدل به ۲۵۰ میلیارد عملیات نیاز دارد. اوپن‌ای‌آی، آنتروپیک و دیگران از ترفندهای زیادی برای بهینه‌سازی محاسبات خود استفاده می‌کنند، اما نمی‌توانند از محدودیت اساسی و نمایی الگوریتم مورد استفاده خود فرار کنند.

به همین دلیل است که ورودی مدل‌های فعلی ترنسفورمر محدود است و این مدل‌ها برای پاسخ به پرسش‌های کاربران به دیتاسنترهای غول‌پیکر با میلیون‌ها پردازنده گرافیکی نیاز دارند.

توسعه‌دهندگان مدل‌های چینی به دلیل نقص در ظرفیت پردازشی، مجبور شدند مسیرهای متفاوتی را در پیش بگیرند. آنها از شبکه‌های عصبی برگشتی و الگوریتم‌های موسوم به «حافظه کوتاه‌مدت طولانی» (LSTM) استفاده می‌کنند. این الگوریتم‌ها از اواخر دهه ۱۹۹۰ شناخته شده‌اند و پایه و اساس اکثر ترجمه‌های زبان ماشینی هستند. دستیار صوتی سیری (SIRI) اپل از مدل LSTM استفاده می‌کند.

الگوریتم LSTM معایبی دارد. در شکل اولیه آن، فرآیند آموزش قابل موازی‌سازی نیست. اما این قابلیت را دارد که زمینه نا his و غیرضروری را «فراموش» کند و محاسبات آن برای تولید پاسخ (غالباً) خطی است، نه نمایی.

الگوریتم‌های جدیدترِ «LSTM تعمیم‌یافته» (xLSTM) امکان موازی‌سازی آموزش چنین مدل‌هایی را فراهم می‌کنند، در حالی که مزیت الگوریتم پاسخ‌دهی (تقریباً) خطی را حفظ می‌نمایند.

مدل Kimi از شرکت چینی Moonshot.ai که به تازگی رونمایی شده، بر پایه یک الگوریتم اصلاح‌شده xLSTM به نام Kimi Delta Attention ساخته شده است. این مدل همچنین ساختار خود را به شبکه‌ای از ۸۰۰ «متخصص» تقسیم می‌کند که تنها تعداد کمی از آنها برای پاسخ به سؤال خاص کاربر فعال می‌شوند (ویدئوی «توضیح Kimi K3 در ۱۳ دقیقه» را ببینید).

اگرچه Kimi هنوز به حجم پارامترهای جدیدترین مدل آمریکایی نرسیده، اما تقریباً همان توانمندی‌ها را دارد، در حالی که از پردازش بسیار کمتری نسبت به اجرای مدل معادل در اوپن‌ای‌آی استفاده می‌کند.

سایر ارائه‌دهندگان هوش مصنوعی در چین نیز از الگوریتم‌های مشابهی استفاده می‌کنند که به پردازش به مراتب کمتری نسبت به مدل‌های ترنسفورمرِ مورد علاقه آمریکا نیاز دارند.

ارائه‌دهندگان آمریکایی مدل‌های هوش مصنوعی مانند OpenAI، Anthropic، Google، Meta و SpaceX، همگی در گیرودار الگوریتم‌های ترنسفورمر که برای ساخت مدل‌هایشان استفاده کرده‌اند، گرفتار شده‌اند. این همان چیزی است که سال‌ها روی آن سرمایه‌گذاری کرده‌اند و مهندسانشان در آن متخصص هستند. آنها قول داده‌اند مقدار عظیمی از ظرفیت پردازشی را بسازند یا بخرند، زیرا مدل‌هایشان به آن نیاز دارد.

همین انتخاب الگوریتم است که حباب هوش مصنوعی آمریکا را ایجاد کرده است.

مدل‌سازان چینی به دلیل فقدان سرمایه مخاطره‌آمیز نامحدود، مجبور شده‌اند راه‌های بهتری برای حل مسائل پیدا کنند. استفاده آنها از الگوریتم‌های متفاوت به آنها اجازه می‌دهد نتایج تقریباً مشابهی را با هزینه‌ای بسیار کمتر ارائه دهند.

در نگرش نیز تفاوت وجود دارد. در حالی که سرمایه‌گذاران آمریکایی مانند لری الیسون در تلاش برای رسیدن به نوعی هوش مصنوعی عمومیِ خداگونه هستند، توسعه‌دهندگان و سرمایه‌گذاران چینی (و برخی اروپایی) بسیار بیشتر علاقه‌مند به حل مسائل دنیای واقعی (صنعتی) هستند.

رباتی که قرار است ماشین ظرف‌شویی را پر کند، بدون اینکه قادر به حل حدس‌های ریاضی باشد هم می‌تواند به اندازه کافی کارش را انجام دهد. علاوه بر این، مدل هوش مصنوعی داخلی آن باید روی یک GPU محلی اجرا شود، نه در یک دیتاسنتر دوردست.

فراوانی منابع به توسعه‌دهندگان مدل‌های آمریکایی اجازه داده است مدل‌های هوش مصنوعی عمومیِ غول‌پیکر، بسیار توانمند، اما فوق‌العاده گران‌قیمت بسازند. این شرکت‌ها هنوز باید سناریوهای کاربردی پیدا کنند که هزینه اجرای این مدل‌ها را پوشش دهد.

چینی‌ها به جای دست‌اندازی به آسمان‌ها و خاستگاه‌های ایده‌آل (مانند شرکت‌های آمریکایی)، به دنبال حل مسائل کاملاً کاربردی و روی زمین هستند.

منابع محدود، توسعه‌دهندگان چینی را مجبور کرده الگوریتم‌های بهتری پیدا کنند. جهت‌گیری اصلی آنها بر پایه کاربردهای مفیدی است که بازدهی متناسبی برای هزینه‌هایشان ایجاد کند.

در نهایت حباب هوش مصنوعی در آمریکا خواهد ترکید. خسارات جانبی زیادی به بار خواهد آمد؛ افراد زیادی سرمایه خود را از دست خواهند داد و تعداد زیادی دیتاسنتر خالی و بلااستفاده برای اجاره باقی خواهد ماند.

نیویورک تایمز و اکونومیست فرض را بر این می‌گذارند که این امر باعث ایجاد مشکلات مشابهی برای چین خواهد شد.

اما بعید است چنین اتفاقی بیفتد، چرا که هوش مصنوعی چین بر پایه ریاضیات متفاوت و مدل‌های اقتصادی متفاوتی بنا شده است.

بیشتر از مجله جنوب جهانی-بررسی مسائل جنوب جهانی – سال بیستم کشف کنید

برای ادامه خواندن و دسترسی به آرشیو کامل، اکنون مشترک شوید.

ادامه مطلب