تولید دانش نباید به دست ماشین سپرده شود

ژانگ بائومینگ

ترجمهٔ مجلهٔ جنوب جهانی

در یک نگاه: گسترش سریع هوش مصنوعی، مرزهای تولید دانش را دگرگون کرده است؛ اما آیا تولید محتوای اطلاعاتی به معنای تولید دانش واقعی است؟ نویسنده با تمایز میان اطلاعات خام و دانش پخته، بر نقش محوری انسان در فهم، اعتبارسنجی، کشف ناشناخته‌ها و پذیرش مسئولیت اجتماعی دانش تأکید می‌کند. از نظر او، اتکای فزاینده به هوش مصنوعی، افزون بر محدودیت‌های معرفت‌شناختی این فناوری، خطر یکنواخت‌شدن اندیشه‌ها، کاهش تنوع معرفتی و تضعیف تجربهٔ مستقیم انسان را نیز در پی دارد. مسئله صرفاً توانایی فنی ماشین نیست؛ بلکه این است که آیا می‌توان ساخت دانش و مسئولیت ناشی از آن را از انسان سلب کرد و به ماشین سپرد.

اطلاعات «خام» و دانش «پخته»

توسعهٔ سریع و تکرارشوندهٔ هوش مصنوعی در حال بازآرایی ساختار تولید دانش بشری است. چند مقاله‌ای که روزنامهٔ گوانگ‌مینگ دیلی به‌طور پی‌درپی منتشر کرده است، نقاط کانونیِ بحث‌برانگیزی را دربارهٔ مسئلهٔ نوظهور تولید دانش به‌وسیلهٔ هوش مصنوعی مطرح کرده‌اند. برخی پژوهشگران بر خودِ فرایند تولید دانش تمرکز کرده‌اند و تأکید دارند که هوش مصنوعی در حال تبدیل‌شدن به نیرویی مولد در زنجیرهٔ تولید دانش است: «این فناوری لزوماً جهان را به شیوهٔ انسان درک نمی‌کند، اما از هم‌اکنون انسان را واداشته است بار دیگر بیندیشد که چه چیزهایی را می‌توان دید، چه موضوعاتی ارزش پژوهش دارند و چه چیزهایی می‌توانند به دانش تبدیل شوند.» در مقابل، گروهی دیگر همچنان بر معیارهای کلاسیک دانش پافشاری می‌کنند و معتقدند: «محتوای تولیدشده به‌وسیلهٔ هوش مصنوعی تنها هنگامی می‌تواند به دانش واقعی تبدیل شود که با فهم انسان همراه شود.»

این اختلاف‌نظرها در ظاهر به مرزهای توانایی هوش مصنوعی مربوط می‌شوند، اما در واقع چند مسئلهٔ بنیادی‌تر را در بر می‌گیرند: هنگامی که هوش مصنوعی عمیقاً در فعالیت‌های شناختی انسان ادغام می‌شود، آیا تعریف «دانش» ناگزیر تغییر می‌کند؟ آیا هوش مصنوعی می‌تواند به‌طور مستقل دانش تولید کند؟ آیا انسان می‌تواند وظیفهٔ تولید دانش را به هوش مصنوعی واگذار کند؟ پاسخ من منفی است.

اطلاعات «خام» و دانش «پخته»

برای پاسخ‌دادن به این پرسش که آیا هوش مصنوعی می‌تواند دانش تولید کند، ابتدا باید روشن کنیم که این فناوری دانش را چگونه بازنمایی می‌کند. اگر تاریخ توسعهٔ هوش مصنوعی را بررسی کنیم، می‌بینیم که روش‌های گردآوری و بازنمایی دانش در آن، در مجموع، از سامانه‌های خبرهٔ اولیه به‌سوی توسعه و تکامل گراف‌های دانش حرکت کرده‌اند.

ایدهٔ بنیادی سامانه‌های خبرهٔ اولیه این بود که دانش موجود در مغز انسان با استفاده از نمادهای رایانه‌ای بازنمایی شود و رایانه از طریق استدلال، شیوهٔ پردازش دانش در مغز انسان را تقلید کند. قواعد این سامانه‌ها روشن و مشخص بودند، اما به‌شدت به مداخلهٔ انسان وابستگی داشتند. این وابستگی، مقیاس و کیفیت پایگاه‌های دانش را به‌شدت محدود می‌کرد و مشکلات متعددی در زمینهٔ بازنمایی و گردآوری دانش به وجود می‌آورد.

گراف‌های دانش می‌کوشند از کاستی‌های سامانه‌های خبرهٔ اولیه اجتناب کنند. از یک سو، آن‌ها برای مدل‌سازی و توصیف داده‌ها از مدل‌های مفهومی، اصطلاحات هستی‌شناختی و قالب‌های نحویِ استانداردتر و منسجم‌تری استفاده می‌کنند؛ از سوی دیگر، با ایجاد پیوندهای معنایی، ارتباط میان داده‌ها را تقویت می‌کنند. از نظر منابع دانش، گراف‌های دانش داده‌های متنی، پایگاه‌های دادهٔ ساختاریافته، داده‌های چندرسانه‌ای، داده‌های حسگرها و داده‌های حاصل از مشارکت جمعی انسان‌ها را در بر می‌گیرند. از نظر بازنمایی دانش نیز، گراف دانش نوعی شبکهٔ معناییِ گسترده است که از موجودیت‌ها، مفاهیم و روابط معنایی گوناگون میان آن‌ها تشکیل می‌شود.

از این منظر، بازنمایی دانش به‌وسیلهٔ هوش مصنوعی مصداق «تولید چیزی از چیزهای موجود» است، نه «آفریدن چیزی از هیچ» به معنای واقعی کلمه. به بیان دیگر، آنچه هوش مصنوعی به‌عنوان «دانش» بازنمایی می‌کند، در اصل اطلاعاتی است که زمینهٔ تولید دانش جدید را فراهم می‌آورد.

پیتر برک، تاریخ‌نگار بریتانیایی، خاطرنشان می‌کند که می‌توان اطلاعات را به چیزی «خام» و دانش را به چیزی «پخته» تشبیه کرد. تولید دانش فرایندی «نظام‌مند» است که طی آن، امور حاوی اطلاعات به‌تدریج کشف، تحلیل، «ساخته» یا «پردازش» می‌شوند. به عبارت دیگر، آنچه هوش مصنوعی فراهم می‌کند نوعی «شبه‌دانش» است که با دانشِ پخته و شکل‌گرفته فاصله دارد.

گذار از اطلاعات «خام» به دانش «پخته» نشان می‌دهد که دانش صرفاً در لحظهٔ طرح یک گزاره پدید نمی‌آید، بلکه در جریان فهم، اعتبارسنجی و ادغام آن با دانش موجود شکل می‌گیرد. هوش مصنوعی در زنجیرهٔ تولید دانش، وظیفهٔ «ارائهٔ گزینه‌های پیشنهادی» را بر عهده دارد؛ اما وزن شناختی این مرحله در فرایند شکل‌گیری دانش بسیار کمتر از مراحل «فهم و اعتبارسنجی» است.

بنابراین، آنچه هوش مصنوعی تغییر می‌دهد شیوهٔ «دستیابی انسان به اطلاعات» است، حال آنکه دانش فعالیتی است که به اطلاعات معنا می‌بخشد. همان‌گونه که میکروسکوپ می‌تواند ساختارهای میکروسکوپیِ نامرئی برای چشم غیرمسلح را آشکار کند، این امر به‌خودی‌خود صرفاً اطلاعات فراهم می‌آورد. این اطلاعات تنها زمانی به دانش تبدیل می‌شوند که دانشمندان آن‌ها را در چارچوب یک نظریه قرار دهند، با دانش پیشین ادغام کنند و سازوکارهای علّی آن‌ها را توضیح دهند.

افزون بر این، اعتبار دانش تنها به صدق نتیجهٔ آن وابسته نیست، بلکه به فرایند قابل‌بررسی و آزمون‌پذیری نیز بستگی دارد که نتیجه از طریق آن تثبیت می‌شود. هنگامی که می‌گوییم «زمین به دور خورشید می‌چرخد»، نه‌تنها می‌توانیم برای این گزاره دلیل بیاوریم، بلکه می‌توانیم منشأ این دانش را نیز پیگیری کنیم: ما آن را در کتاب‌های درسی آموخته‌ایم؛ دانش موجود در این کتاب‌ها حاصل مشاهدات و محاسبات اخترشناسان است و نتایج اخترشناسان نیز بر مجموعه‌ای از دستاوردهای شناختیِ قابل‌ردیابیِ افرادی چون کوپرنیک، کپلر و نیوتن استوار است.

اما خروجی‌های «جعبه‌سیاه» هوش مصنوعی دقیقاً از این حیث، یعنی از نظر امکان ردیابی و بررسی فرایند شکل‌گیری دانش، با کاستی بنیادی روبه‌رو هستند. ازاین‌رو، محتوای تولیدشده به‌وسیلهٔ هوش مصنوعی، هرقدر هم که ظاهری شبیه دانش داشته باشد، از منظر معرفت‌شناختی همچنان اطلاعاتی است که اعتبار آن باید به دست انسان بررسی و تأیید شود.

انسان، فاعل تولید دانش است

دانش انسانی ماهیتی برساخته دارد؛ یعنی بازتابی عینی که مستقل از انسان وجود داشته باشد نیست، بلکه محصول فهم انسان از جهان است. برای مثال، ساعت را انسان ساخته است و هنگامی که دربارهٔ معیارهای سنجش زمان داوری می‌کنیم، به تصورات و مفاهیم انسانی دربارهٔ دانش متکی هستیم. در غیاب انسان، ساعت چیزی جز مجموعه‌ای از قطعات مکانیکیِ پراکنده نخواهد بود.

به‌بیان کوتاه، شکل‌گیری دانش از عاملیت فعال انسان جدایی‌پذیر نیست؛ تنها دانشی که تجربهٔ انسانی در مرکز آن قرار دارد، دانش واقعی است. هوش مصنوعی مولد، در ماهیت خود، دستاوردهای دانشی‌ای را که انسان پیش‌تر برساخته است تجزیه، ترکیب و به شکلی تازه عرضه می‌کند. این فناوری به‌خودی‌خود انگیزه و توانایی ذهنیِ لازم را ندارد تا فعالانه وارد موقعیت‌های ناشناخته شود و به ساخت دانش بپردازد.

نخست، سرچشمهٔ دانش را باید در انسان جست‌وجو کرد. هوش مصنوعی نمی‌تواند مستقل از چارچوب‌هایی که انسان تعیین کرده است، پرسش‌هایی دربارهٔ حوزه‌های ناشناخته مطرح کند؛ چه رسد به اینکه با هدف شناختیِ مستقل، فعالیت‌های اکتشافی و عملی انجام دهد. ازاین‌رو، قادر نیست کشف دانش را به معنای واقعیِ «از صفر به یک» به سرانجام برساند.

گروهی از پژوهشگران با استفاده از یک آزمایشگاه ژنتیک مولکولیِ مجهز به ابزارهای رایانه‌ای، از هوش مصنوعی مولد خواستند نقش یک دانشمند را ایفا کند و بکوشد به‌طور مستقل یک کشف علمی در سطح جایزهٔ نوبل در ژنتیک مولکولی انجام دهد. نتیجه نشان داد که هوش مصنوعی حتی در مرحلهٔ شکل‌گیری فرضیه نیز قادر به تولید فرضیه‌هایی واقعاً اصیل و برآمده از یک فرایند شناختیِ مستقل نیست. همچنین، این فناوری از توانایی انسان برای رسیدن به آن «بینش ناگهانی» برخوردار نیست؛ همان لحظه‌ای که یک دانشمند با مشاهدهٔ نتیجه‌ای غیرعادی در آزمایش، ناگهان به کشفی تازه دست می‌یابد.

می‌توان گفت هستهٔ اصلی تولید دانش انسانی هرگز صرفاً مرتب‌سازی و ترکیب محتوای موجود نبوده است، بلکه پاسخ‌دادن به مسائل جدید در موقعیت‌های عینیِ عمل، ادغام تجربه‌های تازه و در نهایت، ساخت دانشی نو است که بتواند پدیده‌های جدید را توضیح دهد و مسائل تازه را حل کند. مشارکت انسان به‌عنوان فاعل شناخت، در تمام مراحل این فرایند ضروری است.

دوم، تولید و اعتباربخشی به دانش، فعالیتی ویژه است که در آن یک فاعل مسئول، تعهدات اجتماعی و علمی خود را به انجام می‌رساند. هوش مصنوعی که فاقد توانایی بازاندیشی است، از عهدهٔ چنین وظیفه‌ای برنمی‌آید.

برخی پژوهشگران با تکیه بر ماهیت معرفت‌شناختی دانش، میان «دانش به‌مثابه محصول» و «دانش به‌مثابه جایگاه» تمایز قائل شده‌اند. به گفتهٔ آنان، هوش مصنوعی در بهترین حالت فقط می‌تواند نوع نخست را تولید کند؛ یعنی خروجی‌ای که با عملکرد مورد انتظار از یک ابزار مطابقت دارد. اما هوش مصنوعی مطلقاً یک «شناسنده» (Knowers) نیست، زیرا به‌کلی فاقد «احساس مسئولیت شناختی» و عاملیت مستقل است.

هوش مصنوعی به دلیل نداشتن تجربهٔ فیزیکی از جهان واقعی و ادراک اجتماعی، نمی‌تواند بررسی کند که آیا «ترکیب احتمالاتی» تولیدشده به‌وسیلهٔ آن با حقیقت عینی مطابقت دارد یا نه. همین مسئله به مشکل جدی «توهم دانشی» در هوش مصنوعی مولد منجر می‌شود. تنها از طریق نقد عقلانی انسان، اعتبارسنجی تجربی و مقایسهٔ متقابل منطقی است که این «ترکیب‌های مصنوعی» می‌توانند به دانش واقعی تبدیل شوند.

در نهایت، هوش مصنوعی توانایی بر عهده گرفتن مسئولیت و حفظ اعتماد را ندارد؛ مسئولیتی که کارکرد اجتماعی دانش آن را ایجاب می‌کند. دانش هم بُعد توصیفی دارد و هم ابعاد هنجاری و کارکردی. بُعد نخست به حقیقت مربوط است و ابعاد دیگر با بازتولید اجتماعی پیوند دارند.

هنگامی که دانشی را می‌پذیریم، نه‌تنها محتوای آن را واقعی می‌دانیم، بلکه آن را مبنایی برای هدایت عمل و پیشبرد بازتولید دانش نیز قرار می‌دهیم. به بیان دیگر، ما به عرضه‌کنندهٔ دانش اعتماد می‌کنیم و انتظار داریم که او مسئولیت دفاع از ادعاهای خود و اصلاح خطاهای احتمالی را بپذیرد.

به‌بیان دقیق‌تر، انتساب دانش به یک منبع، هم‌زمان به معنای اعطای اعتماد و تعیین مسئولیت است. برای مثال، حتی اگر گزارش تشخیصیِ تولیدشده به‌وسیلهٔ هوش مصنوعی از دقت بسیار بالایی برخوردار باشد، در نهایت پزشک معالج باید آن را امضا و تأیید کند تا با اعتبار حرفه‌ای و تعهد اخلاقی خود، زنجیرهٔ اعتماد را برقرار سازد.

هوش مصنوعی قادر به انجام چنین کارکرد هنجاری‌ای نیست. اگر پاسخ اشتباهی بدهد، احساس پشیمانی نمی‌کند و اگر ادعای آن پیامدهای زیان‌باری به بار آورد، نمی‌توان آن را به شیوه‌ای مؤثر مسئول دانست. ادعایی که صاحب آن قادر به پذیرش مسئولیت نیست، از منظر کارکرد اجتماعی نمی‌تواند «دانش» نامیده شود.

بنابراین، هوش مصنوعی در تولید دانش نقش «دستیار کارآمد» را ایفا می‌کند، نه «فاعل مستقل». این فناوری مرزهای توانایی انسان در پردازش اطلاعات را گسترش می‌دهد، اما در زمینهٔ سرچشمهٔ دانش، اعتباربخشی به آن و پذیرش مسئولیت در قبال آن، همچنان نمی‌تواند جایگاه محوری انسان را تصاحب کند. دانش واقعی، دستاورد خرد انسانی است که در جریان کاوش در جهان شکل می‌گیرد و انسان مسئولیت آن را نیز بر عهده می‌گیرد.

تولید دانش باید معطوف به جهان ناشناخته باشد

تولید دانش به دست انسان، فرایندی فعال برای شکافتن مهِ ناشناخته‌هاست. معطوف‌بودن به جهان ناشناخته و گسترش مرزهای شناخت انسان، بنیادی‌ترین و محوری‌ترین ویژگی تولید دانش انسانی است.

در مقابل، تمام خروجی‌های هوش مصنوعی مولد بر داده‌ها و متون تاریخی‌ای مبتنی هستند که انسان پیش‌تر تولید کرده است؛ بنابراین، جهت‌گیری آن‌ها معطوف به امور شناخته‌شده است. این تولید «اطلاعات» مبتنی بر دانسته‌های موجود، با وجود فراهم‌آوردن امکانات و تسهیلات فراوان برای انسان، بحرانی عمیق در حوزهٔ «دانش» نیز در خود نهفته دارد: توجه بیش از اندازه به دانش رایج و عمومی، اغلب به محدودشدن افق دید می‌انجامد.

پژوهش‌ها نشان می‌دهند که هوش مصنوعی ممکن است به زیست‌بوم کلی دانش بشری آسیب بزند. در پژوهشی که در سال ۲۰۲۵ در کنفرانس بین‌المللی یادگیری ماشین منتشر شد، نشان داده شد که آموزش مدل‌های زبانی بزرگ می‌تواند میان این مدل‌ها و کاربران انسانی یک چرخهٔ بازخورد ایجاد کند: مدل از داده‌ها باورهای انسان را می‌آموزد، با محتوای تولیدشده این باورها را تقویت می‌کند، سپس همان باورهای تقویت‌شده را دوباره جذب می‌کند و بار دیگر به کاربران بازمی‌گرداند.

این فرایند به «اتاق پژواک» شباهت دارد؛ فضایی که در آن ارزش‌ها و باورهای پیشین کاربران تثبیت می‌شوند و در نهایت، تنوع فکری انسان‌ها کاهش می‌یابد. پژوهشگران با تحلیل میلیون‌ها تعامل واقعی کاربران با ChatGPT دریافتند که پس از انتشار هر نسخهٔ جدید مدل، تنوع مفهومیِ مباحث کاربران به‌طور معنادار و مستمر کاهش می‌یابد.

این یافته نشان می‌دهد که با در دست گرفتن مجاری دسترسی به اطلاعات به‌وسیلهٔ هوش مصنوعی، ارزش اطلاعات هموار و یکدست می‌شود و توزیع دانش در جامعهٔ انسانی به‌سمت همگن‌شدن پیش می‌رود؛ پدیده‌ای که می‌توان آن را «فروپاشی دانش» نامید. هوش مصنوعی نه‌تنها قادر نیست به‌طور مستقل دانش جدید و باکیفیت تولید کند، بلکه ممکن است به افول پویایی و تنوع کل نظام سنتی دانش بشری نیز بینجامد.

میان «دانش صریح» و «دانش ضمنی» تفاوت وجود دارد. بااین‌حال، این تفاوت‌ها به تمایزهای میان‌ذهنی مربوط‌اند و با نوع رابطه‌ای که میان انسان و هوش مصنوعی برقرار است، یکسان نیستند. در مورد هوش مصنوعی، چنین تجربه‌هایی از دریافت و درک شهودی به‌سختی می‌توانند در یک ابزار صرفاً کارکردی پدید آیند.

دانش عملی و شهودیِ آشپز دینگ و صنعتگر لُون بیانگر نوعی مهارت‌اند که، به تعبیر رایج، «با دل می‌توان دریافت، اما با زبان نمی‌توان بیان کرد». چنین دانشی مختص انسان است.

حادثه‌ای که چندی پیش در استان آن‌هویی رخ داد و در آن، استفادهٔ یک کشاورز از راهکار علف‌زداییِ ارائه‌شده به‌وسیلهٔ هوش مصنوعی به نابودی کامل محصول انجامید، همین مسئله را نشان می‌دهد. هوش مصنوعی می‌تواند قطعات پراکندهٔ دانش موجود را به‌خوبی بازیابی و به یکدیگر متصل کند، اما نمی‌تواند مانند کشاورزی باتجربه، بر اساس شرایط مشخص خاک، آب‌وهوا، وضعیت رشد محصول و عوامل دیگر، داوری‌ای متناسب با موقعیت عینی انجام دهد.

در واقع، هوش مصنوعی تنها می‌تواند در سطح «دانش صریح»، ترکیب‌های متقاطع و غیرخطی ایجاد کند. اما تولید واقعی دانش به آن وابسته است که انسان اطلاعات پراکندهٔ تولیدشده به‌وسیلهٔ هوش مصنوعی را در بستر تجربه و شهود انباشته‌شدهٔ خود قرار دهد و آن‌ها را از طریق «درونی‌سازی انتقادی» و تفسیر مجدد بررسی کند.

اگر انباشت دانش ضمنی انسان از این فرایند حذف شود، کدها یا متن‌های تولیدشده به‌وسیلهٔ هوش مصنوعی چیزی جز مجموعه‌ای از نویسه‌های سرد و بی‌روح نخواهند بود؛ مجموعه‌ای که نمی‌تواند به دانش اجتماعیِ واقعی و قادر به حل مسائل پیچیدهٔ جهان عینی تبدیل شود.

بااین‌حال، انسان در شناخت علمی با پدیده‌ای عجیب، شبیه نقطهٔ کور بینایی، روبه‌رو است. این نقطهٔ کور شناختی باعث می‌شود که گاه نتوانیم برخی واقعیت‌های آشکار را تشخیص دهیم؛ امری که به‌طور نامحسوس بر فهم دقیق شواهد تجربی تأثیر می‌گذارد و برداشت کلی ما از علم مدرن را عمیقاً شکل می‌دهد.

هنگامی که تولید دانش انسانی بیش‌ازپیش به هوش مصنوعی‌ای وابسته می‌شود که الگوی مسلط آن «محاسبه» است و در آن ادغام می‌شود، خطر ازدست‌رفتن تجربهٔ مستقیم انسان نیز پیوسته افزایش می‌یابد.

تولید دانش انسانی باید همواره معطوف به جهان ناشناخته باشد. در برابر شتاب سرسام‌آور فناوری، باید به‌طور قاطع افسانه‌سازی پیرامون هوشمندی را کنار بگذاریم.

در فرهنگ لغت تاریخی چینیِ شوون جیه‌زی، دربارهٔ ریشه و معنای دو واژهٔ «智» و «慧» تمایزی مطرح شده است: واژهٔ نخست، «智» (ژِی)، با مفهوم دانستن پیوند دارد و معنای بنیادی آن به خواندن و شناختن نویسه‌ها مربوط است؛ این واژه بیشتر بر شناخت، تشخیص و بیان امور و قواعد بیرونی دلالت می‌کند. واژهٔ دوم، «慧» (هوی)، با مفهوم زیرکی پیوند دارد و معنای اصلی آن به هوشمندی، روشن‌بینی و تیزبینی مربوط است؛ این واژه بیشتر بر قدرت ادراک، داوری و عاملیتی دلالت می‌کند که از ژرفای ذهن و روح انسان سرچشمه می‌گیرد. از همین‌جا، معنای آن به برخورداری از تجربهٔ گسترده در امور انسانی و داشتن دیدگاه مستقل نیز گسترش می‌یابد.

حتی پژوهشگران معاصر نیز با این تمایز همدل‌اند: «توانایی ذهنی لزوماً به معنای خردمندی نیست.» همچنین، «توانایی ذهنیِ فاقد دوراندیشی» اغلب به‌اشتباه با «خردمندی» یکی گرفته می‌شود.

در عصر دیجیتال و هوش مصنوعی، انسان باید همواره هوشیاری و استقلال فکری خود را حفظ کند. فناوری، هرقدر هم که به‌سرعت تکامل یابد، سازندگان دانش و نظام‌های دانشی همواره انسان‌ها هستند. دانش و تولید دانش نه در گذشته به دست ماشین سپرده شده‌اند و نه در آینده باید به دست آن سپرده شوند.

دربارهٔ نویسنده: ژانگ بائومینگ، استاد مؤسسهٔ عالی علوم انسانی و اجتماعی و دانشکدهٔ تاریخ و فرهنگ دانشگاه هِنان است.