چرا مدل‌های زبانی هنوز به معنای دقیق کلمه استدلال نمی‌کنند؟

استدلال مدل‌های زبانی هنوز با سازوکارهایی که یک سامانه را قادر به بررسی منظم فرضیه‌ها و شواهد می‌کنند تفاوت دارد؛ این جمع‌بندی Thore Graepel، از اعضای اصلی تیم AlphaGo، در یادداشتی است که ۲ اکتبر ۲۰۲۶ در MIT Technology Review منتشر شد. او می‌گوید توانایی این مدل‌ها در تولید پاسخ‌های روان و حتی نمایش گام‌های میانی، لزوماً به معنای استدلالی شبیه استدلال علمی نیست. به باور او، برای استفادهٔ قابل‌اعتماد از هوش مصنوعی در پزشکی و پژوهش باید سازوکارهایی ساخته شود که مسیر رسیدن به نتیجه را ثبت و قابل‌بررسی کنند.

حرکت ۳۷ AlphaGo؛ فراتر از یک حدس درخشان

Graepel برای توضیح تفاوت میان حدس و استدلال، به مسابقهٔ AlphaGo با Lee Sedol در سئول اشاره می‌کند. در بازی دوم این مسابقه در مارس ۲۰۱۶، AlphaGo حرکتی انجام داد که برای بسیاری از ناظران غیرمنتظره بود: سنگی را در خط پنجم صفحه گذاشت. برخی مفسران ابتدا تصور کردند حرکت اشتباهی رخ داده است، اما AlphaGo آن بازی را برد و در پایان مسابقه نیز با نتیجهٔ ۴ بر ۱ پیروز شد.

این حرکت، که به نام «حرکت ۳۷» شناخته شد، از نگاه Graepel نمونه‌ای از خلاقیت ماشینی بود؛ اما نه به این دلیل که برنامه صرفاً شهودی غیرقابل‌توضیح داشت. به گفتهٔ او، سازوکار جست‌وجوی AlphaGo پیامدهای احتمالی حرکت‌ها را بررسی کرد و انتخابی را برگزید که بخش شهودی برنامه به‌تنهایی بعید بود پیشنهاد کند. شبکهٔ سیاست AlphaGo که حرکت‌های محتملِ بازیکنان ماهر را حدس می‌زد، این حرکت را بسیار نامتعارف ارزیابی کرده بود؛ احتمال انتخاب آن از سوی یک بازیکن حرفه‌ای حدود یک در ۱۰ هزار برآورد می‌شد.

AlphaGo از دو بخش اصلی بهره می‌برد: شبکه‌های عصبی برای ارزیابی موقعیت و پیشنهاد حرکت، و سازوکار جست‌وجو برای بررسی مسیرهای ممکن. جست‌وجو درختی از آینده‌های محتمل می‌ساخت؛ هر شاخه نشان‌دهندهٔ دنباله‌ای از حرکت‌ها و پاسخ‌های احتمالی بود. برنامه با استفاده از ارزیابی شبکه‌هایش، این شاخه‌ها را می‌سنجید تا به تصمیم برسد.

نویسنده این شیوه را با تفاوت میان دو نوع فکر در نظریهٔ دنیل کانمن مقایسه می‌کند: تفکر سریع و شهودی، و تفکر آهسته و سنجیده. در این قیاس، شبکه‌های AlphaGo حدس‌های اولیه را فراهم می‌کنند و جست‌وجو پیامد آن حدس‌ها را می‌آزماید. هیچ‌کدام به‌تنهایی کافی نیستند؛ حدس به‌تنهایی حرکت ۳۷ را انتخاب نمی‌کرد و جست‌وجوی فراگیر نیز بدون راهنمایی برای بررسی گزینه‌ها دشوار می‌شد.

چرا زنجیرهٔ فکر با جست‌وجوی AlphaGo یکی نیست؟

مدل زبانی بزرگ، به‌طور معمول، متن را با پیش‌بینی واژه یا بخش بعدی آن تولید می‌کند و این کار را بارها تکرار می‌کند. Graepel این فرایند را به تفکر سریع و تداعی‌گر نزدیک می‌داند: روشی که با تکیه بر الگوهای آموخته‌شده از متن، می‌تواند دربارهٔ موضوعات گوناگون پاسخ‌های قانع‌کننده بسازد.

با گسترش چت‌بات‌ها روشن شد که روانی زبان به‌تنهایی برای حل همهٔ مسئله‌ها کافی نیست. راهی که برای افزایش توان حل مسئله به کار گرفته شد، تولید گام‌های میانی بود؛ روشی که معمولاً «زنجیرهٔ فکر» نامیده می‌شود. مدل مسئله را به بخش‌های کوچک‌تر تقسیم می‌کند، نتایج موقت را پیش می‌برد و آن‌ها را در پاسخ نهایی به کار می‌گیرد. به‌گفتهٔ Graepel، این رویکرد در حوزه‌هایی مانند ریاضی و برنامه‌نویسی به بهبود عملکرد انجامیده است.

بااین‌حال، نویسنده تأکید می‌کند زنجیرهٔ فکر سازوکاری مستقل و جدا از پیش‌بینی واژه ایجاد نمی‌کند. مدل همان فرایند تولید متن را طولانی‌تر ادامه می‌دهد و پیش از ارائهٔ پاسخ، گام‌های بیشتری می‌سازد. بنابراین، ظاهرِ مرحله‌به‌مرحلهٔ پاسخ به‌خودی‌خود نشان نمی‌دهد که سامانه واقعاً فرضیه‌ها و شواهد را مانند یک پژوهشگر بررسی کرده است.

Graepel سه محدودیت را برای این نوع عملکرد برمی‌شمارد. نخست، مدل‌ها معمولاً دفتر ثبت پایداری ندارند که در آن فرضیه‌های در دست بررسی، میزان اطمینان، شواهد مؤید و پرسش‌های بی‌پاسخ به‌روشنی مشخص باشد. دوم، دانسته‌های مدل و شیوهٔ دست‌کاری آن دانسته‌ها در وزن‌های شبکهٔ عصبی درهم‌تنیده‌اند و مجموعه‌ای مستقل و صریح از باورها وجود ندارد. سوم، به‌گفتهٔ او، پژوهش‌ها نشان داده‌اند که زنجیره‌های فکری تولیدشده گاهی توضیحی پسینی هستند: مدل ممکن است پاسخ را از مسیری به دست آورده باشد، اما مسیر دیگری را در توضیح خود بازگو کند.

وضعیت دانشیِ قابل‌بررسی برای هوش مصنوعی

این محدودیت‌ها در کاربردهای حساس اهمیت پیدا می‌کنند. در پزشکی، مهندسی و پژوهش علمی، دانستن پاسخ نهایی کافی نیست؛ باید بتوان فهمید سامانه چگونه به آن رسیده است. اگر در تشخیص یا پیشنهاد درمان خطایی رخ دهد، بررسی‌کنندگان لازم دارند تشخیص دهند مشکل از استدلال بوده، از شواهد نامعتبر آمده یا از فرض نادرست سرچشمه گرفته است. پاسخ متقاعدکننده‌ای که مسیر رسیدن به آن روشن نیست، این بررسی را دشوار می‌کند.

Graepel می‌گوید به همین دلیل به‌تازگی موقعیت خود را در Google DeepMind ترک کرده است؛ او خواهان رویکرد تازه‌ای به استدلال ماشینی است که از معماری AlphaGo الهام بگیرد. در AlphaGo، درخت بازی حافظه‌ای از موقعیت‌ها و مسیرهای بررسی‌شده فراهم می‌کرد و ارزیابی شبکه‌ها نیز کنار آن قرار می‌گرفت. سامانه در جریان جست‌وجو این درخت را به‌روز می‌کرد و در نهایت بر اساس اطلاعات ثبت‌شده تصمیم می‌گرفت.

برای مسئله‌های عمومی، نویسنده پیشنهاد می‌کند سامانه وضعیت دانشی صریحی داشته باشد: چه چیزی را پذیرفته، به چه چیزی شک دارد، چه احتمالاتی را کنار گذاشته و کدام پرسش‌ها همچنان باز هستند. استدلال در چنین چارچوبی مجموعه‌ای از گام‌ها برای تغییر این وضعیت و کاهش ابهام خواهد بود؛ از نتیجه‌گیری منطقی و خردکردن مسئله به بخش‌های کوچک‌تر گرفته تا انتخاب پرسش بعدی، محاسبهٔ لازم یا آزمایشی که باید انجام شود.

البته جهان واقعی مانند صفحهٔ Go نیست. وضعیت‌ها همیشه به‌طور کامل معلوم نیستند، گزینه‌های در دسترس می‌توانند بسیار متنوع باشند و پیامد اقدام‌ها نیز ممکن است نامطمئن یا ناشناخته بماند. بااین‌حال، Graepel معتقد است پیشرفت مدل‌های زبانی و دیگر مدل‌های عصبی امکان طراحی چنین سامانه‌هایی را فراهم کرده است. مدل می‌تواند راه‌های احتمالی رسیدگی به مسئله را پیشنهاد کند، از طریق ابزارها و کدنویسی اقدام کند و در ارزیابی شواهد به کار بیاید.

در طرح پیشنهادی او، بخشی مستقل باید هر گام را بسنجد و مشخص کند آیا واقعاً از میزان ابهام کاسته یا دانسته‌ای تازه را پشتیبانی کرده است. باورها فقط زمانی باید تغییر کنند که شواهد پشتوانهٔ تغییر باشند. سامانه همچنین می‌تواند از تجربه‌های پیشین در استدلال بیاموزد. Graepel این رویکرد را به روش علمی تشبیه می‌کند؛ روشی که هدفش تولید دانشی است که بتوان آن را زیر ذره‌بین بررسی کرد.

جمع‌بندی نویسنده این است که بزرگ‌ترکردن سامانه‌های شهودی، به‌تنهایی آن‌ها را سنجیده‌تر نمی‌کند. حرکت ۳۷ AlphaGo برای او نمونه‌ای از ارزشی است که بررسی آینده‌های محتمل می‌تواند ایجاد کند. در حوزه‌هایی مانند کشف دارو، ساخت مواد، تغییرات اقلیمی و تشخیص پزشکی، مسئله‌ها به‌اندازهٔ یک بازی رومیزی روشن و محدود نیستند. به باور او، برای رسیدن به بینش‌های تازه و قابل‌اعتماد، هوش مصنوعی باید نتیجه را از مسیر ثبت‌پذیرِ شواهد، استنتاج و بازنگری در باورها به دست آورد، نه از راه تولید توضیحی روان پس از رسیدن به پاسخ.

این خبر برای چه کسانی اهمیت دارد

این بحث برای پژوهشگران هوش مصنوعی و یادگیری ماشین، سازندگان مدل‌های زبانی و ابزارهای مبتنی بر آن‌ها و نیز متخصصانی اهمیت دارد که قصد دارند از هوش مصنوعی در حوزه‌های حساس استفاده کنند. پیام اصلی Graepel این نیست که مدل‌های زبانی هیچ مسئله‌ای را حل نمی‌کنند؛ بلکه این است که توانایی پاسخ‌گویی با استدلالی که بتوان آن را وارسی کرد یکی نیست. هرچه تصمیم‌های یک سامانه پیامد مهم‌تری داشته باشد، ثبت شواهد و روشن‌بودن مسیر رسیدن به نتیجه نیز ضروری‌تر می‌شود.