گروه مشورتی ریاضی OpenAI با بحران اعتماد روبه‌روست

OpenAI در تلاش تازه‌ای برای ترمیم رابطه پرتنش خود با جامعه ریاضی، با شکل‌گیری یک گروه مشورتی مستقل از ریاضی‌دانان برجسته روبه‌رو شده است؛ گروهی که قرار است در بررسی و اطلاع‌رسانی درباره نتایج هوش مصنوعی در ریاضیات نقش داشته باشد. اما ریاضی‌دانانی که با The Verge گفت‌وگو کرده‌اند، می‌گویند نحوه معرفی این گروه ابهام ایجاد کرده و ادعای OpenAI درباره بیش از ۱۰۰ مسئله حل‌شده با مدل منتشرنشده‌اش، نگرانی‌ها را بیشتر کرده است.

این بحث فقط بر سر درست یا نادرست بودن خروجی یک مدل نیست. ریاضی‌دانان می‌گویند فهمیدن اهمیت یک نتیجه، جایگاه آن در پژوهش‌های پیشین و اعتبار دادن به افرادی که زمینه را برای آن فراهم کرده‌اند، بخشی اساسی از کار علمی است. در شرایطی که OpenAI از انبوهی از نتایج آماده انتشار سخن می‌گوید، گروه تازه باید هم با مسئله اعتماد روبه‌رو شود و هم با پرسش دشوارِ چگونگی رسیدگی مسئولانه به این نتایج.

گروهی مستقل که معرفی‌اش ابهام آفرید

در ۲۱ سپتامبر، گروهی از ریاضی‌دانان سرشناس در یادداشتی مهمان در وبلاگ Terence Tao، استاد ریاضیات UCLA و برنده مدال فیلدز، از تشکیل «گروه مشورتی ریاضیات و هوش مصنوعی» با نام AGMAI خبر دادند. این گروه ۹ عضو دارد و هدف اعلام‌شده‌اش مشورت به OpenAI و دیگر آزمایشگاه‌های پیشرو هوش مصنوعی درباره بررسی و اطلاع‌رسانی نتایج تازه است.

OpenAI در اطلاعیه خود چند بار بر استقلال گروه تأکید کرد. به گفته شرکت، اعضا می‌توانند علناً با آن مخالفت کنند، توصیه‌هایشان را منتشر کنند و حتی درباره موضوعاتی نظر بدهند که OpenAI از آن‌ها نخواسته است. در عین حال، این شرکت تصریح کرد که گروه قرار نیست درباره زمان‌بندی پیشرفت داخلی آن در ریاضیات تصمیم بگیرد.

بااین‌حال، بسیاری از ریاضی‌دانان و افراد بیرون از این حوزه نخستین‌بار از طریق اطلاع‌رسانی پرصداتر OpenAI با AGMAI آشنا شدند. همین موضوع این برداشت را به وجود آورد که گروه را خود شرکت تشکیل داده یا منصوب کرده است. وب‌سایت AGMAI توضیح می‌دهد که OpenAI ابتدا با شماری از اعضای آینده گروه درباره ایجاد یک هیئت مشورتی تماس گرفت؛ سپس آن ریاضی‌دانان تصمیم گرفتند مستقل عمل کنند و افراد دیگری را نیز به جمع خود دعوت کنند. مشخص نیست در مرحله نخست با کدام‌یک از ۹ عضو تماس گرفته شده بود.

Martin Hairer، عضو AGMAI و استاد ریاضی در Imperial College London و EPFL، به The Verge گفت گروه از OpenAI هیچ پشتیبانی مالی، فنی یا شکل دیگری از حمایت دریافت نمی‌کند. به گفته او، اعضا نیز توافقی امضا نکرده‌اند که توانایی آن‌ها برای اظهارنظر یا فعالیت را محدود کند؛ جز تعهدهای معمول محرمانگی که برای دسترسی زودهنگام به پژوهش لازم است. Hairer گفت گروه برای همکاری با دیگر آزمایشگاه‌های پیشرو نیز آمادگی دارد و گفت‌وگوهایی را با برخی از آن‌ها آغاز کرده، اما نامشان را اعلام نکرد.

سابقه‌ای که اعتماد را دشوار کرده است

Hairer گفت تشکیل گروه با رویکردی شتاب‌زده همراه بوده و روزهای آغازین کار برایش تجربه‌ای «بسیار خسته‌کننده» و فشرده بوده است. او به The Verge گفت گروه «برای OpenAI کار نمی‌کند، از آن پول نمی‌گیرد و کاملاً مستقل است». بااین‌حال، به گفته او، صورت‌بندی اطلاعیه OpenAI کمکی به روشن شدن این استقلال نکرد. Hairer معتقد بود اگر متن را با دقت بخوانند، تناقض آشکاری در آن نیست، اما شیوه بیان شرکت به سوءبرداشت‌ها دامن زده است.

دلیل حساسیت جامعه ریاضی، تنها ارتباط مبهم میان شرکت و گروه نیست. پیش‌تر نیز اعلام دستاوردهای ریاضی OpenAI به اختلاف بر سر اعتبار علمی، انتشار زودهنگام نتایج و نحوه برخورد با پژوهشگران انجامیده است. این سابقه باعث شده است که گروهی از ریاضی‌دانان درباره این‌که آیا AGMAI واقعاً می‌تواند مستقل بماند و اعتماد جامعه را به دست آورد، تردید داشته باشند.

Terence Tao از منتقدان صریح رفتار شرکت‌های هوش مصنوعی در حوزه ریاضیات بوده است. بر اساس گزارش The Verge، حل مسئله ناویر–استوکس از مسائل جایزه هزاره از سوی OpenAI به مناقشه‌هایی درباره اعتبار و نحوه ارائه نتیجه انجامید. مسائل جایزه هزاره مجموعه‌ای از پرسش‌های مهم و حل‌نشده ریاضی‌اند که حل هرکدام می‌تواند دستاوردی بزرگ به شمار رود. این سابقه سبب شده است که اعلام هر پیشرفت تازه، پیش از انتشار جزئیات، با حساسیت زیادی دنبال شود.

ریاضی‌دانان همچنین از کیفیت برخی دست‌نوشته‌های منتشرشده از سوی OpenAI انتقاد کرده‌اند: به گفته آن‌ها، توضیح‌ها گاه ضعیف است و ارتباط نتیجه با پژوهش‌های قبلی به‌اندازه کافی روشن نمی‌شود. این کاستی‌ها ارزیابی اهمیت یک ادعا را دشوار می‌کند و ممکن است به نادیده گرفته شدن سهم پژوهشگران پیشین بینجامد. Hairer نیز به The Verge گفت در مواردی اسناد پس از انتشار، در واکنش به انتقادها تغییر کرده‌اند بی‌آن‌که تغییرها اعلام یا سابقه روشنی از آن‌ها ثبت شود. او چنین کاری را روشی شلخته و آسیب‌زننده به اعتماد توصیف کرد.

بیش از ۱۰۰ ادعای حل مسئله و بار ارزیابی

فشار زمانی بر AGMAI ممکن است به مجموعه نتایجی مربوط باشد که OpenAI می‌گوید هنوز منتشر نکرده است. این شرکت مدعی شده مدل داخلی و منتشرنشده‌اش، پس از حل مسئله ناویر–استوکس، بیش از ۱۰۰ مسئله دیرپای حل‌نشده را در بیشتر شاخه‌های ریاضیات حل کرده است. گزارش The Verge جزئیات این مسائل یا شواهد منتشرشده‌ای را که امکان ارزیابی مستقل همه این ادعاها را فراهم کند، ارائه نمی‌کند. در نتیجه، در این مرحله دامنه و اهمیت نتایج از آنچه شرکت اعلام کرده فراتر روشن نیست.

برای Álvaro Lozano-Robledo، استاد ریاضی دانشگاه Connecticut، اعلام این‌که شمار زیادی مسئله حل شده اما هنوز معلوم نیست با نتایج چه باید کرد، رفتاری نامعمول در جامعه دانشگاهی است. او گفت ریاضی‌دانان معمولاً ادعا نمی‌کنند انبوهی از مسائل را حل کرده‌اند، بی‌آن‌که توضیح دهند نتایج چه هستند. Lozano-Robledo همچنین به اظهارنظرهای OpenAI درباره پیشرفت چشمگیر در یک مسئله دیگر جایزه هزاره اشاره کرد و گفت در ریاضیات معمولاً یا مسئله حل شده است یا هنوز در دست بررسی است؛ عبارت‌هایی مانند «تقریباً حل شده» می‌توانند گمراه‌کننده باشند.

او امیدوار است همکاری با AGMAI نشانه تلاش جدی OpenAI برای پاسخ دادن به نگرانی‌های پژوهشگران باشد. اما به گفته Lozano-Robledo، مشارکت مسئولانه در پژوهش فقط به انتشار یک راه‌حل محدود نمی‌شود. جامعه باید بتواند بفهمد نتیجه چگونه به دست آمده، چه نسبتی با ادبیات علمی موجود دارد و چرا اهمیت دارد. ریاضی‌دانان می‌گویند شرکت‌های هوش مصنوعی به تخصص انسانی نیاز دارند تا این زمینه را توضیح دهند و نتیجه را در جایگاه درستش قرار دهند.

این مسئله از آن‌جا مهم‌تر می‌شود که ارزش یک راه‌حل همیشه فقط در پاسخ نهایی خلاصه نمی‌شود. در ریاضیات انسانی، فهمی که در جریان کار شکل می‌گیرد معمولاً همراه با خود راه‌حل است. به گفته پژوهشگرانی که با The Verge گفت‌وگو کرده‌اند، ممکن است مدل بتواند پاسخی تولید کند، اما توضیح این‌که آن پاسخ چه چیزی را روشن می‌کند و چرا برای دانش ریاضی مهم است، همچنان به کار متخصصان نیاز داشته باشد.

نگرانی پژوهشگران از موج بعدی اعلام‌ها

ابهام درباره نتایج آماده انتشار، برای بعضی ریاضی‌دانان به نگرانی حرفه‌ای و شخصی تبدیل شده است. وقتی مشخص نیست OpenAI کدام مسئله‌ها را هدف قرار داده، پژوهشگران نمی‌دانند آیا کار چندساله خود یا دانشجویانشان ناگهان تحت‌تأثیر یک اعلام تازه قرار می‌گیرد یا نه. انتشار نتیجه‌ای که به یک مسئله باز مربوط است ممکن است مسیر پژوهش را تغییر دهد؛ اما تا وقتی جزئیات منتشر نشده، ارزیابی احتمال و پیامد آن دشوار است.

Colva Roney-Dougal، استاد ریاضی دانشگاه St Andrews، به The Verge گفت انتظار برای انتشار شمار زیادی از نتایج آزاردهنده است. به گفته او، هرچه تعداد نتایج احتمالی بیشتر باشد، احتمال این‌که کار خودش یا دانشجویانش ناگهان بی‌اهمیت جلوه کند نیز بیشتر می‌شود. او در این وضعیت نمی‌داند باید تلاش کند مقاله‌هایش را هرچه زودتر منتشر کند، منتظر بماند تا نتایج OpenAI روشن شود یا کارش را طبق روال ادامه دهد.

Lozano-Robledo نیز گفت انتشار چنین ادعاهایی بدون توضیح کافی می‌تواند اضطراب را در جامعه افزایش دهد. او نگران است که پژوهشگران ندانند منظور شرکت از پیشرفت نزدیک به حل یک مسئله دیگر جایزه هزاره چیست و آیا حوزه تخصصی آن‌ها هدف یکی از نتایج بعدی خواهد بود یا نه. به گفته او، این نوع اعلام‌ها می‌تواند ترس از برهم خوردن ناگهانی برنامه‌های پژوهشی را تشدید کند.

Hairer می‌گوید یکی از انگیزه‌های پیوستنش به گروه، همین نگرانی درباره اثر احتمالی هوش مصنوعی بر پژوهشگران است. او می‌داند که OpenAI ممکن است حضور ریاضی‌دانان شناخته‌شده در AGMAI را به سود خود معرفی کند، اما نگرانی اصلی‌اش را وضعیت جامعه ریاضی می‌داند، نه برداشت عمومی از خودش. موفقیت گروه در گرو آن است که بتواند به ریاضی‌دانان کمک کند درباره نتایج تازه داوری کنند، نه آن‌که صرفاً به نشانه‌ای تبلیغاتی برای شرکت تبدیل شود.

این خبر برای چه کسانی اهمیت دارد

این تحول برای ریاضی‌دانان، دانشجویان تحصیلات تکمیلی و گروه‌هایی که روی مسائل حل‌نشده کار می‌کنند اهمیت مستقیم دارد؛ زیرا انتشار نتایج تأییدنشده یا توضیح‌نداده‌شده می‌تواند بر اولویت‌های پژوهشی و ثبت اعتبار علمی اثر بگذارد. برای شرکت‌های سازنده مدل‌های هوش مصنوعی نیز ماجرا یادآوری می‌کند که ادعای دستاورد علمی با ارائه نتیجه‌ای قابل بررسی و توضیح سهم پژوهش‌های پیشین یکسان نیست.

در سطحی گسترده‌تر، AGMAI آزمونی برای چگونگی رابطه آزمایشگاه‌های هوش مصنوعی با جامعه‌های تخصصی است. این گروه می‌گوید مستقل است، اما اعتماد به استقلال آن و اثربخشی مشورت‌هایش هنوز به عملکرد آینده وابسته است. از سوی دیگر، ادعای OpenAI درباره بیش از ۱۰۰ مسئله حل‌شده تا زمان انتشار جزئیات، همچنان ادعای خود شرکت است. نحوه ارائه شواهد، توضیح روش‌ها و تعامل با پژوهشگران تعیین می‌کند که این نتایج چگونه در جامعه ریاضی ارزیابی شوند.