آیا می‌توان گفت هوش مصنوعی یک کشف علمی انجام داده است؟

Anthropic می‌گوید گروهی از عامل‌های هوش مصنوعی Claude در آزمایشگاه زیست‌شناسی مولکولی این شرکت الگویی ژنتیکی را شناسایی کرده‌اند؛ ادعایی که بحثی قدیمی را دوباره پیش کشیده است: چه زمانی می‌توان گفت هوش مصنوعی واقعاً یک کشف علمی انجام داده؟ مسئله فقط این نیست که یک سامانه می‌تواند در میان انبوهی از داده‌ها نشانه‌ای غیرمعمول پیدا کند. پرسش اصلی این است که آن نشانه چه معنایی دارد، آیا نتیجه‌ای تازه به دانش زیست‌شناسی اضافه می‌کند و سهم هوش مصنوعی را چگونه باید از کار پژوهشگران انسانی جدا کرد.

به گفته Anthropic، سامانه این شرکت با استفاده از ۹۵۰ عامل هوش مصنوعی و پس از ۲۱ ساعت بررسی، الگویی تکرارشونده را در کنار یک آنزیم شناخته‌شده پیدا کرد. شرکت این الگو را پیش‌تر ثبت‌نشده توصیف کرد و آن را به شکل‌گیری ایده‌هایی درباره سامانه CRISPR تشبیه کرد؛ فناوری ویرایش ژن که به گفته شرکت تأثیر گسترده‌ای بر علم و پزشکی گذاشته است. اما شماری از زیست‌شناسان می‌گویند چنین مقایسه‌ای ممکن است اهمیت نتیجه را بیش از اندازه نشان دهد: شناسایی یک الگوی عجیب، لزوماً به معنی کشف سازوکار یا کاربرد زیستی تازه نیست.

عامل‌های Claude چه چیزی را شناسایی کردند؟

برای درک ادعای Anthropic می‌توان به میلیون‌ها توالی DNA فکر کرد؛ داده‌هایی که با تعیین توالی موجودات زنده گردآوری شده‌اند. پژوهشگران می‌توانند این مجموعه‌ها را برای یافتن بخش‌هایی بررسی کنند که شاید اطلاعاتی درباره ژن‌ها یا آنزیم‌ها در خود داشته باشند. آنزیم‌ها پروتئین‌هایی هستند که واکنش‌های زیستی را پیش می‌برند. پیدا کردن یک توالی جالب، با این حال، تنها یکی از مراحل کار است: باید معلوم شود آنزیم چه می‌کند و آیا می‌توان از شناخت آن برای هدفی مشخص استفاده کرد.

طبق شرحی که Anthropic از نتیجه داده، عامل‌های Claude یک توالی کاملاً تازه پیدا نکردند. آن‌ها الگویی تکرارشونده را در اطراف یک آنزیم شناخته‌شده برجسته کردند؛ الگویی که شرکت می‌گوید در فهرست‌های پیشین ثبت نشده بود. این تمایز مهم است، چون خبر از کشف یک توالی جدید با خبر از شناسایی یک آرایش غیرمعمول در داده‌های موجود یکسان نیست. شرکت این آرایش را «یادآور» الگویی دانست که به پژوهش‌های مرتبط با CRISPR انجامید، اما این تشبیه به‌خودی‌خود ثابت نمی‌کند الگوی جدید همان اهمیت یا پیامد را دارد.

Anthropic همچنین از فرایندی سخن گفته که در آن سامانه حجم زیادی از نامزدها را بررسی و گزینه‌های مناسب‌تر را برای پیگیری جدا می‌کند. در گزارش آمده است که محدود کردن ۲۰۰ هزار نامزد به چند گزینه ارزشمند برای بررسی، کاری کم‌اهمیت نیست. بااین‌حال، چنین غربالگری‌ای بخشی از یک مسیر پژوهشی گسترده‌تر است؛ آزمایش و تفسیر نتایج همچنان نقش دارند و در آزمایشگاه Anthropic، دانشمندان انسانی آزمایش‌هایی را انجام می‌دهند که بر پایه گزارش عامل‌ها پیشنهاد شده‌اند.

چرا «پیدا کردن الگو» برای منتقدان کافی نیست؟

انتقاد اصلی برخی زیست‌شناسان این است که یافتن یک خوشه ژنی یا تکرار غیرمعمول، لزوماً دشوارترین بخش پژوهش نیست. Lucas Harrington، زیست‌شناسی که به اعلام Anthropic واکنش نشان داد، استدلال کرده است که پرسش تعیین‌کننده این است که آن سامانه واقعاً چه کاری انجام می‌دهد. به بیان دیگر، کشف یک هم‌نشینی یا الگوی آماری می‌تواند سرنخی برای پژوهش بعدی باشد، اما برای فهم اهمیت آن باید کارکرد زیستی‌اش روشن شود.

این نقد به تفاوت میان «نتیجه جالب» و «کشفی که دانش را تغییر می‌دهد» اشاره دارد. یک ابزار ممکن است در داده‌هایی که انسان به‌سختی می‌تواند یک‌جا بررسی کند، ارتباط یا الگوی تازه‌ای پیدا کند. این توانایی می‌تواند به پژوهشگران کمک کند زمان و توجه خود را روی گزینه‌های محتمل‌تر بگذارند. اما اگر هنوز معلوم نباشد آن الگو چه معنایی دارد، ارزیابی آن به‌عنوان کشف بنیادی دشوار است. در نتیجه، ممکن است دستاورد عملی سامانه در غربالگری داده‌ها واقعی باشد، حتی اگر اطلاق عنوان «کشف علمی» به آن محل اختلاف بماند.

بحث فقط درباره یک واژه نیست. شرکت‌های هوش مصنوعی گاهی سامانه‌های خود را نه صرفاً ابزارهایی برای دانشمندان، بلکه عامل‌هایی معرفی می‌کنند که خودشان کشف انجام می‌دهند. این زبان، مسئولیت و نقش پژوهشگران را مبهم می‌کند. در علم، تولید دانش معمولاً به همکاری افراد و ابزارهای گوناگون وابسته است؛ از طرح پرسش و انتخاب داده تا انجام آزمایش و بررسی مستقل نتیجه. جدا کردن سهم یک سامانه از این زنجیره ممکن است ساده نباشد.

ادعای پیشین یک پژوهشگر و مسئله اعتماد

مناقشه دیگری نیز پس از اعلام Anthropic مطرح شد. Mario Rodríguez Mestre، زیست‌شناس دانشگاه کپنهاگ، طبق گزارشی که New York Times منتشر کرد، گفت گروه او پیش‌تر همین الگو را شناسایی کرده بود. Mestre که در کارش به‌طور منظم با Claude گفت‌وگو می‌کرد، این احتمال را مطرح کرد که تیم Anthropic از گفت‌وگوهای او با سامانه آگاه شده باشد. Anthropic این احتمال را رد کرده است؛ گزارش مورد استناد نیز اثباتی ارائه نمی‌کند که نشان دهد این گفت‌وگوها در نتیجه شرکت نقش داشته‌اند. Mestre گفته است که با وجود این، استفاده از Claude را متوقف می‌کند.

این اختلاف، پرسش‌هایی درباره منشأ ایده‌ها و نحوه استفاده از ابزارهای هوش مصنوعی در پژوهش را برجسته می‌کند. وقتی پژوهشگران برای کار خود با یک دستیار هوش مصنوعی گفت‌وگو می‌کنند، ممکن است بخواهند بدانند اطلاعات آن تعامل چگونه مدیریت می‌شود و آیا می‌تواند به کار دیگران راه پیدا کند. در این مورد، ادعای Mestre و پاسخ Anthropic باید از یکدیگر تفکیک شوند: پژوهشگر احتمال استفاده از گفت‌وگوها را مطرح کرده و شرکت آن را انکار کرده است. در متن گزارش، نتیجه‌ای مستقل برای حل این اختلاف ارائه نشده است.

نحوه عرضه چنین ادعاهایی همچنین می‌تواند بر اعتماد عمومی به پیشرفت‌های واقعی اثر بگذارد. اگر شرکت‌ها هر نتیجه‌ای را با زبان «کشف» معرفی کنند، مخاطبان ممکن است در برابر دستاوردهای بعدی نیز بدبین شوند. از طرف دیگر، اگر معیار ارزیابی فقط این باشد که یک سامانه به‌تنهایی و بدون هدایت انسان به نتیجه رسیده یا نه، ارزش کارهای کم‌نمایش‌تر اما مهم ــ مانند محدود کردن هزاران گزینه به چند نامزد آزمایش ــ ممکن است نادیده گرفته شود.

معیار کشف در رقابت شرکت‌های هوش مصنوعی

این تنش تنها به زیست‌شناسی محدود نیست. پیش‌تر در همان ماه، OpenAI اعلام کرده بود عامل‌های تیم این شرکت مسئله‌ای ریاضی با جایزه یک میلیون‌دلاری را حل کرده‌اند. سپس بحثی شکل گرفت که آیا آن مسئله از نظر ریاضی‌دانان مهم‌ترین مسئله بوده است یا نه. گزارش مورد اشاره در این مناقشه نمی‌گفت پاسخ OpenAI نادرست است؛ بلکه اهمیت خود مسئله را زیر سؤال می‌برد. در کنار آن، یک ریاضی‌دان نیز مدعی شده بود مدل‌ها ممکن است از کار او بدون ارجاع استفاده کرده باشند. این موارد در کنار هم می‌توانند تصویری بسازند که در آن یا سامانه تقلب کرده یا نتیجه اهمیت چندانی ندارد، یا هر دو.

برای Harrington، این واکنش‌ها دلیلی است که شرکت‌های هوش مصنوعی باید از همین حالا معیار بالایی برای ادعای کشف علمی تعیین کنند. اگر هر موفقیت محدود به‌عنوان یک جهش بنیادی معرفی شود، تشخیص دستاوردی که واقعاً سازوکار زیستی تازه‌ای را آشکار می‌کند دشوارتر خواهد شد. این نگرانی در شرایطی مطرح می‌شود که مدیران OpenAI و Anthropic برای نشان دادن توانایی بیشتر سامانه‌های خود با یکدیگر رقابت می‌کنند؛ رقابتی که ممکن است شرکت‌ها را به بیان ادعاهای بزرگ‌تر سوق دهد.

گزارش MIT Technology Review در نهایت پاسخ قطعی برای این‌که هوش مصنوعی چه زمانی «کاشف» به شمار می‌آید ارائه نمی‌کند، اما تفاوت چند مرحله را روشن می‌سازد: پیدا کردن یک الگو، پیشنهاد فرضیه، آزمایش آن و نشان دادن اهمیت نتیجه. هوش مصنوعی می‌تواند در برخی از این مراحل کمک قابل توجهی کند، به‌ویژه وقتی پای جست‌وجو در مجموعه‌های بزرگ داده در میان باشد. اما برای سنجش یک ادعای علمی، باید روشن باشد سامانه چه کرده، انسان‌ها چه نقشی داشته‌اند و نتیجه چه چیزی به دانش موجود افزوده است.

این خبر برای چه کسانی اهمیت دارد

این بحث برای پژوهشگران زیست‌شناسی و ریاضی اهمیت مستقیم دارد، چون نشان می‌دهد نتایج تولیدشده با کمک هوش مصنوعی چگونه باید ارزیابی و گزارش شوند. برای شرکت‌های سازنده مدل‌ها نیز مسئله به اعتبار ادعاها و شفافیت درباره سهم سامانه و پژوهشگر انسانی مربوط می‌شود. سرمایه‌گذاران و مدیران آزمایشگاه‌ها ممکن است بخواهند بدانند ابزارهای هوش مصنوعی در کدام بخش‌های پژوهش واقعاً زمان یا منابع را کاهش می‌دهند، نه فقط این‌که چه عنوانی برای دستاوردشان انتخاب شده است. برای مخاطبان عمومی هم تمایز میان یک سرنخ پژوهشی و کشفی که کارکرد و اهمیتش روشن شده، راهی برای سنجش واقع‌بینانه ادعاهای بزرگ درباره هوش مصنوعی است.