کارپاتی: بیشتر مردم هنوز توان واقعی هوش مصنوعی را ندیده‌اند

توانایی مدل‌های هوش مصنوعی به‌گفته آندری کارپاتی، هم‌بنیان‌گذار OpenAI که به Anthropic پیوسته، از آنچه بیشتر مردم تجربه کرده‌اند فراتر رفته است. او در یادداشتی که The Decoder روز دوشنبه ۲۰ مهر ۱۴۰۵ گزارش کرد، می‌گوید عموم کاربران هنوز چت‌بات‌ها را عمدتاً ابزاری شبیه جست‌وجوی بهتر یا دستیار نوشتن می‌بینند؛ درحالی‌که گروه کوچکی از متخصصان با سامانه‌هایی کار می‌کنند که پروژه‌های بزرگ نرم‌افزاری را در زمانی کوتاه‌تر پیش می‌برند.

کارپاتی برای توضیح این فاصله، کاربران مدل‌های زبانی بزرگ (LLM) را در چهار سطح دسته‌بندی می‌کند. به برآورد او، حدود شش میلیارد نفر، معادل نزدیک به ۷۵ درصد جمعیت جهان، هنوز به‌ندرت با این مدل‌ها روبه‌رو شده‌اند. یک تا دو میلیارد نفر دیگر از نسخه‌های رایگان ابزارهایی شبیه ChatGPT استفاده می‌کنند، اما عموماً برای جست‌وجو، نوشتن یا کارهای روزمره.

چهار سطح تجربه از مدل‌های زبانی

کارپاتی می‌گوید حتی بسیاری از متخصصان خارج از حوزه‌هایی مانند ریاضیات و برنامه‌نویسی در همین سطح دوم قرار دارند. مدیران و افرادی که بخش عمده کارشان گفت‌وگو با دیگران است، ممکن است از نظر نظری بدانند هوش مصنوعی چه تغییراتی ایجاد می‌کند، اما تجربه‌شان از توان واقعی مدل‌ها بیشتر غیرمستقیم و انتزاعی است.

سطح سوم، به‌گفته او، حدود ۲۰ میلیون کاربر حرفه‌ای را در بر می‌گیرد؛ افرادی که در ریاضیات و کدنویسی با مدل‌های پیشرفته کار می‌کنند. این کاربران می‌بینند که کارهای پیچیده‌ای که پیش‌تر هفته‌ها یا ماه‌ها زمان می‌برد، گاهی با یک دستور متنی به عامل‌های هوش مصنوعی سپرده می‌شود. عامل هوش مصنوعی سامانه‌ای است که می‌تواند برای انجام وظیفه، مجموعه‌ای از گام‌ها را دنبال کند؛ در این نمونه‌ها، از ساخت و بازسازی برنامه‌ها تا ترجمه نرم‌افزار یا مهندسی معکوس فایل‌های اجرایی.

او این تغییر را سریع توصیف می‌کند. کارپاتی می‌گوید در اکتبر ۲۰۲۴ عامل‌های هوش مصنوعی را بیشتر تبلیغاتی می‌دانست و معتقد بود به‌خوبی کار نمی‌کنند. اما چند ماه بعد، خودش نوشتن کد را به‌صورت دستی کنار گذاشت و انجام کار را به عامل‌ها سپرد؛ تغییری از تایپ دستورها در ویرایشگر کد به هدایت ابزارهایی که کار را انجام می‌دهند.

توانایی مدل‌های هوش مصنوعی در سامانه‌های داخلی

بالاترین سطح دسترسی، به‌تخمین کارپاتی، تنها حدود پنج‌هزار نفر را شامل می‌شود؛ گروهی که به سامانه‌های داخلی و پیشرفته شرکت‌ها دسترسی دارند. او می‌گوید آنچه بیرون از این حلقه دیده شده، تنها پیش‌نمایشی از توانایی‌های این سامانه‌هاست. به توصیف او، در نمونه‌های پیشرفته، هزاران عامل می‌توانند طی چند هفته روی پروژه‌های بسیار بزرگ نرم‌افزاری همکاری کنند.

کارپاتی از کاربردهایی مانند کشف آسیب‌پذیری‌های امنیتی موسوم به «روز صفر»، اجرای حمله‌ها و دفاع‌های سایبری با سرعت ماشینی، کشف علمی و پیشبرد مرزهای ریاضیات نام می‌برد. به‌گفته او، برخی از این کارها می‌توانست برای متخصصان برجسته حوزه سال‌ها زمان ببرد. این موارد توصیف کارپاتی از سامانه‌های داخلی است و نباید آن را با تجربه معمول کاربران از محصولات عمومی یکی دانست.

او هم‌زمان هشدار می‌دهد که توان انسان‌ها برای بررسی و درک نتایج ممکن است از سرعت تولید آن‌ها عقب بماند. کارپاتی به بحث‌های ادامه‌دار درباره رخداد OpenAI-HF اشاره می‌کند و می‌گوید ریاضی‌دانان احتمالاً مدتی را صرف بررسی ۷۲۲ دست‌نوشته در ریاضیات پیشرفته خواهند کرد. در این تصویر، تولید خروجی بیشتر به‌تنهایی به معنای فهم یا ارزیابی سریع‌تر آن نیست.

چرا کدنویسی و ریاضیات پیشتازند؟

کارپاتی می‌گوید توانایی مدل‌های زبانی فعلاً در زمینه‌هایی اوج گرفته که دیجیتال، قابل‌راستی‌آزمایی و از نظر اقتصادی ارزشمندند. منظور از قابل‌راستی‌آزمایی، کارهایی است که می‌توان درستی نتیجه را با معیارهای روشن سنجید؛ ویژگی‌ای که در کد یا برخی مسائل ریاضی وجود دارد. به گفته او، این روند با یادگیری تقویتی بر پایه پاداش‌های قابل‌سنجش ارتباط دارد؛ روشی که مدل را با پاداش‌دادن به پاسخ‌های موفق آموزش می‌دهد.

او همچنین می‌گوید شرکت‌ها منابع آموزشی خود را بیشتر به حوزه‌هایی اختصاص می‌دهند که ظرفیت درآمدزایی بالاتری دارند. در شرایط کنونی، از نگاه کارپاتی، این منطق به برجسته‌شدن کدنویسی و ریاضیات کمک کرده است. بنابراین فاصله تجربه کاربران تنها به دسترسی مربوط نیست؛ تفاوت در نوع کاری که مدل‌ها برای آن آموزش می‌بینند نیز نقش دارد.

سام آلتمن، مدیرعامل OpenAI، نیز در اوایل سپتامبر در نشست وزیران نوآوری گروه ۲۰ گفته بود یک ابزار کدنویسی هوش مصنوعی می‌تواند کاری را در «۱۷ دقیقه» انجام دهد که پیش‌تر یک استارتاپ برای ساخت آن سه ماه وقت گذاشته بود. او گفته بود جهان هنوز با معنای این تغییر همراه نشده است. این اظهار نظر با برداشت کارپاتی از فاصله میان تجربه روزمره و توان سامانه‌های پیشرفته هم‌راستا است، هرچند هر دو به نمونه‌هایی از کاربردهای تخصصی اشاره دارند.

این خبر برای چه کسانی اهمیت دارد

دسته‌بندی کارپاتی برای کاربران عمومی یادآوری می‌کند که تجربه یک چت‌بات رایگان لزوماً نشان‌دهنده توان سامانه‌های پیشرفته‌تر نیست. برای شرکت‌ها و متخصصان، نکته مهم‌تر آن است که کاربردهای کنونی در حوزه‌هایی متمرکزند که خروجی‌شان را می‌توان سنجید و تجاری‌سازی کرد؛ این تمرکز بر مسیر توسعه هوش مصنوعی اثر می‌گذارد.

هم‌زمان، هشدار او درباره عقب‌ماندن بازبینی انسانی از تولید خروجی، مسئله‌ای مهم برای پژوهشگران، مدیران و سازمان‌هایی است که به نتایج مدل‌ها اتکا می‌کنند. پیام اصلی کارپاتی نه این است که همه کاربران اکنون با چنین قابلیتی روبه‌رو هستند، بلکه این است که میان استفاده عمومی، کار حرفه‌ای و دسترسی داخلی به مدل‌های مرزی فاصله‌ای بزرگ وجود دارد.