Anthropic برای مذاکره عامل‌های هوش مصنوعی با وکلا مشورت می‌کند

مذاکره عامل‌های هوش مصنوعی موضوع مشورت تازه Anthropic با شرکت‌های حقوقی است؛ این شرکت می‌خواهد پیش از آن‌که عامل‌ها به‌نمایندگی از کاربران بر سر قیمت، شکایت یا مفاد قرارداد مذاکره کنند، هنجارهایی برای منصفانه‌بودن این تعامل‌ها تدوین کند. به گزارش The Decoder و به نقل از Financial Times، نگرانی این است که توانایی مدل‌های قوی‌تر در گرفتن معامله‌های بهتر، اگر در دسترس همه نباشد، به گسترش نابرابری اجتماعی بینجامد.

Anthropic این کار را بخشی از تلاش گسترده‌تر برای آماده‌کردن مدل‌های خود برای موقعیت‌هایی می‌داند که پاسخ درست در آن‌ها ساده و قابل‌اندازه‌گیری نیست. در گزارش منتشرشده در یکشنبه ۲۶ مهر ۱۴۰۵، موضوع هم به کاربردهای احتمالی عامل‌های هوش مصنوعی مربوط می‌شود و هم به دشواری ارزیابی قضاوت و کیفیت پاسخ در حوزه‌هایی مانند حقوق.

هنجارهای منصفانه برای مذاکره عامل‌های هوش مصنوعی

عامل هوش مصنوعی سامانه‌ای است که می‌تواند برای انجام یک کار یا پیگیری هدفی از طرف کاربر عمل کند. در کاربردهایی که Anthropic بررسی می‌کند، این عامل‌ها ممکن است بر سر قیمت چانه‌زنی کنند، شکایت‌ها را پیگیری و حل‌وفصل کنند یا بکوشند پیشنهاد بهتری در یک قرارداد به دست آورند. این نقش با پاسخ‌دادن صرف به پرسش کاربر تفاوت دارد: عامل قرار است در تعامل با طرف دیگر، خواسته‌ای را از جانب او دنبال کند.

به گفته گزارش، Anthropic با شرکت‌های حقوقی مشورت می‌کند تا برای چنین مذاکره‌هایی هنجارهای منصفانه شکل بگیرد. متن گزارش جزئیات این هنجارها یا نام شرکت‌های حقوقی را مشخص نمی‌کند؛ اما خودِ مشورت نشان می‌دهد که Anthropic مسئله را تنها فنی نمی‌بیند. وقتی یک سامانه از طرف فردی وارد گفت‌وگو می‌شود، نحوه مذاکره و نتیجه‌ای که به دست می‌آورد می‌تواند بر منفعت همان فرد اثر بگذارد.

این موضوع اهمیت پیدا می‌کند چون دسترسی به عامل‌های توانمند لزوماً به‌طور برابر توزیع نمی‌شود. Anthropic در آزمایش‌هایش نشان داده است مدل‌های قوی‌تر می‌توانند معامله‌های بهتری بگیرند. اگر توانایی مذاکره به مدل یا کاربری وابسته باشد که در اختیار فرد است، کیفیت ابزار می‌تواند به عاملی برای تفاوت در نتیجه تبدیل شود. گزارش به‌طور مشخص این احتمال را مطرح می‌کند که چنین تفاوتی نابرابری اجتماعی را گسترش دهد؛ نه آن‌که وقوع آن را قطعی بداند.

چرا ارزیابی قضاوت در حقوق دشوار است؟

پشت این تلاش، مسئله‌ای بنیادی‌تر در توسعه مدل‌ها قرار دارد: در ریاضی و برنامه‌نویسی، داده‌های قابل‌راستی‌آزمایی فراوان‌اند یا می‌توان آن‌ها را نسبتاً آسان تولید کرد. برای مثال، می‌توان بررسی کرد که پاسخ یک مسئله درست است یا یک قطعه کد نتیجه مورد انتظار را می‌دهد. اما در علوم انسانی و حوزه‌های وابسته، چنین معیار روشنی همیشه وجود ندارد و اختلاف‌نظر درباره کیفیت پاسخ ممکن است بیشتر باشد.

Justin Curl، عضو کادر فنی Anthropic که درباره حقوق، نهادها و هوش مصنوعی پژوهش می‌کند، می‌گوید در حقوق «تعریف کیفیت به‌طرز مشهوری دشوار است». به همین دلیل، به‌گفته گزارش، Anthropic به متخصصانی نیاز دارد که بتوانند آزمون‌ها و ارزیابی‌هایی برای تقویت Claude در این زمینه‌ها طراحی کنند. منظور از ارزیابی، مجموعه‌ای از پرسش‌ها یا موقعیت‌های آزمون است که نشان می‌دهد مدل در چه مواردی خوب قضاوت می‌کند و کجا به بهبود نیاز دارد.

این نیاز به استخدام نیروهای تخصصی نیز پیوند خورده است. Anthropic در حال جذب افرادی با عنوان Conceptual Reasoning Fellows است و به‌طور مشخص از وکلا نام برده است. طبق گزارش، این افراد چهار ماه Claude را در پرسش‌های نیازمند داوری در حقوق، فلسفه، علوم شناختی، اقتصاد و علوم سیاسی آزمایش می‌کنند. دستمزد اعلام‌شده برای این موقعیت‌ها بین ۱۰۰ هزار تا ۱۶۷ هزار دلار است.

از بهترشدن مدل تا پیامدهای اجتماعی

کاربردهای مورد بحث می‌توانند مذاکره روزمره را به وظیفه‌ای محول‌شده به نرم‌افزار تبدیل کنند؛ از چانه‌زنی بر سر مبلغ یک خرید تا تلاش برای حل شکایت یا بهبود شروط یک قرارداد. اما انجام مؤثر این کارها تنها به توانایی تولید متن وابسته نیست. مدل باید موقعیت را بفهمد و در شرایطی تصمیم بگیرد که معیار واحدی برای «بهترین» پاسخ وجود ندارد. به همین دلیل، تدوین آزمون‌های مناسب و تعریف کیفیت در این حوزه‌ها بخشی از آماده‌سازی فنی مدل است.

در عین حال، گزارش درباره قواعدی که Anthropic و شرکت‌های حقوقی ممکن است پیشنهاد کنند، جزئیاتی ارائه نمی‌دهد. بنابراین هنوز نمی‌توان گفت این هنجارها چه محدودیت‌هایی برای عامل‌ها تعیین خواهند کرد یا چگونه قرار است انصاف را در عمل بسنجند. آنچه روشن است، پیوندی است که شرکت میان دو مسئله برقرار کرده: ساخت مدل‌هایی که در موقعیت‌های پیچیده بهتر عمل کنند و پرهیز از پیامدی که برتری آن‌ها در مذاکره می‌تواند برای گروهی از کاربران ایجاد کند.

این خبر برای چه کسانی اهمیت دارد

این موضوع برای شرکت‌هایی که ابزارهای هوش مصنوعی می‌سازند، حقوقدانانی که در طراحی و ارزیابی این ابزارها مشارکت می‌کنند و کاربرانی که ممکن است مذاکره را به عامل‌ها بسپارند اهمیت دارد. برای کسب‌وکارها نیز مسئله فقط استفاده از یک سامانه تازه نیست: اگر عامل‌ها در آینده در چانه‌زنی یا پیگیری شکایت نقش داشته باشند، کیفیت و شیوه عمل آن‌ها می‌تواند بر نتیجه تعامل اثر بگذارد.

اقدام Anthropic همچنین نشان می‌دهد که پیشرفت در توانایی‌های مدل، به‌تنهایی مسئله را حل نمی‌کند. هرچه مدل‌ها در مذاکره موفق‌تر شوند، پرسش از نحوه ارزیابی آن‌ها و توزیع منصفانه این قابلیت برجسته‌تر می‌شود. مشورت با متخصصان حقوقی و جذب پژوهشگران، تلاش این شرکت برای پرداختن هم‌زمان به توانایی و پیامدهای اجتماعی آن را نشان می‌دهد.