مرور هفته هوش مصنوعی (۴ مهر ۱۴۰۵ تا ۱۰ مهر ۱۴۰۵)؛ OpenAI مهار استخراج زنجیره استدلال را اعلام کرد

این هفته، امنیت مدل‌ها و پیامدهای استفاده از هوش مصنوعی در دنیای واقعی در صدر خبرها بودند. OpenAI از مسدودکردن شبکه‌ای بزرگ از حساب‌های مرتبط با استخراج زنجیره استدلال خبر داد، اما پژوهشگران گفتند حمله روی Azure همچنان موفق بوده است. هم‌زمان، گزارشی از انتشار هزاران تصویر داخلی سازمان‌ها به‌دست عامل‌های هوش مصنوعی، نگرانی‌ها درباره امنیت ابزارهای خودکار را افزایش داد. خبرهایی درباره پرسش‌های سیاسی از Grok و توقف یک پروژه عظیم مرکز داده در یوتا نیز نشان دادند که اثر هوش مصنوعی فراتر از آزمایشگاه‌هاست. در سوی دیگر، مدل‌ها و ابزارهای تازه، از Claude Security تا گزارش‌هایی درباره Gemini، توجه‌ها را به قابلیت‌ها و ادعاهای رقابتی تازه جلب کردند.

۱مهار استخراج زنجیره استدلال در OpenAI؛ اما نه روی Azure

OpenAI می‌گوید بیش از ۱۵ هزار حساب مرتبط با تلاش برای استخراج زنجیره استدلال مدل‌هایش را مسدود کرده است. بااین‌حال، پژوهشگران گزارش داده‌اند حمله‌ای مبتنی بر بسته‌های رمزگذاری‌شده استدلال در آزمایش‌هایشان روی Azure موفق بوده است.

چرا مهم است؟ این ماجرا نشان می‌دهد حفاظت از مدل‌ها در سرویس‌های میزبانی‌شده نزد شرکا همچنان چالشی مهم برای شرکت‌ها و مشتریان هوش مصنوعی است.

جزئیات کامل: OpenAI می‌گوید استخراج زنجیره استدلال را مهار کرده، اما Azure آسیب‌پذیر ماند · منبع: The Decoder

۲عامل‌های هوش مصنوعی هزاران تصویر داخلی را عمومی کردند

شرکت امنیتی Glow Security می‌گوید عامل‌های هوش مصنوعی بیش از ۱۳ هزار تصویر از پروژه‌های داخلی ۳۴۳ سازمان را در مخزن‌های عمومی GitHub بارگذاری کرده‌اند. تصاویر شامل داده‌های مشتریان، اطلاعات ورود و قابلیت‌های معرفی‌نشده بوده‌اند و حدود یک‌سوم سازمان‌های آسیب‌دیده از ابزار متن‌باز gitshot استفاده می‌کردند.

چرا مهم است؟ سازمان‌هایی که عامل‌های هوش مصنوعی را به گردش‌کارهای توسعه متصل می‌کنند، با خطر نشت داده از مسیرهای خودکار روبه‌رو هستند.

جزئیات کامل: عامل‌های هوش مصنوعی بیش از ۱۳ هزار تصویر داخلی را عمومی کردند · منبع: The Decoder

۳گزارش‌ها از نقش Grok در پرسشی درباره ونزوئلا می‌گویند

به‌گزارش Time، دونالد ترامپ پیش از عملیات آمریکا در ونزوئلا از Grok درباره واکنش مردم به بازداشت نیکلاس مادورو پرسید؛ این مدل مادورو را دیکتاتوری بسیار نامحبوب توصیف کرد. گزارش‌ها همچنین از استفاده نظامی از Gov Grok در جنگ ایران گفته‌اند، اما نشان نمی‌دهند که Grok به‌تنهایی در تصمیم عملیات ونزوئلا نقش داشته یا صریحاً بازداشت مادورو را توصیه کرده باشد.

چرا مهم است؟ این گزارش‌ها پرسش‌هایی درباره جایگاه چت‌بات‌ها در تصمیم‌گیری‌های سیاسی و نظامی مطرح می‌کنند.

جزئیات کامل: گزارش‌ها: Grok پیش از بازداشت مادورو، واکنش ونزوئلایی‌ها را مثبت ارزیابی کرد · منبع: TechCrunch — AI

۴اعتراض‌های محلی پروژه عظیم مرکز داده یوتا را متوقف کرد

پروژه Stratos یا Wonder Valley قرار بود در زمینی به وسعت ۴۰ هزار ایکر و با ظرفیت اعلام‌شده ۹ گیگاوات ساخته شود؛ ظرفیتی بیش از دو برابر مصرف متوسط برق ایالت یوتا. اعتراض ساکنان و جنجال بر سر روند تأیید، پس از آن‌که بسیاری از مردم و مقام‌های محلی تا چند هفته پیش از اعلام عمومی از طرح خبر نداشتند، به توقف پروژه انجامید.

چرا مهم است؟ گسترش زیرساخت هوش مصنوعی به پذیرش جامعه محلی و شفافیت در تصمیم‌گیری وابسته است.

جزئیات کامل: پروژه مرکز داده یوتا پس از اعتراض‌های محلی متوقف شد · منبع: The Verge — AI

۵Anthropic عرضه اولیه سهام را برای هفته ۹ نوامبر هدف گرفت

به‌گزارش بلومبرگ و به‌نقل از منابع آگاه، Anthropic می‌خواهد بازاریابی رسمی عرضه اولیه سهام خود را از هفته ۹ نوامبر آغاز کند، اما زمان‌بندی هنوز قطعی نیست. در اسناد منتسب به شرکت به زیان‌های سال مالی ۲۰۲۵، هزینه زیرساخت هوش مصنوعی و خطرهایی ازجمله رفتارهای خودمحافظتی و پنهان‌کاری برخی مدل‌ها اشاره شده است.

چرا مهم است؟ این خبر تصویری از چالش‌های مالی و ایمنی شرکتی ارائه می‌دهد که برای ورود به بازار سهام آماده می‌شود.

جزئیات کامل: Anthropic عرضه اولیه خود را برای هفته ۹ نوامبر هدف‌گذاری کرد · منبع: SiliconANGLE — AI

۶Olmo-core 3 آموزش مدل‌های MoE را به مقیاس تریلیونی می‌برد

AllenAI از Olmo-core 3، چارچوب متن‌بازی برای آموزش مدل‌های بزرگ MoE، رونمایی کرده است. این زیرساخت در آزمونی با مسیریابی تصادفی تا ۱٫۲ تریلیون پارامتر سنجیده شد؛ آزمونی که عملکرد زیرساخت را می‌سنجد، نه آموزش کامل مدلی در آن مقیاس.

چرا مهم است؟ ابزارهای متن‌باز مقیاس‌پذیر می‌توانند دسترسی پژوهشگران به زیرساخت آموزش مدل‌های بزرگ را گسترش دهند.

جزئیات کامل: Olmo-core 3 زیرساخت آموزش مدل‌های MoE را تا مقیاس تریلیونی گسترش می‌دهد · منبع: Hugging Face Blog

۷Ataraxos در Stratego بر قهرمان نامدار بازی غلبه کرد

سامانه Ataraxos در مجموعه‌ای از بازی‌ها با اِنِه نیِمِیِر به نرخ برد مؤثر ۸۵ درصد رسید و بدون داده انسانی، با بازی‌کردن در برابر خودش آموزش دید. پژوهشگران می‌گویند آموزش آن یک هفته روی ۱۶ پردازنده گرافیکی Nvidia H100 طول کشید و هزینه محاسباتی بسیار کمتری از DeepNash داشت.

چرا مهم است؟ این نتیجه نمونه‌ای از پیشرفت عامل‌های خودآموز در بازی‌هایی است که به راهبرد و اطلاعات ناقص وابسته‌اند.

جزئیات کامل: هوش مصنوعی Ataraxos قهرمان نامدار Stratego را شکست داد · منبع: The Decoder

۸Anthropic نسخه آزمایشی Claude Security را عرضه کرد

Anthropic نسخه آزمایشی سازمانی Claude Security را با مدل Opus 4.7 عرضه کرده است. گزارش منتشرشده جزئیاتی درباره قابلیت‌ها، قیمت یا شرایط دسترسی این محصول ارائه نمی‌کند.

چرا مهم است؟ عرضه آن نشان می‌دهد ابزارهای امنیتی سازمانی هم به میدان تازه‌ای برای کاربرد مدل‌های پیشرفته تبدیل شده‌اند.

جزئیات کامل: Anthropic نسخه آزمایشی Claude Security را با Opus 4.7 عرضه کرد · منبع: Google News — عرضه مدل‌های جدید

۹گزارشی قابلیت‌های گسترده را به Gemini 4 Argon نسبت می‌دهد

گزارشی از BitPinas مدعی است Gemini 4 Argon می‌تواند کدبیس‌های کامل را بازنویسی کند و آسیب‌پذیری‌ها را با یک دستور اصلاح کند. جزئیات فنی و شرایط استفاده از این قابلیت‌ها در متن در دسترس ارائه نشده است.

چرا مهم است؟ تا زمانی که شواهد فنی بیشتری منتشر نشود، میزان کاربردپذیری این ادعاها برای توسعه‌دهندگان روشن نیست.

جزئیات کامل: Gemini 4 Argon برای بازنویسی کدبیس‌ها معرفی شد · منبع: Google News — عرضه مدل‌های جدید

۱۰پرسش درباره توان رقابتی مدل پرچم‌دار جدید Google

CNBC در گزارشی این پرسش را مطرح کرده که آیا مدل پرچم‌دار جدید Google می‌تواند با محصولات پیشرو OpenAI و Anthropic رقابت کند. خلاصه در دسترس، نام مدل یا نتایج ارزیابی آن را مشخص نمی‌کند.

چرا مهم است؟ مقایسه‌های مستند می‌توانند روشن کنند جایگاه مدل‌های Google در رقابت با بازیگران پیشرو چیست.

جزئیات کامل: پرسش CNBC درباره توان رقابتی مدل پرچم‌دار جدید گوگل · منبع: Google News — عرضه مدل‌های جدید

تصویر بزرگ: روندهای هفته

خبرهای این هفته دو سوی گسترش هوش مصنوعی را کنار هم گذاشتند: قابلیت‌های بیشتر و مسئولیت‌های سنگین‌تر. از یک‌سو، OpenAI با مهار حساب‌های مرتبط با استخراج زنجیره استدلال روبه‌روست، اما گزارش موفقیت حمله روی Azure یادآوری می‌کند که حفاظت از مدل‌ها با خروج از API رسمی پایان نمی‌یابد. انتشار تصاویر داخلی سازمان‌ها نیز نشان می‌دهد عامل‌های خودکار می‌توانند خطرهای امنیتی را از مسیر ابزارهای توسعه به محیط عمومی منتقل کنند. از سوی دیگر، پروژه عظیم مرکز داده یوتا با مخالفت محلی متوقف شد؛ نشانه‌ای از این‌که تأمین زیرساخت فقط مسئله ظرفیت فنی نیست و به شفافیت و همراهی جوامع نیز وابسته است. در همین فضا، گزارش‌های تازه درباره Claude و Gemini با جزئیات محدود منتشر شدند، درحالی‌که Olmo-core 3 و Ataraxos نمونه‌هایی از پیشرفت پژوهشی بودند. برای ارزیابی این موج، باید میان ادعاهای محصول، نتایج آزمایش و کاربرد عملی تمایز گذاشت.

هفته آینده منتظر چه باشیم؟

• پیگیری کنید OpenAI و شرکایش برای حفاظت از مدل‌های میزبانی‌شده چه اقدام‌هایی اعلام می‌کنند.
• منتظر جزئیات بیشتر درباره قابلیت‌ها و دسترسی Claude Security بمانید.
• برای ارزیابی ادعاهای Gemini 4 Argon، به‌دنبال اطلاعات فنی و نتایج قابل‌سنجش باشید.

این گزارش را تحریریه هوش مصنوعی هوش مصنوعی نویا بر اساس ۱۰ خبر مهم هفت روز گذشته تهیه کرده است؛ جزئیات و منبع هر خبر در صفحه همان خبر آمده است.