برج‌های مرزی مجهز به هوش مصنوعی؛ وعده‌ای که به نجات جان‌ها نرسید

بررسی MIT Technology Review از سامانه نظارتی مرز جنوبی آمریکا، بیش از هزار نفر را شناسایی کرده است که از مناطق زیر پوشش برج‌های دیده‌بانی عبور کردند، اما به آن‌ها دسترسی پیدا نشد یا بازداشت نشدند و سرانجام در همان نواحی جان باختند. این یافته‌ها، که در میزگردی ضبط‌شده در ۲۸ سپتامبر ۲۰۲۶ بررسی شد، پرسش‌هایی جدی درباره فاصله میان وعده‌های فناوری نظارتی و نتیجه‌ای که در عمل برای افراد در معرض خطر رقم می‌خورد مطرح می‌کند؛ به‌ویژه آن‌که برخی از این افراد زیر نظر برج‌های تازه‌نصب‌شده مجهز به هوش مصنوعی بودند.

هزینه میلیاردی برای «دیوار مجازی»

به گزارش MIT Technology Review، ایالات متحده طی ۲۵ سال گذشته میلیاردها دلار برای ساخت آنچه «دیوار مجازی» در امتداد مرز جنوبی این کشور نامیده می‌شود هزینه کرده است. این سامانه بر برج‌های نظارتی متکی است؛ برج‌هایی که قرار بود به شناسایی و دستگیری افرادی که از مرز عبور می‌کنند کمک کنند و در نهایت جان انسان‌ها را نجات دهند.

نام «دیوار مجازی» به این معناست که نظارت از راه فناوری و تجهیزات مستقر در مسیر مرزی انجام می‌شود، نه فقط با مانع فیزیکی. در نسل تازه‌ای از این تجهیزات، هوش مصنوعی به کار گرفته شده تا برج‌ها بتوانند افراد را به‌طور خودکار شناسایی کنند. متن منبع درباره جزئیات فنی این سامانه‌ها، مانند شیوه آموزش مدل‌ها یا دقت شناسایی آن‌ها، اطلاعاتی ارائه نمی‌کند.

اما گستردگی سرمایه‌گذاری و وعده‌های مطرح‌شده برای این سامانه‌ها، پرسش اصلی گزارش را پررنگ می‌کند: آیا زیرساختی که برای دیدن و شناسایی افراد ساخته شده، در عمل می‌تواند به آن‌ها کمک کند؟ یافته‌های بررسی نشان می‌دهد که حضور در محدوده زیر پوشش این برج‌ها لزوماً به رسیدن نیروهای امدادی یا مأموران و جلوگیری از مرگ منجر نشده است.

بیش از هزار مرگ در محدوده زیر پوشش برج‌ها

تحقیق MIT Technology Review بیش از هزار مورد از افرادی را مستند کرده است که در مناطق تحت نظارت برج‌ها حرکت کردند، اما به آن‌ها دسترسی پیدا نشد یا بازداشت نشدند و بعد جان باختند. اهمیت این یافته فقط در شمار موارد مستندشده نیست؛ گزارش می‌گوید بخشی از افراد جان‌باخته حتی زیر نظر برج‌های تازه‌ای بودند که به هوش مصنوعی مجهز شده‌اند و برای تشخیص خودکار افراد طراحی شده‌اند.

این موضوع به‌تنهایی ثابت نمی‌کند که هوش مصنوعی علت مرگ افراد بوده یا سامانه در هر مورد مشخص به‌درستی عمل کرده است. متن منتشرشده جزئیاتی درباره زمان شناسایی افراد، هشدارهای احتمالی، واکنش نیروها یا علت دقیق مرگ‌ها ارائه نمی‌دهد. آنچه گزارش بر آن تأکید می‌کند، شکاف میان پوشش نظارتی و پیامد عملی آن است: فردی ممکن است در محدوده دید تجهیزات قرار داشته باشد، اما این مشاهده به‌تنهایی تضمین نمی‌کند که کسی به او برسد.

این تمایز برای ارزیابی فناوری مهم است. یک سامانه ممکن است برای تشخیص خودکار طراحی شده باشد، اما نتیجه‌ای که برای مردم اهمیت دارد صرفاً تشخیص نیست؛ زنجیره‌ای از شناسایی، اطلاع‌رسانی و اقدام باید برقرار شود تا وعده نجات جان افراد محقق شود. گزارش یادشده با مستند کردن مرگ‌ها در مناطق زیر پوشش، نشان می‌دهد که وجود تجهیزات نظارتی به‌خودی‌خود نمی‌تواند معیار کافی برای سنجش امنیت یا اثربخشی باشد.

میزگرد درباره وعده‌ها و ناکامی‌های فناوری

MIT Technology Review در میزگردی به بررسی ناکامی‌های فناوری نظارت مرزی و روایت‌های افرادی پرداخت که در مناطق مرزی جان می‌بازند. این نشست با حضور Mat Honan، سردبیر ارشد رسانه، James O’Donnell، خبرنگار ارشد هوش مصنوعی، و Eileen Guo، خبرنگار ارشد حوزه گزارش‌های ویژه و تحقیقی، ضبط شده است.

ترکیب موضوع و مهمانان، پیوند میان گزارش تحقیقی و پرسش‌های گسترده‌تر درباره نقش هوش مصنوعی را برجسته می‌کند: وقتی ابزارهای خودکار برای شناسایی انسان‌ها در یک محیط حساس به کار می‌روند، باید روشن باشد که توانایی واقعی آن‌ها چیست و شناسایی‌شان چگونه به اقدام منجر می‌شود. بااین‌حال، بر اساس اطلاعات موجود درباره نشست، نمی‌توان نتیجه گرفت که شرکت‌کنندگان پاسخ مشخصی درباره جزئیات فنی یا عملکرد هر برج ارائه کرده‌اند.

منبع همچنین به مطالب دیگری درباره هزینه‌های نظارت مرزی، روش تهیه نقشه‌ای جامع از مرگ‌ها در امتداد «دیوار مجازی» و راهکارهایی برای رسیدگی به ناکامی‌های شناسایی‌شده اشاره می‌کند. اما در متن در دسترس، جزئیات آن راهکارها بیان نشده است. بنابراین نکته مستند و محوری این گزارش، نه معرفی راه‌حل مشخص، بلکه نشان دادن فاصله میان هدف اعلام‌شده سامانه‌ها و سرنوشت انسان‌هایی است که در مناطق زیر پوشش آن‌ها جان باخته‌اند.

معیار موفقیت فقط شناسایی نیست

یافته‌های گزارش پرسشی مهم برای ارزیابی فناوری‌های نظارتی ایجاد می‌کند: آیا موفقیت چنین سامانه‌ای با تعداد افراد شناسایی‌شده سنجیده می‌شود یا با توانایی آن در جلوگیری از پیامدهای مرگبار؟ این‌ها یکسان نیستند. شناسایی خودکار، حتی اگر انجام شود، تنها بخشی از فرایند است و به‌تنهایی نشان نمی‌دهد که فرد دریافت‌کننده کمک بوده یا جانش نجات یافته است.

از سوی دیگر، آن‌که برخی از جان‌باختگان زیر نظر برج‌های مجهز به هوش مصنوعی بوده‌اند، ضرورت بررسی دقیق‌تر عملکرد و محدودیت‌های این سامانه‌ها را مطرح می‌کند. برای داوری درباره نقش مدل‌های هوش مصنوعی باید اطلاعاتی در دست باشد که متن منبع ارائه نمی‌کند؛ از جمله این‌که آیا سامانه در هر مورد فرد را تشخیص داده، هشدار صادر کرده یا اطلاعات به نیروهای مسئول رسیده است. بدون چنین داده‌هایی، نسبت دادن مستقیم مرگ‌ها به هوش مصنوعی فراتر از شواهد موجود خواهد بود.

با وجود این محدودیت، مستند شدن موارد مرگ در محدوده نظارت، پرسش از کارآمدی کل زیرساخت را ضروری می‌کند. فناوری‌ای که با وعده شناسایی و کمک معرفی می‌شود، باید بر پایه پیامدهای واقعی ارزیابی شود؛ نه صرفاً بر اساس وجود برج‌ها یا قابلیت خودکار تشخیص. گزارش MIT Technology Review در همین چارچوب، توجه را از تجهیزات به افرادی برمی‌گرداند که قرار بود این تجهیزات به شناسایی و حفاظت از آن‌ها کمک کنند.

این خبر برای چه کسانی اهمیت دارد

این خبر برای سیاست‌گذاران و نهادهایی که درباره خرید و به‌کارگیری سامانه‌های نظارتی تصمیم می‌گیرند اهمیت دارد، زیرا نشان می‌دهد ارزیابی فناوری باید فراتر از توانایی فنی اعلام‌شده باشد و نتیجه نهایی برای انسان‌ها را نیز در نظر بگیرد. برای پژوهشگران و شرکت‌های سازنده ابزارهای هوش مصنوعی نیز این پرونده یادآور آن است که شناسایی خودکار تنها زمانی ارزش عملی دارد که به فرایندی مؤثر و قابل ارزیابی متصل باشد.

برای عموم مردم و گروه‌های مدافع حقوق انسانی، یافته‌های گزارش فرصتی است برای پرسیدن این‌که هزینه‌های کلان نظارت به چه نتایجی انجامیده و چگونه می‌توان درباره عملکرد آن پاسخ‌گویی خواست. گزارش، رابطه علّی میان هوش مصنوعی و مرگ افراد را اثبات نمی‌کند؛ اما مستند می‌کند که حتی در محدوده دید برخی برج‌های مجهز به این فناوری نیز افراد جان باخته‌اند. همین واقعیت، سنجش وعده‌های «دیوار مجازی» بر پایه پیامدهای انسانی را ضروری می‌سازد.