DetectifAI می‌خواهد تشخیص صدای جعلی را به گوشی‌ها بیاورد

پس از آن‌که صدای جعلیِ ساخته‌شده با هوش مصنوعی پدربزرگش را به پرداخت باج واداشت، تارینی پادمانابهونی استارتاپ DetectifAI را بنیان گذاشت تا شناسایی چنین تماس‌هایی را به خود گوشی‌ها بیاورد. این شرکت مستقر در سان‌فرانسیسکو می‌گوید مدل‌های هوش مصنوعی کوچکی طراحی می‌کند که می‌توانند صدای تولیدشده با هوش مصنوعی را هنگام تماس یا شنیدن پیام صوتی بررسی کنند، بی‌آن‌که فایل صوتی برای پردازش به سرورهای ابری فرستاده شود. DetectifAI در گام نخست می‌خواهد فناوری خود را به سازندگان تلفن همراه بفروشد تا تشخیص صدا به قابلیتی در سیستم‌عامل گوشی تبدیل شود.

تماسی که جرقه راه‌اندازی شرکت شد

ماجرا حدود دو سال پیش با تماسی آغاز شد که پدربزرگ پادمانابهونی تصور می‌کرد از طرف برادرش است. صدای پشت خط ادعا کرد که برادر او را ربوده‌اند و برای آزادکردنش باید باج پرداخت شود. پدربزرگ پول را فرستاد، اما بعد مشخص شد برادرش در جای دیگری بوده و از ماجرا خبر نداشته است. صدای تماس، نمونه‌ای از جعل صوتی یا «دیپ‌فیک» بود: صدایی که با کمک هوش مصنوعی ساخته شده و خود را به‌جای صدای یک فرد واقعی جا می‌زند.

پادمانابهونی در گفت‌وگو با TechCrunch گفته است آنچه بیش از ازدست‌رفتن پول در ذهنش مانده، ناتوانی پدربزرگش در تشخیص جعلی‌بودن صدا بوده است. این تجربه او را به فکر ساخت ابزاری انداخت که بتواند هنگام تماس به فرد هشدار دهد صدای شنیده‌شده احتمالاً تولیدشده با هوش مصنوعی است.

موضوع، فقط یک تجربه خانوادگی نیست. طبق آماری که در گزارش TechCrunch به نقل از FBI آمده، آمریکایی‌ها در سال گذشته نزدیک به ۹۰۰ میلیون دلار در کلاهبرداری‌های مبتنی بر هوش مصنوعی از دست داده‌اند؛ رقمی که نسبت به سال ۲۰۲۴ حدود ۲۴ درصد افزایش داشته است. بر پایه همان آمار، افراد بالای ۶۰ سال دو برابر افراد ۵۰ تا ۵۹ ساله زیان دیده‌اند. این ارقام به ایالات متحده مربوط‌اند و نشان می‌دهند چرا تشخیص جعل صوتی برای کاربران، به‌ویژه کسانی که هدف تماس‌های فریبکارانه قرار می‌گیرند، اهمیت پیدا کرده است.

مدل‌هایی برای اجرا روی خود گوشی

شرکت‌هایی مانند Reality Defender، Pindrop، Resemble AI، Microsoft Azure AI Content Safety و Nuance نیز در حوزه تشخیص دیپ‌فیک صوتی فعالیت می‌کنند. پادمانابهونی می‌گوید بسیاری از محصولات کنونی برای تحلیل صدا به خدمات ابری متکی‌اند؛ یعنی فایل صوتی از دستگاه کاربر خارج می‌شود و روی سرورهای دوردست بررسی می‌شود. به گفته او، این شیوه باعث می‌شود سازندگان گوشی نتوانند ابزارهای تشخیص را به‌سادگی به‌صورت قابلیتی درونی در دستگاه‌های خود قرار دهند.

DetectifAI رویکرد دیگری را دنبال می‌کند. به‌جای آن‌که یک مدل بزرگِ ابری را کوچک کند تا روی گوشی جا بگیرد، این شرکت می‌گوید مدل‌های کم‌حجم را از ابتدا برای اجرا در سیستم‌عامل تلفن همراه طراحی می‌کند. «مدل» در اینجا به سامانه‌ای نرم‌افزاری گفته می‌شود که با تحلیل الگوهای موجود در صدا، درباره مصنوعی یا واقعی‌بودن آن ارزیابی می‌کند. هدف این است که بررسی در همان گوشی انجام شود و کاربر هنگام تماس، دریافت پیام صوتی یا گوش‌دادن به فایل‌های دیگر، سریع‌تر نتیجه بگیرد.

طبق برنامه‌ای که بنیان‌گذار شرکت شرح داده، صدا در فرایند تشخیص از دستگاه خارج نمی‌شود. این ویژگی هم می‌تواند امکان تحلیل بدون اتکا به سرورهای ابری را فراهم کند و هم از ارسال صدای مکالمه به بیرون از گوشی جلوگیری کند. بااین‌حال، این توضیح بیانگر هدف طراحی DetectifAI است؛ گزارش اطلاعاتی درباره دقت سامانه یا ارزیابی مستقل عملکرد آن ارائه نمی‌کند.

فروش به سازندگان گوشی و کاربرد فعلی در هند

محصول محوری DetectifAI یک کیت توسعه نرم‌افزار یا SDK است. SDK مجموعه‌ای از کدها و ابزارهاست که شرکت‌های دیگر می‌توانند در محصولات خود ادغام کنند. DetectifAI قصد دارد این کیت را با مجوز در اختیار سازندگان تلفن همراه بگذارد تا قابلیت تشخیص صدای جعلی به شکل بخشی از سیستم‌عامل عرضه شود. در چنین مدلی، کاربر ممکن است بتواند هنگام مکالمه بدون نصب یک برنامه جداگانه از هشدارهای تشخیص صدا استفاده کند؛ البته عرضه این قابلیت به تصمیم و همکاری سازندگان گوشی وابسته خواهد بود.

پادمانابهونی نخستین سازنده‌ای را که این فناوری را در گوشی خود عرضه کند، دارای امتیازی رقابتی می‌داند. او برای توضیح این ایده به نقش AT&T در عرضه اولیه iPhone اشاره کرده است: به گفته او، همکاری انحصاری آن اپراتور در آغاز کار، iPhone را از رقبایش متمایز می‌کرد. این مقایسه، دیدگاه بنیان‌گذار درباره ارزش تجاری عرضه زودهنگام فناوری را نشان می‌دهد؛ گزارش از توافق مشخصی با سازنده گوشی نام نمی‌برد.

در کنار فروش به تولیدکنندگان تلفن همراه، DetectifAI می‌خواهد فناوری خود را به کسب‌وکارها و شرکت‌های فعال در پیشگیری از تقلب نیز مجوز دهد. این شرکت می‌گوید پیش از آن‌که محصولش در گوشی‌های مصرف‌کنندگان عرضه شود، درآمد اولیه دارد. بنا بر گفته پادمانابهونی، سامانه DetectifAI ماهانه بیش از صدهزار تماس را برای مؤسسات مالی در هند پردازش می‌کند.

این تماس‌ها را عامل‌های صوتی هوش مصنوعی برقرار می‌کنند؛ از جمله برای پیگیری وصول بدهی و مدارک وام. به گفته بنیان‌گذار، در هر تماس هم تشخیص دیپ‌فیک و هم تأیید هویت گوینده انجام می‌شود. تأیید هویت گوینده یعنی بررسی این‌که فرد یا عامل پشت تماس همان کسی است که ادعا می‌کند. پادمانابهونی نام مشتریان را به‌دلیل توافق‌های محرمانگی اعلام نکرده است.

پیشینه بنیان‌گذار و سرمایه‌گذاری اولیه

پادمانابهونی گفته است کار با یادگیری ماشین را از ۱۲سالگی آغاز کرده و سپس در مؤسسه فناوری Manipal در هند، سامانه‌های سایبرفیزیکی خوانده است. این سامانه‌ها فناوری‌هایی هستند که نرم‌افزار را به ماشین‌آلات و اجزای فیزیکی پیوند می‌دهند. او همچنین می‌گوید در همان دوران، جوان‌ترین سرگروه بخشی بوده که آن را نخستین بخش خودروی مسابقه‌ای بدون راننده هند در رقابت Formula Student توصیف می‌کند؛ مسابقه‌ای بین‌المللی برای تیم‌های مهندسی دانشجویی.

DetectifAI تاکنون مقدار محدودی سرمایه اولیه جذب کرده است. در میان سرمایه‌گذاران این شرکت، جاش کانستین، سردبیر پیشین TechCrunch، و مانوهار کامات، مدیر ارشد شرکت خدمات مشاوره‌ای KM Growth، قرار دارند. گزارش مبلغ این سرمایه‌گذاری را اعلام نمی‌کند.

این استارتاپ از سوی تیم تحریریه TechCrunch برای حضور در رقابت Startup Battlefield انتخاب شده است. این رقابت در رویداد TechCrunch Disrupt و در روزهای ۱۳ تا ۱۵ اکتبر در مرکز شهر سان‌فرانسیسکو برگزار می‌شود. حضور در این برنامه به‌معنای ارزیابی فناوری در برابر دیگر استارتاپ‌های منتخب است، اما به‌تنهایی اطلاعاتی درباره نتیجه رقابت یا تجاری‌شدن محصول در بازار گوشی‌ها نمی‌دهد.

این خبر برای چه کسانی اهمیت دارد

تلاش DetectifAI برای سازندگان تلفن همراه، مؤسسات مالی و شرکت‌های مقابله با تقلب اهمیت دارد؛ زیرا این شرکت می‌خواهد تشخیص صدای مصنوعی را از یک خدمت جداگانه و متکی به ابر، به قابلیتی قابل‌ادغام در گوشی تبدیل کند. برای کاربران نیز وعده پردازش روی دستگاه و ارائه نتیجه هنگام تماس می‌تواند پاسخ مستقیمی به نگرانی از جعل صدای نزدیکان باشد. در عین حال، اطلاعات منتشرشده درباره فناوری شرکت عمدتاً بر توضیحات بنیان‌گذار تکیه دارد و جزئیاتی درباره دقت تشخیص یا عرضه آن در گوشی‌های مصرفی ارائه نشده است؛ بنابراین میزان کارایی آن در مقابله با کلاهبرداری‌های واقعی هنوز روشن نیست.