استفاده از هوش مصنوعی در عملیات‌های نفوذ دولتی: تهدیدی جدید از فناوری‌های تولید صدا
هوش مصنوعی مولد با کاربردهای متنوع خود، مشکلات و سوءاستفاده‌های زیادی را به همراه داشته است؛ از جعل مقالات علمی گرفته تا کپی‌برداری از آثار هنری. حالا به نظر می‌رسد که این فناوری وارد عملیات‌های نفوذ دولتی نیز شده است.
یک عملیات اخیر به نام “عملیات زیرکانه” (Operation Undercut) که احتمالاً از فناوری‌های تولید صدا با استفاده از هوش مصنوعی تجاری کمک گرفته است، به‌ویژه از تکنولوژی‌های صوتی تولید شده توسط استارتاپ پرطرفدار ElevenLabs استفاده کرده است. این اطلاعات در گزارشی از شرکت تحلیل تهدیدات Massachusetts-based Recorded Future آمده است.
طبق این گزارش، این کمپین که به روسیه وابسته است، با هدف تضعیف حمایت‌های اروپایی از اوکراین طراحی شده و از ویدیوهای جعلی یا گمراه‌کننده با صداهای تولیدشده توسط هوش مصنوعی استفاده کرده است. ویدیوهایی که به طور عمده به مخاطبان اروپایی حمله می‌کنند و سیاستمداران اوکراینی را فاسد معرفی کرده و یا اعتبار کمک‌های نظامی به اوکراین را زیر سوال می‌برند. یکی از این ویدیوها ادعا می‌کرد که حتی “جمرها هم نمی‌توانند تانک‌های آبرامز آمریکایی را نجات دهند” و اینگونه استدلال می‌کرد که ارسال تانک‌های پیشرفته به اوکراین بی‌فایده است.
گزارش می‌گوید که به احتمال زیاد، سازندگان این ویدیوها از تکنولوژی تولید صدا با هوش مصنوعی، از جمله محصول ElevenLabs، استفاده کرده‌اند تا محتوای خود را معتبرتر جلوه دهند. برای تأیید این موضوع، محققان Recorded Future ویدیوها را به سیستم شناسایی صدای ElevenLabs ارسال کرده‌اند که این سیستم توانایی شناسایی صدای تولیدشده با استفاده از تکنولوژی این شرکت را دارد و نتیجه مثبت بوده است.
در حالی که این گزارش به احتمال استفاده از چندین ابزار تجاری دیگر برای تولید صدا اشاره کرده است، تنها نام ElevenLabs به‌طور مشخص ذکر شده است.
این عملیات نفوذ همچنین به‌طور تصادفی مزیت‌های استفاده از هوش مصنوعی در انتشار سریع محتوای گمراه‌کننده را نشان داد. طراحان این عملیات ویدیوهایی با صدای انسان نیز منتشر کردند که در آن‌ها لهجه‌ای قابل تشخیص از روسیه شنیده می‌شد. در مقابل، صداهای تولیدشده با هوش مصنوعی، به‌طور طبیعی به زبان‌های مختلف اروپایی مانند انگلیسی، فرانسوی، آلمانی و لهستانی صحبت می‌کردند، بدون هیچ‌گونه لهجه غیراروپایی.
طبق گزارش Recorded Future، استفاده از هوش مصنوعی به این کمپین کمک کرد که بتوانند ویدیوها را به سرعت به زبان‌های مختلف اروپایی از جمله انگلیسی، آلمانی، فرانسوی، لهستانی و ترکی ترجمه و منتشر کنند؛ زبان‌هایی که به‌طور خاص توسط ElevenLabs پشتیبانی می‌شوند.
این عملیات به “آژانس طراحی اجتماعی” (Social Design Agency)، یک سازمان مستقر در روسیه نسبت داده شده است که توسط دولت ایالات متحده در ماه مارس ۲۰۲۴ تحریم شد. این سازمان مسئول شبکه‌ای از بیش از ۶۰ وب‌سایت جعلی بود که به جعل اخبار اروپایی می‌پرداخت و با استفاده از حساب‌های رسانه‌های اجتماعی تقلبی، محتوای گمراه‌کننده خود را در فضای مجازی منتشر می‌کرد. تمامی این اقدامات به‌نام دولت روسیه صورت گرفته بود.
با وجود تلاش‌های این عملیات برای تاثیرگذاری بر افکار عمومی در اروپا، گزارش Recorded Future نتیجه‌گیری کرده که تأثیر کلی این کمپین بر افکار عمومی بسیار ناچیز بوده است.
این نخستین باری نیست که محصولات ElevenLabs به دلیل سوءاستفاده‌های احتمالی مورد توجه قرار می‌گیرند. به عنوان مثال، در ژانویه ۲۰۲۴، از تکنولوژی این شرکت برای انجام یک تماس روباتیک به تقلید از صدای رئیس‌جمهور جو بایدن استفاده شد که از رأی‌دهندگان خواسته بود در یک انتخابات مقدماتی شرکت نکنند. شرکت ElevenLabs پس از این رویداد اعلام کرد که ویژگی‌های ایمنی جدیدی مانند مسدودسازی خودکار صداهای سیاستمداران را به پلتفرم خود اضافه کرده است.
ElevenLabs به‌طور رسمی هرگونه “تقلید غیرمجاز، مضر یا گمراه‌کننده” را ممنوع کرده و از ابزارهایی همچون نظارت خودکار و انسانی برای جلوگیری از چنین سوءاستفاده‌هایی استفاده می‌کند.
این شرکت که در سال ۲۰۲۲ تأسیس شد، به‌طور چشمگیری رشد کرده است و اخیراً درآمد سالانه خود را از ۲۵ میلیون دلار به ۸۰ میلیون دلار رسانده است و احتمالاً به زودی به ارزش ۳ میلیارد دلار خواهد رسید. سرمایه‌گذاران این استارتاپ شامل Andreessen Horowitz و Nat Friedman، مدیر سابق GitHub هستند.
