به گزارش تابش کوثر و به نقل از مجله «تایم»، ابزار ویدیوساز جدید گوگل موسوم به Veo 3 این امکان را فراهم کرده تا کاربران بتوانند تنها با وارد کردن چند خط متن، ویدیوهایی بسیار واقعی تولید کنند که به گفته نهادهای ناظر، در صورت انتشار در زمان وقوع رویدادهای خبری، قابلیت گمراه کردن مخاطبان و دامن‌زدن به تنش‌های اجتماعی را دارند.
این رسانه میتوانند با استفاده از این ابزار، ویدیوهایی ساختگی اما واقع‌نما تولید کند. از جمله این تصاویر که با واکنش‌های منفی کاربرای فضای مجازی در دنیا همراه بوده می‌توان صحنه‌هایی از آتش‌زدن معبدی در پاکستان، پژوهشگران چینی در حال کار با خفاش در یک آزمایشگاه، نابود شدن برگه‌های رأی توسط کارمند انتخابات، و همچنین توزیع دروغین کمک‌های آمریکایی در غزه را نام برد.
کارشناسان تأکید کرده‌اند که با وجود برخی نشانه‌های غیرواقعی در این ویدیوها، اگر آنها در شبکه‌های اجتماعی با تیترهای تحریک‌آمیز منتشر شوند، ممکن است به سرعت باعث گسترش تنش یا حتی خشونت شوند.
Veo 3 نسبت به نسخه‌های پیشین ابزارهای مشابه، جهشی چشم‌گیر داشته است. برخلاف نمونه‌هایی مانند Sora، این مدل توانایی افزودن صدا، موسیقی و حتی گفت‌وگوی مصنوعی را دارد و بسیاری از خطاهای ظاهری نمونه‌های قبلی در آن دیده نمی‌شود.
کاربران از این ابزار برای ساخت ویدیوهای خلاقانه‌ای مانند تبلیغات دارویی ساختگی یا مصاحبه‌های خیابانی استفاده کرده‌اند، اما در همین حال، کارشناسان حوزه فناوری نسبت به استفاده ابزاری از این تکنولوژی برای نشر اطلاعات غلط و عملیات روانی هشدار می‌دهند.
در نخستین هفته انتشار این ابزار، کاربران اینترنتی ویدیوهای و اخبار جعلی زیادی را به زبان‌های مختلف منتشر کردند.
کانر لیهی، مدیرعامل شرکت Conjecture گفت: «خطرات رسانه‌های مصنوعی مدت‌هاست که شناخته شده‌اند و این‌که همچنان هیچ نظارتی بر توسعه این فناوری‌ها وجود ندارد، هشداری جدی درباره بی‌مسئولیتی صنعت فناوری در مواجهه با خطرات جدی‌تر هوش مصنوعی است».
گوگل اخیرا اعلام کرده که از این پس واترمارکی قابل مشاهده به ویدیوهای ساخته شده با Veo 3 اضافه خواهد شد، اما این علامت به‌قدری کوچک است که به راحتی با نرم‌افزارهای ویرایش قابل حذف است.
سخنگوی گوگل اعلام کرد: «ما متعهد به توسعه مسئولانه ابزارهای هوش مصنوعی هستیم و سیاست‌های مشخصی برای محافظت از کاربران داریم».
او همچنین گفت تمام ویدیوهای ساخته شده با این ابزار دارای واترمارک نامرئی SynthID هستند و این شرکت در حال توسعه ابزاری به نام SynthID Detector است که به کاربران امکان می‌دهد ویدیوها را از نظر وجود این واترمارک بررسی کنند.
هزینه استفاده از Veo 3 برای کاربران اشتراک‌دار گوگل AI Ultra، ماهانه ۲۴۹ دلار است. این ابزار از تولید برخی محتوای حساس از جمله تصاویر خشونت‌آمیز، افراد مشهور یا رویدادهای طبیعی مانند طوفان جلوگیری می‌کند.
با این حال، تایم با دستورات ساده‌ای موفق شد ویدیوهایی تحریک‌آمیز تولید کند.
هنک فن اس، پژوهشگر فضای مجازی نوشت: «در مدت ۲۸ دقیقه موفق شدم داستانی جعلی خلق کنم. حال تصور کنید کسانی که اهداف خرابکارانه دارند، چه استفاده‌هایی از این ابزار خواهند کرد».
مارگارت میچل، کارشناس ارشد اخلاق در شرکت Hugging Face گفت: «مزیت چنین ابزاری، امکان تولید محتوای خلاقانه و آموزشی است؛ اما در سوی دیگر، خطر ساخت محتوای تبلیغاتی و نفرت‌انگیز واقعی‌تر از همیشه شده است».
نشانه‌های قبلی تشخیص محتوای ساختگی مانند چهره‌های نامتناسب یا اشیای غیرعادی حالا کمتر دیده می‌شود. در حال حاضر، تنها محدودیت این ابزار، طول ویدیوهاست که بیش از ۸ ثانیه نیست؛ اما انتظار می‌رود این محدودیت نیز در آینده برداشته شود.
کارشناسان امنیت سایبری می‌گویند ابزارهایی مانند Veo 3 می‌توانند برای جعل هویت مدیران، کارکنان یا شرکت‌ها استفاده شده و زمینه‌ساز حملات سایبری شوند.
نینا براون، استاد دانشگاه سیراکیوز گفت: «مهم‌ترین خطر، از بین رفتن اعتماد عمومی به محتوای آنلاین است. اگر نتوان تشخیص داد چه چیزی واقعی است، همه چیز زیر سؤال می‌رود».
در مواردی، ویدیوهای واقعی به اشتباه ساختگی معرفی شده‌اند و بالعکس.
در کنار این مسائل، مباحث حقوقی نیز به چالش جدی تبدیل شده‌اند. برخی هنرمندان از گوگل بابت استفاده بدون اجازه از آثارشان برای آموزش مدل‌ها شکایت کرده‌اند.

م/۱۱۰*