عکس‌ها و ویدیوهای جعلی همیشه وجود داشته‌اند، اما اکنون شکل جدیدی از محتوای جعلی به لطف هوش مصنوعی (AI) در حال گسترش است. طبق گزارش نیویورک تایمز، ویدیوهای زیادی در TikTok در حال پخش است که دارای صدای جعلی تولید شده توسط هوش مصنوعی است.
بر اساس این گزارش، شرکت‌هایی مانند ElevenLabs ابزارهایی را معرفی کرده‌اند که از هوش مصنوعی برای ایجاد صدا استفاده می‌کنند. Newsguard، شرکتی که اخبار جعلی را به‌صورت آنلاین رصد می‌کند، دریافت که ویدیوهای TikTok از صدای جعلی افرادی مانند باراک اوباما، رئیس جمهور سابق ایالات متحده و اپرا وینفری استفاده می‌کنند. در حالی که TikTok محبوب است، این گزارش همچنین بیان می‌کند که پلتفرم‌هایی مانند اینستاگرام، فیس‌بوک، یوتیوب نیز برای پخش ویدیوهای مبتنی بر صدای جعلی استفاده می‌شوند. بر اساس گزارش‌ها، تعداد ویدیوها در حال حاضر کمتر است، اما کارشناسان نگرانند که این فیلم می‌تواند به یک سلاح تبدیل شود، به‌ویژه وقتی که قرار است انتخابات ریاست‌جمهوری آمریکا در سال 2024 برگزار شود.
آنچه TikTok در مورد این موضوع می‌گوید
ویدیوهایی که از محتوای تولید شده توسط هوش مصنوعی استفاده می‌کنند، باید دارای برچسبی باشند که به وضوح این مساله را مشخص کند. این پلتفرم رسانه اجتماعی اعلام کرد که چندین حساب کاربری و ویدئو را به‌دلیل نقض سیاست‌های خود حذف کرده است، از جمله آن چیزی که از صدای اوباما استفاده می‌کرد. جیمی فاوازا، سخنگوی TikTok گفت: «TikTok اولین پلتفرمی است که ابزاری را برای سازندگان ارائه می‌کند تا محتوای تولید شده توسط هوش مصنوعی را برچسب‌گذاری کنند و عضو افتتاحیه کد جدیدی از بهترین شیوه‌های صنعت است که استفاده مسئولانه از رسانه‌های مصنوعی را ترویج می‌کند.» با این حال، Newsguard متوجه شد که برچسب‌ها در ویدیوهایی که از صداهای جعلی استفاده کرده بودند، وجود نداشتند.
بر اساس این گزارش، یوتیوب تبلیغات سیاسی را از استفاده از محتوای تولید شده توسط هوش مصنوعی ممنوع کرده است. سایر تبلیغ‌کنندگان نیز باید اطمینان حاصل کنند که تبلیغات آن‌ها دارای برچسب‌هایی است که نشان می‌دهد هوش مصنوعی برای تولید محتوا استفاده شده است. متا، شرکت مادر فیس‌بوک و اینستاگرام همچنین دارای یک جعبه ابزار راستی آزمایی است که وقتی یک ویدیو تغییر می‌کند یا از هوش مصنوعی استفاده نمی‌کند برچسبی به آن اضافه می‌کند.
