به‌زودی برای کاربران برچسب‌هایی روی تصاویر تولید شده با AI مشاهده خواهد شد. تصاویری که در فید رسانه‌های اجتماعی آنها ظاهر می‌شود، بخشی از یک ابتکار گسترده‌تر صنعت فناوری برای مرتب‌سازی بین واقعیت و تصاویر ساختگی.
متا روز سه‌شنبه گفت که با شرکای صنعتی روی استانداردهای فنی کار می‌کند که شناسایی تصاویر و در نهایت ویدیو و صدای تولید شده توسط ابزارهای هوش مصنوعی را آسان‌تر می‌کند.
چیزی که باید دید این است که در زمانی که ساختن و توزیع تصاویر تولید شده توسط هوش مصنوعی که می‌تواند باعث آسیب‌هایی شود، از اطلاعات نادرست انتخاباتی گرفته تا عکس‌های نیمه برهنه جعلی غیرقانونی سلبریتی‌ها، آسان‌تر از همیشه کار کند.
گیلی ویدان، استادیار علوم اطلاعات در دانشگاه کرنل، گفت: «این نوعی سیگنال است که آنها این واقعیت را جدی می‌گیرند که تولید محتوای جعلی آنلاین یک مشکل برای پلتفرم‌هایشان است.» این می‌تواند «کاملاً مؤثر» باشد. او گفت که بخش بزرگی از محتوای تولید شده توسط هوش مصنوعی را که با ابزارهای تجاری ساخته شده‌اند را علامت‌گذاری می‌کند، اما به احتمال زیاد همه چیز را در بر نخواهد گرفت.
نیک کلگ، رئیس امور جهانی متا، روز سه‌شنبه زمان ظاهر شدن این برچسب‌ها را مشخص نکرد، اما گفت که «در ماه‌های آینده» و به زبان‌های مختلف خواهد بود.
او در یک پست وبلاگی گفت: «از آنجایی که تفاوت بین محتوای انسانی و مصنوعی محو می‌شود، مردم می‌خواهند بدانند که مرز واقعیت و AI کجاست».
تعدادی از همکاری‌های صنعت فناوری، از جمله ابتکار اصالت محتوا به رهبری Adobe، برای تعیین استانداردها کار کرده‌اند. تلاش برای واترمارک دیجیتال و برچسب‌گذاری محتوای تولید شده توسط هوش مصنوعی نیز بخشی از فرمان اجرایی بود که جو بایدن، رئیس‌جمهور ایالات متحده در اکتبر امضا کرد.
کلگ گفت که متا در تلاش است تا تصاویری از Google، OpenAI، Microsoft، Adobe، Midjourney و Shutterstock را در حالی‌که برنامه‌های خود را برای افزودن ابرداده به تصاویر ایجاد شده توسط ابزارهای خود اجرا می‌کنند، برچسب‌گذاری کند.
گوگل سال گذشته اعلام کرد که برچسب‌های هوش مصنوعی به یوتیوب و دیگر پلتفرم های آن می‌آیند.
نیل موهان، مدیرعامل یوتیوب، سه‌شنبه در پست وبلاگی یک سال آینده تکرار کرد: «در ماه‌های آینده، برچسب‌هایی را معرفی خواهیم کرد که به بینندگان اطلاع می‌دهند که محتوای واقعی که می‌بینند مصنوعی است».
یکی از نگرانی‌های بالقوه برای مصرف‌کنندگان این است که آیا پلتفرم‌های فناوری در شناسایی محتوای تولید شده توسط هوش مصنوعی از مجموعه‌ای از ارائه‌دهندگان بزرگ تجاری مؤثرتر می‌شوند، اما آنچه را که با ابزارهای دیگر ساخته شده است را از دست می‌دهند و احساس امنیت کاذبی ایجاد می‌کنند.
