OpenAI، شرکتی که ChatGPT را توسعه داده است، گفته است که از GPT-4 برای توسعه سیاست محتوا و تصمیمات تعدیل محتوا استفاده می‌کند. تعدیل محتوا در توسعه فناوری و پلتفرم‌ها مطابق با سیاست‌های تعیین‌شده مهم است.
OpenAI گفت که GPT-4 برچسب‌گذاری منسجم‌تر، یک حلقه بازنگری سریع‌تر برای اصلاح خط‌مشی و دخالت کمتر ناظران انسانی را ممکن می‌سازد.
سیستم تعدیل محتوا با استفاده از GPT-4 منجر به تکرار سریع‌تر تغییرات خط‌مشی می‌شود و چرخه را از «ماه‌ها» به «ساعت‌ها» کاهش می‌دهد. مستندسازی می‌کند و فوراً با به‌روزرسانی‌های خط‌مشی را تطبیق می‌دهد، که منجر به برچسب‌گذاری منسجم‌تر می‌شود.
تعدیل محتوا به چه معنی است؟
تعدیل محتوا فرآیند شناسایی محتوای آنلاینی است که نامربوط، ناپسند، غیرقانونی، مضر یا توهین‌آمیز هستند. هدف از تعدیل محتوا حذف یا اعمال یک برچسب هشدار بر روی محتوای مشکل ساز یا اجازه دادن به کاربران برای مسدود کردن محتوای نادرست است.
دلیل اهمیت آن چیست؟
تعدیل محتوا یک فرآیند خسته کننده است که نیازمند تلاش دقیق، حساسیت، درک عمیق زمینه و همچنین سازگاری سریع با موارد استفاده جدید است.
این کار به‌طور سنتی، توسط تعدیل کنندگان انسانی انجام می‌شود که باعث می‌شود روند کار به‌طور ذاتی کند شود و می‌تواند منجر به استرس روانی کارکنان هوش مصنوعی شود. از این رو، ایجاد رویه کار در مدل‌های هوش مصنوعی مطمئناً برای بازنگری انسانی، مهلت بیشتری می‌دهد.
این شرکت گفت: «ما معتقدیم که این دیدگاه مثبت‌تری از آینده پلتفرم‌های دیجیتال ارائه می‌دهد، جایی که هوش مصنوعی می‌تواند به تعدیل ترافیک آنلاین، طبق سیاست‌های خاص پلتفرم کمک کند و بار ذهنی تعداد زیادی از ناظران انسانی را کاهش دهد».
هر کسی که دسترسی به OpenAI API دارد می‌تواند این رویکرد را برای ایجاد سیستم تعدیل خود به کمک هوش مصنوعی پیاده‌سازی کند.
محدودیت‌های تعدیل کننده‌های مبتنی بر هوش مصنوعی
از آنجایی که مدل‌های فعلی هوش مصنوعی هنوز در مراحل اولیه خود هستند، قضاوت‌های آن‌ها در برابر سوگیری‌های ناخواسته‌ای آسیب‌پذیر است که ممکن است در طول آموزش وارد مدل شده باشد.
از این رو، نظارت دقیق، اعتبارسنجی و اصلاح نتایج و خروجی توسط انسان ضروری است. علاوه بر این، دخالت انسان ممکن است در برخی از بخش‌های فرآیند کاهش یابد، اما موارد پیچیده باید مداخله انسانی داشته باشند.
