از زمانی که ChatGPT در سال گذشته وارد عرصه فناوری شد، سؤالات زیادی در مورد پایبندی اخلاق و اصول وجود این پدیده وجود داشته است. به عنوان مثال، چگونه معلمان می‌توانند بفهمند که آیا یک تکلیف نوشته شده توسط یک دانش‌آموز توسط ChatGPT انجام شده است یا خیر. نویسندگان، معلمان، دانشگاهیان نیز همه در این مورد ابراز نگرانی کرده‌اند. ابزارهایی وجود دارد که می‌تواند به تشخیص اینکه آیا محتوای نوشته شده توسط هوش مصنوعی تولید شده است یا خیر، کمک می‌کند.
ChatGPT، شرکت سازنده ChatGPT نیز ابزار مشابهی داشت. با این حال، طبق گزارش The Verge، OpenAI ابزاری به نام AI Classifier را از دسترس خارج کرده است. OpenAI در یک پست وبلاگی این اقدام را تایید کرد.
میزان دقت پایین
این شرکت در پست وبلاگ خود گفت که این ابزار از هم اکنون متوقف شده است. از 20 ژوئیه 2023، طبقه‌بندی‌کننده هوش مصنوعی به دلیل میزان دقت پایین آن دیگر در دسترس نیست. OpenAI در یک پست وبلاگی گفت: ما در حال کار برای تشخیص بازخوردها هستیم و در حال حاضر تحقیق در مورد تکنیک‌های منشأ مؤثرتر برای محتوای متنی را بررسی می‌کنیم و متعهد شده‌ایم که مکانیسم‌هایی را ایجاد و به کار ببریم که کاربران را قادر می‌سازد بفهمند که آیا محتوای متنی، صوتی یا بصری توسط هوش مصنوعی تولید شده است یا خیر.
این ابزار در ژانویه امسال راه اندازی شد. حتی در زمان راه‌اندازی، OpenAI تردیدهایی در مورد صحت آن وجود داشت. OpenAI گفته بود: «ممیزی ما کاملا قابل اعتماد نیست.» این شرکت همچنین گفته بود که در ارزیابی‌های خود بر روی «مجموعه چالشی» متون انگلیسی، ممیزی کننده به درستی 26 درصد از متن‌های نوشته‌شده با هوش مصنوعی (موارد مثبت واقعی) را به‌عنوان «احتمالاً نوشته‌شده با هوش مصنوعی» شناسایی می‌کند، در حالی که 9 درصد مواقع با هوش مصنوعی نوشته شده است (مثبت نادرست) به اشتباه متن نوشته‌شده توسط انسان را به‌عنوان هوش مصنوعی درک می‌کند.
بسیاری از ابزارهای دیگر نیز وجود دارد که آن‌ها حداقل چند خطا و اشتباه را دارند. از آنجایی که هوش مصنوعی مولد با ورود کاربران بیشتری به ChatGPT و Google Bard روبه‌رو می‌شود، انتظار می‌رود که چنین ابزارهایی نیز مورد استفاده قرار گیرند. OpenAI نیز این احتمال را رد نکرده است و ممکن است بعداً یک نسخه اصلاح شده را راه‌اندازی کند.
