چت‌ربات مبتنی بر هوش مصنوعی OpenAI تحت حمایت مایکروسافت، ChatGPT، در بین کاربران محبوب است. این ابزار بیشتر برای پرس‌و‌جوهای ساده‌تر استفاده می‌شود، اما برخی از کاربران برای کارهای پیچیده‌تر به افزونه‌ها و توسعه‌های ChatGPT دسترسی دارند. با این حال، کاربران باید مراقب داده‌هایی باشند که با چت‌بات به اشتراک می‌گذارند، زیرا طبق گزارش‌ها، چند مکالمه به بیرون درز کرده است.
طبق گزارش ArsTechnica، یک کاربر اسکرین شات‌هایی را به اشتراک گذاشته است که نشان می‌دهد ChatGPT چگونه مکالمات خصوصی را فاش می‌کند. تصاویر نشان می‌دهد که چت‌بات جزئیاتی مانند نام کاربری و رمز عبور را فاش می‌کند. این گزارش اشاره می‌کند که کاربر برای یک پرس‌و‌جوی نامرتبط به ChatGPT دسترسی پیدا کرده است و به‌طرز عجیبی مکالمه‌های دیگری را در تاریخچه ربات‌چت مشاهده کرده است که متعلق به او نیست. گزارش اشاره کرد که این مکالمات نامرتبط شامل جزئیات متعددی بود.
یکی از مکالمات توسط کاربری انجام شده بود که سعی داشت مشکلات را از طریق یک سیستم پشتیبانی که توسط کارمندان یک پورتال داروهای تجویزی داروخانه استفاده می‌شد عیب‌یابی کند. این مکالمه شامل نام برنامه‌ای بود که کاربر دیگر سعی می‌کرد عیب‌یابی کند، شماره فروشگاه محل بروز مشکل و اعتبارنامه‌های ورود اضافی.
دیگر اطلاعات درز کرده
یکی دیگر از گفتگوهای فاش شده شامل نام برنامه سخنرانی بود که کاربر دیگری در حال کار بر روی آن بود. همچنین شامل جزئیات یک پیشنهاد تحقیقاتی منتشر نشده بود.
مقامات OpenAI در پاسخ به این ادعاها توضیح دادند که ChatGPT تاریخچه چت را نامرتبط را نشان می‌دهد زیرا حساب کاربر به‌خطر افتاده است. یک نماینده Open AI گفت که ورودهای غیرمجاز از سریلانکا انجام شده است در حالی که کاربر گفته است که از بروکلین، نیویورک وارد حساب کاربری خود می‌شود.
پاسخ OpenAI چه بود؟
نماینده OpenAI در بیانیه‌ای نوشت: «ما آنچه ما کشف کردیم را تصاحب حساب کاربری می‌دانیم زیرا با فعالیتی که می‌بینیم کسی در «مجموعه» هویت‌هایی که یک جامعه خارجی یا سرور پراکسی برای توزیع استفاده می‌کند مشارکت می‌کند، سازگار است. دسترسی رایگان. تحقیقات نشان داد که مکالمات اخیراً از سریلانکا ایجاد شده است. این مکالمات در یک چارچوب زمانی با ورود موفق از سریلانکا است».
این اولین بار نیست که ChatGPT اطلاعاتی را فاش می‌کند. در مارس 2023، گزارش شده است که چت‌بات باگی داشت که موضوعات چت را فاش می‌کرد. در همین حال، در نوامبر 2023، محققان توانستند از پرس‌وجوها استفاده کنند تا ربات هوش مصنوعی را به افشای داده‌های خصوصی که در آموزش LLM استفاده می‌شد، ترغیب کنند.
علاوه بر این، توجه به این نکته مهم است که OpenAI به کاربران خود ویژگی‌هایی مانند 2FA یا توانایی ردیابی جزئیات مانند مکان IP ورودهای فعلی و اخیر را برای محافظت از حساب‌های ChatGPT ارائه نمی‌دهد.
