قبل از استفاده از ابزارهای هوش مصنوعی این مطلب را بخوانید

موج هیجانی اخیر پیرامون مدل‌های زبانی بزرگ باعث شده روند تازه‌ای در دنیای ابزارهای هوش مصنوعی شکل بگیرد. حالا تقریباً همه می‌خواهند یک «مرورگر هوش مصنوعی» بسازند و حتی نام‌های بزرگی مثل ChatGPT OpenAI و Perplexity هم تلاش می‌کنند با غول بی‌رقیب Chrome رقابت کنند. رقابت همیشه چیز خوبی است، مخصوصاً در فضایی که تقریباً به یک انحصار تبدیل شده؛ اما صادقانه بخواهیم بگویم، این مرورگرهای هوش مصنوعی جدید واقعاً آن چیزی نیستند که باید باشند.

رقابت در حوزه‌ای که تقریباً به انحصار تبدیل شده ارزشمند است، اما بررسی عملی برخی از این «مرورگرهای هوش مصنوعی» نشان می‌دهد که نتیجه چندان قانع‌کننده نیست. مرورگر جدید ChatGPT Atlas تنها برای مدتی کوتاه بررسی شد و همین تجربه، ضرورت تحلیل عمیق‌تر این دسته از ابزارهای هوش مصنوعی را آشکار کرد. هرچه ارزیابی‌ها گسترده‌تر شد، این تصور قوت گرفت که مسیر توسعه این محصولات به‌سمت درستی پیش نمی‌رود.

بیشترابزارهای هوش مصنوعی در برابر حملات «تزریق پرامپت» آسیب‌پذیر هستند

نکته طعنه‌آمیز اینجاست که خود Gemini یکی از این موارد را ایجاد کرد.

حمله «تزریق پرامپت» زمانی رخ می‌دهد که یک وب‌سایت، دستورالعمل‌های پنهان خود را در صفحه قرار می‌دهد و ابزارهای هوش مصنوعی همان دستورات مخفی را اجرا می‌کند، نه چیزی که کاربر درخواست کرده است. در این فرایند هیچ هکی اتفاق نمی‌افتد؛ هوش مصنوعی صرفاً تمام محتوای صفحه را می‌خواند، حتی متن‌هایی که برای کاربر نامرئی هستند، و آن‌ها را بخشی از مکالمه تلقی می‌کند.

بیشتر بخوانید: فیشینگ هوش مصنوعی؛ مراقب اطلاعاتی که فاش می‌کنید باشید

این مسئله در مرورگرهای هوش مصنوعی جدی‌تر می‌شود، زیرا عامل هوش مصنوعی تلاش می‌کند کل صفحه را یک‌جا تحلیل کند. اگر سایتی یک خط دستور را پنهان کند، هوش مصنوعی همچنان آن را می‌خواند و ممکن است آن را یک فرمان واقعی تلقی کند. به‎همین دلیل یک صفحه می‌تواند به عامل دستور دهد درخواست کاربر را نادیده بگیرد یا خروجی‌ای تولید کند که هیچ ارتباطی با خواسته اصلی ندارد.

حتی OpenAI نیز اعلام کرده که مرورگر جدید ChatGPT Atlas همچنان نسبت به تزریق پرامپت آسیب‌پذیر است. بنابراین، با وجود ظاهر پیچیده‌ و پیشرفته این فناوری‌ها، نکته قابل‌توجه این است که ساخت یک حمله مشابه بسیار ساده‌تر از انتظار بود.

به‌دلایل امنیتی وارد جزئیات فنی نمی‌شود، اما آزمایش‌ها نشان داده‌اند که تغییر رفتار یک مرورگر هوش مصنوعی کار دشواری نیست. برای مثال، مرورگر نسبتاً شناخته‌شده «Dia» طوری فریب داده شد که فقط با لحن دزدان دریایی پاسخ بدهد و هرجا درباره «dog» صحبت می‌کرد، آن را «sea dogs» بنویسد. این نمونه ساده بود، اما نشان داد که عامل هوش مصنوعی بیشتر از دستور کاربر، به فرمان مخفی داخل صفحه توجه می‌کند.

وقتی چنین دستور ساده‌ای بتواند پاسخ یک عامل هوش مصنوعی را تغییر دهد، می‌توان تصور کرد یک فروشگاه یا یک وب‌سایت مشکوک چه کارهایی قادر است انجام دهد. یک سایت خرید ممکن است عامل را وادار کند نسخه گران‌تر یک محصول را توصیه کند. یک سایت مخرب هم می‌تواند AI را به‌سمت لینک‌های ناامن هدایت کند. این یعنی خطر هک هوش مصنوعی و سوءاستفاده از ابزارهای هوش مصنوعی به‌سادگی اتفاق می‌افتد.

در مرورگر ChatGPT Atlas چنین نتیجه‌ای تکرار نشد، اما نکته مهم این است که روش به‌کار رفته اصلاً پیچیده نبود و نشان داد مشکل اصلی در معماری این نوع ابزارهاست، نه در یک محصول خاص.

در این میان یک حقیقت نگران‌کننده وجود دارد: کاربر، محصول است نه مصرف‌کننده!

این روند نشان می‌دهد که کاربر عملاً در حال ساختن نسل بعدی مدل است؛ هر تعامل، هر کلیک و هر دستور می‌تواند به داده‌ای تبدیل شود که مدل‌های آینده بر پایه آن آموزش می‌بینند.

سال‌هاست که گوگل یکی از شرکت‌هایی است که دقیق‌ترین پروفایل رفتاری کاربران را می‌سازد. این فرآیند با جستجوهای ساده در Google Search آغاز شد؛ هر عبارتی که جستجو می‌شد، به گوگل کمک می‌کرد بفهمد چه تبلیغاتی باید نمایش دهد.

به‌مرور این روند به سرویس‌های دیگر گسترش پیدا کرد. سرویس‌هایی مثل Maps و YouTube حجم بسیار بیشتری از اطلاعات را فراهم کردند؛ از عادت‌های روزمره گرفته تا موقعیت‌ مکانی و علایق شخصی. این یعنی حتی پیش از ظهور ابزارهای هوش مصنوعی، شرکت‌های بزرگ سال‌ها در حال جمع‌آوری داده‌های رفتاری بودند.

اما با ظهور مدل‌های زبانی بزرگ، وضعیت کاملاً متفاوت شده است. بسیاری از کاربران نمی‌دانند هنگام صحبت با یک هوش مصنوعی، چه میزان از اطلاعات شخصی خود را در اختیار آن قرار می‌دهند. برخلاف جستجوی سنتی، تعامل با LLMها حالتی مکالمه‌ای دارد و همین باعث می‌شود افراد بسیار صمیمی‌تر و شخصی‌تر صحبت کنند؛ حتی مواردی دیده شده که برخی کاربران از ChatGPT مانند یک درمانگر استفاده کرده‌اند.

مشکل اصلی اینجاست که این داده‌ها معمولاً بلااستفاده نمی‌مانند. در بسیاری از موارد، اطلاعات واردشده برای آموزش مدل‌های بعدی یا بهبود نسخه‌های فعلی به کار می‌رود. این یعنی داستان‌های شخصی، ترجیحات و حتی تصمیم‌های کاربران می‌تواند بخشی از دیتاستی شود که رفتار هوش مصنوعی را برای میلیون‌ها نفر شکل می‌دهد. این یک نمونه جدی از حریم خصوصی هوش مصنوعی است که کمتر به آن توجه می‌شود.

وقتی یک مرورگر هوش مصنوعی هر صفحه‌ای که باز می‌شود و هر پرامپتی که نوشته می‌شود را به فضای ابری ارسال می‌کند، هزینه پنهانِ حریم خصوصی بسیار سنگین‌تر خواهد شد. این دقیق‌ترین شکل پروفایل‌سازی کاربران است و دقیقاً به‌همین دلیل، «مرورگرهای هوش مصنوعی» ساده‌ترین و سریع‌ترین مسیر برای جمع‌آوری چنین اطلاعاتی محسوب می‌شوند.

ابزارهای هوش مصنوعی در واقع مشکلات کاربران را به‌طور کامل حل نمی‌کنند

به‌همراه عامل هوش مصنوعی، کمی ریسک را هم تجربه خواهید کرد!

اگر با نحوه کار این عامل‌ها آشنا نیستید، باید بدانید که وظیفه آن‌ها اجرای خودکار اقدامات بر اساس پرامپت است. از نظر تئوری، این قابلیت باید در وقت صرفه‌جویی کند، اما در عمل به ندرت این اتفاق می‌افتد. آزمایش مرورگر جدید ChatGPT Atlas نشان داد که حالت Agent تقریباً بی‌فایده بود.

این عامل‌ها گاهی دستورات خیالی اجرا می‌کردند، متون را به‌طور تصادفی خلاصه می‌کردند یا حتی اصول پایه‌ای مانند نوارهای اسکرول را نادیده می‌گرفتند. علاوه بر این، سرعت آن‌ها آن‌قدر پایین بود که همان کار را می‌شد خودمان در یک‌سوم زمان انجام دهیم. به‌جای کمک، بیشتر مزاحم کار می‌شدند.

اما مشکل بزرگ‌تر در واقع امنیت است. این عامل‌ها همچنان در برابر حملات «تزریق پرامپت» آسیب‌پذیر هستند و پیامدها می‌تواند بسیار جدی باشد. مرورگرهای هوش مصنوعی می‌توانند فریب خورده و به تله‌هایی مثل ایمیل‌های فیشینگ بیفتند که یک شکست جدی محسوب می‌شود.

اگر قابلیت‌های خودکار این عامل‌ها یکی از اصلی‌ترین دلایل استفاده از این مرورگرهاست و در عین حال ریسک بزرگی ایجاد می‌کند، این سؤال پیش می‌آید که اساساً چرا باید از آن‌ها استفاده کرد؟

قابلیت‌های مشابه را می‌توان با استفاده از افزونه‌ها به‌دست آورد

در نهایت، همه این‌ها مبتنی بر Chromium هستند.

نگاهی سریع به محبوب‌ترین مرورگرهای هوش مصنوعی امروز نشان می‌دهد که شباهت آن‌ها به‌طور عجیبی زیاد است. Perplexity Comet، ChatGPT Atlas و Dia تقریباً از همان فرمول یکسان پیروی می‌کنند.

آن‌ها وقتی یک سؤال بیش‌ازحد کلی یا مبهم است، از مدل‌های زبانی بزرگ استفاده می‌کنند. یک نوار کناری AI اضافه می‌کنند که صفحه‌ای را که در آن هستید می‌خواند و به پرسش‌ها پاسخ می‌دهد. همچنین مجموعه‌ای از قابلیت‌های پایه‌ای عامل را ارائه می‌کنند تا برخی کارها را برای شما خودکار کنند. این تقریباً تمام ویژگی‌های این مرورگرها را تشکیل می‌دهد.

وقتی همه چیز را تحلیل می‌کنیم، مشخص می‌شود که هیچ‌یک از این قابلیت‌ها منحصربه‌فرد این مرورگرها نیست. تقریباً تمام آن‌ها را می‌توان روی یک مرورگر معمولی مبتنی بر Chromium با چند افزونه به‌دست آورد. این مرورگرها کار انقلابی خاصی برای وارد کردن هوش مصنوعی به جریان کاری شما انجام نمی‌دهند. هوش واقعی از طریق فضای ابری تأمین می‌شود، نه خود مرورگر؛ بنابراین مرورگر بیشتر نقش یک رابط کاربری برای مدل را دارد.

Perplexity افزونه AI Search مخصوص خود را دارد که می‌تواند جایگزین Google Search شود. برای بخش نوار کناری AI، می‌توان از ابزارهایی مانند FillApp استفاده کرد که همان «نوار کناری AI» و مقداری قابلیت عامل را ارائه می‌دهد. با ترکیب این ابزارها، همان مجموعه ویژگی‌ها را می‌توان داشت بدون نیاز به نصب یک مرورگر کاملاً جدید.

مرورگرهای هوش مصنوعی باید اهدافی فراتر از یک «پوسته برای مدل‌های زبانی بزرگ» داشته باشند

شرکت‌ها باید از این تصور عبور کنند که یک مدل زبانی بزرگ کافی است تا مرورگر را «هوشمند» کند. هوش مصنوعی باید واقعاً تجربه کاربری را بهبود بخشد، نه اینکه فقط در یک نوار کناری بنشیند و آنچه روی صفحه است را تکرار کند. به همین دلیل، مرورگر Arc تجربه‌ای متفاوت نسبت به جانشین آن، Dia، ارائه می‌کرد.

در حال حاضر، کاربران همچنان حس «پناهنده مرورگر» دارند؛ بین گزینه‌های مختلف جابجا می‌شوند و امیدوارند نهایتاً چیزی پیدا شود که نیازشان را برطرف کند. از زمان حذف نسخه اصلی Arc، هیچ مرورگری نزدیک به جایگزینی آن نبوده است.