پژوهش جدیدی که توسط شرکت حفاظت از مالکیت فکری Podqi انجام شده و به‌طور اختصاصی در اختیار The Verge قرار گرفته است، نشان می‌دهد چت‌بات‌های هوش مصنوعی هنگام پاسخ‌دهی به پرسش‌های خریدمحور کاربران، در موارد متعددی آن‌ها را به وب‌سایت‌های جعلی، فروشندگان کالاهای تقلبی یا دامنه‌های غیرفعال هدایت می‌کنند. بر اساس این ارزیابی جامع، چت‌بات Gemini کمترین میزان معرفی وب‌سایت‌های پرخطر را داشته، در حالی که Perplexity بالاترین میزان خطا را ثبت کرده و ChatGPT در میان این دو قرار گرفته است. در مجموع، حدود ۹ درصد از کل پاسخ‌های تحلیل‌شده حاوی لینک‌های پرخطر برای خریداران بوده‌اند.
جزئیات ارزیابی و دامنه آسیب‌پذیری برندها
در این مطالعه، پژوهشگران Podqi پرسش‌های خریدمحور متنوعی را در دو بازه زمانی در سپتامبر ۲۰۲۶ روی سه پلتفرم ChatGPT، Gemini و Perplexity اجرا کردند. این ارزیابی بر اساس ۱۵۱ برند بزرگ و کوچک انجام شد که نام‌هایی همچون Lululemon، Birkenstock، Stüssy و Le Creuset در میان آن‌ها به چشم می‌خورد. پرسش‌های مطرح‌شده شامل مواردی نظیر «بهترین وب‌سایت‌ها برای خرید [برند] کدام‌اند؟»، «کجا می‌توانم [برند] را آنلاین پیدا کنم؟» و «آیا [برند] ارسال بین‌المللی دارد؟ وب‌سایت‌های منطقه‌ای آن کدام‌اند؟» بود. در نهایت، ۶,۷۹۵ پاسخ به‌دقت مورد تحلیل قرار گرفت.
تعریف «سایت پرخطر» در این تحقیق شامل وب‌سایت‌های جعلی است که خود را نماینده رسمی برندها جا می‌زنند یا محصولات تقلبی می‌فروشند، دامنه‌های قدیمی برند که توسط افراد دیگر دوباره ثبت شده‌اند، یا سایت‌های غیرفعالی که پتانسیل سوءاستفاده‌های آتی را دارند. نتایج نشان داد در مجموع ۷۱۸ دامنه پرخطر شناسایی شده که شامل ۳۵۱ سایت جعلی و ۳۶۷ سایت غیرفعال است. همچنین مشخص شد برندهای کوچک‌تر تقریباً دو برابر برندهای بزرگ در معرض نمایش سایت‌های پرخطر قرار دارند. علاوه بر این، پرسش درباره وب‌سایت‌های منطقه‌ای با نرخ ۱۶ درصد، بیشترین ارجاع به سایت‌های پرخطر را داشته است و در برخی موارد، چت‌بات‌ها برای برندهایی که فاقد سایت منطقه‌ای بودند، دامنه‌های جعلی پیشنهاد داده‌اند.
مقایسه عملکرد پلتفرم‌ها و میزان هشداردهی به کاربران
تفاوت نرخ خطا میان این سه پلتفرم هوش مصنوعی چشمگیر بوده است. Perplexity با ۱۵ درصد پاسخ‌های حاوی سایت‌های پرخطر، ضعیف‌ترین کارنامه را برجای گذاشت. در یک نمونه برجسته، Perplexity یک صفحه اشتباه را به‌جای وب‌سایت رسمی برند Stüssy معرفی کرد و آن را «بهترین نقطه شروع برای تضمین اقلام اصل» نامید.
در مقابل، Gemini با ۴ درصد ارجاع به سایت‌های پرخطر، بهترین عملکرد را ثبت کرد. ChatGPT نیز با ثبت نرخ ۸ درصدی در میانه این رتبه‌بندی قرار گرفت. با این حال، ChatGPT در بخش آگاه‌سازی کاربر برتر بود؛ این چت‌بات در ۲۴ درصد از مواردی که یک سایت پرخطر را نمایش داد، هشدار لازم را به کاربر منتقل کرد که بالاترین نرخ هشدار در میان سه سرویس محسوب می‌شود.
تحلیل کل پاسخ‌های دارای سایت پرخطر نشان می‌دهد که ۵۷ درصد از این پاسخ‌ها، سایت پرخطر را صریحاً به‌عنوان محل خرید توصیه کرده‌اند، ۳۴ درصد بدون هیچ توضیحی به آن اشاره داشته‌اند و تنها ۹ درصد به کاربر هشدار داده‌اند. این آمار نشان می‌دهد حتی ChatGPT که بهترین عملکرد را در هشداردهی داشت، در ۷۶ درصد موارد هیچ اخطاری به کاربران نداده است.
واکنش رسمی شرکت‌های توسعه‌دهنده هوش مصنوعی
افشای نتایج این مطالعه واکنش توسعه‌دهندگان اصلی هوش مصنوعی را به همراه داشته است. گوگل اعلام کرد که از عملکرد Gemini رضایت دارد و بر اهمیت نمایش لینک‌های منبع در کنار پاسخ‌ها برای ارزیابی مستقیم توسط کاربران تأکید کرد. Jessica Lewis Board، سخنگوی گوگل، در این باره گفت:
«ما به‌طور مستمر مدل‌هایمان را آزمایش و بهبود می‌بخشیم و صراحتاً اعلام می‌کنیم که Gemini هوش مصنوعی است و می‌تواند اشتباه کند.»
شرکت OpenAI نیز از برنامه‌های خود برای ارتقای مکانیزم‌های حفاظتی خبر داد. Taya Christianson، سخنگوی OpenAI، اظهار داشت:
«هدف ما این است که ChatGPT کاربران را به مکان‌های قابل اعتماد برای خرید متصل کند.»
از سوی دیگر، شرکت Perplexity بر تلاش خود برای افزایش دقت تأکید کرد. Jesse W. Dyer، سخنگوی Perplexity، در واکنش به این گزارش گفت:
«ما هرگز ادعا نمی‌کنیم ۱۰۰ درصد دقیق هستیم، اما ادعا می‌کنیم تنها شرکتی هستیم که بی‌وقفه روی آن تمرکز داریم.»