با نزدیک شدن به فصل خریدهای سال نو میلادی، موضوع دقت دادهها در حوزه «تجارت عاملمحور» (Agentic Commerce) به یک بحران پنهان برای برندها تبدیل شده است. کارشناسان هشدار میدهند که ناتوانی هوش مصنوعی در تفسیر درست اطلاعات برندها میتواند تجربه مشتریان را به شدت تحت تاثیر قرار دهد و چالشهای جدی در زمینه زبان و داده برای کسبوکارها ایجاد کند.
هراس از محتوای مصنوعی و نرخ خطای هوش مصنوعی
کارولین گیگریچ (Caroline Giegerich)، معاون بخش هوش مصنوعی در «اتحادیه تبلیغات تعاملی» (IAB)، در جریان کنفرانس هوش مصنوعی عاملمحور Emarketer که روز سهشنبه برگزار شد، به ترس عمیق موجود در صنعت نسبت به حجم بالای محتوای مصنوعی (Synthetic Content) اشاره کرد. گیگریچ خطاب به بازاریابان حاضر در این رویداد گفت: «اگر من امروز یک بازاریاب برند بودم، به طور مداوم و بدون وقفه به این موضوع فکر میکردم.»
این نگرانیها بیدلیل نیست؛ چرا که بر اساس اظهارات الکس شرمن (Alex Sherman)، مدیرعامل شرکت Bluefish، نرخ اطلاعات نادرست تولیدشده توسط هوش مصنوعی در پاسخهای چتباتها بین ۱۰ تا ۲۰ درصد نوسان دارد. شرمن با اشاره به ابعاد این چالش افزود: «این نرخهای خطا در صنایع به شدت قانونگذاریشده مانند خدمات مالی، مراقبتهای بهداشتی و داروسازی به شدت افزایش مییابد؛ یعنی دقیقاً برعکس آنچه که باید رخ دهد.»
رژیم غذایی متفاوت عاملهای هوش مصنوعی
دادههای پراکنده در منابع وب باز و بسته، از جمله تبلیغات پولی و ارگانیک، باتهای عاملمحور را به خود جذب میکنند. این فناوریها اطلاعات را از هر جایی که بتوانند جمعآوری و استخراج میکنند و در بسیاری از مواقع، اطلاعاتی که به دست میآورند نادرست یا متناقض است.
مولی شونتال (Molly Schonthal)، مدیر ارشد تجارت عاملمحور در WPP Enterprise Solutions، در این زمینه توضیح داد: «همه این عاملهای هوش مصنوعی رژیمهای غذایی متفاوتی دارند. آنها بخشهای متفاوتی از اطلاعات مربوط به برند شما را میبلعند. برخی از آنها به شدت به آنچه در وبسایت خود برند وجود دارد متکی هستند و برخی دیگر به اطلاعات درون دیوارهای فروشگاه Walmart تکیه میکنند.»
شونتال برای توصیف این وضعیت از یک استعاره جالب استفاده میکند: «وقتی انسانها یک صفحه وب را میخوانند، چراغها روشن است؛ اما وقتی چراغها خاموش میشوند و عاملهای هوش مصنوعی برند را تفسیر میکنند، احتمالاً همان اطلاعات روی صفحه را به روشی متفاوت از انسان تعبیر خواهند کرد.» در واقع، شیوه خوانش ماشین با انسان تفاوتهای بنیادین دارد.
تفاوت درک ماشین و انسان از مفاهیم زبانی و دادهها
عاملهای هوش مصنوعی به دادهها نگاه متفاوتی دارند. آنها کلماتی مانند «جسورانه» (Bold) یا محتوای وبسایت و واژگان به کار رفته برای توصیف محصولات و نحوه سازماندهی آن محتوا در وبسایت را به شکل متفاوتی خوانده و تفسیر میکنند.
به عنوان مثال، یک برند ممکن است میزان کافئین یک قهوه را در بخشی از وبسایت خود صفر میلیگرم و در بخشی دیگر یک میلیگرم درج کرده باشد. حتی ممکن است این محصول در یک سایت خردهفروشی دیگر با میزان کافئین متفاوتی لیست شده باشد. این تناقضات کوچک که شاید از دید انسان چندان اهمیت نداشته باشند، برای هوش مصنوعی چالشبرانگیز و گمراهکننده هستند.
رسانههای اجتماعی و رسانههای اکتسابی (Earned Media) بخشهای دیگری از ردپای دادهای یک برند را تشکیل میدهند که هوش مصنوعی آنها را تحلیل میکند. شونتال در این باره گفت: «مجموع حضور دیجیتال برند خود را به عنوان یک سطح داده (Data Surface) تصور کنید که توسط یک عامل هوش مصنوعی مصرف میشود.» او این سوال اساسی را مطرح میکند که چه زمانی یک عامل هوش مصنوعی دادههای یک برند را میبلعد تا به نمایندگی از مصرفکننده تصمیم بگیرد که برای یک انتخاب معتبر به چه اطلاعاتی نیاز دارد.