شکاف عمیقی میان تصور عمومی از نحوه کارکرد مدلهای بزرگ زبانی (LLMs) و واقعیت فنی آنها وجود دارد. کاربران با مشاهده لحن طبیعی، تمجیدها و پاسخهای سریع این ابزارها، به طور ناخودآگاه فرض میکنند که نوعی منطق انسانی در پس این سیستمها قرار دارد. این در حالی است که برخی تولیدکنندگان محتوا در فضای مجازی با به چالش کشیدن این مدلها در انجام کارهای سادهای مانند شمارش تا ۱۰۰ بدون جا انداختن اعداد یا شمارش تعداد دفعات تکرار حرف خاصی در یک کلمه، آنها را به بازی میگیرند.
اگرچه این ویدیوها سرگرمکننده هستند، اما زمانی که رسانههای جریان اصلی فناوری بحثهای جدی و نگرانکنندهای درباره «فرار» هوش مصنوعی از سرورها، توسعه اهداف پنهان توسط آنها یا تهدید نابودی جهان مطرح میکنند، موضوع از حالت شوخی خارج میشود. برای استفاده درست از این ابزارها در کسبوکار، باید از انسانانگاری (anthropomorphizing) نرمافزار دست برداشت و مرزهای توانایی واقعی یک مدل زبانی بزرگ را شناخت.
ساختار فنی: یک طوطی بسیار پیچیده ریاضی
وظیفه اصلی رابطهای کاربری مدرن LLM این است که کاربر را متقاعد کنند در حال گفتگو با موجودی آگاه است که مفهوم کلمات را درک میکند. با این حال، بخش «مصنوعی» در عبارت «هوش مصنوعی» اغلب نادیده گرفته میشود. واقعیت این است که هوش مصنوعی حتی یک کاراکتر از دادههایی را که پردازش میکند، به معنای واقعی کلمه فهم نمیکند. در هسته اصلی خود، یک مدل زبانی بزرگ، یک موتور پیشبینی متن فوقپیشرفته با میلیاردها پارامتر است؛ به عبارت سادهتر، یک طوطی بسیار پیچیده ریاضی.
وقتی یک چتبات هوش مصنوعی میگوید «دوستت دارم» یا ادعا میکند اهداف استراتژیک شما را درک کرده است، نه معنای عشق را میفهمد و نه مفهوم پروژهای را که تحسین میکند درک میکند. هوش مصنوعی حتی معنای حروف یا کلمات را متوجه نمیشود. آنچه این مدل بر اساس احتمالات آماری (statistical probability) محاسبهشده روی مجموعهدادههای آموزشی عظیم خود میداند، این است که پس از رشته حرف "I"، کلمه "love" با احتمال بسیار بالایی پیش از "you" در الگوهای زبانی انسان قرار میگیرد. این سیستم اطلاعات را از یک ذهن منطقی بازیابی نمیکند، بلکه صرفاً محاسبه میکند کدام گروه از کاراکترها از نظر ریاضی احتمال بیشتری دارد که در ادامه بیایند.
چالش توکنها و ناتوانی در شمارش حروف
هنگامی که به هوش مصنوعی از زاویه ریاضیات محض نگاه کنیم، خطاهای عجیب آن توجیه میشوند. برای مثال، اگر از یک مدل زبانی بخواهید تعداد حرف "e" را در کلمه "seventeen" بشمارد، احتمالاً اشتباه خواهد کرد. یک انسان به سادگی به کلمه نگاه کرده و چهار حرف "e" را میشمارد. اما یک مدل زبانی بزرگ کلمات را مانند انسانها نمیبیند. هوش مصنوعی متن را به بخشهای کوچکی به نام «توکن» (tokens) تقسیم میکند که نشاندهنده هجاها یا بخشهایی از کلمات هستند، نه تکتک حروف.
بنابراین، مدل به جای دیدن حروف s-e-v-e-n-t-e-e-n، کلمه "seventeen" را به عنوان یک یا دو توکن انتزاعی پردازش میکند که مانند یک بارکد یا شناسه عددی عمل میکنند. این امر شمارش حروف را برای مدل غیرممکن میسازد؛ درست مانند اینکه از کسی بخواهید مواد تشکیلدهنده یک غذا را فقط از روی نام آن در منو توصیف کند، بدون اینکه هرگز آن غذا را دیده یا چشیده باشد. مدل نام توکن را میشناسد اما به ساختار حرفبهحرف آن دسترسی مستقیم ندارد.
چرا هوش مصنوعی بر اشتباه خود پافشاری میکند؟
این واقعیت ریاضی همچنین توضیح میدهد که چرا یک مدل زبانی بزرگ حتی پس از اینکه صراحتاً به آن گفته میشود اشتباه کرده است، بر دروغ خود پافشاری میکند. وقتی کاربر در پاسخ به مدل مینویسد: «این اشتباه است، دوباره تلاش کن»، با یک ذهن خودآگاه که احساس شرمندگی کند یا اشتباهش را بررسی کند، روبرو نیست. کاربر صرفاً کلمات جدیدی را به «پنجره زمینه» (context window) هوش مصنوعی اضافه میکند.
مدل کل زنجیره متن، شامل اشتباه اولیه خود و اصلاحیه عصبی کاربر را دریافت کرده و از خود میپرسد: «با توجه به این توالی متنی، محتملترین کلمات از نظر آماری برای ادامه چیست؟» از آنجا که الگوهای بحثهای تند و دفاعی در دادههای آموزشی هوش مصنوعی وجود دارد، مدل ممکن است به جای کشف حقیقت، شروع به ساختن «حقایق» جدید و نادرست برای دفاع از پاسخ قبلی خود کند. این رفتار به معنای دروغگویی برای فریب دادن کاربر نیست، بلکه صرفاً تکمیل یک الگوی ریاضی است.
تغییر رویکرد در مهندسی پرامپت بازاریابی
نگاه به هوش مصنوعی به عنوان یک دستیار آگاه یا استراتژیست جونیور، نه تنها یک اشتباه فلسفی است، بلکه به کارایی عملیاتی آسیب میزند. وقتی کاربران انتظار دارند ماشین منظور آنها را درک کند، دستورهای مبهم مینویسند و در نهایت با خروجیهای کلیشهای و توهمات آماری (hallucinations) مواجه میشوند. با بازتعریف هوش مصنوعی به عنوان یک موتور الگوی آماری پرسرعت، رویکرد بازاریابان به مهندسی پرامپت (prompt engineering) تغییر میکند:
- تقسیم وظایف پیچیده به مراحل مجزا: از یک مدل زبانی بزرگ نخواهید که تحلیلهای انتزاعی چندمرحلهای را در یک پرامپت واحد انجام دهد (مثلاً: «دادههای این کمپین را تحلیل کن، سه پرسونای مخاطب برتر ما را شناسایی کن و یک استراتژی لانچ بنویس»). در عوض، کار را به مراحل تکمنظوره و مشخص تقسیم کنید و خروجی هر مرحله را پیش از رفتن به مرحله بعد تأیید کنید.
- محدود کردن آزادی عمل مدل: مدلهای زبانی بزرگ شکافهای اطلاعاتی خود را با احتمالات آماری (توهمات) پر میکنند. برای کاهش این خطاها، اسناد مرجع با فرمت مشخص، محدودیتهای دقیق برای تعداد کاراکترها و قالبهای ساختاری واضح در اختیار مدل قرار دهید تا الگوریتم را به سمت خروجی مطلوب هدایت کنید.
- پرهیز از بحث با ماشین: بحث کردن با مدل زبانی بزرگ مانند جروبحث با سیستم مسیریاب خودرو است. اگر مدل خروجی نادرست یا گمراهکنندهای تولید کرد، نوشتن عباراتی مانند «نه، این اشتباه است» پنجره زمینه را با توکنهای مخرب آلوده میکند. در این شرایط، بهتر است کار را از ابتدا شروع کنید؛ پرامپت اصلی را ویرایش کرده و آن را دقیقتر بنویسید تا یک توالی تمیز از ابتدا تولید شود.
در نهایت، شناخت مدل زبانی بزرگ به عنوان یک ابزار ریاضی و نه یک همکار با درک عمیق، به بازاریابان اجازه میدهد تا پرامپتهای هدفمندی بسازند که نتایج واقعی و قابل پیشبینی به همراه داشته باشند. با کنار گذاشتن روایتهای علمیتخیلی، میتوان از این ابزارها برای بهبود واقعی فرآیندهای بازاریابی استفاده کرد.