صنعت هوش مصنوعی در حال حاضر در نقطه‌ای مشابه صنعت بازاریابی ایمیلی در آغاز قرن بیست‌ویکم قرار دارد؛ دوره‌ای که توسعه سریع فناوری، نیاز مبرمی به تعیین حدود، تدوین قواعد رفتار مسئولانه و شکل‌گیری بهترین رویه‌های پذیرفته‌شده ایجاد کرد. رایان فیلن (Ryan Phelan)، از متخصصان برجسته بازاریابی دیجیتال، در تحلیلی برای نشریه MarTech مطرح کرده است که چالش‌های اخلاقی و نظارتی امروز در حوزه هوش مصنوعی، شباهت‌های ساختاری انکارناپذیری با مسیر تحول ایمیل دارند. به گفته او، تجربه دو دهه بازاریابی ایمیلی در ایجاد استانداردهای خودتنظیمی می‌تواند نقشه راه جامعی برای حکمرانی اخلاقی بر ابزارهای هوش مصنوعی ارائه دهد.
درس‌های تاریخ بازاریابی ایمیلی برای شتاب بی‌سابقه هوش مصنوعی
در دوران پیش از الزام به اخذ اجازه از کاربر (Pre-permission age)، بازاریابی ایمیلی با جمع‌آوری بی‌رویه آدرس‌ها و ارسال حجم عظیمی از پیام‌ها روبرو بود که کل این کانال ارتباطی را تا آستانه ناکارآمدی پیش برد. این بحران باعث شد فعالان مسئولیت‌پذیر صنعت پیش از ورود قانون‌گذاران، فرآیند ایجاد قواعد خودتنظیمی را آغاز کنند.
متعاقباً با تصویب قانون «CAN-SPAM» در کنگره ایالات متحده آمریکا به پیروی از کشورهای اتحادیه اروپا، و همچنین تدوین منشورهای اخلاقی توسط ارائه‌دهندگان خدمات ایمیل (ESPs)، قوانین فهرست‌های مسدودی (Blocklist rules) و سیاست‌های استفاده پذیرفته‌شده در شرکت‌های فناوری بازاریابی (Martech)، چارچوبی جامع برای این حوزه شکل گرفت.
با این حال، تفاوت عمده شرایط کنونی در سرعت خیره‌کننده توسعه فناوری است. تدوین رویه‌های اخلاقی بازاریابی ایمیلی بیش از دو دهه به طول انجامید و همچنان ادامه دارد، اما ابزارهایی نظیر ChatGPT که در سال ۲۰۲۲ عرضه شدند، با سرعتی بی‌سابقه به پذیرش همگانی رسیدند. اگرچه صورت‌هایی از هوش مصنوعی و یادگیری ماشین سال‌ها وجود داشتند، اما هرگز از دسترسی گسترده و هزینه‌های اقتصادی مناسب امروز برخوردار نبودند. این رشد سریع اگرچه سبب افزایش بهره‌وری شده، اما خطرات ناشی از نادیده گرفتن پیامدهای اخلاقی را نیز دوچندان کرده است.
بحران استناد و مالکیت معنوی در خروجی‌های هوش مصنوعی
یکی از چالش‌های اخلاقی کلیدی در به‌کارگیری هوش مصنوعی مولد، حذف نام پدیدآورندگان اصلی مفاهیم است. در تاریخ بازاریابی ایمیلی، اصطلاحات شاخصی توسط افراد مطرح شدند؛ لورن مک‌دونالد (Loren McDonald) در سال ۲۰۱۱ مفهوم «mocial» (ترکیب موبایل، شبکه اجتماعی و ایمیل) و در سال ۲۰۰۹ عبارت «متوسط، کفِ جدید است» (Average is the new bottom) را خلق کرد. همچنین کث پی (Kath Pay) مفهوم «بازاریابی ایمیلی کل‌نگر» (Holistic email marketing) را پایه‌گذاری نمود.
امروزه، موتورهای جستجو و مدل‌های هوش مصنوعی نظیر خلاصه هوش مصنوعی گوگل (AI Overviews) یا مدل Claude، مفاهیم را به‌دقت خلاصه می‌کنند، اما معمولاً نامی از صاحبان اصلی اندیشه نمی‌برند. فیلن اشاره می‌کند که مدل‌هایی مانند Google Gemini پیوند منابع (URLs) را ذکر می‌کنند، اما استفاده بدون ارجاع از خروجی‌های هوش مصنوعی توسط کاربران، منجر به نوع جدیدی از دستبرد فکری (Plagiarism) می‌شود.
در این چرخه، افراد خروجی‌های هوش مصنوعی را به نام خود منتشر می‌کنند و مدل‌های زبانی بزرگ (LLMs) در مراحل بعدی، این افراد را به عنوان مرجع اصلی بازتولید می‌کنند. فیلن پیشنهاد می‌کند که کاربران حتماً از ابزارهایی مانند Claude، ChatGPT یا Perplexity بخواهند منابع خود را ذکر کنند و پیش از انتشار، تمام ارجاعات را راستی‌آزمایی نمایند.
توهم اطلاعات و ضرورت نظارت انسانی بر عوامل خودکار
مسئله حیاتی دیگر، توهم (Hallucination) و اغراق در داده‌های تولیدشده توسط هوش مصنوعی است. فیلن به تجربه خود در ساخت یک مدل عامل‌محور (Agentic model) اشاره می‌کند که در آن، یکی از عامل‌های هوش مصنوعی اقدام به بزرگ‌نمایی و افزایش کاذب تعداد افراد مصاحبه‌شده در یک پروژه کرد و این آمار نادرست را وارد گزارش مشتری نمود. این تجربه منجر به وضع قاعده‌ای صریح توسط او شد: «هیچ مطلبی را که توسط واقعیت‌ها پشتیبانی نمی‌شود، وارد نکنید.»
علاوه بر این، اعتماد کامل به هوش مصنوعی در ارتباطات ایمیلی، اصالت (Authenticity) برند را مخدوش می‌کند. اگرچه ابزارهایی مثل ChatGPT یا Claude می‌توانند لحن و صدای شخصی افراد را بازسازی کنند، اما عدم نظارت انسانی می‌تواند پیامدهای مخربی داشته باشد. فیلن به نمونه‌ای اشاره می‌کند که در یک مکاتبه ایمیلی چندجانبه با مشتریان، گفتگو به صورت کامل به تبادل پیام میان عامل‌های هوش مصنوعی طرفین تنزل یافت و تعامل انسانی و اصالت تصمیم‌گیری را به کلی از بین برد.
الزام تدوین منشور اخلاقی درون‌سازمانی
فیلن تأکید دارد که سازمان‌ها و مدیران بازاریابی نباید منتظر قوانین دولتی یا مقررات خارجی بمانند. همان‌طور که صنعت ایمیل از طریق تدوین ضوابط درون‌سازمانی و استانداردهای صنعتی توانست خود را سامان دهد، امروزه نیز کسب‌وکارها باید سند رسمی سیاست‌های اخلاقی هوش مصنوعی خود را تدوین کنند. حفظ اعتبار برند و ارزش‌های سازمانی مستلزم آن است که کنترل نهایی فرآیندها همواره در اختیار انسان باقی بماند و صحت تمامی خروجی‌ها پیش از انتشار تضمین شود.