شرکت Amex GBT که به عنوان یک مجموعه فعال در حوزه نرم‌افزار، پرداخت‌ها و برگزاری نشست‌های مربوط به سفرهای تجاری شناخته می‌شود، فرآیند بررسی رسمی و سخت‌گیرانه‌ای را برای ارزیابی ریسک‌های استفاده از هوش مصنوعی (AI) پیاده‌سازی کرده است. مدیر ارشد حریم خصوصی این شرکت تأکید می‌کند که Amex GBT علاوه بر خدمات فنی، در واقع «اعتماد» را به مشتریان خود می‌فروشد و به همین دلیل، ساختار حاکمیت هوش مصنوعی خود را بر پایه حفظ این اعتماد بنا نهاده است. بر اساس گزارش‌های ارائه‌شده در همایش داده و هوش مصنوعی اسکافت در اروپا (Skift Data and AI Summit Europe)، حجم درخواست‌ها برای ارزیابی این ابزارها در داخل سازمان با سرعت بسیار بالایی رو به افزایش است.
افزایش چشمگیر ارزیابی ابزارهای هوش مصنوعی
شیلا وارما (Sheena Varma)، مدیر ارشد حریم خصوصی، معاون رئیس و مشاور ارشد حقوقی در Amex GBT، در جریان سخنرانی خود در این همایش اعلام کرد که این شرکت مدیریت سفر، در سال گذشته حدود ۱۳۹ ابزار هوش مصنوعی شخص ثالث یا سناریوی جدید استفاده از هوش مصنوعی را مورد بررسی قرار داده است. این رقم نشان‌دهنده جهش بسیار بزرگی نسبت به سال قبل از آن است که در آن تنها ۱۳ مورد ابزار یا کاربرد هوش مصنوعی مورد ارزیابی قرار گرفته بود.
وارما که در این رویداد به همراه تاسمین لاک‌وود (Tasmin Lockwood)، خبرنگار حوزه اقلیم و تجربه‌های رسانه Skift روی صحنه حضور داشت، بر اهمیت حیاتی شهرت و اعتبار برندها تأکید کرد. او در این باره گفت: «به شهرت شرکت خود فکر کنید؛ شما نمی‌خواهید همان فردی باشید که ابزاری را خلق کرده که ناگهان به دلایل کاملاً نادرست و منفی، نام شرکت را در صدر عناوین اخبار رسانه‌ها قرار می‌دهد. بنابراین، من معتقدم که این موضوع نظارت دقیق باید در اولویت اول و پیش‌فرض سازمان‌ها قرار گیرد.»
ساختار کمیته داخلی و فرآیند غربالگری ریسک
شرکت Amex GBT برای مدیریت این حجم رو به رشد از تقاضا، یک فرآیند بررسی رسمی و یک کمیته داخلی ایجاد کرده است. این کمیته تحت یک سیاست سازمانی مشخص در حوزه هوش مصنوعی فعالیت می‌کند که نظارت بر آن بر عهده تیم‌های محصول و زیرساخت شرکت است. فرآیند کار به این صورت طراحی شده است که پیشنهادهای ارائه‌شده از سوی کارکنان دریافت شده و سپس ابزار پیشنهادی، داده‌های درگیر در آن، ریسک‌های بالقوه و همچنین احتمال موازی‌کاری با پروژه‌های در حال ساخت توسط سایر تیم‌ها مورد ارزیابی قرار می‌گیرد.
این کمیته در مراحل اولیه شکل‌گیری خود به صورت هفتگی تشکیل جلسه می‌داد، اما با توسعه و مقیاس‌پذیری فرآیندها، اکنون فواصل برگزاری جلسات کاهش یافته است. این سیستم نظارتی در حال حاضر با استفاده از چک‌لیست‌های قابل استفاده مجدد فعالیت می‌کند؛ به طوری که تنها پیشنهادهایی که دارای علائم هشدار (Flagged) هستند برای بررسی‌های عمیق‌تر ارجاع داده می‌شوند. علاوه بر این، ارزیابی هوش مصنوعی اکنون به طور کامل در فرآیند توسعه محصولات این شرکت ادغام شده است تا سرعت و دقت کار حفظ شود.
قوانین الزام‌آور شرکتی و انطباق با مقررات اتحادیه اروپا
یکی از نقاط تمایز استراتژیک Amex GBT در حوزه حریم خصوصی، بهره‌گیری از «قوانین الزام‌آور شرکتی» (Binding Corporate Rules) است. این قوانین که از نظر قانونی تعهدآور بوده و به تایید نهادهای ناظر رسیده‌اند، برای انتقال داده‌های شخصی فرامرزی طراحی شده‌اند. به گفته وارما، وجود این قوانین پایه و اساس مستحکمی را برای این شرکت فراهم کرده تا بتواند حاکمیت قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) را نیز بر روی آن اعمال کند؛ مزیتی که به اعتقاد او، سایر همتایان فعال در این صنعت لزوماً آن را اتخاذ نکرده‌اند و از آن بی‌بهره هستند.
خطوط قرمز غیرقابل‌مذاکره در حفاظت از اطلاعات مشتریان
در فرآیند پیاده‌سازی هوش مصنوعی در Amex GBT، برخی اصول به عنوان خطوط قرمز غیرقابل‌مذاکره (Non-negotiables) تعیین شده‌اند که تحت هیچ شرایطی تغییر نمی‌کنند. اطلاعات شخصی و داده‌های مربوط به پرداخت‌ها به طور کامل از دسترسی ابزارهای هوش مصنوعی مسدود شده‌اند. همچنین، داده‌های محرمانه در بدو ورود به سیستم‌ها پاک‌سازی (Scrub) می‌شوند. علاوه بر این، مسافرانی که آماده نهایی کردن رزرو خود هستند، مستقیماً به یک اپراتور انسانی ارجاع داده می‌شوند تا امنیت و دقت فرآیند تضمین شود.
وارما خاطرنشان کرد که مشتریان این شرکت همواره خواهان شفافیت کامل در نحوه اتخاذ تصمیمات توسط سیستم‌های هوش مصنوعی هستند و این اقدامات نظارتی دقیق، پاسخی مستقیم به این دغدغه‌ها و نیازهای بازار است.