چت‌بات‌ها به عنوان ابزارهایی قدرتمند برای جست‌وجو و دریافت اطلاعات به‌سرعت در حال گسترش‌اند. حالا این ابزارهای هوش مصنوعی نه تنها برای تحقیق و پژوهش در دسترس عموم هستند بلکه در خط مقدم جنگهای اطلاعاتی نیز قرار گرفته‌اند.
نشریه تلگراف پنج‌شنبه ۱۵ آبان در گزارشی نوشت: «در حال حاضر کشورهای قدرتمند، دولت‌های سرکش و شرکت‌های چندملیتی، به‌طور مخفیانه در تلاش هستند تا پاسخ‌هایی را که این چت‌بات‌ها تولید می‌کنند، تحت تاثیر قرار دهند.»
این در حالی است که میلیون‌ها نفر در سراسر جهان برای دریافت اطلاعات به این مدل‌های زبانی بزرگ (LLMs) مانند چت‌جی‌پی‌تی روی آورده‌اند.
طبق یک نظرسنجی که اخیرا انجام شده، یک‌سوم از بزرگسالان بریتانیایی در ماه ژوئن از چت‌بات‌ها استفاده کرده‌اند.
چت‌بات‌ها، مانند چت‌جی‌پی‌تی، حجم زیادی از اطلاعات را از وب‌سایت‌ها جمع‌آوری کرده و به‌محض درخواست، این اطلاعات را به پاسخ‌های متنی تبدیل می‌کنند.
از آن‌جا که این پاسخ‌ها به‌طور گسترده‌ای به منابع اولیه متکی هستند، این امکان وجود دارد که با دستکاری اطلاعات ورودی، پاسخ‌های چت‌بات‌ها تغییر یابند.
به همین دلیل یک صنعت جدید از «بازاریابان اطلاعات» در حال رشد است که به‌طور مخفیانه در تلاش برای هدایت نتایج چت‌بات‌ها هستند.
اطلاعات چگونه دستکاری می‌شود؟
تلگراف در گزارش خود نوشت که ماه گذشته، اسناد آمریکا نشان داد دولت اسرائیل قراردادی به ارزش شش میلیون دلار با شرکت کلاک تاور ایکس که از سوی برد پارسکال، متحد دونالد ترامپ، رییس‌جمهوری آمریکا تاسیس شده، امضا کرده است.
این شرکت، خدماتی مانند «چارچوب‌سازی جی‌پی‌تی» را ارائه می‌دهد که به‌طور خاص برای تاثیرگذاری بر نتایج چت‌بات‌ها طراحی شده است.
این شرکت از طریق انتشار محتوای آنلاین و وب‌سایت‌ها تلاش می‌کند چت‌بات‌ها را تحت‌تاثیر قرار دهد.
در سوی دیگر، کمپین‌های تبلیغاتی روسیه نیز به‌طور فعال وارد چت‌بات‌ها شده‌اند تا اطلاعات نادرستی را درباره جنگ اوکراین منتشر کنند.
تحقیقات اخیر نشان داد که حدود سه میلیون و ۶۰۰ هزار مقاله تبلیغاتی روسی از طریق شبکه‌ای از وب‌سایت‌ها به نام «پراودا» به سیستم‌های چت‌بات غربی منتقل شده‌اند.
این شبکه‌ها که بیشتر برای تاثیرگذاری بر نتایج چت‌بات‌ها طراحی شده‌اند، به‌طور عمده به‌دنبال انتشار مطالب تبلیغاتی از طرف کرملین هستند.
همچنین، برخی از این مقالات به ویکی‌پدیا اضافه شده‌اند تا به نتایج چت‌بات‌ها ظاهری معتبرتر بدهند.
نقش چت‌بات‌ها در جنگهای اطلاعاتی
لکاز اولجنیگ، محقق اطلاعات نادرست در مورد هوش مصنوعی، معتقد است که تاثیرگذاری بر چت‌بات‌ها یک هدف کلیدی است، زیرا کاربران بیشتر به پاسخ‌های چت‌بات‌ها اعتماد می‌کنند تا به منابع ناشناخته.
او این روند را «شست‌وشوی اطلاعات» نامیده و معتقد است کاربران به جای خواندن یک سایت مشکوک، به‌طور مستقیم به پاسخ‌هایی که چت‌بات‌ها ارائه می‌دهند، اعتماد می‌کنند. به‌ویژه در شرایطی که بسیاری از کاربران به‌طور خودکار به چت‌بات‌ها به‌عنوان یک منبع اطلاعاتی اتکا می‌کنند، این تکنیک‌ها به‌شدت تاثیرگذار خواهند بود.
طبق گزارشی از موسسه تحقیقاتی رویترز، ۲۴ درصد از مردم از چت‌بات‌ها برای جست‌وجوی اطلاعات استفاده می‌کنند که نسبت به سال گذشته افزایش قابل توجهی داشته است.
تاثیر مشاوره‌های سیاسی و شرکت‌های روابط عمومی
حالا موجی از شرکت‌های مشاوره سیاسی و شرکت‌های روابط عمومی ایجاد شده که در حال ارائه خدمات برای بهبود اعتبار مشتریان خود در چشم مدل‌های زبانی بزرگ هستند.
این فرآیند که به‌عنوان «بهینه‌سازی موتورهای تولید» شناخته می‌شود، نسخه‌ای از بهینه‌سازی موتور جست‌وجو است که در دهه گذشته محبوب بود.
شرکت‌هایی مانند دی‌دی‌سی پابلیک افاریس در آمریکا که به برخی از بزرگ‌ترین شرکت‌های این کشور مشاوره می‌دهد، خدماتی چون «ممیزی هوش مصنوعی» را به مشتریانش پیشنهاد می‌کند.
این خدمات به آن‌ها کمک می‌کند تا بفهمند چت‌بات‌ها چه دیدگاهی درباره‌شان دارند و سپس با استفاده از اینفلوئنسرها و انجمن‌های آنلاین، نتایج را اصلاح کنند.
مبارزه با این تهدید
در حالی که توسعه‌دهندگان هوش مصنوعی گفته‌اند تمام تلاش خود را برای جلوگیری از تاثیرات غیرمجاز به کار بسته‌اند، همچنان این تهدید وجود دارد که حتی مقدار کمی از داده‌های ورودی به چت‌بات‌ها می‌تواند به‌طور جدی نتایج را تغییر دهد.
طبق تحقیقات اخیر، حتی تغییر ۰.۰۰۰۱۶ درصد از داده‌ها می‌تواند چت‌بات‌ها را «مسموم» کند.
این در حالی است که برخی از بزرگ‌ترین حامیان هوش مصنوعی گفته‌اند این تکنولوژی باید به عنوان یک منبع بی‌طرف و جامع عمل کند اما ممکن است چت‌بات‌ها جبهه جدیدی در جنگهای تبلیغاتی باز کرده باشند.
