بررسی دقیقتر، اندکی پیش از عملیات، نشان داد چتبات مورد استفاده تحلیلگر، ماهیت محموله کشتی را اشتباه تشخیص داده است.
بر اساس این گزارش، ماجرا به بهار امسال بازمیگردد؛ زمانی که گزارشی در بخشهای مختلف ارتش آمریکا توزیع شد که مدعی بود یک کشتی چینی در خاورمیانه، قطعات مورد استفاده در یک برنامه تسلیحات هستهای را حمل میکند.
چهار منبع آگاه به سیانان گفتند ارتش آمریکا برای رهگیری این کشتی وارد عمل شد. به گفته دو منبع، نیروهای مسلح آمریکایی آماده ورود به کشتی بودند و دو منبع نیز تایید کردند هواپیماهای نظامی به پرواز درآمده بودند.
با این حال، مقامها درست پیش از عملیات برنامهریزیشده، گزارش را دقیقتر بررسی کردند و متوجه خطا شدند. یکی از منابع، گزارش اطلاعاتی را «کاملا نادرست» توصیف کرد و گفت این اشتباه «نزدیک بود جنگی به راه بیندازد». سیانان نتوانسته است مشخص کند محموله واقعی کشتی چه بوده است.
به نوشته این شبکه، تحلیلگر تهیهکننده گزارش از یک چتبات خواسته بود اطلاعات مربوط به فهرست محموله کشتی را بررسی کند. منشا این اطلاعات، فرماندهی عملیات ویژه آمریکا در منطقه اقیانوس آرام، مستقر در هاوایی، بود.
چتبات با ترکیب اطلاعات منابع آشکار و اطلاعات محرمانه حاصل از شنود و رهگیری سیگنالها، درباره محموله کشتی به نتیجهای نادرست رسید. تحلیلگر سپس بار دیگر از هوش مصنوعی استفاده کرد تا یافتهها را در قالب یک گزارش اطلاعاتی استاندارد تنظیم و توزیع کند؛ قالبی که مقامهای نظامی به آن اعتماد دارند. مشخص نیست ابزار مورد استفاده، یک چتبات تجاری بوده یا محصولی متعلق به دولت آمریکا.
فرماندهی عملیات ویژه آمریکا در منطقه اقیانوس آرام و پنتاگون به درخواست سیانان برای اظهارنظر پاسخ ندادند.
این ماجرا در حالی رخ داده که ارتش و جامعه اطلاعاتی آمریکا بهسرعت در حال گسترش استفاده از هوش مصنوعی، از تحلیل اطلاعات و انتخاب اهداف حملات تا مدیریت بودجه، پشتیبانی و زنجیرههای تامین هستند. مقامهای آمریکایی استدلال میکنند این فناوری سرعت تصمیمگیری در میدان نبرد را افزایش میدهد و عقبماندن در استفاده از آن میتواند در رویارویی احتمالی با چین یا دیگر دشمنان، آمریکا را در موقعیت ضعیفتری قرار دهد.
پیت هگست، وزیر جنگ آمریکا، در ژانویه سال جاری راهبردی برای شتاببخشیدن به استفاده نظامی از هوش مصنوعی معرفی کرد. هدف اعلامشده این راهبرد، قراردادن مدلهای پیشرفته آمریکایی در اختیار سه میلیون نیروی نظامی و غیرنظامی وزارتخانه، در تمامی سطوح طبقهبندی اطلاعات، است.
با این حال، چند مقام آگاه به سیانان گفتهاند بخشهای مختلف دولت از ابزارها، دستورالعملها و استانداردهای ایمنی متفاوتی استفاده میکنند و معیار یکپارچهای برای راستیآزمایی اطلاعات تولیدشده با این سامانهها وجود ندارد. در نتیجه، میزان قابلیت اعتماد و توانایی ابزارهای مورد استفاده نیز یکسان نیست.
یکی از منابع آشنا با سیاستهای ارتش هشدار داد که همزمان با افزایش استفاده از هوش مصنوعی در انتخاب اهداف، دستورالعمل روشنی وجود ندارد که توضیح دهد حضور انسان در چرخه تصمیمگیری چگونه باید از تلفات غیرنظامیان یا آتش خودی جلوگیری کند. منبع دیگری نیز گفت تولید اطلاعات ساختگی یا نادرست، موسوم به «توهم» هوش مصنوعی، در جامعه اطلاعاتی به این مورد محدود نبوده است.
برخی مقامهای باسابقه اطلاعاتی معتقدند فشار برای تولید و توزیع سریعتر گزارشها، احتمال خطا را افزایش داده است. به گفته چند منبع، تحلیلگران جوان که با این ابزارها آشنایی بیشتری دارند، ممکن است بیشتر بدون ارزیابی انتقادی به خروجی آنها اعتماد کنند.
ماجرای کشتی چینی، به نوشته سیانان، خطری فوری را برجسته میکند: تصمیمگیری انسانها بر پایه اطلاعات نادرست تولیدشده با هوش مصنوعی؛ تصمیمهایی که در محیط نظامی میتوانند پیامدهای مرگبار داشته باشند. یکی از منابع این نگرانی را چنین بیان کرد: «هوش مصنوعی به شما امکان میدهد سریعتر به یک ایده بد برسید.»
