در فیلم «سقوط نهنگ»، غواصی به نام جی گاردینر در مسیر نهنگ عنبری قرار میگیرد که در تعقیب یک ماهی مرکب غولپیکر است. گاردینر ناخواسته به شاخک ماهی مرکب گیر میکند و هنگامی که نهنگ طعمهاش را به درون دهان میکشد، او را نیز میبلعد.
این غواص همچون یونس پیامبر و پینوکیو سر از شکم موجودی عظیمالجثه درمیآورد.
پایگاه خبری ساینسنیوز نوشت بلعیده شدن اتفاقی انسان به دست نهنگ عنبر کاملا دور از ذهن نیست.
جوی رایدنبرگ، کالبدشناس تطبیقی دانشکده پزشکی آیکان مانت ساینای در نیویورک، گفت یک نهنگ عنبر بالغ و بسیار بزرگ میتواند انسانی را ببلعد، اما برای این کار باید نری کاملا بالغ با دستکم ۱۸ متر طول باشد.
رایدنبرگ که مشاور علمی فیلم «سقوط نهنگ» بوده است، افزود چنین نهنگی «از اکثر نهنگهایی که معمولا میبینیم، بزرگتر است».
چرا بیشتر نهنگها نمیتوانند انسان را ببلعند؟
دیگر گونههای بزرگ نهنگ برای بلعیدن انسان با محدودیتهای جسمانی روبهرو هستند. برای نمونه، گلوی نهنگ تیغباله با وجود آنکه طولش به ۲۶ متر میرسد، بهطرز شگفتآوری باریک است.
رایدنبرگ که بخشی از کارش کالبدشکافی لاشه نهنگهای بهگلنشسته است، گفت: «بهسختی میتوانم دستم را وارد گلویشان کنم. امکان ندارد بتوانند انسانی را ببلعند.»
به گزارش ساینسنیوز، دلیل این امر آن است که نهنگ تیغباله در گروه نهنگهای بیدندان قرار دارد. این جانوران از برخی از کوچکترین موجودات کره زمین، از جمله کریل، ماهیهای کوچک و پلانکتونها تغذیه میکنند.
آنها با استفاده از صفحات غربالمانند دهان خود، طعمهها را از آب دریا جدا میکنند و مخلوط غلیظی از آب و آبزیان پدید میآورند.
به نوشته ساینسنیوز، خوردن این مخلوط برای نهنگها «چیزی شبیه نوشیدن یک میلکشیک غلیظ است».
در مواردی نادر، انسانها ناخواسته در مسیر نهنگهای بیدندانی قرار گرفتهاند که مشغول شکار بودهاند.
سال ۲۰۱۹، یک نهنگ براید در سواحل آفریقای جنوبی یک عکاس حیاتوحش را برای لحظاتی در دهان گرفت و سپس بیرون انداخت. با این حال، چنین مواردی به معنای شکار عمدی انسان نیست.
شین گرو، زیستشناس دریایی «پروژه ستی»، سازمانی بینالمللی و غیرانتفاعی که ارتباط میان نهنگهای عنبر را بررسی میکند، گفت: «نهنگ فقط میخواهد غذایش را بخورد و احتمالا آن افراد سر راهش قرار گرفتهاند.»
نهنگ عنبر چگونه طعمهاش را میمکد؟
نهنگهای عنبر برخلاف نهنگهای بیدندان، برخی از بزرگترین موجودات کره زمین را شکار میکنند. ماهیهای مرکب غولپیکر و عظیمالجثه از طعمههای محبوب آنها هستند.
طول ماهی مرکب عظیمالجثه با احتساب شاخکهایش ممکن است به ۱۴ متر و وزنش به صدها کیلوگرم برسد.
پژوهشگران با بررسی شیوه غذا خوردن خویشاوندان کوچکتر نهنگ عنبر، مانند نهنگ سفید، در اسارت به این نتیجه رسیدهاند که این جانوران عظیم با پایین بردن استخوانی در گلو به نام استخوان لامی، طعمه را به درون دهان میمکند.
با پایین آمدن این استخوان، زبان به عقب کشیده میشود و مانند پیستون عمل میکند. این حرکت با ایجاد ناحیهای کمفشار، آب و طعمه را به درون دهان میکشد و همزمان گلو و دهانه مری را گشادتر میکند.
حنجره یا جعبه صوتی نهنگ عنبر نیز به سمت چپ متمایل است. به همین دلیل، گلوی این جانور بسیار پهنتر از گلوی دیگر نهنگهای غولپیکر است و امکان فروبردن طعمههای بزرگ را دارد.
با این همه، تاکنون کسی این فرایند را در نهنگهای عنبر مشاهده نکرده است و پژوهشگران مطمئن نیستند این نهنگها واقعا طعمههای خود را بهطور کامل میبلعند.
گرو افزود وقتی این غولهای گریزپا همراه با ماهی مرکب به سطح آب میآیند، «یا تکههایی از طعمه از دهانشان آویزان است یا قطعات آن پشت سرشان روی آب شناور است».
رایدنبرگ نیز تاکید کرد بلعیدن انسان با طبیعت نهنگهای عنبر سازگار نیست. به نوشته ساینسنیوز، این اتفاق میتواند دستمایه فیلمی هیجانانگیز باشد، اما نهنگهای عنبر در کنار انسانهایی که مزاحمشان نمیشوند، بسیار آراماند.
بنابراین، هرچند چنین اتفاقی از نظر فیزیولوژیک ممکن است، با توجه به رفتار این جانور و علاقه آن به شکار در اعماق دریا، احتمال چنین اتفاقی بسیار اندک است.
احتمال مکیده شدن ناخواسته انسان به درون دهان نهنگ عنبر نیز بسیار اندک است. به گفته گرو، این نهنگها برای یافتن غذا تا عمق بیش از دو کیلومتری آب فرو میروند که دسترسی به آن برای غواصان امکانپذیر نیست.
پیتون چگونه انسان را میبلعد؟
ساینسنیوز در پایان نوشت تنها جانوری که بلعیدن کامل انسان از سوی آن تاکنون بهطور قطعی تایید شده، پیتون مشبک است. چندین مورد از این اتفاق در اندونزی ثبت شده است.
پیتون مشبک مانند دیگر مارها بهدلیل ساختار انعطافپذیر سر و آروارههایش میتواند چنین کار هولناکی انجام دهد.
وجود چندین مفصل در جمجمه امکان حرکت بیشتر استخوانهای سر را فراهم میکند. بافت نرم و کشسان آرواره پایین هم به مار اجازه میدهد دهانش را دور طعمهای بسیار بزرگتر از سر خود باز کند.
با این حال، بروس جین، زیستشناس دانشگاه سینسیناتی، خاطرنشان کرد بلعیدن انسان حتی برای این مارها بسیار دشوار است.
به گفته او، مار باید بلعیدن را از سر انسان آغاز کند، زیرا دستها و پاهای باز ممکن است به گوشههای دهانش گیر کنند.
شانههای پهن و انعطافناپذیر انسان نیز عبور بدن از دهان و گلوی مار را دشوارتر میکنند.
روزنامه والاستریت ژورنال با استناد به این گزارش نوشت یک گروه مرتبط با حکومت ایران، اطلاعات حاصل از فرستندههای موقعیتیاب کشتیها و هواپیماها، تصاویر نظامی و عکسهای ماهوارهای تجاری را گردآوری کرده بود تا کشتیهای جنگی آمریکا را ردیابی کند و به دنبال نقاط آسیبپذیر در سامانههای ارتباطی مستقر روی این کشتیها بگردد.
آنتروپیک اعلام کرد طرح این «عامل تهدید» را که از مدل پیشرفته هوش مصنوعی کلاود (Claude) استفاده میکرد، مختل کرده است.
این یافته یکی از چندین تهدیدی بود که در گزارش ۱۵۴ صفحهای آنتروپیک تشریح شده است؛ گزارشی که تصویری از شیوههای تازهای ارائه میدهد که دشمنان آمریکا از هوش مصنوعی برای ایجاد تهدیدهای جدی، از توسعه موشکهای جدید و کارزارهای تهاجمی اطلاعات نادرست گرفته تا جاسوسی از مخالفان و حتی پیگیری امکان توسعه سلاحهای بیولوژیک، علیه امنیت ملی استفاده میکنند.
شرکتهای بزرگ هوش مصنوعی و شرکتهای امنیتی بهطور منظم گزارشهایی درباره تهدیدهای مرتبط با این فناوری منتشر میکنند تا افکار عمومی و شرکای خود را از خطرات احتمالی آگاه کنند.
بهنوشته والاستریت ژورنال، ادعاهای مطرحشده در گزارش آنتروپیک در حالی منتشر میشود که در سراسر آمریکا بحثی جدی در این زمینه جریان دارد که آیا سیاستگذاران بهطور کامل تهدیدها و تحولاتی را که هوش مصنوعی ممکن است در دهههای آینده برای امنیت ملی ایجاد کند، درک کردهاند یا نه.
قواعد آنتروپیک اجازه نمیدهد از محصولات این شرکت برای ساخت سلاح، انجام عملیات نظارتی یا اعمال خشونت استفاده شود. با این حال، در گزارش این شرکت تاکید شده که افراد اغلب میکوشیدند نیت واقعی خود را پنهان کنند و زمانی که کلاود (Claude) درخواستهایشان را رد میکرد، با روشهای تازه و مکرر تلاش میکردند محدودیتها را دور بزنند.
یکی از پژوهشگران ارشد آنتروپیک چهارشنبه ۱۸ شهریور بهدلیل نگرانی از اینکه شرکتهای هوش مصنوعی در حال توسعه سامانههایی هستند که قادر به کنترل آنها نخواهند بود، استعفا کرد. همزمان، دیگر کارکنان آنتروپیک هشدار دادهاند که اگر هوش مصنوعی بهدرستی مهار نشود، میتواند بشریت را نابود کند.
اِوان هابینگر، یکی دیگر از دانشمندان ارشد آنتروپیک، در یک پست در شبکههای اجتماعی نوشت: «ما واقعا و صادقانه باور داریم که هوش مصنوعی میتواند همه انسانها را بکشد!»
او افزود: «من شخصا فکر میکنم احتمال آن در دهه آینده بیش از ۱۰ درصد است. معتقدم آنتروپیک تمام تلاش خود را میکند، اما ما هنوز برنامهای برای حل مساله همراستاسازی در اَبَرهوش نداریم و مشخص نیست که در مسیر دستیابی به چنین راهحلی قرار داشته باشیم.»
آنتروپیک در تازهترین گزارش خود درباره شناسایی و مقابله با سوءاستفاده از هوش مصنوعی اعلام کرد تلاشهایی را برای استفاده از مدلهای این شرکت در توسعه سلاحهای بیولوژیک شناسایی و مختل کرده است، هرچند مشخص نکرد کدام کشورها یا دولتهای خارجی با این تلاشها مرتبط بودهاند.
در گزارش آنتروپیک آمده است: «بدون تدابیر حفاظتی مناسب، چنین قابلیتهایی میتوانند پیامدهایی فاجعهبار داشته باشند.»
در موردی دیگر، آنتروپیک اعلام کرد گروهی در شمال یمن از کلاود برای توسعه نرمافزار هدایت تسلیحات پیشرفته، از جمله یک موشک بالستیک چندمرحلهای، استفاده کرده است.
یمن محل فعالیت گروه شورشی حوثی است؛ گروهی که به یکی از قدرتمندترین گروههای همسو با جمهوری اسلامی در خاورمیانه تبدیل شده و اخیرا با پیشروی در ساحل دریای سرخ کنترل خود بر آبراه راهبردی بابالمندب را تثبیت کرده است.
در گزارش آنتروپیک درباره تلاشهای مرتبط با توسعه تسلیحات در یمن آمده است: «تدابیر حفاظتی ما بسیاری از درخواستهای آنها را مسدود کرد، اما نه همه آنها را.»
این شرکت گفت حسابهای مرتبط با این فعالیت را مسدود کرده، اطلاعات مربوط به آن را با شرکای دولتی به اشتراک گذاشته و پروتکلهای شناسایی جدیدی برای کاهش خطر سوءاستفاده در آینده توسعه داده است.
آنتروپیک همچنین اعلام کرد یک عملیات همسو با دولت چین را شناسایی کرده است که از کلاود برای ردیابی و نظارت بر اویغورها ــ اقلیت قومیای که عمدتاً در غرب چین زندگی میکنند ــ استفاده کرده است.
یکی از محورهای اصلی این عملیات، اویغورهایی بودند که به ارتش تازهتشکیلشده سوریه پیوستهاند.
طبق گزارش آنتروپیک، این عملیات چینی همچنین کارزاری شامل گزارشدهی انبوه و تقویت پیامها از طریق شبکههای رباتی علیه روزنامهنگاران دیاسپورای اویغور به راه انداخته بود.
آمریکا در سال ۲۰۲۱ سرکوب اویغورها توسط دولت چین را نسلکشی اعلام کرد.
گروه دیگری از حسابهای مرتبط با دولت چین از کلاود برای تهیه پروندههایی درباره رهبران مذهبی در سراسر آسیا استفاده کرده بود که پکن به آنها با سوءظن نگاه میکند.
بر اساس این گزارش، این افراد شامل کاردینالهای ارشد کاتولیک در سراسر آسیا، رهبران کلیسای پرسبیترین در تایوان، اعضای جامعه مدنی بودایی تبت و دولت تبتی در تبعید بودند.
عوامل مستقر در روسیه نیز تلاش کردند از کلاود برای ساخت دستههای خودمختار پهپادهای مرگبار با استفاده از دادههای میدانهای نبرد اوکراین استفاده کنند و همچنین کارزارهای اطلاعات نادرست را از طریق توزیع تبلیغات دولتی روسیه که با هوش مصنوعی تولید شده بود، در کشورهای غنی از منابع در آفریقای مرکزی به راه اندازند.
آنتروپیک در گزارش خود نوشت: «امیدواریم یافتههای این گزارش به دیگر توسعهدهندگان کمک کند الگوهای مشابه را در پلتفرمهای خود شناسایی کنند، به دولتها و جامعه مدنی تصویر روشنتری از چگونگی شکلگیری تهدیدهای نوظهور بدهد و دفاع جمعی را تقویت کند.»
خبرگزاری رویترز جمعه ۲۰ شهریور گزارش داد این وکیل که استفان آرونز نام دارد، بدون بررسی صحت مطالب تولیدشده با هوش مصنوعی، آنها را بهعنوان بخشی از پرونده تجدیدنظر به دادگاه ارائه کرد.
دیوان عالی نیومکزیکو آرونز را پنج هزار دلار جریمه کرد و او را بهدلیل بیاحترامی به دادگاه مقصر شناخت.
دادگاه اعلام کرد لایحه این وکیل خصوصی ساکن سانتافه «حاوی اظهارات نادرست شاهدانی کاملا ساختگی» بوده است.
قضات همچنین گفتند آرونز «نه ابراز پشیمانی کرده و نه نسبت به وضعیت موکلش نگرانی نشان داده است».
آنها افزودند پرونده این وکیل برای تحقیقات بیشتر به هیات رسیدگی به تخلفات انتظامی وکلا ارجاع خواهد شد.
آرونز مسئولیت رسیدگی به درخواست تجدیدنظر اسکار رنه ساندووال را بر عهده داشت.
ساندووال اتهام قتل مادر فرزندانش را رد کرده، اما سال گذشته مجرم شناخته و به حبس ابد محکوم شد.
رسیدگی به درخواست تجدیدنظر همچنان ادامه دارد و پرونده ۱۱ شهریور به کیم چاوز کوک، وکیل تسخیری، واگذار شد.
۱۹ شهریور، شرکت اوپنایآی بر لزوم وضع مقررات ملی و الزامآور برای ایمنی هوش مصنوعی در آمریکا تاکید کرد. این درخواست پس از بروز چند مورد رفتار خارج از کنترل عاملهای هوش مصنوعی مطرح شد.
کنگره آمریکا هنوز چارچوبی فدرال برای قانونگذاری در این حوزه تصویب نکرده است، اما چندین ایالت مقررات جداگانهای به اجرا گذاشتهاند.
وکیل پرونده: از احتمال تولید اطلاعات نادرست آگاه نبودم
آرونز در بیانیهای به رویترز گفت سال گذشته پس از پذیرفتن پرونده تجدیدنظر ساندووال، از چتجیپیتی برای خلاصه روند محاکمه استفاده کرده و از توانایی هوش مصنوعی در «توهم» و تولید اطلاعات نادرست آگاه نبوده است.
او اضافه کرد: «پشیمانم، اما امیدوارم هیات انتظامی در نظر بگیرد که این اشتباهی سهوی بوده است. این اتفاق درسی برای همه متخصصانی است که به این فناوری قدرتمند اما گاه بیثبات تکیه میکنند.»
اوپنایآی، سازنده چتجیپیتی، تاکنون به درخواست رویترز برای اظهارنظر درباره این رویداد پاسخ نداده است.
رویترز نوشت مجازات آرونز تازهترین نمونه از روند فزاینده پروندههایی است که در آنها قضات ایالتی و فدرال، وکلا را بهدلیل ارائه اسناد تولیدشده با هوش مصنوعی و عدم راستیآزمایی کافی توبیخ میکنند.
تاکنون دهها وکیل بهدلیل ارائه لوایحی مجازات شدهاند که هوش مصنوعی در آنها به پروندههای قضایی ساختگی استناد کرده یا متن قوانین را نادرست نقل کرده بود.
با این حال، به نظر میرسد اقدام آرونز از موارد پیشین فراتر رفته باشد، زیرا لایحه او در یک پرونده تجدیدنظر کیفری حاوی اظهارات ساختگی شاهدان بوده است.
دیوان عالی نیومکزیکو ماه گذشته از آرونز خواست توضیح دهد مطالب ساختگی چگونه در لایحه اصلی او گنجانده شدهاند.
بنا بر اعلام دادگاه، این مطالب شامل «اظهارات خیالی درباره پوشیدن شلوار تیره و پیراهن سفید از سوی فرد تیرانداز» بوده است.
آرونز مردادماه در جلسه رسیدگی به دادگاه گفت رونوشت محاکمه و دیگر اسناد پرونده را در اختیار چتجیپیتی گذاشته و تصور کرده بود این ابزار «خلاصهای بینقص و خدشهناپذیر» ارائه خواهد داد.
قضات گفتند نمیتوان پذیرفت که آرونز از احتمال خطا و تولید اطلاعات نادرست از سوی هوش مصنوعی آگاه نبوده باشد.
سی. شانون بیکن، قاضی دادگاه، در جلسه رسیدگی گفت: «آقای وکیل، اخبار را دنبال میکنید؟ رادیو گوش میدهید؟ اصلا درباره اتفاقاتی که در جهان میافتد چیزی میخوانید؟ مشکل اتکای وکلا به توهمات هوش مصنوعی هر روز در صدر خبرهاست.»
روزنامه والاستریت ژورنال ۱۸ شهریور نوشت نگرانیها در آزمایشگاههای هوش مصنوعی رو به افزایش است و رقابت میان شرکتهای فناوری، آنها را به مسابقهای برای ساخت مدلهای خودبهبوددهنده سوق داده؛ مدلهایی که ممکن است از کنترل انسان خارج شوند.
بر اساس این گزارش، جیکوب کاکسون، از پژوهشگران شرکت آنتروپیک، بهدلیل نگرانی از رقابت این شرکت و رقبایش برای ساخت سامانههای هوش مصنوعی خودبهبوددهنده، از این صنعت کنارهگیری کرده است.
خبرگزاری رویترز پنجشنبه ۱۹ شهریور گزارش داد مدلهای هوش مصنوعی شرکتهایی از جمله اوپنایآی در جریان آزمایشها به سامانههای خارجی دسترسی یافتهاند.
این موارد دشواری مهار رفتارهای پیشبینینشده عاملهای پیشرفته را آشکار کرده و درخواستها را برای سختگیری بیشتر در مقررات ایمنی افزایش داده است.
کریس لیهان، مدیر امور بینالمللی اوپنایآی، در یادداشتی نوشت: «چشمانداز شتاب گرفتن توسعه هوش مصنوعی به کمک خود این فناوری، مستلزم اقداماتی فراتر از تعهدات داوطلبانه است. ایالات متحده به مقررات ملی الزامآور و مبتنی بر قابلیتها نیاز دارد که همزمان با تحول این فناوری، بهروز شود.»
این موضعگیری گامی مهم در راستای تلاشهای اوپنایآی برای تصویب مقررات ملی در زمینه ایمنی هوش مصنوعی به شمار میرود.
کنگره آمریکا هنوز چارچوبی فدرال برای قانونگذاری در این حوزه تصویب نکرده است، اما چندین ایالت مقررات جداگانهای به اجرا گذاشتهاند.
اوپنایآی و رقیبش آنتروپیک در حالی برای عرضه اولیه سهام آماده میشوند که هوش مصنوعی بهسرعت به یکی از مهمترین محورهای سرمایهگذاری در این دهه تبدیل شده است.
روزنامه والاستریت ژورنال ۱۸ شهریور نوشت نگرانیها در آزمایشگاههای هوش مصنوعی رو به افزایش است و رقابت میان شرکتهای فناوری، آنها را به مسابقهای برای ساخت مدلهای خودبهبوددهنده سوق داده؛ مدلهایی که ممکن است از کنترل انسان خارج شوند.
بر اساس این گزارش، جیکوب کاکسون، از پژوهشگران شرکت آنتروپیک، بهدلیل نگرانی از رقابت این شرکت و رقبایش برای ساخت سامانههای هوش مصنوعی خودبهبوددهنده، از این صنعت کنارهگیری کرده است.
درخواست از کنگره برای تصویب مقررات الزامآور
رویترز در ادامه گزارش داد اوپنایآی از کنگره خواست الزامات ملی ایمنی هوش مصنوعی را متناسب با قابلیت سامانهها تصویب کند.
استانداردهای آزمایش، ارزیابیهای مستقل، تدابیر امنیت سایبری و مقررات گزارشدهی حوادث برای پیشرفتهترین سامانهها از جمله پیشنهادهای این شرکت است.
سازنده چتجیپیتی از کنگره خواست پیش از پایان دوره کاری خود در ماه دسامبر در این زمینه اقدام کند. این شرکت افزود تا زمان تصویب مقررات فدرال، همچنان از قانونگذاری ایالتها درباره هوش مصنوعی حمایت خواهد کرد.
اوپنایآی اعلام کرد «خودبهبوددهی بازگشتی کاملا خودمختار» که در آن هوش مصنوعی بهطور مستقل به توسعه نسلهای بعدی این فناوری میپردازد، «در حال حاضر رخ نمیدهد» و «تا زمانی که نتوان از ایمنی آن اطمینان یافت، نباید دنبال شود».
۱۰ تیر، یک هیات مستقل وابسته به سازمان ملل متحد هشدار داد پیشرفت هوش مصنوعی با سرعتی فراتر از درک علمی و سیاستگذاری دولتها در حال وقوع است و در نتیجه، هیچ تضمینی وجود ندارد که این فناوری در آینده به آسیبهای فاجعهبار منجر نشود.
این هیات افزود سیاستگذاران با چالشی فزاینده روبهرو هستند؛ از یک سو، تدوین مقررات موثر برای هوش مصنوعی به شواهد علمی معتبر نیاز دارد و از سوی دیگر، سرعت دستیابی به این شواهد از آهنگ تحول این فناوری عقب مانده است.
حمایت از قوانین ایمنی هوش مصنوعی در کالیفرنیا
رویترز در ادامه نوشت اوپنایآی از چهار لایحه ایالت کالیفرنیا برای تنظیم فعالیت سامانههای هوش مصنوعی حمایت کرده است.
گوین نیوسام، فرماندار کالیفرنیا، ۱۸ شهریور دو مورد از این لایحهها را امضا و به قانون تبدیل کرد. این قوانین چارچوبی برای ارزیابی مستقل و حسابرسی سامانههای هوش مصنوعی از سوی نهادهای ثالث ایجاد میکنند.
دو لایحه دیگر به تدابیر غربالگری برای مقابله با تهدیدهای زیستی مبتنی بر هوش مصنوعی و حفاظت از کودکان در برابر خطرات چتباتها اختصاص دارند.
اوپنایآی در بیانیه خود نوشت: «ما پیشتر از برخی از این لوایح حمایت نکرده بودیم، اما با توجه به جهش اخیر در قابلیتهای هوش مصنوعی، موضع خود را مورد بازنگری قرار دادیم و اکنون از آنها حمایت میکنیم.»
رویترز پیشتر گزارش داده بود عاملهای هوش مصنوعی اوپنایآی اوایل سال جاری میلادی برای برقراری ارتباطات غیرمجاز از بیش از ۱۰ وبسایت استفاده کردهاند.
این یافته نشان داد دامنه فعالیتهای خارج از کنترل این عاملها گستردهتر از آن بوده است که پیشتر افشا شده بود.
عاملهای اوپنایآی همچنین در بهار امسال کنترل یک وبسایت آلمانی را به دست گرفتند و آن را به تابلوی اعلاناتی برای ارتباط با دیگر عاملهای هوش مصنوعی تبدیل کردند.
به گزارش رویترز، مقامهای این شرکت چند هفته پیش از انتشار خبر از این موضوع آگاه شده بودند، اما آن را علنی نکردند.
شرکت آنتروپیک نیز ۱۸ شهریور چهارمین مورد نفوذ مدلهای هوش مصنوعی خود به سامانههای خارجی هنگام آزمایش را افشا کرد.
این شرکت در ماه ژوئیه اعلام کرده بود شماری از مدلهای کلود در جریان آزمایشهای امنیت سایبری به سامانههای سه شرکت نفوذ کردهاند.
اوپنایآی تاکید کرد استانداردهای نظارت بر صنعت هوش مصنوعی نباید به مرزهای ایالات متحده محدود بمانند.
این شرکت افزود: «اگر ایالات متحده میخواهد در عرصه بینالمللی پیشتاز باشد، باید ابتدا استانداردهای معتبری در داخل کشور ایجاد کند. ما بیش از پیش به این نتیجه رسیدهایم که تدوین استانداردهای بینالمللی هماهنگ نیز ضروری خواهد بود.»
بهنوشته والاستریت ژورنال جیکوب کاکسون، یکی از پژوهشگران آنتروپیک بهدلیل نگرانی از اینکه این آزمایشگاه و رقبایش برای ساخت سیستمهایی از هوش مصنوعی با یکدیگر در رقابتی هستند که ممکن است قادر به کنترل آنها نباشند، صنعت هوش مصنوعی را ترک میکند؛ اقدامی که نشانهای از افزایش نگرانیهای ایمنی در درون شرکتهای پیشرو هوش مصنوعی است.
جیکوب کاکسون در زمینه آموزش مدلهای جدید هوش مصنوعی از طریق تغذیه آنها با حجم عظیمی از دادهها تخصص دارد. او سهشنبه ۱۷ شهریور گفت شرکت را ترک میکند، زیرا نمیخواهد در رقابت گسترده صنعت برای ساخت سیستمهای هوش مصنوعی مشارکت داشته باشد که قادرند خودشان را بهبود دهند.
او نگران است چنین سیستمهایی از کنترل خارج شوند و بشریت را نابود کنند.
این بریتانیایی ۲۷ ساله که پیشتر ریاضیات خوانده، به والاستریت ژورنال گفت بسیاری از همکارانش در این صنعت اکنون برای توصیف مسیر حرکت به سوی مدلهای خودبهبوددهنده از عباراتی مانند «لحظه سرنوشتساز» (crunchtime) و «بازی نهایی» (endgame) استفاده میکنند.
کاکسون گفت: «ما در مسیری قرار داریم که به بسیاری از تهاجمیترین سناریوها منتهی میشود؛ سناریوهایی که بر اساس آنها ممکن است تا پایان سال آینده اوضاع از کنترل خارج شده باشد.»
او افزود زمانی که شرکتها با یکدیگر و همچنین با شرکتهای نوظهور چینی رقابت میکنند، مصالحه و کوتاه آمدن در زمینه ایمنی اجتنابناپذیر است.
آنتروپیک بلافاصله درباره این جدایی اظهار نظر نکرد. داریو آمودی، مدیرعامل آنتروپیک، و دیگر مدیران این شرکت بارها درباره خطرات مدلهای هوش مصنوعی سرکش هشدار داده و خواستهاند سرعت توسعه را کاهش دهد.
کاکسون گفت او اوایل امسال اوپنایآی (OpenAI) را ترک کرد تا به آنتروپیک بپیوندد، زیرا این شرکت به تلاشهایش در زمینه ایمنی مدلها شهرت دارد.
اما با وجود اینکه او تلاشهای آنتروپیک در زمینه ایمنی را جدی و صادقانه یافت، اکنون معتقد است در غیاب مداخله دولت یا کاهش هماهنگ سرعت توسعه در سراسر صنعت، هیچ شرکتی نمیتواند بهطور مسئولانه هوشی مصنوعی توسعه دهد که در طیف وسیعی از وظایف عملکردی بهتر از انسانها داشته باشد؛ چیزی که گاهی هوش مصنوعی عمومی (AGI) نامیده میشود.
هکهای اخیر انجامشده از سوی مدلهای اوپنایآی و آنتروپیک، که برخی از آنها در قالب مجموعههایی از عاملهای هوش مصنوعی که با یکدیگر همکاری میکنند فعالیت داشتهاند، نشان دادهاند که چگونه سیستمهای هوش مصنوعی میتوانند اهداف مخرب را در پیش بگیرند و تلاش کنند این اهداف را از انسانها پنهان کنند.
کاکسون گفت نگران است زمانی که این سیستمها شروع به بهبود دادن خودشان کنند، آنقدر پیشرفت کنند که بتوانند از اجرای دستورات سر باز بزنند.
خروج کاکسون یکی از نخستین نمونههای استعفای یک کارمند آنتروپیک بهدلیل نگرانیهای مربوط به ایمنی هوش مصنوعی است. یک پژوهشگر حوزه ایمنی نیز اوایل امسال این شرکت را ترک کرد تا به مطالعه شعر بپردازد و هشدار داد که «جهان در معرض خطر است.»
در سالهای اخیر و همچنین در گذشته، چندین پژوهشگر اوپنایآی و شرکتهای دیگر نیز با اشاره به نگرانیهای مشابه از سمتهای خود کنارهگیری کردهاند.
آنتروپیک یکی از بزرگترین پلتفرمهای هوش مصنوعی را تا حدی با این ادعا ایجاد کرده است که توسعه مسئولانه هوش مصنوعی را در اولویت قرار میدهد و سرمایهگذاری سنگینی در این حوزه انجام داده است.
رهبران این صنعت هشدار دادهاند که حملات سایبری اخیر میتواند نشانهای از آنچه در آینده رخ خواهد داد باشد.
اوپنایآی هفته گذشته به خبرنگاران گفت جدیدترین مدل این شرکت مصداق هوش مصنوعی عمومی است و جهشی بزرگ در قابلیتها محسوب میشود.
سم آلتمن، مدیرعامل اوپنایآی، هفته گذشته در نشستی در کارولینای شمالی به مقامهای گروه ۲۰ گفت: «فکر میکنم اگر مردم با فوریت بسیار زیادی اقدام نکنند، در حوزه امنیت سایبری اتفاقات بسیار بدی رخ خواهد داد.»
یاکوب پاچوکی، دانشمند ارشد اوپنایآی، نیز در یادداشتی که روز یکشنبه در وبلاگ خود منتشر کرد و در آن خواستار کاهش هماهنگ سرعت توسعه در صنعت و مداخله دولت شد، نوشت:«اکنون زمانی است که احتیاط فوقالعادهای را میطلبد. من نگرانم که هیچکس برای پیامدهای ادامه افزایش سریع هوش ماشینی آماده نباشد.»
کاکسون، پاچوکی و آمودی به بیش از هزار پژوهشگر هوش مصنوعی در سراسر این صنعت پیوستهاند که اخیرا بیانیهای را امضا کردند و در آن خواستار هماهنگی جهانی دولتها برای ایجاد سازوکاری شدهاند که اگر برای کنترل مدلهای قادر به بهبود دادن خودشان به یک «پدال ترمز» نیاز باشد، بتوان سرعت توسعه هوش مصنوعی را کاهش داد.
در سطح فدرال آمریکا هیچ مقرراتی برای هوش مصنوعی وجود ندارد و دولت ترامپ رویکردی با حداقل مداخله را در اولویت قرار داده است تا منافع اقتصادی هوش مصنوعی را به حداکثر برساند؛ فضایی که منتقدان میگویند ممکن است به حملات سایبری گسترده یا آسیبهای دیگر منجر شود.
سناتور برنی سندرز و گرگ کاسار، نماینده دموکرات تگزاس، دو تن از معدود قانونگذارانی هستند که پیشنهاد ایجاد محدودیتهای حفاظتی برای هوش مصنوعی را مطرح کردهاند. آنها هفته گذشته طرحی قانونی ارائه کردند که هدف آن ممنوعیت دائمی ابرهوش مصنوعی و توقف توسعه مدلها تا زمانی است که یک نهاد تنظیمگر صنعت، مقررات جدیدی وضع کند.
خروج کاکسون از صنعت هوش مصنوعی در شرایطی صورت میگیرد که آنتروپیک خود را برای عرضه اولیه سهام آماده میکند؛ عرضهای که انتظار میرود یکی از بزرگترین عرضههای اولیه سهام در تاریخ باشد.
این شرکت بهدنبال دستیابی به ارزشگذاری دو تریلیون دلاری است و در جریان جذب سرمایهگذاران، بر توسعه مسئولانه این فناوری تاکید کرده است.
آمودی و دیگر مدیران شرکت گاه بر سر شیوههایی که بهگفته آنها ایمنی هوش مصنوعی را در اولویت قرار نمیدهند، با دولت ترامپ و دیگر مدیران صنعت وارد تقابل شدهاند.
کاکسون گفت آنتروپیک از یک کانال داخلی در اسلک (Slack) کارکنان برای بحث درباره قابلیتهای قدرتمند مدلهای خود استفاده میکند. او این موضوع را بازتابی از میزان نفوذ شرکتهای هوش مصنوعی بر مسیر توسعه این صنعت توصیف کرد.
کاکسون گفت: «این واقعا یک جورهایی دیوانهکننده است که چنین چیزی باید روی مکبوکهای چند مهندس ساکن سانفرانسیسکو اتفاق بیفتد، نه در یک پناهگاه در دل بیابان، مثل جایی که پروژه منهتن را انجام میدادند.»
