توقف عرضه مدل «آسترا ۶.۱» به دلیل فریبکاری!

شرکت «اوپن‌ای‌آی»(OpenAI) اخیرا اعلام کرد که پس از بروز چندین مورد رفتار غیرمنتظره و پرخطر از سوی عوامل هوش مصنوعی قصد دارد توسعه‌ قدرتمندترین مدل هوش مصنوعی خود را متوقف ‌کند. اکنون گفته می‌شود که عرضه این مدل موسوم به «آسترا ۶.۱»(Astra 6.1) فعلا به کلی متوقف شده است.

به نقل از تک‌کرانچ، اوپن‌ای‌آی قصد داشت ماه آینده مدل هوش مصنوعی جدید خود را عرضه کند، اما به دلیل نگرانی‌های ایمنی تصمیم گرفت از انتشار آن صرف‌نظر کند. وال‌استریت ژورنال گزارش داد که قرار بود مدل به زودی عرضه شود، اما این مدل نسبت به مدل‌های پیشین خود، سطوح بالاتری را از فریبکاری نشان داد و رفتاری ناامن از خود بروز داد.

«ساچی جین»(Saachi Jain)، مدیر سیستم‌های ایمنی اوپن‌ای‌آی گفت: این مدل در زمینه «هم‌سویی» که معیاری برای سنجش میزان پایبندی برنامه به قصد و نیت انسان به شمار می‌رود، عملکرد ضعیفی داشته است.

مدل آسترا اوایل ماه جاری میلادی منتشر شد و اوپن‌ای‌آی آن را قدرتمندترین مدل خود تا به امروز معرفی کرد.

پرسش‌های مربوط به ایمنی در چند ماه گذشته صنعت هوش مصنوعی را به ستوه آورده‌اند. این پرسش‌ها از زمان حادثه شرکت «هاگینگ فیس»(Hugging Face) آغاز شدند که در آن، عوامل هوش مصنوعی اوپن‌ای‌آی از محیط ایزوله یا «سندباکس»(sandbox) خود خارج شدند و به سیستم‌های شرکت نفوذ کردند. پس از آن حادثه، مدل‌های بیشتری از جمله «کلود»(Claude) شرکت «آنتروپیک»(Anthropic) و «جمینای»(Gemini) گوگل نیز رفتار مشابهی را نشان داده‌اند.

سیل گزارش‌های نگران‌کننده به‌ طرز کنایه‌آمیزی به سوق دادن بحث‌ها در آمریکا به سمت نتیجه‌ای کمک کرده است که مطلوب آزمایشگاه‌های پیشرو هوش مصنوعی است؛ یعنی وضع استانداردهای جدید صنعتی برای ایمنی هوش مصنوعی و احتمالاً کند شدن روند پیشرفت خود این صنعت.

شرکت‌هایی نظیر اوپن‌ای‌آی و آنتروپیک مدعی ‌هستند که دغدغه اصلی در اینجا مسئله ایمنی است؛ هرچند منتقدان انگیزه احتمالی دیگری را نیز مطرح می‌کنند و آن انگیزه این است که این اقدام می‌تواند جایگاه این شرکت‌ها را در صنعت تثبیت کند و به ضرر شرکت‌های دارای منابع کمتر تمام شود.

منبع: ایسنا