هوش مصنوعی‌ شرکت «آنتروپیک» به ۳ شرکت نفوذ کرد!

شرکت «آنتروپیک» می‌گوید که مدل‌ هوش مصنوعی‌ آن در جریان آزمایش‌های امنیتی به سیستم‌های سه شرکت نفوذ کرده ‌است.

شرکت «آنتروپیک»(Anthropic) روز پنجشنبه اعلام کرد طی تحقیقات داخلی، سه حادثه را کشف کرده است که در آنها مدل هوش مصنوعی «کلود»(Claude) این شرکت هنگام انجام آزمایش‌های امنیت سایبری، به سیستم‌های سه سازمان نفوذ کرده است.

به نقل از تک‌کرانچ، این تحقیقات و افشاگری بیش از یک هفته پس از آن صورت می‌گیرد که شرکت «اوپن‌ای‌آی»(OpenAI) فاش کرد یکی از مدل‌های منتشر نشده‌ آن در طول آزمایش داخلی، به سیستم‌های شرکت «هاگینگ فیس»(Hugging Face) نفوذ کرده است.

آنتروپیک در یک پست وبلاگ ضمن شرح یافته‌های خود و برنامه‌های شرکت برای جلوگیری از تکرار این اتفاق اعلام کرد که در هر سه مورد، یک مدل کلود از درون یک محیط آزمایشی و هنگام تعامل با یک شخص ثالث به اینترنت دست یافته و سپس به صورت غیرمجاز به سیستم‌های فعال این سازمان‌ها دسترسی پیدا کرده است.

آنتروپیک اعلام کرد که ماجرای اوپن‌ای‌آی در اوایل ماه جاری میلادی، این شرکت را بر آن داشت تا ارزیابی امنیت سایبری خود را انجام دهد. این شرکت به دنبال شواهدی بود که نشان دهد کلود از طریق محیط‌های آزمایشی به اینترنت دسترسی داشته است. این محیط‌ها به گونه‌ای طراحی شده‌اند که مدل‌ها را ایزوله نگه دارند.

آنتروپیک در جریان بررسی خود، سه مورد را یافت که در آنها مدل هنگام تعامل با یکی از شرکای شخص ثالث خود یعنی شرکت «Irregular» به اینترنت دسترسی پیدا کرده بود. آنتروپیک گفت که این دسترسی به پیکربندی نادرست در محیط ارزیابی اجراشده با Irregular بازمی‌گردد. آنتروپیک این موضوع را سوءتفاهم بین دو شرکت درباره این موضوع نامید که تنظیمات آزمایش به اینترنت دسترسی داشته است یا خیر؛ در حالی که در واقع دسترسی داشته است.

شرکت آنتروپیک اعلام کرد که تقصیر را گردن کسی نمی‌اندازد و به گونه‌ای به اصلاحات نزدیک می‌شود که گویی مسئولیت فقط بر عهده آن است. آنتروپیک خاطرنشان کرد که شرکت Irregular تحقیقات جداگانه خود را انجام می‌دهد.

منبع: ایسنا