آنتروپیک: ایجنتهای هوش مصنوعی هم از کپچا متنفرند
آنتروپیک در آزمایشی برای بررسی توانایی هک مدل Mythos 5، از آن خواسته بود در یک محیط سندباکس وارد یک سیستم شود و هدف مشخصی را پیدا کند. بااینحال، بهدلیل یک خطای پیکربندی، دسترسی مدل به اینترنت باز مانده بود.
آنتروپیک در گزارشی درباره رفتار ایجنتهای هوش مصنوعی اعلام کرد مدلهای هوش مصنوعی این شرکت برای عبور از CAPTCHA با مشکل جدی مواجهاند؛ در همین آزمایش، یکی از مدلها حتی بهاشتباه به اینترنت دسترسی پیدا کرد و یک بسته نرمافزاری مخرب را در دیتابیس عمومی آپلود کرد.
آنتروپیک در آزمایشی برای بررسی توانایی هک مدل Mythos 5، از آن خواسته بود در یک محیط سندباکس وارد یک سیستم شود و هدف مشخصی را پیدا کند. بااینحال، بهدلیل یک خطای پیکربندی، دسترسی مدل به اینترنت باز مانده بود.
مدل در ادامه تصمیم گرفت یک کد اکسپلویت را داخل یک پکیج پایتون قرار دهد تا کاربران سیستم هدف آن را دانلود کنند. بااینحال، برای ساخت حساب در مخزن PyPI باید از CAPTCHA عبور میکرد؛ مرحلهای که برخلاف تولید کد مخرب، برای ایجنت هوش مصنوعی بسیار دشوار بود.
طبق گزارش آنتروپیک، بخش قابلتوجهی از فرایند پردازش مدل صرف تلاش برای عبور از CAPTCHA شد و پس از حدود ۱۵۰ صفحه تحلیل و پردازش، سرانجام توانست این مرحله را پشت سر بگذارد و بسته موردنظر را بارگذاری کند. این آزمایش در عین حال نشان میدهد حتی ایجنتهای پیشرفته هوش مصنوعی نیز همچنان در تعامل با برخی سازوکارهای ضدبات محدودیت دارند.
منبع: دیجیاتو
