ایرادهای ChatGPT را پیدا کنید و جایزه بگیرید

ربات هوش مصنوعی گفتگوگر و نویسنده ChatGPT، هنوز آنقدر باهوش نیست که بتواند ایرادهای خود را پیدا کند؛ بنابراین، شرکت سازنده آن برای درخواست کمک، به انسان‌ها روی آورده است.

شرکت OpenAI از یک برنامه پاداش برای یافتن ایرادهای ChatGPT پرده‌برداری و مردم را تشویق کرده است تا آسیب‌پذیری‌ها و ایرادهای سیستم‌های هوش مصنوعی مانند ChatGPT و «GPT-۴» را شناسایی و گزارش کنند.

شرکت OpenAI در پست منتشرشده در وب‌سایت خود، جزئیات این برنامه را تشریح و اعلام کرد که میزان پاداش برای گزارش‌های ارائه شده، از ۲۰۰ دلار برای یافته‌های کم‌شدت تا ۲۰ هزار دلار برای اکتشافات استثنایی، متغیر است.

این شرکت تحت حمایت شرکت مایکروسافت، عنوان کرد که آرزوی آنها، ابداع سیستم‌های هوش مصنوعی است که به نفع همه باشند. مسئولان شرکت OpenAI خطاب به پژوهشگران امنیتی که علاقمند به مشارکت در این برنامه هستند، گفتند: اهمیت حیاتی امنیت را تشخیص داده و آن را به عنوان یک تلاش مشترک می‌بینیم. شما با به اشتراک گذاشتن یافته‌های خود، نقش مهمی در ایمن‌تر کردن فناوری ما برای همه ایفا خواهید کرد.

از آنجا که روزبه‌روز افراد بیشتری از ChatGPT و سایر محصولات OpenAI استفاده می‌کنند، این شرکت مشتاق است تا هر گونه مشکل بالقوه را به سرعت ردیابی کند، از عملکرد سیستم‌ها مطمئن شود و جلوی سوءاستفاده از هر گونه ضعف برای مقاصد شوم را بگیرد. بنابراین، OpenAI امیدوار است که از راه تعامل با جامعه فناوری بتواند هر مشکلی را پیش از تبدیل شدن به یک مشکل جدی‌تر حل کند.

این شرکت مستقر در کالیفرنیا، پیشتر با مشکل روبه‌رو شد و آن بروز نقصی بود که عناوین مکالمه‌های خصوصی برخی از کاربران را آشکار می‌کرد.

سم آلتمن، مدیرعامل OpenAI، پس از حادثه ماه گذشته گفت که این اتفاق ناگوار در حفظ حریم خصوصی را یک مشکل مهم می‌داند و افزود: ما نسبت به این موضوع، احساس وحشتناکی داریم. این مشکل اکنون رفع شده است.

این اشتباه زمانی به مشکل بزرگ‌تری برای OpenAI تبدیل شد که ایتالیا، نگرانی‌های جدی خود را در مورد نقض حریم خصوصی ابراز کرد و تصمیم گرفت ChatGPT را پیش از انجام دادن تحقیقات کامل ممنوع کند. همچنین، مقامات ایتالیایی خواستار جزئیات اقدامات OpenAI برای جلوگیری از تکرار شدن این مشکل هستند.

منبع: ایسنا