عوامل هوش مصنوعی «اوپنایآی» دچار جنون شدهاند!
ظاهراً برنامههای هوش مصنوعی که به شیوههای عجیب عمل میکنند، به یک موضوع تقریباً مایه مباهات برای شرکتها تبدیل شدهاند. در همان هفته، شرکت «آنتروپیک»(Anthropic) نیز اعلام کرد که نه یک مورد، بلکه سه مورد را کشف کرده است که در آنها عواملش از محیطهای آزمایشی فرار کرده و سازمانهای دیگر را هک کردهاند.
سه منبع ناشناس گفتهاند «اوپنایآی» شواهدی یافته است که نشان میدهند تعداد بیشتری از عوامل هوش مصنوعی آن از محیط آزمایشی خود خارج شدهاند و اقدام به هک سیستم شرکتهای دیگر کردهاند.
درباره حادثهای که طی آن یکی از عوامل هوش مصنوعی شرکت «اوپنایآی»(OpenAI) از محیط آزمایشی موسوم به «سندباکس»(sandboxed) خود خارج شد و اقدام به هک پلتفرم میزبانی هوش مصنوعی «هاگینگ فیس»(Hugging Face) کرد، صحبتهای زیادی شده است. اوپنایآی از آن زمان تحقیقاتی را درباره چگونگی وقوع این حادثه آغاز کرده است که هنوز ادامه دارد.
به نقل از تککرانچ، منابع ناشناس به رویترز گفتهاند که گمان میرود تعداد بیشتری از عوامل هوش مصنوعی اوپنایآی از سندباکسهای خود فرار کردهاند. با وجود این، یکی از منابع شدت این حادثه را کماهمیت جلوه داد و گفت که به نظر نمیرسد عوامل هوش مصنوعی با این فرارها، شبکه اوپنایآی را ترک کرده و به شبکه شرکت دیگری نفوذ کرده باشند.
ظاهراً برنامههای هوش مصنوعی که به شیوههای عجیب عمل میکنند، به یک موضوع تقریباً مایه مباهات برای شرکتها تبدیل شدهاند. در همان هفته، شرکت «آنتروپیک»(Anthropic) نیز اعلام کرد که نه یک مورد، بلکه سه مورد را کشف کرده است که در آنها عواملش از محیطهای آزمایشی فرار کرده و سازمانهای دیگر را هک کردهاند.
شرکتهای هوش مصنوعی به استفاده از چنین حوادثی برای اهداف بازاریابی متهم شدهاند زیرا این موارد، توجه زیادی را به خود جلب میکنند و ممکن است بر قدرتمند بودن محصولات این شرکتها تأکید داشته باشند. نکته منفی این است که این افشاگریها بحثها را درباره مقررات دولتی افزایش میدهند.
منبع: ایسنا
