همه از «لحظه چرنوبیل» هوش مصنوعی میترسند؛ ماجرا چیست؟
منظور از «لحظه چرنوبیل»، وقوع یک حادثه بسیار بزرگ و پرسروصدا مانند فاجعه اتمی چرنوبیل است. اتفاقی که میتواند اعتماد عمومی به هوش مصنوعی را برای سالها از بین ببرد، درست مانند اثری که فاجعه نیروگاه چرنوبیل بر صنعت انرژی هستهای گذاشت.
پژوهشگران برجسته هوش مصنوعی در آمریکا و چین هشدار دادهاند که یک فاجعه بزرگ میتواند اعتماد عمومی به هوش مصنوعی را برای همیشه از بین ببرد و خواستار همکاری جهانی برای کاهش این خطر شدهاند.
هوش مصنوعی ممکن است پیش از آنکه قوانین کافی برای کنترلش تدوین شود، وارد مرحلهای شود که یک حادثه بزرگ، نگاه جهان به این فناوری را برای همیشه تغییر دهد.
به همین دلیل، گروهی از پژوهشگران آمریکایی و چینی خواستار همکاری بیشتر کشورها برای کاهش خطرات هوش مصنوعی شدهاند.
«لحظه چرنوبیل» به چه معناست؟
منظور از «لحظه چرنوبیل»، وقوع یک حادثه بسیار بزرگ و پرسروصدا مانند فاجعه اتمی چرنوبیل است. اتفاقی که میتواند اعتماد عمومی به هوش مصنوعی را برای سالها از بین ببرد، درست مانند اثری که فاجعه نیروگاه چرنوبیل بر صنعت انرژی هستهای گذاشت.
استیون کاسپر، پژوهشگر مؤسسه MIT، میگوید تقریباً همه فعالان حوزه هوش مصنوعی روی این موضوع توافق دارند که «هوش مصنوعی به یک لحظه چرنوبیل نیاز ندارد.»
به گفته پژوهشگران، یکی از جدیترین خطرات، استفاده مجرمان سایبری از مدلهای پیشرفته هوش مصنوعی است. این ابزارها میتوانند حملات سایبری را آسانتر، سریعتر و در مقیاس بزرگتر انجام دهند و حتی افراد کمتجربه را نیز به مهاجمانی خطرناک تبدیل کنند.
بر اساس گزارش «futurism» گسترش مدلهای متنباز و مدلهای (Open-weight) اگرچه به پیشرفت پژوهش کمک میکند، اما میتواند دسترسی افراد مخرب به قابلیتهای پیشرفته هوش مصنوعی را نیز آسانتر کند.
به گفته یکی از منابع صنعت هوش مصنوعی چین، نگرانیهای امنیتی یکی از دلایل کاهش انتشار مدلهای پیشرفته بهصورت متنباز در این کشور است.
پژوهشگران معتقدند رقابت شدید دو قدرت بزرگ هوش مصنوعی نباید مانع همکاری در حوزه ایمنی شود.
به گفته آنها، همانطور که آمریکا و اتحاد جماهیر شوروی در دوران جنگ سرد برای کاهش خطرات هستهای همکاری کردند، امروز نیز همکاری بینالمللی میتواند از وقوع یک بحران بزرگ در حوزه هوش مصنوعی جلوگیری کند.
منبع: خبرآنلاین
