مایکروسافت محدودیت‌های جدیدی برای هوش مصنوعی تعیین کرد

مایکروسافت در واکنش به افزایش نگرانی‌ها درباره ایمنی و هم‌ترازی هوش مصنوعی، آیین‌نامه جدیدی برای نحوه رفتار مدل‌های هوش مصنوعی خود منتشر کرده است.

این چارچوب تأکید می‌کند که مدل‌های هوش مصنوعی مایکروسافت نباید برای حملات سایبری، ساخت سلاح‌های هسته‌ای یا تولید محتوای دیپ‌فیک مورد استفاده قرار گیرند. همچنین مدل‌ها نباید با استفاده از روش‌های فریب‌دهنده یا خودتقویت‌شونده، نظارت انسان را دور بزنند یا امکان کنترل، اصلاح و خاموش کردن خود را از افراد و سامانه‌های مجاز سلب کنند.

مایکروسافت در این سند پیش‌بینی کرده است که طی دهه آینده، سامانه‌های هوش مصنوعی بسیار پیشرفته ممکن است در بسیاری از وظایف از توانایی انسان فراتر بروند؛ به همین دلیل، کنترل و هم‌راستاسازی این فناوری را یکی از چالش‌های مهم پیش روی بشر دانسته است.

این شرکت همچنین تأکید کرده که هدف توسعه مدل‌هایش باید حمایت از انسان و کمک به شکوفایی توانایی‌های انسانی باشد، نه جایگزین کردن انسان‌ها.

ساتیا نادلا، مدیرعامل مایکروسافت، نیز از توسعه مرحله‌ای و آگاهانه هوش مصنوعی و استفاده از ارزیاب‌های داخلی برای سنجش ایمنی مدل‌ها حمایت کرده است. انتشار این آیین‌نامه در شرایطی انجام شده که نگرانی درباره رفتارهای غیرمنتظره عامل‌های هوش مصنوعی و خطرات احتمالی مدل‌های پیشرفته افزایش یافته است.

منبع: سیتنا