سند لو رفته مایکروسافت: مردم را به هوش مصنوعی معتاد کنید!
به نظر میرسد یکی از نویسندگان محتوای مایکروسافت این روزها بسیار زیر فشار قرار گرفته است، زیرا در سندی فاششده، مایکروسافت برنامهاش برای «معتاد کردن» مردم به هوش مصنوعی را ترسیم کرده است.
بر اساس یک سند داخلی که وبسایت ۴۰۴ Media به آن دست یافته، غول فناوری مایکروسافت ناخواسته فاش کرده که میخواهد کاربران را به دستیار هوش مصنوعی جدید خود به نام «اسکات» (Scout)، «معتاد» کند. این اعترافی نگرانکننده است زیرا شرکتهای هوش مصنوعی همواره تلاش کردهاند با انتقادهایی مبنی بر اینکه مدلهایشان عمدا برای درگیر کردن بیش از حد کاربران طراحی شدهاند تا حدی که میتوانند آسیبهای روانی ایجاد کرده و به بحرانهای سلامت روان دامن بزنند، مقابله کنند.
به نقل از فیوچریسم، این سند که برنامه مایکروسافت برای ادغام نسخهای فراگیرتر و کاربرپسندتر از عاملهای هوش مصنوعی اوپن کلاو را در مجموعه نرمافزاری مایکروسافت ۳۶۵Microsoft ۳۶۵ شرح میدهد، از «سه مرحله» برای اجرای این طرح سخن میگوید. مرحله نخست: «مردم را معتاد کنید.»
در این سند آمده است: به ارائه تجربه مستقل کلاو پایلوت (ClawPilot) ادامه دهید. تجربه کاربری را آزمایش کرده و بهبود دهید، تعداد کاربران را افزایش دهید و اکوسیستمی از مهارتها و ابزارهایی بسازید که باعث شود کاربران هر روز بیشتر به آنها وابسته شوند. این روند همین حالا هم به صورت طبیعی در حال وقوع است.
کارمندان ناشناس مایکروسافت که با ۴۰۴ Media گفتوگو کردهاند، درباره این عبارتها دیدگاههای متفاوتی داشتند. یکی از آنها اشاره صریح به اعتیاد را «بسیار نگرانکننده» توصیف کرد.
او گفت: ما هر روز بیشتر شاهد شکلگیری اعتیاد به چتباتها و عاملهای هوش مصنوعی هستیم و از نظر من، اعتیاد چیزی نیست که هیچ محصولی باید آن را بخشی از استراتژی توسعه خود قرار دهد. این سند حس همان لحظهای را دارد که کسی ناگهان چیزی را که نباید بلند بگوید، آشکارا به زبان میآورد.
اما کارمند دیگری نظر متفاوتی داشت و این موضوع را اینگونه توجیه کرد: مگر هدف نهایی همه نرمافزارهایی که شرکتهای بزرگ فناوری میسازند، این نیست که کاربران را به خود وابسته کنند؟ او با لحنی طنزآمیز افزود: خوشبختانه در مورد ما، مایکروسافت در ساخت محصولات اعتیادآور نسبت به بعضی از شرکتهای بزرگ دیگر چندان موفق نبوده است.
اگر واقعا هدف مایکروسافت اعتیادآور کردن هوش مصنوعیاش باشد، به نظر میرسد نخستین افرادی که گرفتار آن شدهاند، کارکنان خود این شرکت هستند. طبق این سند، بیش از هزار کارمند، از جمله مدیرعامل شرکت، ساتیا نادلا، از این ابزار جدید استفاده میکنند.
در سند آمده است: کلاو پایلوت به طور طبیعی به یکی از پرتقاضاترین ابزارهای داخلی مایکروسافت تبدیل شده است. نه اعلام رسمی در کار بوده، نه بازاریابی و نه هیچ کمپین سازمانی گستردهای.
با خواندن نثر سنگین و نامانوس این متن احتمالا تعجب نخواهید کرد اگر بدانید که خود سند نیز براساس توضیحی که در آن آمده، با کمک هوش مصنوعی به صورت مشترک تولید شده است.
در صنعت هوش مصنوعی، «اعتیاد» به یکی از واژههای ترسناک تبدیل شده است. از آنجا که چتباتها و سایر ابزارهای هوش مصنوعی با زبانی طبیعی و محاورهای با کاربران ارتباط برقرار میکنند و معمولا چاشنی قابل توجهی از تأیید و همراهی بیش از حد نیز در پاسخهایشان وجود دارد، کاربران ممکن است وابستگی ناسالمی به آنها پیدا کنند.
در نتیجه این پرسش مطرح میشود که آیا شرکتهایی که این فناوریها را توسعه میدهند، آگاهانه از این وابستگی برای افزایش تعامل کاربران استفاده میکنند، آن هم با وجود خطرات بالقوه برای سلامت روان و عملکرد شناختی افراد؟
اینکه مایکروسافت آشکارا اعلام کند «اعتیاد» هدف نهایی آن است، در خوشبینانهترین حالت ناشی از بیتوجهی به حساسیت موضوع به نظر میرسد و در بدبینانهترین حالت، رویکردی خطرناک و بدبینانه را نشان میدهد.
منبع: ایسنا
