مرور مهمترین گافهای ابزارهای هوش مصنوعی در سالهای اخیر
مجموعهای از اتفاقات در چند سال اخیر نشان داده است که مرز میان «گفتوگوی خصوصی با یک ماشین» و «اطلاعات منتشر شده در اینترنت» همیشه آنقدر محکم نیست که تصور میکنیم.
قرار بود هوش مصنوعی دستیار ما باشد، جایی برای پرسیدن سؤال، سپردن اسناد، عکسها و حتی حرفهایی که شاید حاضر نباشیم با دیگران در میان بگذاریم، اما مجموعهای از اتفاقات در چند سال اخیر نشان داده است که مرز میان «گفتوگوی خصوصی با یک ماشین» و «اطلاعات منتشر شده در اینترنت» همیشه آنقدر محکم نیست که تصور میکنیم.
در تازهترین نمونه که جمعه گذشته خبرساز شد، اپنایآی تأیید کرد عاملهای هوش مصنوعی فعال در محیط پژوهشی این شرکت، ۵۳تصویر ارائهشده توسط کاربران را روی سایتهای میزبانی تصویر قرار دادهاند.
لینکها در فهرست عمومی نبودند اما امکان کشف آنها وجود داشت. شرکت این اتفاق را استفاده نامناسب از دادهها توصیف و اعلام کرد که برای حذف تصاویر اقدام کرده است. به همین دلیل سراغ مهمترین گافهای ابزارهای هوش مصنوعی در سالهای اخیر رفتهایم.
اطلاعات کاربران جلوی چشم دیگران
چتجیپیتی /۲۰ مارس ۲۰۲۳
یک نقص در کتابخانه نرمافزاری مورد استفاده چتجیپیتی باعث شد برخی کاربران عنوان گفتوگوهای کاربران دیگر را مشاهده کنند. اپنایآی بعدها اعلام کرد اطلاعات پرداخت حدود ۲/۱درصد از مشترکان فعال پلاس در یک بازه ۹ ساعته نیز ممکن بود برای دیگران قابل مشاهده باشد؛ ازجمله نام، ایمیل، نشانی پرداخت، نوع کارت و چهار رقم پایانی کارت بانکی.
گفتوگوها در گوگل
چتجیپیتی / ۳۱ ژوئیه۲۰۲۵
مشخص شد برخی گفتوگوهای چتجیپیتی که کاربران با قابلیت اشتراکگذاری منتشر کرده بودند، توسط موتورهای جستوجو نمایه میشوند. ماجرا زمانی جنجالی شد که مشخص شد کاربران لزوما متوجه وسعت عمومیشدن این صفحات نبودهاند.
اپنایآی پس از انتقادها امکان نمایه شدن این گفتوگوها را متوقف کرد.
نشر ۳۷۰ هزار گفتوگو
گروک /۲۰ اوت ۲۰۲۵
گزارش فوربس نشان داد بیش از ۳۷۰هزار گفتوگوی کاربران گروک در موتورهای جستوجو نمایه شدهاند. در میان آنها پرسشهای پزشکی و روانشناختی، اطلاعات کاری، فایلهای بارگذاریشده و حتی دستکم یک رمز عبور دیده میشد. علت اصلی، لینکهایی بود که با زدن دکمه «اشتراکگذاری» ساخته میشدند و برای موتورهای جستوجو قابل دسترسی بودند.
بازهم مکالمهها در گوگل
کلود/ ۸ سپتامبر ۲۰۲۵
چندصد گفتوگوی مربوط به کاربران هوش مصنوعی کلود در نتایج جستوجوی گوگل ظاهر شد. شرکت آنتروپیک در این خصوص گفته بود که خزندههای موتورهای جستوجو را مسدود کرده است، اما نزدیک به ۶۰۰مکالمه همچنان نمایان باقی مانده بود.
برخی گفتوگوها شامل نام کارکنان، ایمیلها و اطلاعات کاری قابل شناسایی بودند.
فاششدن رازهای کاربران
متا ایآی/ ۱۲ ژوئن ۲۰۲۵
با راهاندازی اپ «متا ایآی» مشخص شد برخی کاربران بدون درک کامل از عمومی بودن بخش «دیسکاور»، مکالمات بسیار شخصی خود را منتشر کردهاند. در میان موارد مشاهدهشده، اطلاعات پزشکی، نشانی، نام افراد و... دیده میشد. متا تأکید کرد اشتراکگذاری نیازمند اقدام کاربر است، اما طراحی رابط کاربری بهدلیل احتمال ایجاد سوءبرداشت با انتقاد روبهرو شد.
منبع: همشهری
