رسوایی استفاده از هوش مصنوعی در دادگاه هند

دیوان عالی هند پس از آنکه قاضی جوان به احکام جعلی تولید شده توسط هوش مصنوعی استناد کرد، خشمگین شد.

دیوان عالی هند پس از آنکه مشخص شد قاضی با استفاده از احکام جعلی تولید شده توسط هوش مصنوعی در یک اختلاف ملکی قضاوت کرده است، او را تهدید به عواقب قانونی کرد.

به نقل از بی‌بی‌سی، دیوان عالی که به درخواست تجدیدنظر متهمان پاسخ می‌داد، اکنون حکم صادر شده توسط دادگاه بدوی در ایالت جنوبی آندرا پرادش را بررسی خواهد کرد.

دیوان عالی این پرونده را یک «نگرانی نهادی» خواند و گفت که احکام جعلی تولید شده توسط هوش مصنوعی ارتباط مستقیمی با سلامت فرآیند قضاوت دارند.

این حادثه به تیتر خبرها تبدیل شده و جدیدترین مورد از مجموعه‌ای از مواردی است که هوش مصنوعی روند دادگاه را در هند و سایر نقاط جهان مختل کرده است. مشکلات این پرونده در آندرا پرادش در اوت سال گذشته زمانی به وجود آمد که یک قاضی مدنی جوان در دادگاه بدوی، حکمی را در پرونده‌ای در مورد یک ملک مورد اختلاف صادر کرد.

دادگاه پیش از این یک مقام را برای بررسی ملک و ارائه گزارش تعیین کرده بود که متهمان پرونده به آن اعتراض کردند. قاضی با استناد به چهار حکم حقوقی گذشته که بعدا مشخص شد همه آنها توسط هوش مصنوعی تولید شده‌اند، اعتراض آنها را رد کرد.

برنامه‌های هوش مصنوعی وظایف را در محل کار بسیار ساده کرده‌اند، اما سیستم‌های هوش مصنوعی مولد به دلیل توانایی خود در ایجاد توهم و ارائه ادعاهای دروغ به جای واقعیت و حتی گاهی اوقات ساخت منابع برای اطلاعات نادرست شناخته می‌شوند.

متهمان در دادگاه عالی ایالت به این حکم اعتراض کردند و خاطرنشان کردند که احکام ذکر شده جعلی بوده‌اند. دادگاه عالی ایالت این موضوع را تصدیق کرد، اما پذیرفت که قاضی مدنی جوان با «حسن نیت» مرتکب خطا شده است و به هر حال با تصمیم دادگاه بدوی موافقت کرد.

دادگاه عالی ایالت در حکم خود گفت که ممکن است استنادات وجود نداشته باشند، اما اگر دادگاه بدوی اصول صحیح قانون را در نظر گرفته باشد و کاربرد آن در حقایق پرونده نیز صحیح باشد، صرفا ذکر احکام/استنادات نادرست یا ناموجود در حکم نمی‌تواند دلیلی برای لغو حکم باشد.

دادگاه عالی ایالت همچنین از قاضی جوان که از احکام تولید شده توسط هوش مصنوعی استفاده کرده بود، گزارشی درخواست کرده بود. او به دادگاه گفت که این اولین باری است که از ابزار هوش مصنوعی استفاده می‌کند و معتقد بوده که استنادها «واقعی» هستند. دادگاه عالی نوشت که او قصدی برای نقل قول نادرست یا تحریف احکام نداشته و این اشتباه صرفا به دلیل اتکا به یک منبع خودکار رخ داده است.

این دادگاه همچنین از «اعمال هوش واقعی بر هوش مصنوعی» حمایت کرد.

پس از این، متهمان دوباره درخواست تجدیدنظر کردند و موضوع را به دیوان عالی کشور بردند که در مورد تأثیر هوش مصنوعی کمتر گذشت داشت.

دیوان عالی کشور با انتقاد شدید از احکام جعلی، جمعه گذشته حکم دادگاه بدوی در مورد اختلاف ملکی را متوقف کرد. این دادگاه گفت که استفاده از هوش مصنوعی هنگام صدور حکم صرفاً «خطایی در تصمیم‌گیری» نیست، بلکه «تخلف» است.

دیوان عالی کشور هند اعلام کرد: این پرونده نگرانی نهادی قابل توجهی را به همراه دارد، نه به دلیل تصمیمی که در مورد شایستگی پرونده گرفته شده است، بلکه به دلیل روند قضاوت و تعیین تکلیف.

دیوان عالی کشور اعلام کرد که این پرونده را با جزئیات بیشتری بررسی خواهد کرد و اطلاعیه‌هایی را به دادستان و دادستان کل کشور و همچنین شورای وکلای هند صادر کرد.

در پرونده دیگری که ماه گذشته رخ داد، دیوان عالی کشور نگرانی‌هایی را در مورد روند استفاده وکلا از ابزارهای هوش مصنوعی برای تهیه دادخواست‌ها مطرح کرد. هند تنها کشوری نیست که با تأثیرات هوش مصنوعی در دادگاه‌ها مواجه است.

در ماه اکتبر، دو قاضی فدرال در ایالات متحده به دلیل استفاده از ابزارهای هوش مصنوعی که منجر به خطا در احکام آنها شده بود، مورد بازخواست قرار گرفتند. در ماه ژوئن سال ۲۰۲۵، دیوان عالی انگلستان و ولز پس از مشاهده مجموعه‌ای از پرونده‌ها که به احکام ساختگی یا تا حدی ساختگی اشاره داشتند، به وکلا هشدار داد که از مطالب پرونده‌های تولید شده توسط هوش مصنوعی استفاده نکنند.

مؤسسات حقوقی هند در کنار سایر مؤسسات حقوقی در سراسر جهان با نحوه تنظیم و نظارت بر استفاده از هوش مصنوعی در دادگاه دست و پنجه نرم می‌کنند.

سال گذشته، دیوان عالی کشور هند گزارشی در مورد هوش مصنوعی در قوه قضائیه هند منتشر کرد که در آن بهترین شیوه‌ها و همچنین دستورالعمل‌های استفاده از هوش مصنوعی توسط مؤسسات قضایی، وکلا و منشی‌ها ذکر شده بود.

این دادگاه بر لزوم نظارت انسانی و اهمیت حفظ «قوی» ضمانت‌های نهادی تأکید کرد.

منبع: ایسنا