آیا بشر، بشر را منقرض خواهد کرد؟
حتی در یکی دو دهۀ آینده، تکنولوژی، الگوهای کار کردن، اقتصادهای ملی و روابط بینالمللی ما را دگرگون خواهد کرد. اینکه یک گروه کوچک یا حتی یک فرد، با اتکا به قدرت ناشی از تخصص سایبری یا بیوتکنولوژیک، قادر باشد سهواً یا عمداً، دگرگونی عظیمی ایجاد کند، قاعدۀ بازی را به کل تغییر میدهد.
کد خبر :
۶۶۵۱۱
بازدید :
۱۳۱۱
فرادید | لرد مارتین ریس کیهان شناس و اخترفیزیکدان انگلیسی، در کتابش با عنوان "قرن آخر ما" طیفی از چالشهای جهانی از بیوتروریسم تا سلاحهای هستهای را پیش کشید. او خطر انقراض نوع بشر تا سال ۲۱۰۰ در نتیجۀ فناوریهایمان را حدود ۵۰ درصد میدانست. او در کتابش، با عنوان "در باب آینده" قدری خوشبینتر شد. همان خطرات را گوشزد کرد، اما بر اشکال مفیدی که فناوریها میتوانند موجب بهبود زندگیها شوند، تاکید داشت و به خصوص بر استفادههای مثبت از هوش مصنوعی اشاره میکرد.
به گزارش فرادید؛ ریس به سوالاتی در رابطه با بشریت، بیگانههای فضایی و اکتشافات علمی پاسخ داده است. به خصوص این احتمال که انسان مجبور شود تا خود را از لحاظ ذهنی و نهادی برای تماس با اشکال حیات فرازمینی آماده کند. او نگرشی منطقی به موضوع داشته است. اگرچه باور داشت که دیگر اشکال حیات احتمالاً قطعاً وجود دارند، اما ممکن است آنقدر با ما متفاوت باشند که برایمان غیرقابل فهم باشند. در ادامه پرسش و پاسخ از ریس و بخشهایی از کتابش را میخوانید.
- بزرگترین خطر برای بشریت در آیندۀ نزدیک چیست، و برای کاهش این تهدید چه میتوانیم بکنیم؟
حتی در یکی دو دهۀ آینده، تکنولوژی، الگوهای کار کردن، اقتصادهای ملی و روابط بینالمللی ما را دگرگون خواهد کرد. اینکه یک گروه کوچک یا حتی یک فرد، با اتکا به قدرت ناشی از تخصص سایبری یا بیوتکنولوژیک، قادر باشد سهواً یا عمداً، دگرگونی عظیمی ایجاد کند، قاعدۀ بازی را به کل تغییر میدهد. "احمقهای دهکده" در دهکدۀ جهانی، حالا یک محدودۀ عمل جهانی در اختیار دارند.
هر مقررات و محدودیتی وضع شود، نمیتوان آن را به صورت جهانی اجرا کرد، همانطور که قوانین مالیاتی یا قوانین مواد مخدر را نمیشود. حکومت، به خاطر تشدید کشمکش میان آزادی، حریم شخصی و امنیت به چالش کشیده خواهد شد. در عصری که همۀ ما در حال اتصال یافتن به هم هستیم، وقتی که مستضعفان به شرایط غمبار خود آگاه میشوند، و مهاجرت ساده شده است، در صورت وجود و ادامۀ شکافی به عمق شکافی که در ژئوپلتیک عصر حاضر میان سطح رفاه و فرصتهای زندگی در نقاط مختلف جهان وجود دارد، دشوار است که بتوانیم خوشبین باشیم.
- آیا راه معناداری برای قاعدهمند کرد هوش مصنوعی وجود دارد تا نگرانیهایی که امثال مرحوم استیفن هاوکینگ، ایلان ماسک و دیگران ابراز کردهاند، مرتفع شود؟
من متخصص هوش مصنوعی نیستم؛ ایلان ماسک و همکار مرحومم، استیفن هاوکینگ هم نیستند. هوش مصنوعی به خوبی برای مدیریت شبکههای پیچیده و سریعاً رو به تکاملی نظیر شبکۀ برق و جریان ترافیک، مناسب است. حتی ممکن است بتواند امکان برنامهریزی ملی برای اقتصاد را به طوری که مارکس میتوانست فقط آرزو کند، فراهم آورد. اما آیا میتوانیم به اینکه هوش مصنوعی برای ما تصمیماتی بگیرد که تاثیرات عمیقی روی ما خواهند داشت، راضی شویم؟ اگر به زندان محکوم شویم، یا برای شغلی توصیه شویم، یا اینکه اعتبارمان نامطلوب ارزیابی شود، احساس میکنیم که لایق توضیح است و انتظار دارد که بتواند به نتیجه اعتراض کند. کافی نیست که به او بگوییم یک الگوریتم در "جعبۀ سیاه" در مجموع سابقۀ بهتری نسبت به یک ارزیاب انسانی معمول داشته است.
با این حال، به نظرم نگرانیهای آخرالزمانی در رابطه با "چیرگی" هوش مصنوعی، ناشی از خوشبینی مفرط نسبت به میزان توانایی ماشین در کنار آمدن با "جهان واقعی" است و همچنین میتواند ناشی از یک تشبیه کاذب به تکامل داروین باشد، که علاوه بر هوش، جسارت (روحیۀ تهاجمی) را هم از عوامل وفوق میداند. ماشینها را میتوان با طراحی هوشمند سکولار، به صورتی طراحی کرد که غیرتهاجمی تکامل یابند. به نظرم هوش مصنوعی در دهههای آتی کمتر از حماقت حقیقی نگرانکننده خواهد بود.
- انسانها از نظر ذهنی، نهادی و دیگر مسائل، چطور باید باید برای تماس بالقوه با دیگر اشکال حیات در کهکشان آماده شوند؟
این سوال که "آیا ما تنها هستیم" چنان بسیاری را سر شوق میآورد که به نظرم SETI (جستجو برای هوش فرازمینی) ارزشش را دارد، هر چند که احتمال اینکه هرگز یافتهای صورت گیرد، بسیار بسیار پایین است. من خودم عضو گروه مشاور پروژۀ "شنود بسوی موفقیت" یوری میلنر هستم، اما اینطور نیست که دم به دقیقه منتظر خبر موفقیت باشیم.
در عرض ۲۰ سال آینده، بیوشیمیدانها احتمالاً خواهند فهمید که حیات بر روی زمین شکل گرفت، و احتمال اینکه در دیگر مکانهای کیهانی تکامل یابد چقدر است؛ و اسپکوسکوپی، با استفاده از تلسکوپهای بزرگ، ممکن است شواهدی از فتوسنتز را در سیارههایی گرد ستارههای نزدیک ما میچرخند، نشان دهند. اما حتی اگر مشخص شود که شکل سادۀ حیات گسترده است، نمیتوانیم احتمال اینکه این حیات ساده به چیزی که آن را حیات هوشمند مینامیم تکامل یابد را ارزیابی کنیم؛ و حتی در صورت وجود حیات هوشمند، ممکن است به شکلی غیرقابل شناخت متفاوت باشد. اگر هر نوع مخابرۀ مشخصاً مصنوعی از اعماق فضا را شناسایی کنیم، منبعش از هوش الکترونیکیای خواهد بود که یک تمدن زیستی که مدتها پیش از بین رفته آن را پدید آورده (همانطور که ممکن است برای انسان نیز اتفاق بیافتد) و این هوش الکترونیک نه تهاجهی خواهد بود و نه پیام معناداری میفرستد.
- بگذارید در این مورد بیشتر از شما بپرسم. اگر بیگانههای هوشمند برای ما پیام بفرستند، سوالات بزرگ بسیاری شکل خواهند گرفت. چه کسی نمایندۀ بشریت خواهد بود؟ پیامد آن برای دین چیست؟ آیا اگر با گونههای حقیقتاً تازه مواجه شویم، آیا نژادپرستی در زمین محو خواهد شد؟ و امثال اینها. آیا در این باره فکر کردهاید؟
من البته دربارۀ این مسائل بسیار فکر کردهام و حرف زدهام. من حقیقتاً فکر میکنم و در کتابم توضیح دادهام که اگر هر نوع "پیامی" دریافت کنیم، بعید است که از یک "تمدن" باشد، بلکه احتمال بسیار بیشتر این است که آن را یک مغز الکترونیکی بسیار متفاوت از ما که ما هیچ درکی از انگیزههایش نمیتوانیم داشته باشیم، فرستاده باشد. به عنوان استدلالی در دفاع از این حرف، خط زمانی سیارۀ زمین، ۴ میلیارد سال حیات غیرهوشمند را نشان میدهد، حداکثر چند هزاره تمدن تکنولوژیک و پس از آن، میلیاردها سال تکامل پساانسانی هوشهای الکترونیک خواهیم بود که نیازمند محیط سیارهای نیستند. اینکه یک "زمین دوم" باشد که آنقدر در این ظرف زمانیای که ما در آن قرار داریم و از مو باریکتر است با ما هماهنگ بود، بسیار بسیار بعید است. من مسلماً انتظار ندارم که موجود سبز دو پایی که چشمهایشان روی شاخکهایشان است به سیارۀ ما حمله کنند!
- گاهی به نظر میرسد که نقش علم در جامعه در حال عقب نشینی است و نمودش را در کسانی که تغییرات اقلیمی را انکار میکنند، منتقدان واکسن و کسانی که نافی متخصصان هستند و ... میشود دید. آیا میتوان برای مقابله با این موضوع کاری کرد؟
من خودم اینقدری که شما نقد دارید، منتقد این امر نیستم. این که مثلاً نسبت به پیشبینیهای اقتصادی شکاک باشیم، منطقی است. اما مهم است که انتخابهایی که در رابطه با چالشهای اصلی اجتماعی که علم در آن نقش دارد، مثل انرژی، سلامت، خوراک، روباتیک، محیط زیست، فضا و اینها، نباید تنها توسط دانشمندان صورت گیرند: این مسائل برای همۀ ما مهم هستند و بایستی نتیجۀشان حاصل مباحثۀ عمومی باشد. برای اینکه این اتفاق بیافتد، ما همه باید به اندازۀ کافی راجع به ایدههای علم آگاه باشیم و بتوانیم خطرات، احتمالات و ریسکها را ارزیابی کنیم، تا متخصصان یا شعارهای پوپولیستی احمقانه نتوانند ما را گیج کنند.
به همین خاطر است که آموزش علمی برای همه حیاتی است و دانشمندان باید با عموم مردم و قانونگذاران قاطی شوند. ما باید دید مثبتمان را نسبت به علم و تکنولوژی حفظ کنیم، اگرچه عموم حق دارد که از تلاش برای رسیدن به برخی اهداف حمایت کند و برخی دیگر را رد کند. کاربرد بیرویۀ "اصل احتیاط"، اجتناب از اقدام به خاطر احتمال ضرر، عیبی واضح دارد.
- چه اختراع یا کشفی را آرزو دارید که در طول زندگیتان اتفاق بیافتد، اما هنوز اتفاق نیافتده است؟
از دید من به عنوان دانشمند فضایی، کشف درجۀ یک حیات فرازمینی است، حتی اگر در شکل "ابتدایی" باشد. اما من پیرتر از آنم که انتظار داشته باشم چنین کشفی را در طول زندگیم ببینم. چیزی که ما یاد گرفتهایم این است که ترتیب وقوع پیشرفتهای بسیار مهم است. مثلاً، یک هوش مصنوعی پیشرفته (اگر "کنترلشده" باشد) میتواند به ما در کشفهای علمی و سازماندهی زیرساخت جامعه کمک کند. در نتیجه اینکه هنوز از این موضوع محرومیم، مایۀ تاسف است. یک مثال دیگر که مایۀ حسرت است، این است که زودتر انرژی پاک بدون کربن را در اولویت قرار ندادیم، تا خیلی زودتر به جایگزینهای بهینه و ارزانی برای سوختهای فسیلی برسیم و مانع از رسیدن کربن دیاکسید به سطوحی که در حال گذشتن از خط قرمزهاست، شویم.
خطرات وجودی حقیقی؟
بخشهایی از "در باب آینده: دورنمای بشر" (انتشارات دانشگاه پرینستون، ۲۰۱۸)، نوشتۀ مارتین ریس
دنیای ما به صورت فزآینده به شبکههایی گسترده متکی میشود: خطوط انتقال برق، کنترل ترافیک هوایی، مبادلات مالی بینالمللی، خطوط تولید پراکنده در سطح جهان، و امثالهم. چنانچه این شبکهها شدیداً مقاوم نباشد، خرابیهای (اگرچه نادر) فاجعهآمیز آنها میتواند بر فواید آنها بچربد. شهرها بدون برق فلج میشوند: چراغها خاموش خواهند شد، اما این از کمترین پیامدهای جدی آن است. در عرض چند روز، شهرهای ما غیرقابل زندگی و غرق در هرج و مرج خواهند شد.
سفر هوایی میتواند در عرض چند روز یک بیماری مسری را در جهان منتشر کند، و در ابرشهرهای نامنظم کشورهای در حال توسعه، ویرانی به بار آورد؛ و رسانههای اجتماعی میتوانند وحشت و شایعه، و بیماریهای مسری اقتصادی را با سرعت نور پخش کنند.
وقتی که قدرت بیوتکنولوژی، روباتیک، سایبرتکنولوژی و هوش مصنوعی - و فراتر از آن ظرفیت بالقوۀ آنها در دهههای پیش رو - را دریابیم، نمیتوانیم نسبت به اینکه در صورت سوءاستفاده از این منابع قدرت چه خواهد شد، اضطراب نداشته باشیم. حافظۀ تاریخی مراحلی از تاریخ را نشان میدهد که در آن "تمدن"ها فرو ریختهاند و حتی محو شدهاند. جهان ما چنان در هم تنیده شده که بعید است یک فاجعه بیآنکه پیامدهایش در سطح جهانی منتشر شوند، تنها ناحیهای را متاثر کند.
برای اولین بار میتوانیم سقوطی - اجتماعی یا طبیعی- را متصور شویم که میتواند عقبگردی حقیقتاً جهانی برای تمدن رقم بزند. این عقبگرد میتواند موقتی باشد. اما، از طرفی ممکن است چنان ویرانگر باشد (و میتواند چنان تنزل زیستمحیطی یا ژنتیکی را رقم بزند) که بازماندگان هرگز نتوانند تمدنی همسطح با تمدن فعلی را بازتولید کنند.
اما این موضوع این پرسش را پدید میآورد: آیا طبقۀ جداگانهای از رویدادهای شدید وجود دارد که پردۀ نمایش را برای همۀ ما بکشد؟ فجایعی که بتوانند کل بشریت یا یا حتی کل حیات را محو کنند؟ فیزیکدانهایی که در جریان جنگ جهانی دوم بر روی پروژۀ منهتن کار میکردند، این نوع نگرانیهای پرومتئوسی را طرح میکردند. آنها میپرسیدند که آیا میتوان مطمئن بود که یک انفجار هستهای موجب شعله گرفتن تمام اتمسفر یا اقیانوسهای جهان نخواهد شد؟
پیش از تست اولین بمب اتم در نیومکزیکی، مشهور به ترینیتی تست، ادوارد تلر و دو همکارش برای این مسئله محاسبهای انجام دادند که (مدتها بعد) توسط آزمایشگاه لوس آلاموس منتشر شد؛ آنها خود را اقناع کرده بودند که یک عامل ایمنی بزرگ وجود دارد؛ و خوشبختانه، حق با آنها بود. ما اکنون با قطعیت میدانیم یک سلاح هستهای به تنهایی، اگرچه ویرانگر است، نمیتواند ماشۀ یک واکنش اتمی زنجیرهای که زمین یا اتمسفرش را به کل نابود کند، بکشد.
۰