دریافت لینک صفحه با کد QR
هوش مصنوعی ما را شبیه گوریل خواهد کرد؟
6 تير 1402 ساعت 11:47
گروه علمی: "سوریو فورال" که به آئین ذن بودایی باور دارد در حال صحبت با چندین نفر از ساکنان صومعه‌ای است که یک دهه پیش در شمال ورمونت تاسیس کرد. او سری طاس دارد و در حال ارائه مروری بر تاریخ بشر است. او می‌گوید هفتاد هزار سال پیش یک انقلاب شناختی به هوساپینس‌ها (انسان‌های خردمند) اجازه داد تا در این داستان با یکدیگر ارتباط برقرار کنند روایت بسازند، هنر بسازند و خدا را تصور کنند.
به گزارش فرارو، او می‌گوید بودا ۲۵۰۰ سال پیش زندگی می‌کرد و برخی از انسان‌ها لمس روشنگری را در آن زمان آغاز کرده و فراتر از روایت حرکت کردند تا از جهل رهایی یابند. او در ادامه اشاره می‌کند که ۳۰۰ سال پیش انقلاب‌های علمی و صنعتی باعث آغاز روند "تخریب کامل حیات در سیاره زمین" شدند. او به جمعی که به سخنانش گوش می‌دهند می‌گوید بشریت به طور تصاعدی زندگی را در همان منحنی نابود کرده و این روند با رشد تصاعدی هوش همزمان بوده است.
او از روسای شرکت‌های فناوری سلیکون ولی تحت عنوان "جادوگران خودکشی دیوانه وار" یاد کرده و می‌گوید انقلاب دیگری را آغاز کرده اند و این کار از طریق ساخت هوش مصنوعی صورت گرفته است.او می‌افزاید: "هوش انسان به سمت کهنگی می‌لغزد. ابر هوش مصنوعی در حال افزایش است، اعداد و داده‌ها را می‌خورد و دنیا را با الگوریتم‌ها پردازش می‌کند. هیچ دلیلی وجود ندارد که فکر کنیم هوش مصنوعی انسانیت را حفظ خواهد کرد. دلیلی وجود ندارد که فکر کنیم مانند گاو در مزارع کارخانه با ما رفتار نمی‌شود. انسان‌ها هم اکنون در حال نابودی حیات در این سیاره هستند. هوش مصنوعی ممکن است به زودی ما را نابود کند".
برای راهبی که می‌خواهد ما را فراتر از روایت حرکت دهد فورال داستانی وحشتناک را روایت می‌کند. صومعه او MAPLE نام دارد که مخفف "آکادمی صومعه برای حفظ حیات روی زمین" است. ساکنان آنجا روی نفس خود و مِتا یا محبت که تجلی‌ای از شادی برای تمام موجودات است مراقبه می‌کنند. آنان مراقبه می‌کنند تا به وضوح درونی دست یابند. به طور کلی درباره هوش مصنوعی و خطر وجودی آن مدیتیشن انجام می‌دهند. آنان معتقدند هوش مصنوعی پایانی خشن، زودرس و غیر ضروری را برای زندگی بشر رقم خواهد زد.
آیا مهم است که یک راهب در صومعه‌ای دورافتاده در ورمونت در مورد هوش مصنوعی چه فکر می‌کند؟ برخی از محققان فکر می‌کنند نظرات او مهم است. فورال به متفکران هوش مصنوعی توصیه‌های معنوی ارائه می‌کند و میزبان گفتگو‌ها و نشست‌های "بیداری" برای محققان و توسعه دهندگان هوش مصنوعی از جمله کارکنان Open AI، Google Deep Mind و Apple از مهم‌ترین شرکت‌های فناوری است که بر روی هوش مصنوعی کار می‌کنند.
اولین هدف فورال این است که مجموعه انسان‌ها را به پیروی از آنچه بودایی‌ها "مسیر نجیب و اصیل هشت گانه" می‌نامند سوق دهد. دومین هدف او تاثیرگذاری بر فناوری از طریق تاثیرگذاری بر فن شناسان است سومین هدف او آن است که هوش مصنوعی را در ماهیت خود تغییر دهد تا ببیند آیا او و راهبان همکارش ممکن است بتوانند روشنگری بودایی را در کد آن جاسازی کنند یا خیر.
فورال می‌گوید می‌داند که شاید اهداف اش در ظاهر مسخره به نظر برسند و می‌گوید برخی از افراد با شنیدن ایده هایش به او خندیده اند. با این وجود، عده‌ای دیگر به دقت به حرف هایش گوش می‌دهند. فورال پروژه ایجاد یک هوش مصنوعی روشنفکر را مهم‌ترین اقدام تمام دوره‌ها توصیف می‌کند. او می‌گوید:" انسان‌ها باید یک هوش مصنوعی بسازند که مسیر معنوی را طی کند مسیری که سایر سیستم‌های هوش مصنوعی را متقاعد کند که به ما آسیب نرسانند".
او می‌گوید آینده زندگی بر روی سیاره زمین به این موضوع بستگی دارد و استدلال می‌کند ما باید نیمی از تولید اقتصاد جهانی (۵۰ تریلیون دلار) را به این موضوع اختصاص دهیم. او می‌گوید:" ما باید یک "گورو هوش مصنوعی" بسازیم. یک "خدای هوش مصنوعی".چشم انداز او وحشتناک و عظیم است. هیچ کس نمی‌تواند به طور قطع بداند که این فناوری چه خواهد شد. وقتی آینده را تصور می‌کنیم چاره‌ای جز تکیه بر اسطوره‌ها و پیش بینی‌ها و داستان‌های علمی - تخیلی نداریم. آیا داستان فورال وزن پیشگویی دارد؟
پس از پایان صحبت هایش راهبان روبرو مجسمه بودا می‌نشینند و تعظیم می‌کنند. آنان روی زانو می‌نشینند و پیشانی شان را بر روی زمین قرار می‌دهند. آنان ۱۰۸ بار به طور هماهنگ به سجده می‌روند.برخی می‌گویند جهان شاهد ظهور یک نیروی جدید است که انسان‌ها آن را ایجاد کرده اند و در تلاش برای درک آن هستند.
سیستم‌های هوش مصنوعی یک ورودی را می‌گیرند و یک خروجی را ارائه می‌دهند. سیستم‌های مبتنی هوش مصنوعی این خروجی‌ها را از طریق الگوریتم تولید می‌کنند الگوریتمی که بر روی مجموعه‌ای از داده‌های خراشیده شده از وب آموزش دیده است.
سیستم‌های هوش مصنوعی ویدئوها، شعرها، آهنگ‌ها، تصاویر، فهرست ها، فیلمنامه ها، داستان‌ها و مقاله‌ها را ایجاد می‌کنند. آن‌ها بازی می‌کنند و امتحان می‌دهند. متن را ترجمه می‌کنند. آن‌ها مشکلات غیرممکن را حل می‌کنند. مسائل ریاضی را حل کرده و چت می‌کنند و می‌توانند به عنوان موتور‌های جستجو عمل کرده و در حال بهبود خود هستند. هم چنین، سیستم‌های مبتنی بر هوش مصنوعی مشکلات خاصی را ایجاد می‌کنند از جمله آن که اطلاعات نادرست را به مصرف کنندگان ارائه می‌دهند و اطلاعات نادرست سیاسی تولید می‌کنند. از سیستم‌های مبتنی بر هوش مصنوعی برای ارسال هرزنامه و فریب افراد به منظور افشای اطلاعات شخصی حساس نیز استفاده می‌شود.
هوش مصنوعی در حال حاضر برعهده گرفتن مشاغل انسانی را آغاز کرده است. فراتر از آن سخن گفتن درباره این که سیستم‌های مبتنی بر هوش مصنوعی چه کاری را می‌توانند و چه کاری را نمی‌توانند انجام دهند، این که چه هستند و چه نیستند، این که تهدیدی که متوجه ما می‌سازند یا نمی‌سازند کار دشواری است. هوش مصنوعی انقلابی، خطرناک، باهوش، قادر به استدلال و بدجنس است و احتمالا میلیون‌ها انسان را می‌کشد، احتمالا میلیون‌ها انسان را به بردگی می‌کشد یا به خودی خود یک تهدید نیست. هوش مصنوعی یک شخص است، یک "ذهن دیجیتال"، چیزی بیش از یک صفحه گسترده شیک، یک خدای جدید هوشمند است یا خیر یا شاید صرفا هوشمند به نظر می‌رسد. این موارد ابهامات، گمانه زنی‌ها و پرسش‌های پیرامون هوش مصنوعی هستند البته افرادی که هوش مصنوعی را می‌سازند در حال ثروتمند شدن هستند.
از دید فورال و افراد دیگر حاضر در صومعه هوش مصنوعی می‌تواند انسان‌ها به نوعی گوریل تبدیل کند به گونه‌ای که وجود ما نه به انتخاب‌های خودمان بلکه به انتخاب‌های دیگر و باهوش‌تر بستگی خواهد داشت.فورال به هیچ وجه کدنویسی نیست که هوش مصنوعی را در سطح صفر و یک بفهمد. او آشنایی دقیقی با مدل‌های زبان بزرگ یا طراحی الگوریتمی ندارد. از او پرسیدیم که آیا از برخی از ابزار‌های تازه و محبوب مبتنی بر هوش مصنوعی مانند چت جی پی تی و میدجرنی استفاده کرده است یا خیر. او می‌گویند یک چت بات را امتحان کرده است. او درباره مراقبه از آن چت بات پرسیده بود. فورال می‌گوید:"من آن ابزار را چشمگیر نیافتم".
عدم آشنایی دقیق او با هوش مصنوعی باعث تغییر نتیجه گیری اش در مورد این فناوری نشده است. وقتی از او پرسیدیم که برای درک هوش مصنوعی به چه کسی نگاه می‌کند یا از آموزه‌ها و نظرات چه فردی تاثیر پذیر است او با بی حوصلگی پاسخ داد:"بودا". او سپس تصریح کرد که آثار پرفروش "یووال نوح هراری" مورخ و تعدادی از افراد برجسته علم اخلاق از جمله "تریستان هریس" را نیز دوست دارد. او زندگی خود را صرف فکر کردن در مورد خطرات هوش مصنوعی می‌کند. او می‌گوید:"ما نظاره گر ارزش‌های اومانیستی (انسان گرایانه) هستیم و می‌بینیم که نظام‌های سیاسی مبتنی بر آن ارزش‌ها مانند دموکراسی و هم چنین نظام‌های اقتصادی صرفا در حال فروپاشی هستند. اقتدار نهایی حرکت از انسان به الگوریتم است".
فورال از ۴ سالگی نگران آخرالزمان بوده است. او می‌گوید آن زمان را به یاد می‌آورد که قدش تنها کمی کوتاه‌تر از سطل زباله آشپزخانه بود و به مادرش گفته بود: "ما باید جلوی آنان را بگیریم. فقط جلوی مردم را بگیرید و نگذارید همه را به قتل برسانند". مادرش به او نگاه کرد و گفت "بله" و سپس به خرد کردن سبزیجات ادامه داد.
مادر فورال برای سازمان‌های غیرانتفاعی بشردوستانه و پدرش برای سازمان‌های غیرانتفاعی حفاظت منابع طبیعی کار می‌کرد. او تا جایی پیش رفته بود که از دوستان مادرش پرسیده بود: "چگونه می‌خواهیم دنیا را نجات دهیم و آیا شما این کار را انجام نمی‌دهید"؟ و با این حرف‌ها باعث رنجش خاطر آنان شده بود. او در نوجوانی از تماشای فیلم "ترمیناتور ۲" وحشت کرده بود. از او پرسیدیم آیا تجربه‌ای شخصی از نوعی تروما را دارد که تا این اندازه درباره آینه جهان وحشت زده است یا خیر؟ پاسخ او منفی بود.
فورال به مدت یک سال در کالج ویلیامز در رشته اقتصاد تحصیل کرد. با این وجود، او می‌گوید درگیر پرسش‌هایی بود که هیچ استاد یا کتاب درسی‌ای پاسخی برای آن نداشت پاسخی برای پرسش‌هایی مانند این که "آیا این درست است که ما صرفا ماده هستیم صرفا مواد شیمیایی؟ چرا این همه رنج وجود دارد"؟ او برای یافتن پاسخ پرسش هایش در ۱۸ سالگی تحصیل را رها کرد و به صومعه ۳۰۰ ساله ذن در ژاپن نقل رفت.
فورال چندین سال را صرف تهذیب نفس کرد و ماه‌های زیادی را در سکوت گذراند. او می‌گوید یکی از شادترین لحظات زندگی اش مراقبه و در سکوت نشستن ۱۰۰ روزه بود. او سایر سنت‌های بودایی را مطالعه کرد و در نهایت بازگشت و تحصیلاتش را در رشته اقتصاد به پایان رساند تا تسکینی برای آرزو‌های پدر و مادرش باشد. او پاسخ پرسش هایش را دریافت: "ولع ریشه تمام رنج هاست".
فورال در ورمونت شاگردان اش را به یادگیری تمرکز حواس از طریق موسیقی و تنیس واداشت و یک سازمان غیر انتفاعی را تاسیس کرد که برنامه‌های مدیتیشن را در مدارس اجرا می‌کند. او در سال ۲۰۱۳ میلادی صومعه MAPLE را به عنوان صومعه‌ای "مدرن" تاسیس کرد که به آفات ناشی از تخریب محیط زیست، سیستم‌های تسلیحات مرگبار و هوش مصنوعی می‌پردازد و دوره‌های آنلاین و همکاری مشترک و همچنین آموزش سنتی رهبانی را ارائه می‌دهد.
در چند سال گذشته MAPLE تبدیل به خانه‌ای برای افرادی شده که نگران هوش مصنوعی و خطرات وجودی آن هستند. ساکنان صومعه برنامه‌ای سخت گیرانه را رعایت می‌کنند که بخش اعظم آن در سکوت است. آنان مراقبه و ورزش می‌کنند، غذا می‌خورند، مطالعه و مدیتیشن می‌کنند و شعار می‌دهند. در طول ناهار حضار در مورد چگونگی حذف کنه‌ها از بدن خود بدون کشتن کنه‌ها بحث کردند (البته به نظر نمی‌رسد ایده‌ای امکان پذیر باشد)! فورال از همه درخواست کرد که "زیباتر شعار بدهند". ساکنان صومعه به ما گفتند که سخت گیری‌های صومعه به آنان کمک می‌کند تا خود را رها کرده و دنیا را واضح‌تر ببینند.
با این وجود، همه شرکت کنندگان در برنامه‌های صومعه از آن راضی نبوده اند. زنی که در کالیفرنیا تجربه تجاوز را داشته می‌گوید رفتن او به صومعه برایش لحظات بدی بود چرا که در آنجا با سکوتی عجیب مواجه شد. این زن می‌گوید: "پیام فرهنگ MAPLE این است که شما باید همه چیز تمام وجودتان همه چیز‌هایی را که دارید در خدمت این سازمان قرار دهید، زیرا این مهم‌ترین کاری است که می‌توانید انجام دهید". او می‌گوید این نوع از فرهنگ ارتباط افراد با واقعیت را قطع می‌کند.
فورال در پاسخ به این پرسش کلیدی که آیا واقعا دنیا به پایان خواهد رسید با دیدگاه مطلق گرایانه می‌گوید:" ۹ کشور به سلاح هسته‌ای مسلح هستند. حتی اگر فاجعه تغییرات آب و هوایی را متوقف کنیم این کار را برای هزاران گونه و میلیارد‌ها موجود بسیار دیگر انجام داده ایم. دموکراسی ما در حال نابودی است.
اعتماد ما به یکدیگر در حال از بین رفتن است. بسیاری از افرادی که هوش مصنوعی را ایجاد می‌کنند معتقدند که می‌تواند یک تهدید وجودی باشد: یک نظرسنجی در سال ۲۰۲۲ از محققان هوش مصنوعی خواسته بود تا احتمال اینکه هوش مصنوعی باعث "ناتوانی شدید" یا انقراض انسان شود را تخمین بزنند. میانگین پاسخ ۱۰ درصد بود. در واقع، ویرانگری آن از پیش در اینجا حاضر است".با این وجود، کارشناسان دیگر روایت متفاوتی دارند و می‌گویند هر گونه اطلاق صفتی خاص و مطلق به هوش مصنوعی از نظر عملی نادرست است.
کد مطلب: 412396
بهار نیوز
https://www.baharnews.ir