به گزارش آیندگان، زاکربرگ از سال ۲۰۱۴ در جزیره کائوآی مجموعه‌ای ۱۴۰۰ جریبی با پناهگاه مستقل از انرژی و غذا می‌سازد. گفته می‌شود زاکربرگ حدود ۱۱۰ میلیون دلار صرف خرید املاکی در یکی از محله‌های پالو آلتو کرده است.
علاوه بر این پیشنهاد ساخت پناهگاه برای دانشمندان OpenAI نیز مطرح شده است. ایلیا سوتسکور، دانشمند ارشد و از بنیان‌گذاران این شرکت گفته بود: «ما قطعا پیش از عرضه هوش جامع مصنوعی، یک پناهگاه خواهیم ساخت». همچنین سم آلتمن، مدیرعامل OpenAI زمانی از احتمال پیوستن به پیتر تیل در ملکی دورافتاده در نیوزیلند، در صورت وقوع فاجعه‌ای جهانی، سخن گفته بود.
ترس از «هوش جامع مصنوعی» (AGI) که بتواند با هوش انسانی برابری کند، موتور اصلی این رفتار است. سم آلتمن، دمیس هسابیس و داریو آمودی پیش‌بینی کرده‌اند که AGI تا پایان دهه جاری ظاهر خواهد شد. در مقابل، پژوهشگرانی چون وندی هال و بابک حجت هشدار می‌دهند این فناوری هنوز فاصله زیادی با هوش انسان دارد و برای تحقق آن به «دستاوردهای بنیادی» نیاز است.
هواداران AGI و ASI (هوش برتر مصنوعی) وعده داده‌اند که این فناوری بیماری‌ها را درمان و انرژی بی‌پایان ایجاد می‌کند؛ ایلان ماسک حتی از «درآمد همگانی بالا» برای همه سخن گفته است. اما منتقدان می‌ترسند همین سیستم‌ها روزی علیه انسان تصمیم بگیرند.
دولت‌ها از آمریکا تا بریتانیا نهادهای ایمنی تأسیس کرده‌اند، اما بدبینی ادامه دارد؛ حتی میان دانشمندان. پروفسور نیل لارنس کل این بحث را «افسانه‌ای تبلیغاتی» می‌خواند و می‌گوید تمرکز بر AGI باعث می‌شود از تأثیر واقعی فناوری‌های فعلی بر زندگی انسان‌ها غافل شویم. بی‌بی‌سی نتیجه می‌گیرد: پشت رؤیای هوش مطلق، ترسی عمیق از آینده پنهان است.
در ادامه، ترجمه کامل گزارش زوئی کلاینمن دبیر فناوری بی‌بی‌سی که با تیتر اصلی Tech billionaires seem to be doom prepping. Should we all be worried روز ۱۰ اکتبر ۲۰۲۵ منتشر شده است را بخوانید؛
گفته می‌شود «مارک زاکربرگ» از سال ۲۰۱۴ ساخت مجموعه بزرگ خود به نام کولائو رنچ (Koolau Ranch) را در جزیره‌ی هاواییِ «کائوآی» آغاز کرده است؛ ملکی به وسعت ۱۴۰۰ جریب (بیش از ۵.۶ میلیون مترمربع).
این مجموعه شامل یک پناهگاه زیرزمینی است که منابع مستقل انرژی و مواد غذایی خواهد داشت. با این حال، نجاران و برق‌کارانی که در این پروژه کار می‌کردند، طبق گزارش مجله Wired، موظف بودند بر اساس قراردادهای عدم افشا (NDA) درباره جزئیات آن حرفی نزنند. دیواری شش‌پایی اطراف محل ساخت‌وساز کشیده شد تا از دید عموم در جاده‌ی مجاور پنهان بماند.
سال گذشته، وقتی از بنیان‌گذار فیسبوک پرسیده شد آیا در حال ساخت «پناهگاه آخرالزمان» است، پاسخ او قاطعانه «نه» بود. او گفت فضای زیرزمینی ۵ هزار فوت مربعی (حدود ۴۶۰ مترمربعی) چیزی نیست جز «یک پناهگاه کوچک، مثل زیرزمین خانه».
با این حال، گمانه‌زنی‌ها متوقف نشد؛ همچنان‌که درباره خرید ۱۱ ملک توسط او در محله Crescent Park در پالو آلتو، کالیفرنیا نیز بحث‌هایی وجود دارد؛ جایی که گفته می‌شود یک فضای زیرزمینی ۷ هزار فوت مربعی (۶۵۰ مترمربعی) نیز زیر آن بنا کرده است.
اگرچه در مجوزهای ساختش از «زیرزمین» نام برده شده، اما بنا بر گزارش نیویورک تایمز، بعضی از همسایگان آن را «پناهگاه» می‌نامند. یا حتی «غار بت‌منِ میلیاردرها».
در همین حال، درباره دیگر رهبران فناوری نیز گمانه‌زنی‌هایی وجود دارد. برخی از آن‌ها ظاهراً در حال خرید قطعات زمین وسیع با فضاهای زیرزمینی‌اند تا آن‌ها را به پناهگاه‌های مجلل چندمیلیون‌دلاری تبدیل کنند.
«رید هافمن»، یکی از بنیان‌گذاران لینکدین، اصطلاح «بیمه آخرالزمان» (Apocalypse insurance) را به کار برده است؛ موضوعی که او مدعی است حدود نیمی از ابرثروتمندان جهان دارند. نیوزیلند یکی از محبوب‌ترین مقاصد آن‌ها برای خرید خانه‌های احتمالیِ پناه‌گونه است.
اما واقعاً آن‌ها برای چه چیزی آماده می‌شوند؟ جنگ؟ تغییرات اقلیمی؟ یا فاجعه‌ای جهانی که هنوز ما از آن بی‌خبریم؟
در سال‌های اخیر، پیشرفت سریع هوش مصنوعی (AI) به فهرست نگرانی‌های هستی‌شناختی بشر اضافه شده است. بسیاری از مردم از سرعت پیشرفت آن به‌شدت نگران‌اند. گزارش شده که «ایلیا سوتسکِوِر»، دانشمند ارشد و از بنیان‌گذاران OpenAI، یکی از این افراد است.
در میانه سال ۲۰۲۳، شرکت مستقر در سان‌فرانسیسکو نسخه عمومی ChatGPT را منتشر کرده بود؛ چت‌باتی که اکنون صدها میلیون کاربر در سراسر جهان دارد و تیم او با سرعت در حال آماده‌سازی به‌روزرسانی‌های بعدی بود.
اما طبق کتابی از روزنامه‌نگار «کارن هائو»، در همان تابستان، سوتسکِوِر به‌تدریج متقاعد شد که دانشمندان رایانه در آستانه خلق «هوش جامع مصنوعی» یا AGI هستند؛ نقطه‌ای که ماشین‌ها از نظر فکری هم‌تراز انسان می‌شوند.
او در یکی از جلسات به همکارانش پیشنهاد داد برای دانشمندان ارشد شرکت، پیش از آنکه چنین فناوری قدرتمندی به جهان عرضه شود، پناهگاهی زیرزمینی ساخته شود.
به گفته هائو، او گفته بود: «ما قطعاً قبل از عرضه AGI یک پناهگاه خواهیم ساخت.» البته مشخص نیست منظورش از «ما» چه کسانی بود.
این نقل‌قول، نکته عجیبی را آشکار می‌کند: بسیاری از دانشمندان برجسته رایانه و رهبران فناوری که خود در تلاش‌اند هوشی فراتر از انسان بسازند، در عین حال از آن به‌شدت می‌ترسند.
اما دقیقاً AGI چه زمانی – اگر اصلاً – از راه می‌رسد؟ و آیا می‌تواند آن‌قدر متحول‌کننده باشد که مردم عادی را بترساند؟
«زودتر از آنچه فکر می‌کنیم»
رهبران فناوری می‌گویند AGI بسیار نزدیک است. «سم آلتمن»، مدیرعامل OpenAI، در دسامبر ۲۰۲۴ گفت که این فناوری «زودتر از آنچه بیشتر مردم جهان فکر می‌کنند» خواهد آمد.
«سر دِمیس هسابیس»، هم‌بنیان‌گذار شرکت DeepMind، پیش‌بینی کرده که ظرف پنج تا ده سال آینده خواهد رسید؛ در حالی‌که «داریو آمودی»، بنیان‌گذار Anthropic، پارسال نوشت که نسخهٔ «هوش قدرتمند» (اصطلاح ترجیحی خودش برای AGI) شاید تا سال ۲۰۲۶ در دسترس باشد.
اما عده‌ای تردید دارند. «وندی هال»، استاد علوم کامپیوتر دانشگاه ساوت‌همپتون، می‌گوید: «آن‌ها مدام نقطه هدف را جابه‌جا می‌کنند. بستگی دارد با چه کسی حرف بزنید.» صدایش از پشت تلفن می‌رسد، اما می‌توان غلتیدن چشمانش را تصور کرد.
او می‌افزاید: «جامعهٔ علمی معتقد است فناوری هوش مصنوعی شگفت‌انگیز است، اما هنوز فاصله زیادی با هوش انسانی دارد.»
«بابک حجت»، مدیر ارشد فناوری شرکت آمریکایی Cognizant نیز موافق است که رسیدن به AGI نیازمند چندین «دستاورد بنیادی» است.
او می‌گوید: «ضمن اینکه، ظهور آن یک لحظه ناگهانی نخواهد بود. بلکه روندی تدریجی است؛ فناوری‌ای در حال رشد و تکامل مداوم، که شرکت‌های بسیاری در سراسر جهان در مسابقه‌ای بی‌پایان برای توسعهٔ نسخهٔ خودشان از آن‌اند.»
اما یکی از دلایلی که این ایده در سیلیکون‌ولی هیجان ایجاد کرده، باور به آن است که AGI مقدمه‌ای بر مرحله‌ای حتی پیشرفته‌تر است: ASI یا «هوش مصنوعی برتر»—فناوری‌ای که از هوش انسانی فراتر می‌رود.
مفهوم «تکینگی» یا Singularity نخستین بار در سال ۱۹۵۸ به ریاضی‌دان مجارستانی‌تبار «جان فون‌نویمان» نسبت داده شد؛ لحظه‌ای که در آن، هوش ماشین‌ها از درک انسان پیشی می‌گیرد.
در سال ۲۰۲۴، کتابی با عنوان Genesis نوشتهٔ «اریک اشمیت»، «کریگ ماندی» و «هنری کیسینجر» فقید منتشر شد که در آن به این ایده پرداخته شده است: فناوری‌ای چنان قدرتمند که در تصمیم‌گیری و رهبری به حدی کارآمد می‌شود که انسان در نهایت کنترل را کاملاً به آن می‌سپارد.
به‌زعم نویسندگان، این فقط مسئله زمان است، نه احتمال.
پول برای همه، بی‌نیاز از کار؟
حامیان AGI و ASI تقریباً به‌شکل موعودگرایانه‌ای درباره مزایای آن سخن می‌گویند: درمان بیماری‌های لاعلاج، حل بحران اقلیمی و کشف منبع بی‌پایانی از انرژی پاک.
«ایلان ماسک» حتی گفته است هوش مصنوعی فوق‌هوشمند می‌تواند عصری از «درآمد همگانی بالا» را به ارمغان آورد.
او اخیراً تأکید کرده که AI آن‌قدر ارزان و فراگیر می‌شود که هرکس خواهد توانست «درویدهای شخصی خودش» را داشته باشد؛ اشاره‌ای به شخصیت‌های R2-D2 و C-3PO در جنگ ستارگان.
ماسک گفت: «همه بهترین خدمات درمانی، غذا، حمل‌ونقل خانگی و هر چیز دیگری خواهند داشت. فراوانی پایدار!»
اما روی دیگر سکه، ترسناک است؛ اگر این فناوری به دست تروریست‌ها بیفتد چه؟ یا اگر خودش تصمیم بگیرد انسان منبع مشکلات زمین است و باید نابود شود؟
«تیم برنرز-لی»، خالق وب جهانی، در گفت‌وگو با بی‌بی‌سی در اوایل ماه جاری هشدار داد: «اگر از تو باهوش‌تر باشد، باید آن را در محدودهٔ کنترل نگه داریم. باید بتوانیم خاموشش کنیم.»
دولت‌ها نیز برخی اقدامات حفاظتی را آغاز کرده‌اند. در آمریکا، جایی که بسیاری از شرکت‌های پیشرو AI مستقرند، جو بایدن در سال ۲۰۲۳ فرمانی اجرایی صادر کرد که شرکت‌ها را ملزم می‌کرد نتایج آزمایش‌های ایمنی خود را با دولت فدرال به اشتراک بگذارند—هرچند دونالد ترامپ بعداً بخشی از آن را لغو کرد و آن را «مانعی برای نوآوری» خواند.
در بریتانیا نیز، «مؤسسه ایمنی هوش مصنوعی» (AI Safety Institute) با بودجهٔ دولتی دو سال پیش تأسیس شد تا خطرات فناوری‌های پیشرفته را بهتر درک کند.
و در نهایت همان میلیاردرهایی می‌مانند که «بیمه آخرالزمان» شخصی خود را دارند.
رید هافمن قبلاً گفته بود: «وقتی می‌گویی «دارم در نیوزیلند خانه می‌خرم»، در واقع کنایه‌آمیز است؛ یعنی، بیشتر نپرس!»
همین را می‌توان درباره پناهگاه‌ها هم گفت. اما ایرادی کاملاً انسانی در این میان وجود دارد.
روزی یکی از محافظان سابق یک میلیاردر را دیدم که خودش صاحب «پناهگاه» بود. او گفت اگر واقعاً فاجعه‌ای رخ دهد، اولویت نخست تیم امنیتی‌اش «از بین بردن رئیس» و «رفتن خودشان به پناهگاه» خواهد بود—و او شوخی نمی‌کرد.
آیا همه این‌ها فقط هشدارهای اغراق‌آمیزند؟
«نیل لارنس»، استاد یادگیری ماشین در دانشگاه کمبریج، این بحث را اساساً پوچ می‌داند.
او می‌گوید: «مفهوم هوش جامع مصنوعی (AGI) به همان اندازه بی‌معنی است که مفهوم «خودروی جامع مصنوعی». وسیله نقلیه درست به زمینه بستگی دارد؛ من برای پرواز به کنیا از ایرباس A350 استفاده می‌کنم، برای رفتن به دانشگاه ماشین دارم، و برای رفتن به کافه‌تریا پیاده می‌روم… هیچ خودرویی وجود ندارد که بتواند همه این کارها را با هم انجام دهد.»
از نگاه او، صحبت از AGI انحرافی خطرناک است: «فناوری‌ای که همین حالا ساخته‌ایم برای نخستین بار به انسان‌های عادی امکان می‌دهد مستقیماً با ماشین حرف بزنند و کاری را که می‌خواهند به آن بسپارند. این پدیده واقعاً خارق‌العاده و دگرگون‌کننده است. نگرانی بزرگ من این است که آن‌قدر در روایت شرکت‌های بزرگ فناوری دربارهٔ AGI غرق شده‌ایم که فراموش کرده‌ایم چگونه باید شرایط واقعی زندگی مردم را بهتر کنیم.»
ابزارهای فعلی AI با حجم عظیمی از داده‌ها آموزش می‌بینند و در شناسایی الگوها مهارت دارند—مثلاً نشانه‌های تومور در تصاویر پزشکی یا پیش‌بینی کلمهٔ بعدی در یک جمله. اما آن‌ها «احساس» ندارند، هرچند پاسخ‌هایشان متقاعدکننده به نظر برسد.
«بابک حجت» می‌گوید: «برخی روش‌های فریبنده برای واداشتن مدل‌های زبانی بزرگ (LLM) به رفتار شبیه یادگیری وجود دارد، اما این روش‌ها رضایت‌بخش نیستند و از انسان‌ها بسیار پایین‌ترند»،
«وینس لینچ»، مدیرعامل شرکت IV.AI در کالیفرنیا نیز از اغراق دربارهٔ AGI هشدار می‌دهد: «این تبلیغات فوق‌العاده‌ای است؛ اگر شرکتی باشی که در حال ساخت ‘باهوش‌ترین چیز تاریخ’ است، مردم می‌خواهند به تو پول بدهند.»
او می‌افزاید: «این چیزی نیست که دو سال دیگر محقق شود. نیاز به توان محاسباتی عظیم، خلاقیت انسانی زیاد و آزمایش و خطای بی‌پایان دارد.»
وقتی از او پرسیده شد آیا باور دارد AGI روزی واقعاً تحقق یابد، مکثی طولانی کرد و گفت: «راستش، نمی‌دانم.»
هوش بدون آگاهی
در بعضی زمینه‌ها، AI از مغز انسان پیشی گرفته است. یک ابزار مولد هوش مصنوعی می‌تواند در یک لحظه متخصص تاریخ قرون وسطی باشد و لحظه‌ای بعد مسائل پیچیدهٔ ریاضی را حل کند.
برخی شرکت‌های فناوری اذعان دارند که همیشه نمی‌دانند محصولاتشان چرا چنین واکنشی نشان می‌دهند. شرکت Meta می‌گوید نشانه‌هایی وجود دارد که سیستم‌های AI آن در حال بهبود خودکارند.
با این حال، هرقدر هم ماشین‌ها باهوش شوند، از نظر زیست‌شناختی مغز انسان همچنان برتر است. مغز حدود ۸۶ میلیارد نورون و ۶۰۰ تریلیون سیناپس دارد؛ بسیار بیشتر از معادل‌های مصنوعی.
مغز همچنین بین تعاملات وقفه ندارد و مدام خود را با اطلاعات تازه سازگار می‌کند.
«بابک حجت» توضیح می‌دهد: «اگر به یک انسان بگویی در سیاره‌ای خارج از منظومه شمسی زندگی کشف شده، بلافاصله آن را یاد می‌گیرد و دیدگاهش نسبت به جهان تغییر می‌کند. اما برای یک مدل زبانی بزرگ، این آگاهی تنها تا زمانی باقی است که مدام آن را به او تکرار کنی»،
او می‌گوید: «مدل‌های زبانی همچنین فراشناخت (meta-cognition) ندارند؛ یعنی نمی‌دانند چه می‌دانند. در حالی‌که انسان‌ها توانایی درون‌نگری دارند؛ چیزی که اغلب «آگاهی» خوانده می‌شود و همین باعث می‌شود بدانند چه می‌دانند.»
این ویژگی بنیادینِ هوش انسانی است؛ و هنوز در هیچ آزمایشگاهی بازتولید نشده است.
