جیل لپور در یادداشتی در نیویورکر که روز ۲۷ مه ۲۰۲۶ منتشر شده است، دراینباره مینویسد؛
سال گذشته، تنها چند ماه پس از آغاز پاپی خود، پاپ لئو چهاردهم، نخستین پاپ آمریکایی، از توسعهدهندگان هوش مصنوعی خواست «تشخیص اخلاقی را بهعنوان بخشی بنیادین از کار خود پرورش دهند.» در واکنش، مارک اندریسن، میلیاردر سیلیکونولی و «ترولِ ارشد»، با انتشار یک میم احمقانه در توییتر به تمسخر او پرداخت. پاپ نگرانی عمیقی را مطرح کرده بود مبنی بر اینکه شرکتهای هوش مصنوعی «بهطور کامل ارزش انسانها و انسانیت را نادیده میگیرند»؛ پیتر تیل، سرمایهگذار خطرپذیر، reportedly wondered آیا ممکن است پاپ با دجال همپیمان باشد. شاهزادگان بازرگان سیلیکونولی ظاهراً نگران بودند که پاپ جدید اقتدارشان را تضعیف کند و قدرتشان را بکاهد. و اکنون، میتوان گفت که او چنین کرده است؛ در قالب یک انسیلیک مورد انتظار درباره هوش مصنوعی.
سالها — بلکه دههها — رهبران فناوری سرمایهگذاریها، اختراعات، شرکتها و حتی خودشان را با واژگانی مذهبی توصیف کردهاند، و مشخصاً با لحنی مسیحایی. آنان مدعی بودند مأموریتی دارند برای بهتر کردن جهان؛ به انجیل گمراهکننده «نوآوری مخرب» ایمان داشتند. «مأموریت» در تاریخ، کار مسیحیِ گسترش پیام انجیل است؛ نوآوری مخرب نیز نظریهای از تغییر است که در بلاغت نجات مشارکت میکند. برای مدتی، مأموریت اعلامشده فیسبوک این بود: «دادن قدرت به مردم برای ساختن جامعه و نزدیکتر کردن جهان به هم» — چیزی که بسیاری از روحانیان هر دینی آن را مأموریت خود میدانند، در کنار مراقبت از فقرا و تسلای رنجدیدگان. مدیران فناوری، با جامه آیینی هودی، شلوار جین، کفشهای کتانی طراحدار و تیشرت مشکی، چنان رفتار کردهاند که گویی شرکتهایشان کلیسا هستند، سخنرانیهای تدشان موعظه، و محصولاتشان — اپها، پلتفرمها و بازیهای ویدیویی — معابد و مساجد و کلیساها. اخیراً همین افراد — در واقع مردان — ظهور هوش مصنوعی را بهعنوان آغاز آنچه مارک زاکربرگ «عصر جدیدی برای بشریت» مینامد، اعلام کردهاند. این هفته، پاپ برداشت خود از این عصر جدید را در انسیلیک خود با عنوان «Magnifica Humanitas» یا «انسانیت باشکوه: درباره پاسداشت شخص انسانی در عصر هوش مصنوعی» ارائه کرد. این برداشت بهسختی میتواند متفاوتتر از موعظههای کاهنان سیلیکونولی باشد. آنان میگویند جهان را نجات میدهند. پاپ بیم دارد که آن را نابود میکنند.
چیز چندان شگفتآوری در این انسیلیک نیست؛ نیروی آن در این است که همه اینها یکجا گفته شده است. پاپ که هفتاد سال دارد و در شیکاگو متولد شده، از زمان انتخابش یک سال پیش درباره هوش مصنوعی سخن گفته است. او اوایل این ماه گفت: «ما واقعاً در حال تجربه کسوفی در درک معنای انسان بودن هستیم.» او نام پاپی «لئو» را به افتخار پاپ پیشین با همین نام — لئو سیزدهم — برگزید، زیرا انتظار داشت بیانیهای در مقیاس و اهمیت تاریخی انسیلیک سال ۱۸۹۱ او، «Rerum Novarum» («درباره چیزهای نو») صادر کند؛ بیانیهای که نابرابری اقتصادی عمیق ناشی از انقلاب صنعتی را محکوم و هم سرمایهداری لسهفر و هم سوسیالیسم را رد میکرد و بهجای آن از چانهزنی جمعی و عدالت اجتماعی دفاع مینمود. (پاپی دیگر «Rerum Novarum» را منشور کبیر پاپی خوانده بود.) لئو چهاردهم «Magnifica Humanitas» را در ۱۵ مه امسال امضا کرد؛ دقیقاً ۱۳۵ سال پس از صدور «Rerum Novarum» توسط لئو سیزدهم. بسیاری چیزها نو هستند. بسیاری چیزها کهنهاند. لئو سیزدهم بارونهای غارتگر را محکوم کرد؛ لئو چهاردهم غولهای فناوری را محکوم میکند.
انسیلیک جدید که نزدیک به چهل هزار واژه دارد، ارزش خواندن دارد. خطاب آن «به همه مؤمنان کاتولیک، همه مسیحیان و همه زنان و مردان نیکنیت» است — یعنی به همگان. پیش از انتشار، و با نگرانی از واکنش «خیلی طولانی بود؛ نخواندم»، یک اسقف تگزاسی به پیروانش هشدار داد از یک چتبات نخواهند آن را خلاصه کند. (اوایل امسال، پاپ کشیشان را از استفاده از ChatGPT برای نوشتن خطبهها برحذر داشت و گفت «بیشتر از مغزتان استفاده کنید.») این سند زیبا نیست. اغلب آزاردهنده و خشک و فنی است («این مستلزم تدوین هنجارهایی است تا تصمیمگیری پشت انتخاب محتوا و توسعه آن شفافتر شود و از دادههای شخصی حفاظت کند»)، و نشانههای زیادی دارد که توسط یک کمیته نوشته شده («ادبیات روانشناختی و روانپزشکی با تأکید روزافزون مستند کرده است که مواجهه زودهنگام و بدون نظارت با ابزارهای دیجیتال و شبکههای اجتماعی میتواند بر خواب، دامنه توجه، کنترل هیجانات و روابط تأثیر منفی بگذارد»). بخشی از آن شبیه بیانیه مطبوعاتی سیلیکونولی است («امروزه همگرایی اتوماسیون، رباتیک و هوش مصنوعی بهسرعت ساختار کار را دگرگون میکند»). با این حال، «Magnifica Humanitas» استدلالی چشمگیر برای قرار دادن دغدغههای اخلاقی — و نه سود، مزیت رقابتی یا کارایی — در مرکز هر بحثی درباره هوش مصنوعی ارائه میدهد.
اگر ما کاتولیکهای آمریکایی به این پاپ افتخار میکنیم، بسیاری از ما حتی بیشتر افتخار میکنیم که نخستین پاپ آمریکایی به چنین موضوع حیاتی و در چنین لحظه حساسی پرداخته است. در بخش بزرگی از فرهنگ آمریکایی — بهویژه در مطبوعات تجاری و فناوری — به چالش کشیدن قدرت اقتصادی و سلطه الیگارشیک شرکتهای هوش مصنوعی مستقر در آمریکا، کاری در حد ارتداد محسوب میشود. پاپ لئو نهتنها مایل بلکه مشتاق مخالفت است. خدا حفظش کند.
بخش زیادی از انسیلیک صرف دفاع از این گزاره میشود که واتیکان باید — و همواره بوده است — درباره امور نو و بسیار دنیوی مانند هوش مصنوعی اظهار نظر کند. «کلیسا در تاریخ حضور دارد و با جهان وارد گفتوگو میشود»، لئو استدلال میکند. او با سام آلتمنها و ایلان ماسکهای جهان همنظر است که بشریت در یک دوراهی قرار دارد. اما در این دوراهی، او میگوید باید سه پرسش مطرح شود: «به کجا میرویم؟ به سوی چه هدفی میخواهیم جهتگیری کنیم؟ بهعنوان یک ملت و یک جامعه انسانی چه مسیری را باید برگزینیم؟» با ارجاع به داستان کتاب مقدسی غرور و ساخت برج بابل، او از آنچه «سندروم بابل» مینامد هشدار میدهد: «یعنی بتپرستی سود که ضعیفان را قربانی میکند، یکنواختیای که تفاوتها را خنثی میسازد، و این تظاهر که یک زبان واحد — حتی زبان دیجیتال — میتواند همهچیز، از جمله راز شخص انسانی، را به داده و عملکرد ترجمه کند.»
پاپ با تأکید بر کرامت بنیادین انسان، برابری غیرقابلسلب و جهانی اشخاص و حقوق خدشهناپذیر آنان را پی میگیرد. در چارچوب آموزه اجتماعی کلیسا — که به «Rerum Novarum» بازمیگردد — اصولی را تثبیت میکند، از جمله تعهد به خیر مشترک که آن را «بیان اجتماعی کرامتی که در هر شخص به رسمیت شناخته شده» تعریف میکند. با بازخوانی انسیلیک ۲۰۱۵ پاپ فرانسیس، «Laudato Si’» («ستایش تو باد») که خواستار حفاظت از محیط زیست، «خانه مشترک ما» بود، لئو از رشد «پارادایم تکنوکراتیک» ابراز تأسف میکند؛ یعنی «گرایش به اینکه منطق کارایی، کنترل و سود بهتنهایی تصمیمهای شخصی، اجتماعی و اقتصادی را شکل دهد.» در اینجا، تقریباً در نیمه انسیلیک، به مسئله هوش مصنوعی میرسد و با دقت آن را از هوش انسانی متمایز میکند: «آنچه بهاصطلاح هوشهای مصنوعی نامیده میشوند، تجربه نمیکنند، بدن ندارند، شادی یا درد احساس نمیکنند، از خلال روابط رشد نمیکنند و از درون نمیدانند عشق، کار، دوستی یا مسئولیت چیست. آنان وجدان اخلاقی ندارند، زیرا خیر و شر را داوری نمیکنند، معنای نهایی موقعیتها را درک نمیکنند و مسئول پیامدها نیستند.» هرچند این ابزار میتواند مفید باشد، او استدلال میکند که بیملاحظه توسعه یافته و هم «خانه مشترک ما» و هم انسانیت مشترک ما را به خطر انداخته است.
مشکل، به گفته پاپ در «Magnifica Humanitas»، فناوری نیست؛ بلکه انسانشناسی است. الگوریتمها، اشکال اتوماسیون و هوش مصنوعی شایستگان را از ناشایستگان جدا میکنند؛ اطلاعات را دستکاری و اعتماد را تضعیف میکنند؛ حریم خصوصی را نقض میکنند؛ قدرت قدرتمندان را افزایش و توانایی آسیبپذیران را کاهش میدهند؛ جنگ را بیرحمانهتر میکنند؛ حکمرانی دموکراتیک را تضعیف میکنند؛ و کرامت کار را، شاید برای تودههای بشریت، از میان میبرند. او خواستار تنظیمگری و بهویژه کنترل دموکراتیک هوش مصنوعی است، اما بیش از همه خواهان «خلع سلاح» هوش مصنوعی است. او مینویسد: «خلع سلاح به معنای رد فناوری نیست، بلکه جلوگیری از سلطه آن بر انسان است. یعنی رهایی فناوری از کنترل انحصاری و گشودن آن به بحث و گفتوگو، تا با انسان سازگار شود و به تکثر فرهنگها و شیوههای زندگی انسانی بازگردد.» او نگران است که فرهنگ پیرامون هوش مصنوعی جستوجوی حقیقت — که برای زندگی دموکراتیک و امکان یک زیست معنوی اصیل ضروری است — را تضعیف میکند.
فهرست نگرانیهای پاپ تفاوت چندانی با دغدغههایی ندارد که دهههاست توسط تحلیلگران جدی مطرح شده، بهویژه در ایالات متحده که اتوماسیون در آن زودتر پیشرفت کرد و خطراتش نیز زودتر دیده شد؛ همانگونه که در کتاب در دست انتشارم «ظهور و سقوط دولت مصنوعی» استدلال کردهام. اصطلاح «هوش مصنوعی» سالی ابداع شد که پاپ به دنیا آمد، ۱۹۵۵، و پیامدهای بالقوه زیانبار شبیهسازی یا حتی فراتر رفتن از هوش انسانی بر کرامت، برابری و آزادی انسان، و خطر جایگزینی کارکردهای دولتهای دموکراتیک با سامانههای خودکار، از همان زمان مورد توجه قرار گرفت. در ۱۹۵۷، هانا آرنت در «وضع بشر» نوشت که «بسیاری از تلاشهای علمی معطوف به مصنوعی کردن زندگی بودهاند، برای بریدن آخرین پیوندی که حتی انسان را در میان فرزندان طبیعت قرار میدهد» و پرسید آیا روزی انسانها «نیاز خواهند داشت ماشینهای مصنوعی برای فکر کردن و سخن گفتنشان» داشته باشند. از اوایل دهه ۱۹۶۰ آمریکاییها میپرسیدند آیا در یک «سایبرنیشن» زندگی میکنند؛ و اندکی بعد ترس از «دولت خودکار» نام گرفت. در ۱۹۶۷، لوئیس مامفورد در «اسطوره ماشین» از ظهور «هوش سایبرنتیک» ابراز نگرانی کرد و هشدار داد که «بهجای آنکه فعالانه بهعنوان شخصیتی خودمختار عمل کند، انسان به حیوانی منفعل و بیهدفِ شرطیشده با ماشین تبدیل خواهد شد که کارکردهایش، آنگونه که تکنسینها نقش انسان را تفسیر میکنند، یا به ماشین سپرده میشود یا بهشدت محدود و کنترل میشود به سود سازمانهای جمعی غیرشخصی.» مامفورد جبرگرایی فناورانه را «برداشتی بنیاداً نادرست از کل مسیر توسعه انسانی» دانست که باید کنار گذاشته شود «اگر میخواهیم پیش از آنکه هم آگاهی از هدف انسانی و هم اعتماد به تواناییمان در کنترل مخلوقات خود را از دست بدهیم، بر فرهنگ مکانیزهمان چیره شویم.»
اینکه نگرانیهای مطرحشده در «Magnifica Humanitas» تازه نیستند، از فوریت آنها نمیکاهد. با این حال، این تاریخ نشان میدهد که فراخوانها برای کند کردن توسعه هوش مصنوعی و — به تعبیر آرنت — «فکر کردن درباره آنچه انجام میدهیم» چندان شنیده نشدهاند. با این حال، پیش از این هفته، این صدا از سوی پاپ — رهبر معنوی نزدیک به یکپنجم جمعیت جهان — طنینانداز نشده بود.
«Magnifica Humanitas» از جهات بسیاری همتای دینی «قانون اساسی کلود» است که شرکت Anthropic در ژانویه گذشته منتشر کرد (و دستکم با دو نماینده واتیکان درباره آن مشورت شد). در حرکتی نمادین، کریستوفر اولا، همبنیانگذار Anthropic، در مراسم معرفی انسیلیک در کنار لئو بر سکوی واتیکان حاضر شد؛ مراسمی که پاپ، برای نخستینبار در تاریخ کلیسا، شخصاً در تالار سنود ارائه کرد. اولا گفت: «از اعلیحضرت پاپ و کلیسا برای پرداختن به این کار تشخیص سپاسگزارم.» مدیران دیگر شرکتهای هوش مصنوعی بعید است چنین سپاسی ابراز کنند. و بعید است داوطلبانه قدرت سیاسی خود را واگذار کنند؛ همانطور که بعید است ناگهان نیکوکار شوند، مالیات بیشتری بپردازند، از توییتهای احمقانه دست بردارند یا فروش ابزارهایی را که نیاز ندارید و هرگز نخواستهاید و شما را بدبختتر، عصبانیتر و ناآگاهتر میکند متوقف کنند.
چه باید کرد؟ پاپ بزرگترین بیماری جهان را «فرهنگ قدرت» میداند؛ فرهنگی که در آن کسانی که بیشترین منابع را دارند مسیر رویدادها را صرفاً بر اساس منافع خود تعیین میکنند. درمان، به تعبیر او با استناد به پل ششم، «تمدن عشق» است: همدردی با رنجدیدگان، دعا برای نیازمندان، گشودگی به گفتوگو، تعهد به صلح و عدالت، رد بت دروغین «انسانیت بیجسم» و پاسداشت شکوه انسان.
اما سیلیکونولی؟ واکنش سینهکوب و انگشتتکاندهندهاش، طبق انتظار، در شبکه X آمد. یکی از «تکبرُو»ها نوشت: «برداشت بدی از پاپ.» عالی است. برایتان دعا میکنم. ♦