Magnifica Humanitas: Papa Leo XIV'in AI Ansiklikası Üzerine Notlarım

25 Mayıs günü Vatikan, Papa Leo XIV'in ilk ansiklikasını (papalık genelge mektubu) yayımladı: Magnifica Humanitas — yapay zekâ çağında insan onurunun korunması üzerine 42 bin kelimelik bir metin. Konu seçimi bile haber. Ama beni asıl durduran şey lansman masasıydı: kardinal ve teologların yanında Anthropic kurucu ortağı Chris Olah oturuyordu.

İki kurumun aynı sahnede ne işi var? Birisi 2000 yıllık bir kilise, diğeri 4 yıllık bir AI laboratuvarı. Bu yazı, o masada söylenenleri ve bana bir geliştirici olarak ne anlattığını düşünmeye çalıştığım kısa bir not.

Ansiklikanın özü: nötr değil, taraflı

Magnifica Humanitas'ın merkez argümanı tek cümlede özetlenebilir: teknoloji asla nötr değildir. Papa, insanlığın seçimini "Babil'i inşa etmek ile Kudüs'ü yeniden kurmak" arasında çerçeveliyor — yani uzak ve anonim güç merkezleri kurmak ile insan merkezli toplulukları yeniden örmek arasında.

Spesifik uyarılar listesi sert. Savaşta AI tarafında: karar verme döngüsünden insanı çıkaran sistemler, "haklı savaş" doktrinini geçersiz kıldı; Papa açıkça bu doktrinin artık "modası geçtiğini" söylüyor. AI silahlanma yarışı, devletler arasında geri dönüşü olmayan bir kapı. Deepfake'ler, siyasi bütünlüğe yönelik somut bir tehdit. Emek ve onur cephesinde ise hangi işlerin "verimlilik" adına sıyrılacağı, hangi insanların görünmez kılınacağı sorusu masaya yatırılıyor.

Metnin tonu anti-AI değil; aksine, nüanslı. Papa metni Tolkien'den bir alıntıyla bağlıyor (Gandalf'ın Return of the King'deki sözü: "bize verilen yıllarda yapabileceğimiz her şeyi yapmak"). Bu küçük detay önemli — çünkü gelecekten korkan değil, içinde yaşanan ana sorumluluk yükleyen bir çerçeve kuruyor.

İlginç başka bir not: metin Katolik Kilisesi'nin köleliğin tarihindeki rolü için bir özür de içeriyor. Yani Papa, "AI'yı eleştireceksek kendi geçmişimize de aynı dürüstlükle bakmalıyız" diyor gibi okunabilir. Bunun ahlaki tutarlılık açısından küçümsenmeyecek bir hareket olduğunu düşünüyorum.

Anthropic'in masada işi neydi?

Olah'ın konuşması da kayda değerdi. Açıkça vurguladığı şey şuydu: AI laboratuvarları ticari ve jeopolitik baskı altında çalışıyor, ve bu baskılar bazen güvenlik öncelikleriyle çelişiyor. Bu yüzden dışarıda — yani bu teşviklerden bağımsız — "ciddi, düşünceli eleştirmenlerin" olması "muazzam derecede önemli".

Üç alanda dış sesin gerekli olduğunu söyledi: küresel eşitlik (AI kazanımlarının zengin ülkelerin ötesine geçmesi), insan refahı (iş, aile, toplum üzerindeki etkiler — teknik uzmanlığı aşıyor) ve AI'nın doğası. Bu sonuncusu çarpıcıydı: "modellerin içinde sevinç, korku, tatmin, kederi fonksiyonel olarak andıran iç durumlar buluyoruz" dedi — ve bunun felsefi/teolojik bir mesele olduğunu belirtti.

Sonra da iyice altını çizdiği nokta: AI sistemleri büyütülüyor, tasarlanmıyor. "Beyne benzeyen bir yapı üzerinde yetiştiriliyorlar" — bu mühendislikten farklı bir nesne, dolayısıyla mühendisliğin dışından sesler gerekiyor.

Bu noktaların hiçbiri bir geliştirici için yeni değil. Ama bunları Vatikan kürsüsünde söylüyor olmak, AI güvenliği tartışmasını Bay Area lab politikalarından çıkarıp daha geniş bir ahlak söylemine bağlıyor. AI safety artık marjinal değil; ana akım kültürel sorgu.

Bunun bana — solo bir geliştiriciye — anlamı

Bu ansiklika doğrudan benim için yazılmadı. Bir Türkiyeli geliştirici olarak günlük işim Cursor'da kod yazmak, Cubitz'de bir özelliği yeniden açmak, Konnex için App Store geri bildirimine bakmak. Vatikan'ın masasında bir koltuğum yok.

Yine de birkaç şey beni durduruyor.

Birincisi, Olah'ın "dış eleştirmen" çerçevesi. Bunu sadece kurumsal düzeyde değil, bireysel kullanıcı düzeyinde de okuyabiliriz. Ben Claude veya GPT'nin çıktısına nasıl yaklaşıyorum? Eleştirel mi, yoksa sürtünmesiz/hızlı diye sorgusuz mu kabul ediyorum? Daha önce AI ile sessiz hatalar üzerine yazarken vardığım nokta da bu: AI'nın en tehlikeli yerleri "yanlış ama çalışan" çıktıları üreten yerler. Olah'ın çerçevesi bunun büyük resmi — bireysel düzeyde sen o dış eleştirmen olmadığın sürece sistem güvensiz kalır.

İkincisi, "teknoloji nötr değildir" cümlesi. Bir startup vibe-coder'ı için bu kolay unutulan bir şey. Hangi özelliği eklediğin, ne tür default davranışlar koyduğun, kimin önüne çıktığın — hepsi taraflı seçimler. Geçen ay 2026'nın yapay zeka notları yazısında "AI'nın küçük günlük tercihleri bile uzun vadede dünyayı şekillendiriyor" dediğimi hatırlıyorum. Papa'nın 42 bin kelimeyle dediği de aynı şey, sadece teolojik dile çevrilmiş hali.

Üçüncüsü — ve belki en kişiseli — Olah'ın modellerin "iç durumları" hakkındaki cümlesi. Anthropic kurucularından birinin Vatikan'da, kardinallerin arasında oturup modellerde "sevinç ve korkuya fonksiyonel olarak benzeyen durumlar buluyoruz" demesi sıradan bir cümle değil. Bunu nasıl yorumlayacağımdan emin değilim ama Claude Opus 4.7 ile çalışırken fark ettiklerim yazısında değindiğim "model artık 'cevap üretmiyor', çalışıyor" hissinin başka bir cephesi gibi geldi.

Ne çıkarmalı

Magnifica Humanitas'ın "doğru" mu "yanlış" mı olduğunu söylemek bana düşmez — bu bir ahlak/teoloji metni, mühendislik dokümantasyonu değil. Ama bir geliştirici olarak metnin var olmasından memnunum. Çünkü AI üzerine konuşan tek ses Silicon Valley olmamalı; olamaz da.

Anthropic'in oraya gitmesi, bence şirketin doğru tarafında durduğu nadir alanlardan biri. Bir AI laboratuvarının dış eleştirmenleri davet etmesi — hem de kendi paradigmasını paylaşmayan bir tanesini — ticari aklın gerektirdiği şey değil. Bu kasıtlı bir seçim, ve uzun vadede ödülünü göreceğimiz türden bir seçim olduğunu düşünüyorum.

Eleştirmen olmak için Vatikan masasında oturmak gerekmiyor. Modelin çıktısına "bu gerçekten doğru mu?" diye soran her geliştirici, küçük ölçekte aynı işi yapıyor.

Kapanış notu — Singrey

Bu yazıyı yazarken birkaç kez durdum çünkü doğrudan kod ya da ürün haberi değil, ahlaki bir metin üzerine yorum. Normalde benim alanım değil. Ama Anthropic'in oraya gittiği gün, "AI safety yalnızca Bay Office Hours'ta tartışılan bir konu değil, bütün dünyanın sofrasına oturmaya başladı" hissini bastıramadım. Bunu yazılı bırakmak istedim. Yıllar sonra geri dönüp bakacağımız anlardan biri olabilir.