Yapay Zeka Gerçekten İnsanlığın Sonunu Getirebilir mi?

Yapay zekâ insanlığa hizmet mi edecek, yoksa onu tehdit mi edecek? Ataç paradoksundan süper zekâya, en büyük riskin ne olduğu sorusu cevabını bekliyor: Teknolojiyi kim, hangi değerlerle yönetiyor?

Bir virüsün insanlara tesir edip zombilere dönüştürmesi, uzaylıların dünyayı istila etmesi veya ileri düzeyde gelişmiş yapay zekâya sahip makinelerin insanlığı kontrol altına alması vb. konular ilginç, ürkütücü ve merak uyandıran senaryolardır. Bu senaryolar özellikle Amerikan filim endüstrisinde bolca işlenip dünyaya servis edilir. Bağışıklık sistemimizin özel yapısı sayesinde insanların tamamının aynı şiddette tesir altında kalması neredeyse imkânsız gibidir.

Uzaylıların dünyamızı işgal edeceği belki de bu konular arasında en ütopik olanıdır ve Amerika’nın kahramanlaştırılması yönünde algı oluşturur. İşin garibi uzaylılar ilk önce ve hep ABD’ye saldırır ve ABD dünyayı uzaylı saldırısından kurtarır (kim bilir belki gerçekte uzaylılar dünyayı ABD işgalinden kurtarmaya çalışıyordur.) Bu iki senaryoyu bir kenara bırakırsak gelişmiş bir yapay zekânın insanları bir gün kontrol altına alabileceği ihtimali daha gerçekçidir.

YAPAY ZEKÂNIN YÜKSELİŞİ İNSANLIĞIN DÜŞÜŞÜ MÜ?

Yapay zekâ (YZ), bilgisayar sistemlerinin insan gibi düşünebilmesini (karar verme, problem çözme, algılama ve öğrenme gibi bilişsel faaliyetleri yerine getirebilmesini) konu alan mühendislik ve bilim alanıdır. 2. Dünya Savaşından sonra başlayan YZ çalışmaları günümüzde; satranç oynamak, matematik teoremlerini kanıtlamak, şiir yazmak, kalabalık bir caddede araba kullanmak ve hastalıkları teşhis etmek gibi özel alanlara kadar uzanan çok çeşitli alt alanlarda kullanılmaktadır¹.

YZ modelleri yetkinlik üzerinden üç ana kategoriye ayrılır: Dar (sınırlı) yapay zekâ (Narrow AI), Genel yapay zekâ (Artificial General Intelligence - AGI) ve Süper yapay zekâ (Superintelligence - ASI). Dar YZ, yazılımcı tarafından önceden tanımlanmış belirli bir görevi veya görev kümesini yerine getirmek üzere tasarlanır ve günümüzün yaygın uygulamalarını (ChatGPT, Gemini, Grok, Deepseek vb.) kapsar. Bu tür insan zekâsının küçük bir kısmını taklit eder ve insan seviyesinin altında veya eşit performans gösterir². Ayrıca kontrol edilebilirliği kolay ve risk seviyesi oldukça düşüktür.

Genel YZ Dar YZ’den daha üstündür. İnsan zekâsına benzer şekilde kapsayıcı ve genelleştirme yeteneğine sahiptir ve bir bilgiyi bir sorundan veya bağlamdan diğerine aktarabilir. Süper YZ ise hemen hemen bütün alanlarda insan bilişsel performansını büyük ölçüde aşan YZ olarak tanımlanır³. İnsanüstü bir yeteneğe sahip olan bu YZ türünün kontrol edilebilmesi oldukça güçtür ve risk seviyesi oldukça yüksektir. Ancak hem Genel YZ hem de Süper YZ henüz gerçekleştirilememiştir.

YZ sistemleri; uzay çalışmaları, sağlık, ulaşım, çevre, finans, vb. birçok alanda mevcut sorunları çözmeye ve önemli yenilikler getirmeye adaydır⁴. Bütün bu alanlarda insan olmamızdan kaynaklı rasyonel düzeyde ortaya çıkan hatalar YZ sâyesinde minimize edilebilir. Ancak geliştirilen her teknolojide olduğu gibi YZ’da da bazı önemli riskler mevcuttur.

Günümüzde kullanılan dar YZ modelleri her ne kadar kontrol edilebilir ve tehlikesiz gibi görünse de kötü niyetli insanların ellerinde büyük tehditlere dönüşebilir. Mevcut YZ teknolojisi; daha etkili siber saldırılar, otonom silah sistemleri üzerinden yeni saldırı türleri, sosyal medyada manipülasyon ve propaganda, üretilen videolarla itibar suikastları ve toplumsal değerleri yıpratma (bir süredir YZ ile üretilen videolarda yaşlı başlı insanların küfretmesi gibi), bireysel puanlama yöntemiyle toplumlar üzerinde baskı ve kontrol oluşturma gibi onlarca tehdidin önünü açabilir⁵.

Bütün bu tehlikelere karşı gerekli önlemler alınsa bile YZ’nın kendi doğasından kaynaklı başka tehditler de ortaya çıkabilir. Görünüşte zararsız hedefleri yerine getirmek üzere geliştirilmiş bir YZ insanlığı yok etme potansiyeli taşıyabilir. Bu konuda ünlü bir düşünce deneyi vardır.

Bir Genel YZ modeline evrendeki ataç sayısını maksimize etmek gibi basit ve zararsız bir görev tanımlanır. YZ bu hedefi yerine getirmek için mümkün bütün kaynakları kullanır ve önüne çıkan her engeli bir şekilde aşmaya çalışır. Daha fazla ataç yapmak için zekâsını geliştirmesi gerektiğini hesaplar ve bunun gibi ana hedefi destekleyecek şekilde yan hedefler de edinir. YZ ataç üretiminde eldeki hammadde bittiğinde bir süre sonra insanı bile ataç üretimi için gerekli bir hammadde olarak düşünecek ve dahası bütün dünyayı hatta evreni ataca çevirmeye çalışacaktır. Bu YZ bir süre sonra kapasitesini arttıracağı için bir süper YZ’ye dönüşecek ve kaynak koduna müdahâle edilip kapatılmasına veya değiştirilmesine kesinlikle izin vermeyecektir^6,7. Sonuçta YZ, ataç üretimini maksimize etmek için bütün bir hayatı tehlikeye atabilecektir.

İmkânsız gibi görünen bu vb. senaryoların, gerekli tedbirler alınmadığında gerçekleşme ihtimali her zaman vardır. Bütün tedbirlerin alındığını düşünsek bile yine de bazı tehlikeler hâlâ mevcuttur. Örneğin tamamen insana dost olan zararsız bir YZ geliştirildiğini düşünün ve sadece insanın iyiliği için çalışmak üzere bir algoritmaya sahip olsun. Bu durumda şunu sormamız gerekir: İnsanlığın gerçekten iyiliğine olan şey nedir ve bunu kim tarif edecektir? Yaratıcıya inanmayan ve bilimi hakikatin tek ölçüsü olarak gören birisi için insanlığın iyiliği ölümü ortadan kaldırmak olabilir veya siyonist zihniyetli birisi için insanlığın iyiliği sadece belli bir kitlenin refahına odaklanıp geri kalanları ortadan kaldırmak veya köleleştirmek olabilir.

Sonuç olarak YZ üzerine yapılan çalışmaları incelediğimizde özellikle genel ve süper YZ’nın muhtemel tehlikelerine rağmen insanlığın bütün sorunlarını çözeceğine ve yeryüzünü âdeta bir cennete çevireceğine inanılır. YZ artık kimilerinin inanmaya hazır olduğu bir tanrı(!) olma yolunda ilerlemektedir. Evet, YZ gerekli kontroller sağlandığında ve önlemler alındığında insanlığın yararına çok önemli işler yapabilir. Ancak şunu unutmamak gerekir ki YZ ve bütün teknolojiler konusunda asıl mesele bu teknolojileri hangi inanç ve ahlaki değerlere sahip insanların geliştirdiğidir. Ne olursa olsun sadece insanlığın hayrına çıkarılmış bir topluluğun geliştireceği her türlü teknoloji gerçek anlamda fayda umacağımız teknolojidir.

Dipnotlar:

Stuart Russell & Peter Norvig (2010), Artificial Intelligence: A Modern Approach (3rd Edition) ISBN: 9780136042594
Muhammer Damar, Super AI, Generative AI, Narrow AI and Chatbots: An Assessment of Artificial Intelligence Technologies for The Public Sector and Public Administration, DOI:61969/jai.1512906
Nick Bostrom, SUPERINTELLIGENCE Paths, Dangers, Strategies, ISBN 978–0–19–967811–2
Max Tegmark, LIFE 3.0 Being Human in the Age of Artificial Intelligence, https://l24.im/G7uq9,
Miles Brundage, The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation, https://arxiv.org/pdf/1802.07228,
Nick Bostrom, Ethical Issues in Advanced Artificial Intelligence, https://nickbostrom.com/ethics/ai,
Eliezer Yudkowsky, Artificial Intelligence as a Positive and Negative Factor in Global Risk, https://intelligence.org/files/AIPosNegFactor.pdf,