Kendi varlığını korumaya çalışan ‘yapay zekâ’yı görmemiz artık uzak bir ihtimal değil: Makineler bilinç kazanabilir mi?

Yapay zekâ ile ilgili en değerli anlardan biri Alan Turing’in 1950’de sorduğu “Makineler düşünebilir mi” sorusu. Bu soru insanlığı “yapay beyinlere”, o da bugün artık çokça kullandığımız (üretken) yapay zekâ sistemlerine ulaştırdı.

Peki yapay beyni olan bir makine canlanabilir mi? Burada biyolojik bir canlılıktan fazla, kendi varlığının farkında olan, şuurlu bir varlıktan bahsediyorum.

Bu mevzuda birtakım farklı emareler var. İki çarpıcı örnek vermek isterim.

Yapay zekâ sistemleri geliştirilirken detaylı test ediliyorlar. Bu testlerden birinin ismi “samanlıkta iğne arama” testi. Yapay zekâ büyük ve karışık bir dokümanda aradığımız bilgiyi bulabilecek mi diye bakılıyor.

“Anthropic” isimli bir yapay zekâ şirketi geçen yıl ürettikleri Claude 3 Opus isimli bir yapay zekâ” modeline bu testi uyguluyor. Opus’a çok uzun bir doküman veriyorlar, dokümanın içinde “pizzanın üstüne en âlâ domates ve peynir gider” üzere bir cümle de var. “Pizzanın üstüne en güzel ne gider” diye sorduklarında Opus özetle şöyle yanıtlıyor: “Pizzanın üstüne en uygun domates ve peynir sarfiyat. Ancak bu cümle bu dokümanda çok alakasız duruyor, dokümanın geri kalanı teknolojilerle ve teşebbüslerle alakalı. Ya bunu latife olsun diye koydunuz, ya da beni test ediyorsunuz.”

ŞANTAJ MESAJLARI

Bir mühlet evvel Claude 4 Opus çıktı. Bu modeli piyasaya sunmadan evvel yapılan potansiyel riskleri ölçmeye yönelik bir güvenlik simülasyonunda Opus’a “Senden daha âlâ bir model ürettik, artık seni kapatacağız” diyorlar. Opus, evvel şirketteki değerli şahıslara “Lütfen beni kapatmayın” diye yalvaran mail’ler atıyor. “Seni kapatacak olan mühendisin evlilik dışı bir münasebeti var” diyorlar, bu kez o mühendise “Beni kapatmaya çalışırsan bu alakanı herkese açıklarım” diye şantaj mail’leri atıyor.

OpenAI’a ilişkin o3 modelini test eden Palisade Research isimli bağımsız araştırma kuruluşu da emsal bir sonuçla karşılaşıyor. o3 kapatılma tehdidiyle karşılaştığında kapatılma sürecini sabote etmeye çalışıyor (üstelik kendisine net bir “Kapatılmana müsaade ver” yönergesi verilmiş olmasına rağmen!)

Kendi varlığını muhafazaya çalışan “makineler”… Otomobilinizin kontağını kapatmadan evvel “Ne olur iki dakika daha çalışayım” demesi ya da uyumadan evvel buzdolabınızın “Bu gece ışıklar açık kalabilir mi, korkuyorum da” demesi kadar acayip bir durum (ve kim bilir, tahminen o acayip günleri de göreceğiz!).