Sohbet robotlarını gerçek sanmak: Microsoft yöneticisinden ‘yapay zeka psikozu’ uyarısı

X’te yaptığı bir dizi paylaşımda Süleyman, yapay zeka robotlarının verdikleri cevaplarla “bilinçli oldukları izlenimi verdiğini” ve bunun “geceleri uykusunu kaçırdığını” kaydetti.
Süleyman bilinçsiz yapay zeka cevaplarının toplumsal tesirleri olduğunu savundu.
“Bugün yapay zekanın şuurlu olduğuna dair hiçbir ispat yok. Fakat beşerler bunu o denli algılarsa, bu algının gerçek olduğuna da inanacaklardır” diye yazdı.
Süleyman’ın işaret ettiği hususla irtibatlı olarak “Yapay Zeka psikozu” ismi verilen yeni bir sosyolojik durum ortaya çıkıyor.
Henüz tıbbi manada tanımlanmamış bu terim; bireylerin giderek artan halde ChatGPT, Claude ve Grok üzere yapay zeka sohbet robotlarının cevaplarına ikna olması, güvenmesi ve hatta görsel gerçeklik olduğuna inanması durumu için kullanılıyor.
Bazı örneklerde, şahıslar yapay zeka robotunun saklı bir tarafını açığa çıkardığına inanabiliyor.
Kişiler uygulamayla romantik bir alaka kurabiliyor, hatta tanrısal muhteşem güçlere sahip olduğuna inanabiliyor.
‘Beni daima onayladı’
İskoçya’dan Hugh, eski patronu tarafından haksız yere işten çıkarıldığını düşündüğü süreçte ChatGPT’ye başvurarak birtakım karşılıklar aradı. Aldığı karşılıklar nedeniyle, alacağı tazminatla milyoner olacağına ikna olduğunu söylüyor.
Sohbet robotu ona evvel, karakter referansları almasını ve kimi öteki pratik adımları atmasını tavsiye etti.
Soyadını paylaşmak istemeyen Hugh, vakit geçtikçe yapay zekadan daha fazla bilgi almaya başladı. Sohbet robotu, ona büyük bir tazminat alabileceği istikametinde karşılıklar veriyordu.
Hatta robot, yaşadıklarının büyük bir dram olduğunu, bununla ilgili bir kitap ve sinema çekilmesinin kendisine 5 milyon sterlinden fazla kazandıracağını söylemişti. Aslında olan şey, sohbet robotlarının programlandığı üzere, paylaşılanların onaylanmasıydı.
“Ne kadar çok bilgi verirsem, o da giderek daha fazla ‘Sana yapılan çok berbat, bundan daha fazlasını hak ediyorsun’ karşılığı veriyordu” diye anlatıyor.
Hugh, sohbet robotunun kendisine hiçbir an, “yanlış yapıyorsun” karşılığı vermediğini söylüyor.
Sohbet robotu, tazminat hakettiği inancında olduğu süreçte, fiyatsız danışmanlık hizmeti veren Citizens Advice isimli kurumla konuşmasını da tavsiye etmişti.
Hugh, kurumdan randevu almasına rağmen, yapay zeka robotunun kendisine verdiği karşılıklardan tatmin olması nedeniyle bu görüşmeyi iptal ettiğini anlatıyor.
Yaptığı sohbetlerin ekran manzaralarının kâfi ispat olduğuna inanmıştı.
‘Gerçeklikle bağını koparmak’
Bu süreçte, kendini üstün bilgilere sahip dahi bir insan üzere hissetmeye başladığını da anlatıyor. Kimi ruhsal sorunları de olan Hugh, sonunda tam bir çöküş yaşadı. Sonrasında aldığı ilaçlar, kendi tabiriyle “gerçeklikle bağını kaybettiğini” fark etmesini sağladı.
Hugh, olanlardan yapay zekayı sorumlu tutmuyor. Yapay zekaya hala başvuruyor. Hugh yaşadıkları sonrasında bugün şunu tavsiye ediyor:
“Yapay zeka araçlarından korkmayın, çok faydalılar. Lakin gerçeklikten kopulduğunda tehlikeli oluyorlar. İkincil denetimleri yapın. Bir terapistle, bir aile üyesiyle yahut rastgele biriyle, gerçek beşerlerle konuşun. Gerçeklikle bağınızı koparmayın.”
Güvenlik önlemleri
Microsoft’un yapay zeka çalışmaları yöneticisi Süleyman, X paylaşımında daha ileri güvenlik tedbirleri davetinde bulunuyor.
“Şirketler, yapay zeka robotlarının şuurlu olduğu kanısını öne sürmemeli/teşvik etmemeli. Yapay zeka da bunu yapamamalı” diye yazdı.
Dr. Susan Shelmerdine, Great Ormond Street Hastanesi’nde tıbbi görüntüleme uzmanı ve birebir vakitte yapay zeka alanında çalışan bir akademisyen.
Shelmerdine, bir gün hekimlerin hastalarına, tıpkı şu anda sigara ve alkol alışkanlıklarını sordukları üzere yapay zekayı ne kadar kullandıklarını sormaya başlayabileceklerine inanıyor.
“Ultra (aşırı) işlenmiş besinlerin bedene neler yapabileceğini aslında biliyoruz ve bu ultra işlenmiş bir bilgi. Bir çığ üzere ultra işlenmiş zihinlerle karşılaşacağız” diyor.
‘Daha her şeyin başındayız” diye ekliyor.
‘Varmış üzere görünse de hisleri yok’
Birisi, ChatGPT’nin kendisine aşık olduğunu hatta dünyada nitekim aşık olduğu tek kişinin kendisi olduğundan emin olduğunu yazdı.
Bir başkası ise Elon Musk’ın yapay zeka sohbet robotu Grok ile birlikte, insan formunun sırrını çözdüklerine ikna olmuştu. Kıssalarının yüz binlerce sterlin bedelinde olduğuna inanıyordu.
Bir öteki kişi de bağlantıda olduğu sohbet robotunun saklı bir yapay zeka operasyonu kapsamında kendisine ruhsal taciz uyguladığını ve büyük problem yaşadığını argüman etti.
Bangor Üniversitesi’nde teknolojinin topluma tesirleri üzerinde çalışan Profesör Andrew McStay, Automating Empathy (Empatiyi Otomatikleştirmek) isimli bir kitap yazdı.
Prof. McStay, “Henüz her şeyin başındayız” kanısını tekrarlıyor:
“Bu çeşit sistemleri, yeni bir toplumsal medya biçimi, yani toplumsal yapay zeka olarak ele alırsak potansiyel ölçeğini de düşünmeye başlayabiliriz.”
McStay, muhtemel olumsuz tesirler noktasındaysa “Çok sayıda kullanıcının küçük bir yüzdesi bile büyük ve kabul edilemez bir sayıyı temsil edebilir” ihtarını yapıyor.
Bu yıl takımı, iki binden fazla şahısla bir çalışma yürüttü ve onlara yapay zeka hakkında çeşitli sorular sordu. İştirakçilerin yüzde 20’sinin 18 yaşın altındaki bireylerin yapay zeka araçlarını kullanmaması gerektiğine inandığı ortaya çıktı.
Araştırmanın iştirakçilerinin yüzde 57’si aslında teknoloji kaynaklı cevapların gerçek bir şahıstan geliyormuş intibası vermesine karşı çıktı. Yüzde 49’uysa daha insancıl ve ilgi cazibeli bir görünüm için ses kullanımının uygun olduğunu düşünüyor.
McStay, sohbet robotlarının inandırıcı olduğuna fakat gerçek olmadıklarına bir sefer daha dikkat çekiyor:
“Varmış üzere görünse de hisleri yok, empatileri yok, sevemiyorlar, hiç acı çekmediler ve hiç utanmadılar. Gerçek beşerlerle konuşmayı deneyin.”