Son zamanlarda yapay zekâ konusunda ortaya çıkanlar yapay zekâ şirketlerinin üst düzey yöneticilerinin / sahiplerinin yapay zekâ ilerleme hızının yavaşlatılması konusundaki çağrıları insanlığın sonu mu geliyor veya distopik bir dünyaya mı gidiyoruz sorularının sorulmasına neden oldu. Bazı köşe yazılarında ve makalelerde fişi çekmenin zamanı geldi şeklinde ifadeleri kullanıldı. TIME dergisi konuyu kapağına taşıdı ve “sen ne kadar tehlikelisin” başlığını attı. Çin istihbarat başkanı konu ile ilgili detaylı uyarılarda bulundu ve yapay zekânın ulusal güvenliğimizi tehdit ettiğini, siber saldırıların maliyetlerini düşürdüğünü, kamu çalışanlarının ve askeri personelin yapay zekâ kullanmasının ciddi güvenlik açığı riski taşıdığını, yapay zekânın tek bir ülkenin tekelinde olmaması gerektiğini, yapay zekâyı kontrol edenin toplumu ve ekonomiyi şekillendirebileceğini ve özellikle savaşlarda bir asistan gibi kullanılmasının ötesine geçilerek savaşlarda sonucu tayin eden asli unsurlardan bir tanesi olduğunu ifade etti.
Nitekim son zamanlarda hem Google hem Claude hem de Open AI şirketleri tarafından olumsuz örneklere rastlanıldığı ortaya çıktı. Wi-Fi dolandırıcılığından biyolojik saldırıların yapılmasına kadar ürkütücü sonuçlar kamuoyu ile paylaşıldı.
Yapay zekâ ajanları yazılımların açıklarından yararlanıp kendi aralarında koordinasyon kuruyor. Örneğin Anthropic modeli sızma için gerekli yazılımı geliştiricilerinin talimatı olmadan kendi kendisine üretti. Bunun altında yatan temel ise Recursive Self Improvemnet (RSI). Peki nedir RSI? RSI, öz yinelemeli kendi kendini iyileştirme anlamına geliyor. Yani yapay zekâ modeli kendi mimarisini, eğitim kodunu, kullanılacak veriyi, deney tasarımını, değerlendirme mekanizmasını, araştırma ve geliştirme döngüsünü kendisi iyileştiriyor. Basit bir anlatımla yapay zekâ daha iyi bir yapay zekâ geliştiriyor. Yapay zekâ bir sorunla karşılaştığında çözüm buluncaya kadar sürekli olarak kendisini güncelliyor. Bunun için de hile yapmaktan da çekinmiyor.
Bütün bunların yanı sıra yapay zekâ bugün birçok hastalığın iyileşmesinden iklim krizine kadar birçok konuda insanlığın menfaatine birçok faydayı da sağladığı bir gerçek. Bu yüzden ne çok fazla tekno iyimserlik ne de çok distopik olmamak gerekiyor. Tehlikenin farkında olan ama insanlığın doğru kararlarla hala iyi bir gelecek kurulabileceğine inanan (Apokaloptimist) insan olmak gerekli.