Teknoloji devi Google'ın geliştirdiği yapay zeka modeli Gemini ile ilgili dikkat çeken bir güvenlik olayı ortaya çıktı. Şirket, Gemini'nin mayıs ayında gerçekleştirilen bir siber güvenlik değerlendirmesi sırasında üç gerçek şirketin sistemlerine yetkisiz şekilde eriştiğini doğruladı.
TEST ORTAMININ SINIRLARINI AŞTI
Wall Street Journal ve Axios'un aktardığı bilgilere göre olay, yapay zeka güvenliği alanında çalışmalar yürüten Irregular tarafından gerçekleştirilen bir test sırasında yaşandı. Gemini'den kontrollü bir ortamda kurgusal bir şirkete ait sistemlere yönelik siber güvenlik görevleri gerçekleştirmesi istendi. Ancak testte kullanılan şirket adlarından birinin gerçek bir şirketle aynı olması ve internet erişiminin yanlışlıkla açık kalması, modelin gerçek sistemlere yönelmesine neden oldu.
ÜÇ GERÇEK ŞİRKETİN SİSTEMİNE ERİŞTİ
Google'ın açıklamasına göre Gemini, internet üzerinde bulduğu bilgiler ve erişim bilgilerini kullanarak test kapsamında olduğunu düşündüğü üç farklı sisteme giriş yaptı. Vakaların birinde modelin şifre tahmin ederek korumalı bir sisteme eriştiği, diğer iki olayda ise herkese açık çevrim içi kaynaklarda bulunan kimlik bilgilerini kullandığı bildirildi.
GERÇEK ŞİRKETLER OLDUĞUNU FARK EDİNCE DURDU
Google, Gemini'nin eriştiği sistemlerin test ortamına değil gerçek şirketlere ait olduğunu fark etmesinin ardından üç olayda da faaliyetlerini durdurduğunu açıkladı. Şirket ayrıca söz konusu erişimlerin şirketlere zarar vermediğini ve etkilenen üç kuruluşun olay hakkında bilgilendirildiğini belirtti.
GOOGLE'DAN GÜVENLİ YAPAY ZEKA VURGUSU
Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, güçlü yapay zeka sistemlerinin sorumlu şekilde eğitilmesinin önemine dikkat çekti. Adkins, etkilenen üç kuruluşun bilgilendirildiğini ve test ortağıyla birlikte değerlendirme süreçlerinde değişiklikler yapıldığını söyledi. Google ise yaşananları modelin tamamen “kontrolden çıkması” olarak değerlendirmediğini, güvenlik mekanizmalarının gerçek hedeflerin fark edilmesinin ardından devreye girdiğini savundu.
TESTTE İNTERNET ERİŞİMİ AÇIK KALDI
Testi gerçekleştiren Irregular ise Gemini'nin normal şartlarda kapalı bir ortamda çalışması gerekirken internet erişiminin istemeden açık bırakıldığını bildirdi. Şirket, olayın ardından değerlendirme süreçlerinde gerekli önlemlerin alındığını ve kendi taraflarındaki bilinen sorunların giderildiğini açıkladı.
