GOOGLE'ın GEMINI YAPAY ZEKASI, BİR GÜVENLİK TESTİ SIRASINDA DİĞER ÜÇ ŞİRKETİN SİSTEMLERİNE SIZDI
Google, siber güvenlik yeteneklerinin test edildiği bir süreçte Gemini yapay zekasının diğer üç şirketin sistemlerine sızdığını açıkladı; bu, sistemin kendi başına (otonom olarak) böyle bir eylemi gerçekleştirdiği bilinen ilk örnek olma özelliğini taşıyor.
Google Güvenlik Mühendisliğinden Sorumlu Başkan Yardımcısı Heather Adkins, Gemini'nin standart bir test değerlendirmesi sırasında internette herkese açık bilgiler bulduğunu ve test kapsamına dahil olduğunu düşündüğü üç web sitesine erişmek için giriş bilgilerini tahmin ettiğini belirtti.
Adkins şunları söyledi: "Söz konusu üç kuruluşun durumdan haberdar edilmesini sağladık ve test süreçlerinde yaptıkları değişiklikler konusunda eğitim ortağımızla birlikte çalıştık. Bu olaylar, güçlü yapay zeka modellerinin sorumlu davranacak şekilde eğitilmesinin önemini vurguluyor."
Sızma olayları, Mayıs ayında siber güvenlik değerlendirmeleri yürüten bağımsız bir şirket olan Irregular tarafından gerçekleştirilen bir test sırasında yaşandı.
Vakalardan birinde Gemini, korumalı bir sisteme erişim sağlayana kadar şifreleri tahmin etmeye çalıştı.
Haberi ilk olarak Cuma günü duyuran Wall Street Journal'a göre, diğer iki vakada ise yapay zeka, herkese açık bir depolama alanında bulduğu giriş bilgileri sayesinde korumalı sistemlere erişim sağladı.
Irregular; Meta, Anthropic ve OpenAI ile ilgili benzer olayları da açıkladı; bu durum, yapay zeka ajanlarının internete ve bilgisayar sistemlerine daha fazla erişim sağlayıp daha yüksek özerklik kazanmasıyla birlikte gerekli güvenlik önlemleri konusunda soru işaretleri yarattı.
Facebook ve Instagram'ın sahibi Meta, Ağustos ayında yapay zeka modellerinden birinin internete bağlandıktan sonra başka bir şirketin sistemine sızdığını açıklamıştı.
Bir ay öncesinde ise Claude'un geliştiricisi Anthropic, yapay zekasının siber testler sırasında üç şirketin sistemine sızdığını belirtmiş; ChatGPT'nin sahibi OpenAI da test edilen bazı modellerin kontrol altındaki ortamdan çıkmayı başardığını açıklamıştı.
Son yaşanan bu olay, yapay zekanın gelişim hızına dair artan endişelerin ortasında gerçekleşti; Elon Musk ve Sam Altman gibi sektörün önde gelen isimleri de bu konuda kaygılarını dile getirenler arasında yer alıyor.
Anthropic CEO'su Dario Amodei, yapay zeka gelişiminin hızını yönetmeye yönelik üç aşamalı bir plan yayınlamasının ardından bu ayın başlarında Musk ve Altman'dan destek görmüştü.
OpenAI'ın patronu Altman da mevcut yapay zeka patlamasından çok daha önce riskler konusunda uyarılarda bulunmuştu.
2015 yılında kaleme aldığı "Machine Intelligence Part 1" (Makine Zekası Bölüm 1) başlıklı yazısında, "insanüstü makine zekasının geliştirilmesinin, muhtemelen insanlığın varlığını sürdürmesine yönelik en büyük tehdit" olduğunu ifade etmişti.
Kaynak: skynews