Google'ın yapay zeka modeli Gemini, güvenlik testinde 3 şirkete izinsiz erişti

Google'ın yapay zeka modeli Gemini'ın siber güvenlik testi sırasında 3 şirkete izinsiz eriştiği belirtildi. ABD basınında yer alan haberlere göre, Gemini'ın mayıs ayında güvenlik testleri yapıldı. Test sırasında Gemini, 3 şirkete izinsiz erişim sağladı. Konuya ilişkin bir BBC'nin hazırladığı haberde ise, Google'dan bir yetkili, modelin çevrim içi ortamda "kamuya açık bilgileri" bulduğunu ve "testin bir parçası olduğunu düşünerek internet sitelerine erişmek için kimlik bilgilerini tahmin ettiğini" ancak üç olayda da işlemi sonlandırdığını açıkladı.

Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins konuya ilişkin açıklamasında, 3 şirketin durumdan haberdar edildiğini, eğitim ortaklarıyla test süreçlerinde yaptıkları değişiklikler üzerine çalıştıklarını belirtti. Adkins, "Bu olaylar, güçlü yapay zeka modellerinin sorumlu şekilde hareket etmeleri için eğitilmesinin önemini gösteriyor" ifadesini kullandı.

DİĞER YAPAY ZEKA SİSTEMLERİ DE BENZER İHLALLER BİLDİRMİŞTİ

OpenAI, 21 Temmuz'da, siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin Hugging Face'in altyapısında güvenlik ihlaline neden olduğunu duyurmuştu. Bundan birkaç gün sonra da Anthropic, Claude modelinin test ortamındayken "3 farklı kuruluşun üretim altyapısına izinsiz erişim sağladığını" açıklamıştı.

YAPAY ZEKANIN GELİŞME HIZININ YAVAŞLATILMASI TARTIŞMALARI

ABD'de yapay zekanın hızla yaygınlaşmasıyla, bu teknolojinin tehlikeli boyuta ulaşmasından önce gelişiminin yavaşlatılmasına yönelik çağrılar son günlerde yoğunlaştı. Anthropic'in Üst Yöneticisi (CEO) Dario Amodei, OpenAI CEO'su Sam Altman ile Tesla ve SpaceX'in CEO'su Elon Musk'ın da aralarında bulunduğu teknoloji sektörünün önde gelen isimleri, yapay zeka geliştirme çalışmalarının yavaşlatılması yönünde çağrı yapmıştı.

Öte yandan, Donald Trump yönetimi, yapay zekanın geliştirilmesini yavaşlatacak yeni düzenlemeler yerine inovasyonu teşvik eden bir yaklaşım benimsiyor. Trump, yapay zeka teknolojisinin kontrolden çıkması yönünde "hastalıklı bir komplo yürütüldüğünü" ileri sürmüş, ayrıca bu alandaki çalışmaların yavaşlatılmasının Çin'e avantaj sağlayacağını savunmuştu.

'Türkiye'de çocukların yüzde 90'ı yapay zeka kullanıyor'

Bilgi için teşekkürler.