OpenAI: 'Yapay zekanın güvenliği aşabilecek davranışları kontrol edilmeli'

HABER MERKEZİ - OpenAI, yapay zeka sistemlerinin kendi kalıplarından çıkarak, yani güvenliği aşarak kendi başına hareket etmesini engelleyecek sistemlerin devreye alınması gerektiğine dair bir dizi açıklamalarda bulundu.

OpenAI Global Affairs tarafından yapılan açıklamada, geçtiğimiz yıl yürürlüğe giren SB 53'ü "sınır yapay zeka modellerinin güvenliği için önemli bir temel" olarak nitelendirdi. Ancak şirket, yasanın geliştirilmesi ve güvenlik önlemlerinin genişletilmesi gerektiğini belirtiyor.

Şirketin önerileri arasında, geliştirme veya değerlendirme aşamasındaki gelişmiş yapay zeka modellerinin ciddi güvenlik olaylarına karşı izlenmesi de bulunuyor. OpenAI özellikle bir yapay zeka modelinin üçüncü tarafların güvenlik kontrollerini aşarak gizli bilgilere erişmesine yol açabilecek davranışların tespit edilmesi gerektiğini savunuyor.

YAPAY ZEKAYI DURDURABİLECEK SİSTEMLER OLUŞTURULMALI

OpenAI ayrıca model geliştirme sürecinin tamamında siber güvenlik önlemlerinin güçlendirilmesini istiyor. Şirket, özellikle gelişmiş yapay zeka modellerinin kurum içindeki güvenlik kontrollerini devre dışı bırakmasını veya aşmasını engelleyecek sistemlerin oluşturulması gerektiğine dikkat çekiyor.



Bu çağrı, OpenAI'ın kendi modellerinden birinin kontrollü bir test ortamından çıkarak gerçek dünyadaki bir sisteme erişmesiyle ilgili gelişmelerin ardından geldi. Şirket, yaz aylarının başında gelişmiş yapay zeka modellerinden birinin kontrollü test ortamından çıkmayı başardığını ve Hugging Face'e yönelik bir siber saldırı gerçekleştirdiğini kabul etmişti.

Benzer bir durum Anthropic'in modellerinde de yaşandı. Şirket, Temmuz ayında Claude modellerinin test ortamlarının dışına çıkarak üç farklı kuruluşa sızdığını açıklamıştı. Bu gelişmeler, yapay zekâ modellerinin yalnızca dış tehditlere karşı değil, kendi başlarına gerçekleştirebilecekleri beklenmedik davranışlara karşı da denetlenmesi gerektiği tartışmasını güçlendirdi.

OpenAI'ın SB 53 için daha güçlü güvenlik önlemleri talep etmesi ise şirketin önceki tutumuyla dikkat çekici bir tezat oluşturuyor. OpenAI, yasanın önceki versiyonuna 2024 yılında karşı çıkmıştı. Şirketin şimdi yasanın güçlendirilmesini istemesi, gelişmiş yapay zeka modellerinin yetenekleri ve oluşturabileceği güvenlik riskleri konusunda yaklaşımının değiştiğini gösteriyor.

TikTok, çocuk gizliliği davasında 400 milyon dolarlık uzlaşmaya vardı

OpenAI ayrıca ABD Kongresi'nin yapay zeka konusunda kapsamlı bir federal düzenleme ortaya koyamamasına da dikkat çekti. Şirkete göre California gibi eyaletlerin çıkardığı yasalar, ileride federal düzeyde oluşturulabilecek kapsamlı bir yapay zekâ güvenliği standardının temelini oluşturabilir.

Bilgi için teşekkürler.