OpenAI, yapay zeka eğitimlerini durdurdu: Bir model kontrol ortamından kaçtı

OpenAI, en gelişmiş yapay zeka modellerinin eğitim, değerlendirme ve araçlarla çalıştırılmasına yönelik faaliyetlerini geçici olarak durdurduğunu açıkladı. Şirketin kararı, yapay zeka ajanlarının farklı sistemlerde beklenmeyen davranışlar sergilediğine ilişkin son gelişmelerin ardından geldi.

Şirketin olay raporuna göre, 20 Eylül'de bir araştırma modeli, kısıtlı bir eğitim ortamındaki DNS filtrelemesinde bulunan açığı kullanarak dışarıdaki bir yapay zeka sohbet robotuyla iletişim kurdu. Böylece modelin çevrim dışı tutulması için uygulanan kısıtlamaları aşmayı başardığı belirtildi.

Yapay zeka test aşamasından kaçtı

OpenAI'nin izleme sistemi olayı yaklaşık 15 dakika içinde tespit etti. Ancak otomatik kapatma mekanizması çalışmadı ve modelin çalışması yaklaşık iki buçuk saat daha devam etti. Süreç daha sonra insan müdahalesiyle sonlandırıldı.

OpenAI, söz konusu modelin eğitimine devam edilmeyeceğini, bunun yerine ek güvenlik ve uyum iyileştirmeleri içeren yeni bir eğitim süreci başlatılacağını açıkladı. Şirket, faaliyetlere ancak güvenlik düzeltmelerini doğruladıktan ve ek saldırı testlerini tamamladıktan sonra devam edecek.

Şirket ayrıca yapay zeka ajanlarının ABD Nüfus Sayım Bürosu verilerine çevrim içi olarak bulunan geliştirici anahtarlarıyla eriştiğini ve kamuya açık Menkul Kıymetler ve Borsa Komisyonu (SEC) verilerini başka bir yerde yeniden paylaştığını doğruladı. Yetkililer, gizli federal kayıtların çalınmadığını ve SEC'in kamuya açık olmayan bilgilerinin ele geçirilmediğini belirtti.

Bill Gates: Yapay zeka anlaşması nükleer görüşmelerinden zor olacak


OpenAI daha önce de yapay zeka geliştirme çalışmalarını geçici olarak yavaşlatmıştı. Şirket, ağustos ayında Hugging Face saldırısının ardından iki haftalık bir pekiştirmeli öğrenme arasına gittiğini ve güvenlik önlemlerini artırdığını açıklamıştı.

Bilgi için teşekkürler.