Amerika’da yapay zeka alarmı: Klarneti silah sanan AI okulu kilitledi

Amerika’nın Florida eyaletinde bulunan bir ortaokulda, yapay zeka destekli silah algılama sisteminin hatası nedeniyle kısa süreli panik yaşandı. Oviedo’daki Lawton Chiles Ortaokulu’nda Salı günü devreye giren otomatik güvenlik sistemi, bir öğrencinin elindeki klarneti ateşli silah olarak algıladı. Uyarının ardından okul “kırmızı kod” olarak bilinen tam kilitlenme protokolüne geçti. İdareciler ve polis olay yerine yönlendirildi. Kısa sürede ortada bir tehdit olmadığı, cismin bir müzik enstrümanı olduğu anlaşıldı.

Okul müdürü Melissa Laudani, velilere gönderdiği bilgilendirme mesajında olayın güvenlik prosedürleri gereği ele alındığını ancak gerçek bir risk bulunmadığını belirtti. Laudani, yine de öğrencilerle okul ortamında silah varmış gibi davranmanın yaratabileceği sonuçlar konusunda konuşulmasını istedi.

Yapay zeka destekli güvenlik önlemlerinde artış yaşanıyor

Lawton Chiles Ortaokulu’nun bağlı olduğu Seminole County okul bölgesi, Pennsylvania merkezli ZeroEyes firmasının geliştirdiği bulut tabanlı bir “silah tespit ve caydırma” sistemi kullanıyor. Kamu kayıtlarına göre bölge, bu hizmet için yıllık yaklaşık 250 bin dolar ödüyor. Sistem, mevcut güvenlik kameralarından gelen canlı görüntüleri analiz ederek ateşli silahları tespit etmeyi amaçlıyor. Ancak yetkililer, bugüne kadar sistemin gerçek bir tehdidi önleyip önlemediğine dair net veri paylaşmaktan kaçınıyor.

ZeroEyes, 100’den fazla farklı silah türüyle eğitilmiş bilgisayarlı görü algoritmaları kullandığını söylüyor. Yapay zekâ bir silah algıladığında, görüntüler firmanın izleme merkezindeki insan analistlere gönderiliyor ve doğrulama sonrası okula ya da kolluk kuvvetlerine bildirim yapılıyor. Klarinet vakasında ise bu “insan onayı” katmanının da hatayı engelleyemediği görülüyor.

Yapay zeka cips poşetini silah sanınca liseli öğrenci tutuklandı

Amerikan Sivil Özgürlükler Birliği’nden (ACLU) Chad Marlow da daha önce yaptığı açıklamalarda, sık sık yanlış alarm üreten sistemlerin öğrencileri gereksiz kilitlenmelere ve polis müdahalelerine maruz bırakabileceği uyarısında bulunmuştu.

Nitekim daha önce yaşanan bir olayda da yine başka bir okuldaki yapay zeka sistemi, öğrencinin elindeki cips poşetini silah olarak algılamış ve güvenlik güçlerinin okula akın etmesini sağlamıştı. Oviedo’daki klarinet vakasıda, okul güvenliği için hızla yaygınlaşan yapay zeka çözümlerinin gerçek dünyadaki aksaklıklarını bir kez daha gözler önüne sermiş oldu.

Bilgi için teşekkürler.