Bilim ve Teknoloji

Yapay zeka okulda paniğe yol açtı: Klarneti silah sanıp alarm verdi

Florida'daki bir ortaokulda, yapay zeka destekli güvenlik sistemi bir klarneti silah sanarak alarm verdi, okul kilitlendi ve polis sevk edildi, ancak tehdit olmadığı anlaşıldı.
HABER MERKEZİ
HABER MERKEZİ
2 dk Sesli Dinle 0
Yapay zeka okulda paniğe yol açtı: Klarneti silah sanıp alarm verdi

Amerika'nın Florida eyaletindeki bir ortaokulda, yapay zeka destekli güvenlik sisteminin hatalı algılaması sonucu kısa süreli bir panik yaşandı. Oviedo'daki Lawton Chiles Ortaokulu'nda Salı günü, otomatik silah tespit sistemi bir öğrencinin taşıdığı klarneti ateşli silah olarak tanımladı. Bu yanlış alarm üzerine okul, acil durum protokolü olan 'kırmızı kod' ile tamamen kilitlendi. İdareciler ve polis hemen olay yerine sevk edildi, ancak kısa süre içinde tehdidin olmadığı ve cismin sadece bir müzik aleti olduğu anlaşıldı.

OKUL MÜDÜRÜNDEN AÇIKLAMA GELDİ

Okul müdürü Melissa Laudani, velilere gönderdiği mesajda olayın güvenlik prosedürleri çerçevesinde ele alındığını, gerçek bir risk bulunmadığını belirtti. Laudani, buna rağmen öğrencilerle, okulda silah varmış gibi davranmanın olası sonuçları hakkında konuşulmasını istedi. Bu durum, yapay zeka sistemlerinin okul güvenliğinde kullanımının beraberinde getirdiği zorlukları bir kez daha gözler önüne serdi.

SİSTEM NASIL ÇALIŞIYOR?

Lawton Chiles Ortaokulu'nun bağlı olduğu Seminole County okul bölgesi, ZeroEyes firmasının geliştirdiği bulut tabanlı bir silah tespit ve caydırma sistemi kullanıyor. Kamu kayıtlarına göre bölge, bu hizmet için yıllık yaklaşık 250 bin dolar ödüyor. Sistem, mevcut güvenlik kameralarından gelen canlı görüntüleri analiz ederek ateşli silahları belirlemeyi amaçlıyor. ZeroEyes, 100'den fazla silah türüyle eğitilmiş bilgisayarlı görü algoritmaları kullandığını iddia ediyor. Yapay zeka bir silah algıladığında, görüntüler firmanın izleme merkezindeki insan analistlere gönderiliyor ve doğrulama sonrası okula veya kolluk kuvvetlerine bildirim yapılıyor. Ancak klarnet vakasında, bu 'insan onayı' katmanı da hatayı engelleyemedi.

BENZER OLAYLAR DA YAŞANMIŞTI

Amerikan Sivil Özgürlükler Birliği'nden (ACLU) Chad Marlow, daha önce yaptığı açıklamalarda, sık sık yanlış alarm üreten sistemlerin öğrencileri gereksiz kilitlenmelere ve polis müdahalelerine maruz bırakabileceği uyarısında bulunmuştu. Nitekim geçmişte başka bir okulda da yapay zeka sistemi, bir öğrencinin elindeki cips poşetini silah olarak algılamış ve güvenlik güçlerinin okula akın etmesine neden olmuştu. Oviedo'daki klarnet vakası, okul güvenliği için hızla yaygınlaşan yapay zeka çözümlerinin gerçek dünyadaki aksaklıklarını bir kez daha ortaya koydu.

Bu Yazıyı Paylaş