ABD’nin Tennessee eyaletinde 2025 yılında meydana gelen okul saldırısından yaralı kurtulan bir öğrenci, saldırıda kullanılan tabancayı algılayamayan yapay zekâ destekli silah tespit sisteminin üreticisi Omnilert’e dava açtı.
Okul Saldırısından Sağ Kurtulan Öğrenci Mahkemeye Başvurdu
Geçtiğimiz ay açılan davada, Omnilert’in geliştirdiği yapay zekâ destekli silah tespit sisteminin önemli operasyonel sınırlamalara sahip olduğu ve bu durumun gerçek acil durumlarda tespit başarısızlıklarına yol açabileceği öne sürüldü. Davaya göre kamera açısı, silahın kameraya uzaklığı, ışık koşulları ve görüş alanı gibi faktörler sistemin performansını ciddi şekilde etkileyebiliyor.
Yapay Zekâ Sistemi Silahı Tespit Edemedi
Nashville’deki okul saldırısının ardından yapılan açıklamada yetkililer, saldırganın kameraların konumu nedeniyle yeterince net görüntülenemediğini ve bu yüzden sistemin alarm üretmediğini belirtmişti. Olayda iki kişi hayatını kaybetmiş, çok sayıda kişi de yaralanmıştı.
Davada ayrıca şirketin pazarlama materyallerinde sistemin yeteneklerini olduğundan daha etkili gösterdiği ve olası hata oranları veya sınırlamalar konusunda yeterli bilgilendirme yapmadığı iddia edildi.
Teknolojinin Güvenilirliği Tartışma Yarattı
Dava, yapay zekâ destekli güvenlik sistemlerinin kritik güvenlik senaryolarındaki güvenilirliğini yeniden tartışmaya açtı. Eleştirmenler, milyonlarca dolarlık yatırımların teknoloji yerine öğrenci destek programları, psikolojik danışmanlık hizmetleri ve diğer önleyici güvenlik tedbirlerine yönlendirilmesinin daha etkili olabileceğini savunuyor.
Uzmanlara göre bu dava, yapay zekâ tabanlı silah tespit sistemlerine karşı açılan ilk büyük hukuki süreçlerden biri olarak dikkat çekiyor ve benzer teknolojilerin gelecekteki kullanımını etkileyebilecek önemli bir emsal oluşturabilir.
