Yürüyüş sistemi zayıflıklarını PPO ve GAN ile üretilen saldırılarla değerlendirme

Neden yürüyüş desenini kandırmak önemli

Çoğumuz uzaktan bile arkadaşlarımızı ve ailemizi yürüyüş biçimleriyle tanırız. Bilgisayarlar artık benzer bir şey yapabiliyor: "yürüyüş tanıma" sistemleri parmak izi veya yüz taraması olmadan bir kişinin yürüyüş tarzını analiz ederek kimliğini belirleyebiliyor. Bu araçlar güvenlik ve gözetimde giderek daha fazla kullanılıyor. Bu çalışma rahatsız edici bir soruyu gündeme getiriyor: insanlar fark etmeyecek küçük, dikkatle hazırlanmış değişikliklerle bu tür sistemleri kandırmak ne kadar kolay? Cevap gizlilik, güvenlik ve yapay zekâya yüksek riskli ortamlarda ne kadar güvenebileceğimiz konusunda büyük sonuçlar taşıyor.

Bilgisayarlar yürüyüşümüzü nasıl okuyor

Modern yürüyüş tanıma, yüz tanıma ve otonom araçların arkasındaki ile aynı aileye ait olan derin öğrenmeye dayanıyor. Tek bir kareye bakmak yerine, bu sistemler yürüyen bir kişinin birçok karesini tek bir "gait energy image" (yürüyüş enerji görüntüsü) içinde birleştiriyor—tam bir adım döngüsü boyunca vücut parçalarının nasıl hareket ettiğini yakalayan türdeşleştirilmiş bir siluet türü. Özel olarak tasarlanmış bir sinir ağı daha sonra bir kişinin yürüyüşünü bir başkasından ayırmayı öğreniyor; kıyafet veya taşınan eşyalar değişse bile. Yazarların iki büyük yürüyüş video veri kümesi (CASIA-B ve OU-ISIR) üzerinde yaptıkları testlerde, temel modelleri vakaların %97’sinden fazlasında kişileri doğru tanımladı—bu güçlü performans teknolojinin gerçek dünyaya konuşlandırılmaya hazır olduğunu düşünebilir.

Akıllı kameraları kandıran görünmez çıkartmalar

Makalenin özü daha iyi bir kimlik sistemi inşa etmek değil, bilerek onu kırmak ve zayıflıkları açığa çıkarmak. Araştırmacılar küçük "adversarial patch"ler—zararsız görünen, ancak sinir ağını karıştırmak için matematiksel olarak ayarlanmış kare bölgeler—üretirler. Bu yamaları oluşturmak için, gerçekçi görünümlü görüntüler üretmeyi bir iç eleştirmenle rekabet ederek öğrenen bir yapay zekâ türü olan Generative Adversarial Network (GAN) kullanılır. GAN doğrudan yürüyüş enerji görüntüleri üzerine eğitilir, böylece çıktısı o hayaletimsi siluetlere doğal bir şekilde karışır. Bu yamalar, yürüyüş desenine hızlı bakan bir insanın muhtemelen garip bir şey fark etmeyeceği kadar ince olacak şekilde tasarlanmıştır.

Zayıf noktaları bulmak için bir öğrenen ajan

Yamanın nerede yerleştirildiği, nasıl göründüğü kadar önemli olabilir. En zarar verici konumları keşfetmek için yazarlar Proximal Policy Optimization (PPO) adlı bir pekiştirmeli öğrenme yöntemine başvurur. Her yürüyüş görüntüsünü ızgara şeklinde bir ortam gibi ele alır ve bir yazılım "ajanının" yamayı yukarı, aşağı, sola veya sağa taşımasına izin verir—aynı zamanda tanıma sisteminin güveninin ne kadar düştüğünü izler. Bir konum modelin kişiyi yanlış tanımlamasına neden olduğunda ajan ödüllendirilir; başarısız olduğunda cezalandırılır. Çok sayıda bölüm boyunca ajan, yürüyüş görüntüsünün özellikle savunmasız bölgelerine yama yerleştirmek için bir politika öğrenir; genellikle modelin en çok güvendiği hareketli vücut parçalarının yakınlarında yoğunlaşır.

Saldırı serbest bırakıldığında neler olur

Yama üreticisi ve yerleştirme stratejisi eğitildikten sonra ekip kendi yüksek performanslı yürüyüş tanıyıcısına saldırır. Normal koşullar altında sistem mükemmel doğruluk, düşük yanlış alarm ve doğru ile yanlış eşleşmeler arasında güçlü ayrımserlik gösterir. Ancak adversarial yamalar eklendiğinde performans keskin şekilde düşer. Yamanın görüntüde ne kadar serbestçe hareket etmesine izin verildiğine bağlı olarak, saldırı başarı oranları %60’ın üzerine çıkabilir ve doğru tanımlanan kişilerin oranı orijinal seviyesinin neredeyse üçte birine kadar düşebilir. Bir zamanlar gerçek kullanıcılar ile sahtekarlar arasındaki neredeyse mükemmel ayırım eğrileri, rastgele tahmin çizgisine doğru sarkar; bu da görünür bozulma olmadan modelin ne kadar kolay şaşırtılabileceğini ortaya koyar.

Günlük güvenlik için anlamı

Uzman olmayanlar için sonuç nettir: laboratuvarda son derece doğru görünen bir yürüyüş tanıma sistemi, akıllı ve makine tarafından tasarlanmış müdahaleler karşısında şaşırtıcı derecede kırılgan olabilir. Çalışma, üretken görüntü araçları ile dene–yanılma öğrenmesinin küçük, neredeyse görünmez değişiklikler üreterek ciddi kimlik hatalarına yol açabileceğini gösterir. Bu çalışma gerçek dünya kötüye kullanımı için bir plan olmaktan ziyade bir uyarı ve test çerçevesi olarak düşünülmelidir. Sistem tasarımcılarına modellerinin ne kadar savunmasız olduğunu sorgulayıp ölçme yolu sunar ve yürüyüş tanıma gözetim, erişim kontrolü veya diğer kritik uygulamalar için yaygın şekilde güvenilmeden önce bu tür saldırılara karşı savunmalar geliştirme gerekliliğini vurgular.

Atıf: Saoudi, E.M., Jaafari, J. & Jai Andaloussi, S. Evaluating gait system vulnerabilities through PPO and GAN-generated adversarial attacks. Sci Rep 16, 6039 (2026). https://doi.org/10.1038/s41598-026-37011-1

Anahtar kelimeler: yürüyüş tanıma, biyometrik güvenlik, rekabetçi saldırılar, derin öğrenme, pekiştirmeli öğrenme