Gerçek zamanlı suni zeka güvenliği için çekişmeli öğrenmeyi yürütme kabiliyeti, statik müdafa mekanizmalarına gore belirleyici bir avantaj sunar.
Takviyeli öğrenme (RL) ve Büyük Dil Modeli (LLM) kabiliyetlerini kullanan suni zeka odaklı saldırıların ortaya çıkışı, insan ekiplerinin cevap verebileceğinden daha süratli değişen bir “titreşim korsanlığı” sınıfı ve uyarlanabilir tehditler yarattı. Bu, kurumsal liderler için politikanın tek başına hafifletemeyeceği bir yönetim ve operasyonel riski temsil ediyor.
Saldırganlar artık yerleşik savunmaları atlatmak için fazlaca adımlı akıl yürütme ve otomatik kod oluşturma yöntemini kullanıyor. Netice olarak sanayi, “otonom savunmaya” (şu demek oluyor ki insan müdahalesi olmadan öğrenebilen, öngörebilen ve zekice tepki verebilen sistemlere) doğru lüzumlu bir geçiş gözlemliyor.
Sadece bu gelişmiş müdafa modellerine geçiş, tarihsel olarak sıkıntılı bir operasyonel tavana çarptı: gecikme.
Tehdit ve müdafa modellerinin devamlı olarak birbirlerine karşı eğitildiği çekişmeli öğrenmenin uygulanması, fena niyetli suni zeka güvenlik tehditlerine karşı koymak için bir yöntem sunar. Sadece lüzumlu transformatör tabanlı mimarilerin canlı bir üretim ortamına yerleştirilmesi bir darboğaz yaratıyor.
Microsoft NEXT.ai’nin Baş Uygulamalı Araştırma Müdürü Abe Starosta şunları söylemiş oldu: “Çekişmeli öğrenme yalnızca üretimde gecikme, verim ve doğruluk beraber hareket ettiğinde işe yarar.
Bu yoğun modellerin çalıştırılmasıyla ilgili hesaplama maliyetleri, daha ilkin liderleri yüksek doğruluklu idrak etme (yavaş) ve yüksek verimli buluşsal yöntemler (daha azca doğru) içinde seçim hayata geçirmeye zorluyordu.
Içinde mühendislik ortaklaşa iş Microsoft Ve NVIDIA donanım hızlandırmanın ve çekirdek düzeyindeki optimizasyonun bu engeli iyi mi ortadan kaldırdığını, gerçek zamanlı düşman savunmasını kurumsal ölçekte iyi mi uygulanabilir hale getirdiğini gösteriyor.
Transformatör modellerinin canlı trafik için çalıştırılması, mühendislik ekiplerinin CPU tabanlı çıkarımın doğasında olan sınırlamaları hedeflemesini gerektirdi. Standart işlem birimleri, karmaşık sinir ağlarının yükü altında üretim iş yüklerinin hacmini ve hızını yönetim etmekte zorlanır.
Araştırma ekipleri tarafınca meydana gelen temel testlerde CPU tabanlı kurulum, yalnızca 0,81 req/s işlem hacmiyle 1239,67 ms’lik uçtan uca gecikme süresi sağlamış oldu. Bir finans kurumu yada küresel e-ticaret platformu için her talepte bir saniyelik gecikme operasyonel olarak savunulamaz.
GPU ile hızlandırılmış bir mimariye geçiş yapılarak (bilhassa NVIDIA H100 birimleri kullanılarak), temel gecikme süresi 17,8 ms’ye düştü. Sadece donanım yükseltmelerinin tek başına gerçek zamanlı suni zeka güvenliğinin katı gereksinimlerini karşılamada yetersiz olduğu ortaya çıktı.
Çıkarım motorunun ve tokenizasyon süreçlerinin daha da iyileştirilmesi yardımıyla takımlar, CPU temel çizgisine kıyasla 160 kat performans artışı olan 7,67 ms’lik nihai uçtan uca gecikme süresine ulaştı. Bu şekilde bir azalma, sistemi satır içi trafik analizi için kabul edilebilir eşik değerlerine getirerek, idrak etme modellerinin çekişmeli öğrenme kıyaslamalarında yüzde 95’in üstünde doğrulukla konuşlandırılmasına olanak tanır.
Bu proje esnasında belirlenen operasyonel engellerden biri, suni zeka entegrasyonunu denetleyen CTO’lara kıymetli bilgiler sunuyor. Sınıflandırıcı modelinin kendisi hesaplama açısından ağır olsa da, veri ön işleme hattı (bilhassa tokenizasyon) ikincil bir darboğaz olarak ortaya çıktı.
Çoğu zaman boşluk bölümlendirmesine dayanan standart simgeleştirme teknikleri, naturel dil işleme (mesela makaleler ve belgeler) için tasarlanmıştır. Yoğun şekilde paketlenmiş talep dizelerinden ve naturel kesintileri olmayan makine tarafınca oluşturulan yüklerden oluşan siber güvenlik verileri için yetersiz oldukları ortaya çıkıyor.
Bu problemi çözmek için mühendislik ekipleri alana hususi bir tokenizer geliştirdi. Makine verilerinin yapısal nüanslarına gore uyarlanmış, güvenliğe hususi segmentasyon noktalarını entegre ederek daha detaylı paralellik sağladılar. Güvenlik için bu hususi yaklaşım, tokenizasyon gecikmesinde 3,5 kat azalma sağlamış oldu; bu da kullanıma hazır suni zeka bileşenlerinin, niş ortamlarda etkili bir halde çalışabilmesi için çoğu zaman alana özgü tekrardan mühendislik gerektirdiğini altını çizdi.
Bu sonuçlara ulaşmak, izole yükseltmeler yerine tutarlı bir çıkarım yığını gerektiriyordu. Mimari, Microsoft’un tehdit sınıflandırıcısının TensorRT uygulamasıyla beraber hizmet için NVIDIA Dynamo ve Triton Inference Server’ı kullandı.
Optimizasyon süreci, normalleştirme, yerleştirme ve etkinleştirme işlevleri benzer biçimde temel işlemleri tek hususi CUDA çekirdeklerinde birleştirmeyi içeriyordu. Bu füzyon, yüksek frekanslı tecim yada güvenlik uygulamalarında performansın çoğunlukla sessiz katili olan hafıza trafiğini ve başlatma yükünü en aza indirir. TensorRT, normalleştirme işlemlerini önceki çekirdeklerle otomatikman birleştirirken, geliştiriciler kayan pencere dikkati için hususi çekirdekler oluşturdu.
Bu spesifik çıkarım optimizasyonlarının sonucu, ileri geçiş gecikmesinde 9,45 ms’den 3,39 ms’ye bir azalma oldu; bu, son ölçümlerde görülen gecikme azalmasının büyük bir kısmına katkıda bulunan 2,8 katlık bir hızlanmadır.
NVIDIA Siber Güvenlik Müdürü Rachel Allen şöyleki açıklıyor: “Kurumların güvenliğini sağlamak, siber güvenlik verilerinin hacmini ve hızını eşleştirmek ve rakiplerin inovasyon hızına uyum sağlamak anlamına geliyor.
“Müdafa amaçlı modellerin hat hızında emek harcaması için ultra düşük gecikme süresine ve en yeni tehditlere karşı koruma sağlamak için uyarlanabilirliğe ihtiyacı var. Rekabetçi öğrenmenin NVIDIA TensorRT ile hızlandırılmış transformatör tabanlı idrak etme modelleriyle birleşimi tam da bunu yapıyor.”
Buradaki başarı, kurumsal altyapıya yönelik daha geniş bir gereksinime işaret ediyor. Tehdit oyuncuları, saldırıları gerçek zamanlı olarak değiştirebilmek için suni zekadan yararlanırken, güvenlik mekanizmalarının karmaşık çıkarım modellerini gecikmeye yol açmadan çalıştırabilecek informasyon işlem boşluğuna haiz olması gerekir.
Gelişmiş tehdit tespiti için CPU bilişimine güvenmek bir mesuliyet haline geliyor. Grafik işlemenin GPU’lara taşınması benzer biçimde, gerçek zamanlı güvenlik çıkarımı da sağlam kapsama alanı sağlarken >130 talep/sn’lik verimi korumak için hususi donanım gerektirir.
Ek olarak, genel suni zeka modelleri ve belirteçler çoğu zaman hususi verilerde başarısız oluyor. Çağıl tehditlerin “titreşim korsanlığı” ve karmaşık yükleri, bilhassa fena amaçlı kalıplar ve makine verilerinin gerçekliğini yansıtan girdi segmentasyonları üstüne eğitilmiş modeller gerektirir.
Geleceğe baktığımızda, geleceğin güvenliğine yönelik yol haritası, potansiyel olarak hızı daha da çoğaltmak için kuantizasyon benzer biçimde teknikleri kullanan, rakiplere karşı sağlamlık için hususi olarak eğitim modelleri ve mimarileri içeriyor.
Kuruluşlar, tehdit ve müdafa modellerini devamlı olarak beraber eğiterek, gelişen güvenlik tehditlerinin karmaşıklığına gore ölçeklenen gerçek zamanlı suni zeka koruması için bir temel oluşturabilir. Rekabetçi öğrenme atılımı, bunu başaracak değişen teknolojinin (gecikme, aktarım hızı ve doğruluğu dengeleme) artık bugün kullanıma sunulabileceğini gösteriyor.
Ek olarak bakınız: ZAYA1: Eğitim için AMD GPU’ları kullanan suni zeka modeli dönüm noktasına ulaştı
Sektör liderlerinden suni zeka ve büyük veriler hakkında daha çok informasyon edinmek ister misiniz? Çıkış yapmak Yapay Zeka ve Büyük Veri Fuarı Amsterdam, Kaliforniya ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, TechEx ve aşağıdakiler de dahil olmak suretiyle öteki önde gelen teknoloji etkinlikleriyle aynı yerde bulunmaktadır: Siber Güvenlik Fuarı. Tıklamak Burada daha çok informasyon için.
AI News tarafınca desteklenmektedir TechForge Medyası. Yaklaşan öteki kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.
