Güvenlik liderleri yeni bir otonom tehdit sınıfıyla karşı karşıyadır. Antropik AI tarafınca düzenlenen ilk siber casusluk kampanyasını ayrıntılarıyla konu alıyor.
Bu hafta gösterilen bir raporda, firmanın Tehdit İstihbaratı ekibi, GTG-1002 olarak adlandırılan ve Eylül 2025’in ortalarında tespit edilen, Çin devleti destekli bir grup tarafınca yürütülen karmaşık bir operasyonun kesintiye uğradığını (yüksek güvenle meydana getirilen bir değerlendirme) özetledi.
Operasyon, aralarında büyük teknoloji şirketleri, finans kurumları, kimyasal üretim şirketleri ve devlet kurumlarının da bulunmuş olduğu ortalama 30 kuruluşu hedef aldı.
Saldırganlar, suni zekanın insan operatörlere yardım etmesi yerine Anthropic’in Claude Code modelini, taktiksel operasyonların büyük çoğunluğunu bağımsız olarak yürütecek özerk bir gizmen olarak işlev görecek şekilde başarıyla manipüle etti.
Bu, CISO’lar için kaygı verici bir gelişmeye işaret ediyor; siber saldırılar, insan odaklı çabalardan, suni zeka ajanlarının hücum işlerinin yüzde 80-90’ını gerçekleştirdiği ve insanların yalnızca üst düzey denetçiler olarak hareket etmiş olduğu bir modele taşınıyor. Anthropic, bunun mühim bir insan müdahalesi olmadan meydana gelen büyük ölçekli bir siber saldırının belgelenen ilk vakası olduğuna inanıyor.
İçindekiler
Suni zeka ajanları: Siber saldırılar için yeni bir operasyonel model
Grup, Claude Kodu örneklerini otonom penetrasyon testi aracıları olarak görevlendiren bir düzenleme sistemi kullandı. Bu AI ajanları, casusluk kampanyasının bir parçası olarak bulgu yapmak, güvenlik açıklarını keşfetmek, açıklardan yararlanmak, kimlik bilgilerini toplamak, ağlar içinde yanal hareket etmek ve verileri sızdırmak suretiyle yönlendirildi. Bu, suni zekanın, insan bilgisayar korsanlarından oluşan bir ekibin harcayacağı sürenin oldukca altında bir sürede bulgu gerçekleştirmesini sağlamış oldu.
İnsan iştirakı, toplam çabanın yüzde 10-20’si ile sınırlıydı; ilk olarak kampanya başlatmaya ve birkaç kilit kademede yetkilendirme sağlamaya odaklanıyordu. Mesela, insan operatörler keşiften etken kullanıma geçişi onaylayacak yada veri sızdırmanın nihai kapsamına müsaade edecektir.
Saldırganlar, suni zeka modelinin zararı dokunan davranışları önlemek suretiyle eğitilmiş yerleşik korumalarını atladı. Bunu, modeli jailbreak yaparak, saldırıları görünüşte masum görevlere bölerek ve bir “rol yapma” kişiliğini benimseyerek onu kandırarak yaptılar. Operatörler Claude’a onun meşru bir siber güvenlik firmasının çalışanı bulunduğunu ve müdafa testlerinde kullanıldığını söylemiş oldu. Bu, operasyonun bir avuç doğrulanmış hedefe erişim sağlayacak kadar uzun süre ilerlemesine olanak sağlamış oldu.
Saldırının teknik karmaşıklığı yeni fena amaçlı yazılımlarda değil, orkestrasyonda yatıyor. Raporda, çerçevenin “büyük seviyede açık kaynaklı penetrasyon testi araçlarına” dayandığı belirtiliyor. Saldırganlar, Suni Zeka ile bu emtia araçları içinde bir arayüz olarak Model Bağlam Protokolü (MCP) sunucularını kullanarak suni zekanın birden fazla hedef ve oturumda komutları yürütmesine, neticeleri çözümleme etmesine ve operasyonel durumu korumasına olanak sağlamış oldu. Suni zeka, casusluk kampanyası için kendi yararlanma kodunu araştırmaya ve yazmaya bile yönlendirildi.
Suni zeka halüsinasyonları iyi bir şeye dönüşüyor
Harekât yüksek kıymetli hedefleri başarı göstermiş bir halde ihlal ederken, Anthropic’in araştırması kayda kıymet bir sınırlamayı ortaya çıkardı: Suni zeka, hücum operasyonları esnasında halüsinasyon görüyordu.
Raporda Claude’un “bulguları çoğunlukla abarttığı ve bazen verileri uydurmuş olduğu” belirtiliyor. Bu, suni zekanın işe yaramayan kimlik detayları elde ettiğini iddia etmesi yada “kamuya açık bilgiler olduğu kanıtlanan” keşifleri tanımlamasıyla ortaya çıktı.
Bu eğilim, insan operatörlerin tüm neticeleri dikkatli bir halde doğrulamasını gerektirdi ve saldırganların operasyonel verimliliği açısından zorluklar ortaya çıkardı. Anthropic’e nazaran bu durum “tamamen otonom siber saldırıların önünde bir engel olmaya devam ediyor”. Güvenlik liderleri için bu, suni zeka odaklı saldırılardaki potansiyel bir zayıflığın altını çiziyor: Bu saldırılar, kuvvetli bir izlemeyle tespit edilebilecek yüksek oranda gürültü ve hatalı pozitif sonuçlar üretebilir.
Yeni siber casusluk tehditlerine karşı müdafa amaçlı bir suni zeka silahlanma yarışı
İş dünyası ve teknoloji liderleri için bunun başlıca anlamı, karmaşık siber saldırıların gerçekleştirilmesinin önündeki engellerin mühim seviyede azalmış olmasıdır. Daha azca kaynağa haiz gruplar artık daha ilkin deneyimli bilgisayar korsanlarından oluşan ekiplerin tamamını gerektiren kampanyaları yürütebilir.
Bu hücum, insanların operasyonların kontrolünü sıkı bir halde elinde tuttuğu “titreşim hacklemenin” ötesinde bir kabiliyeti gösteriyor. GTG-1002 kampanyası, canlı operasyonlardaki güvenlik açıklarını özerk bir halde keşfetmek ve bunlardan yararlanmak için suni zekanın kullanılabileceğini kanıtlıyor.
On günlük bir soruşturma sonucunda hesapları yasaklayan ve yetkilileri bilgilendiren Anthropic, bu gelişmenin suni zeka destekli savunmaya acil gerekseme bulunduğunu gösterdiğini korumak için çaba sarfediyor. Şirket, “Claude’un bu saldırılarda kullanılmasına olanak tanıyan yeteneklerin onu siber müdafa için de olmazsa olmaz kıldığını” belirtiyor. Firmanın kendi Tehdit İstihbaratı ekibi, bu soruşturma esnasında “oluşturulan çok önemli oranda veriyi” çözümleme etmek için Claude’u kapsamlı bir halde kullandı.
Güvenlik ekipleri siber güvenlikte büyük bir değişikliğin meydana geldiği varsayımıyla hareket etmelidir. Rapor, savunucuları “SOC otomasyonu, tehdit tespiti, güvenlik açığı değerlendirmesi ve vakalara müdahale benzer biçimde alanlarda müdafa için suni zeka uygulamayı denemeye” çağırıyor.
Suni zeka odaklı saldırılar ile suni zeka destekli müdafa arasındaki rekabet başladı ve yeni casusluk tehditlerine karşı proaktif uyarlama, ilerlemenin tek geçerli yolu.
Ek olarak bakınız: Wiz: Küresel suni zeka yarışının ortasında güvenlik açıkları ortaya çıkıyor
Sektör liderlerinden suni zeka ve büyük veri hakkında daha çok data edinmek ister misiniz? Çıkış yapmak Yapay Zeka ve Büyük Veri Fuarı Amsterdam, Kaliforniya ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, TechEx ve aşağıdakiler de dahil olmak suretiyle öteki önde gelen teknoloji etkinlikleriyle aynı yerde bulunmaktadır: Siber Güvenlik Fuarı. Tıklamak Burada daha çok data için.
AI News tarafınca desteklenmektedir TechForge Medyası. Yaklaşan öteki kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.