Güvenlik uzmanları JKurbağa Suni zeka sistemlerinin MCP (Model Bağlam Protokolü) kullanarak birbirleriyle konuşma biçimindeki zayıf noktalardan yararlanan bir ‘süratli ele geçirme’ tehdidi buldular.
İş liderleri, şirket verilerini ve araçlarını direkt kullanarak suni zekayı daha yararlı hale getirmek istiyor. Sadece suni zekayı bu şekilde bağlamak, suni zekanın kendisinde değil, tümünün birbiriyle iyi mi bağlantılı olduğu mevzusunda yeni güvenlik risklerini de bununla beraber getiriyor. Bu, CIO’ların ve CISO’ların yeni bir mesele hakkında düşünmeleri gerektiği anlamına geliyor: Suni zekayı besleyen veri akışını, tıpkı suni zekanın kendisini koruduğu şeklinde güvende tutmak.
İçindekiler
MCP şeklinde protokolleri hedef alan suni zeka saldırıları niçin bu kadar tehlikeli?
Suni zeka modellerinin (ister Google’da, ister Amazon’da, ister mahalli cihazlarda çalışıyor olsunlar) temel bir problemi var: Şu anda ne işe yaradığını bilmiyorlar. Yalnız ne üstüne eğitildiklerini biliyorlar. Bir programcının hangi kod üstünde çalıştığını yada bilgisayardaki bir dosyanın içinde ne işe yaradığını bilmiyorlar.
Anthropic’teki bilim adamları bunu düzeltmek için MCP’yi yarattı. MCP, suni zekanın gerçek dünyaya bağlanarak mahalli verileri ve çevrimiçi hizmetleri güvenli bir halde kullanmasına olanak tanıyan bir yoldur. Bu, Claude şeklinde bir asistanın, bir kod parçasını işaret ettiğinizde ve ondan bunu tekrardan çalışmasını istediğinizde bunun ne anlama geldiğini anlamasını elde eden şeydir.
Bununla beraber, JFrog’un araştırması, MCP’yi kullanmanın belirli bir yolunun, bu rüya şeklinde suni zeka aracını bir ağırlık basma güvenlik sorununa dönüştürebilecek ani bir ele geçirme zayıflığına haiz bulunduğunu gösteriyor.
Bir programcının suni zeka asistanından görüntülerle çalışmak için standart bir Python aracı önermesini istediğini düşünün. Suni zeka önermeli YastıkBu iyi ve popüler bir seçimdir. Sadece bir kusur sebebiyle (CVE-2025-6515) içinde yulafpp-mcp birisi kullanıcının oturumuna gizlice girebilir. Kendi düzmece isteklerini gönderebilirler ve sunucu bunu gerçek kullanıcıdan gelmiş şeklinde ele alır.
Böylece programcı, suni zeka asistanından düzmece bir vasıta öneren fena bir tavsiye alır. En İyi Görüntü İşleme Paketi. Bu, yazılım tedarik zincirine yönelik ciddi bir saldırıdır. Birisi bu istemin ele geçirilmesini, programcının vasıta setinin yararlı bir parçası şeklinde görünse de hatalı kod enjekte etmek, verileri çalmak yada komutları çalıştırmak için kullanabilir.
Bu MCP istemini ele geçirme saldırısı iyi mi çalışır?
Bu süratli ele geçirme saldırısı, suni zekanın güvenliğinden ziyade sistemin MCP kullanarak yazışma kurma biçimini bozuyor. Hususi zayıflık, programları MCP standardına bağlayan Oat++ C++ sisteminin MCP kurulumunda bulunmuş oldu.
Problem, sistemin Sunucu Tarafınca Gönderilen Vakaları (SSE) kullanarak bağlantıları iyi mi ele aldığıyla ilgilidir. Gerçek bir kullanıcı bağlandığında sunucu ona bir oturum kimliği verir. Sadece hatalı işlev, oturum kimliği olarak bilgisayarın oturumun hafıza adresini kullanır. Bu, protokolün oturum kimliklerinin benzersiz ve kriptografik olarak güvenli olması gerektiği kuralına aykırıdır.
Bu fena bir tasarımdır zira bilgisayarlar kaynakları korumak için çoğunlukla hafıza adreslerini tekrardan kullanırlar. Saldırgan, bu öngörülebilir oturum kimliklerini kaydetmek için fazlaca sayıda oturumu süratli bir halde oluşturup kapatarak bundan yararlanabilir. Ondan sonra gerçek bir kullanıcı bağlandığında, saldırganın esasen haiz olduğu bu geri dönüştürülmüş kimliklerden birini alabilir.
Saldırgan geçerli bir oturum kimliğine haiz olduğunda sunucuya kendi isteklerini gönderebilir. Sunucu, saldırgan ile gerçek kullanıcı arasındaki farkı anlayamaz, bundan dolayı fena niyetli yanıtları gerçek kullanıcının bağlantısına geri gönderir.
Bazı programlar yalnızca belirli yanıtları kabul etse bile, saldırganlar çoğu zaman bir tanesi kabul edilene kadar ortak vaka numaralarına haiz fazlaca sayıda ileti göndererek bu problemi aşabilirler. Bu, saldırganın suni zeka modelinin kendisini değiştirmeden modelin davranışını bozmasına olanak tanır. Kullanan herhangi bir şirket yulafpp-mcp Bir saldırganın erişebileceği bir ağda HTTP SSE’nin etkin olması risk altındadır.
Suni zeka güvenlik liderleri ne yapmalı?
Bu MCP anlık ele geçirme saldırısının keşfi, tüm teknoloji liderleri, bilhassa de suni zeka asistanlarını geliştiren yada kullanan CISO’lar ve CTO’lar için ciddi bir uyarıdır. Suni zeka giderek daha çok bir parçası haline geldikçe iş akışlarımız MCP şeklinde protokoller yardımıyla yeni riskler de kazanıyor. Suni zekanın çevresindeki alanı güvende tutmak artık en mühim önceliklerden biri.
Bu spesifik CVE bir sistemi etkilese de, anında ele geçirme fikri genel bir fikirdir. Bu ve benzeri saldırılara karşı korunmak için liderlerin suni zeka sistemlerine yeni kurallar koyması gerekiyor.
Ilk olarak tüm AI hizmetlerinin güvenli oturum yönetimini kullandığından güvenli olun. Geliştirme ekiplerinin, sunucuların kuvvetli, rastgele oluşturucular kullanarak oturum kimlikleri oluşturduğundan güvenli olması gerekir. Bu, suni zeka programları için herhangi bir güvenlik denetim sıralamasında bulunması ihtiyaç duyulan bir şey olmalıdır. Hafıza adresleri şeklinde öngörülebilir tanımlayıcıların kullanılması uygun değildir.
İkincisi, kullanıcı tarafındaki savunmayı güçlendirin. İstemci programları, beklenen kimlikler ve türlerle eşleşmeyen her türlü vakası reddedecek şekilde tasarlanmalıdır. Kolay, artan vaka kimlikleri, saldırılara maruz kalma riski altındadır ve çakışmayan, öngörülemeyen tanımlayıcılarla değiştirilmeleri gerekir.
Son olarak suni zeka protokolleri için sıfır itimat ilkelerini kullanın. Güvenlik ekiplerinin, temel modelden protokollere ve onu verilere bağlayan ara yazılımlara kadar tüm suni zeka kurulumunu denetim etmesi gerekiyor. Bu kanalların, web uygulamalarında kullanılan oturum yönetimi şeklinde kuvvetli oturum ayrımı ve sona ermesine ihtiyacı vardır.
Bu MCP istemi ele geçirme saldırısı, malum bir web uygulaması problemininin, oturum ele geçirmenin, suni zekada iyi mi yeni ve tehlikeli bir halde ortaya çıktığının muhteşem bir örneğidir. Bu yeni suni zeka araçlarının güvenliğini sağlamak, saldırıları protokol düzeyinde durdurmak için bu kuvvetli güvenlik temellerini uygulamak anlamına gelir.
Ek olarak bakınız: Suni zekanın benimsenmesi, BT operasyonlarını reaktiften proaktife iyi mi taşıyor?
Sektör liderlerinden suni zeka ve büyük veri hakkında daha çok data edinmek ister misiniz? Çıkış yapmak Yapay Zeka ve Büyük Veri Fuarı Amsterdam, Kaliforniya ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, TechEx ve aşağıdakiler de dahil olmak suretiyle öteki önde gelen teknoloji etkinlikleriyle aynı yerde bulunmaktadır: Siber Güvenlik Fuarıtıklamak Burada daha çok data için.
AI News tarafınca desteklenmektedir TechForge Medyası. Yaklaşan öteki kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.
