Suni zeka sistemlerinin patlaması içinde, Fellou ve Perplexity’den Comet şeklinde suni zeka web tarayıcıları kurumsal masaüstünde görünmeye başladı. Bu tür uygulamalar, mütevazı tarayıcının bir sonraki evrimi olarak tanımlanıyor ve yerleşik suni zeka özellikleriyle beraber geliyor; web sayfalarını okuyabilir ve özetleyebilirler ve en gelişmiş haliyle web içinde ne olduğu üstünde bağımsız olarak hareket edebilirler.
En azından kuramsal olarak bir suni zeka tarayıcısının vaadi, dijital iş akışlarını hızlandırması, çevrimiçi araştırma yapması ve dahili kaynaklardan ve daha geniş internetten data almasıdır.
Fakat, güvenlik araştırma ekipleri AI tarayıcılarının kuruluşa göz ardı edilemeyecek ciddi riskler getirmiş olduğu sonucuna varıyoruz.
Problem, AI tarayıcılarının dolaylı anlık enjeksiyon saldırılarına karşı oldukça savunmasız olması gerçeğinde yatmaktadır. Bunlar, tarayıcıdaki (yada tarayıcı vesilesiyle erişilen) modelin, hususi hazırlanmış web sitelerinde gizlenmiş talimatları almış olduğu yerdir. Web sayfalarına yada görsellere, insanların ayırt etmekte zorlanacağı şekillerde metin yerleştirerek, suni zeka modelleri, suni zeka istemleri biçimindeki talimatlarla yada kullanıcı tarafınca girilen istemlerde meydana getirilen değişimlerle beslenebilir.
BT departmanları ve karar vericiler için netice, suni zeka tarayıcılarının hemen hemen kurumsal kullanıma uygun olmadığı ve mühim bir güvenlik tehdidi oluşturduğudur.
İçindekiler
Otomasyon görünürlükle buluşuyor
Testlerde araştırmacılar, çevrimiçi içerikteki gömülü metnin suni zeka tarayıcısı tarafınca işlendiğini ve akıllı modele yönelik talimatlar olarak yorumlandığını keşfetti. Bu talimatlar kullanıcının ayrıcalıkları kullanılarak yürütülebilir; dolayısıyla kullanıcının haiz olduğu bilgiye erişim derecesi ne kadar yüksek olursa, müessese için risk de o denli büyük olur. Suni zekanın kullanıcılara sağlamış olduğu özerklik, hücum yüzeyini büyüten mekanizmayla aynıdır ve özerklik ne kadar fazla olursa, potansiyel veri kaybı kapsamı da o denli büyük olur.
Mesela, tarayıcıda görüntülendiğinde bir suni zeka asistanının kurumsal e-posta yada çevrimiçi bankacılık denetim panelleri şeklinde duyarlı varlıklarla etkileşime geçmesini tetikleyebilecek bir görüntüye metin komutları yerleştirmek mümkündür. Başka bir kontrol, bir suni zeka asistanının isteminin iyi mi ele geçirilebileceğini ve kullanıcı adına yetkisiz eylemler gerçekleştirmeye iyi mi yönlendirilebileceğini gösterdi.
Bu tür güvenlik açıkları, veri yönetiminin tüm ilkelerine açıkça aykırıdır ve yetkisiz bir tarayıcı biçimindeki ‘gölge suni zekanın’ bir kuruluşun verileri için iyi mi gerçek bir tehdit oluşturduğunun en açık örneğidir. Suni zeka modeli, alanlar içinde bir köprü görevi görüyor ve aynı kaynak politikalarını (bir alandan diğerine veri erişimini engellemiş olan kaide) atlatıyor.
Uygulama ve yönetişim zorlukları
Probleminin temelinde tarayıcıdaki kullanıcı sorgularının web üstünden erişilen canlı verilerle birleştirilmesi yatıyor. LLM, güvenli ve fena amaçlı girdiyi ayırt edemezse, insan operatörü tarafınca talep edilmeyen verilere kaygısızca erişebilir ve bu verilere gore hareket edebilir. Ajansal kabiliyetler verildiğinde, sonuçlar geniş kapsamlı olabilir ve kolayca müessese genelinde fena niyetli faaliyetlerin art arda gelmesine niçin olabilir.
Veri segmentasyonuna ve erişim kontrolüne dayanan herhangi bir müessese için, kullanıcının tarayıcısındaki güvenliği ihlal edilmiş bir suni zeka katmanı, güvenlik duvarlarını aşabilir, jeton alışverişini gerçekleştirebilir ve güvenli çerezleri tam olarak kullanıcının kullandığı şekilde kullanabilir. Suni zeka tarayıcısı, insan operatörünün tüm verilerine ve tesislerine erişim sağlayarak etkili bir halde içeriden gelen bir tehdide dönüşür. Tarayıcı kullanıcısının ‘kaportanın altındaki’ etkinliğin kesinlikle bilincinde olmayacağından, virüs bulaşmış bir tarayıcı mühim bir süre süresince tespit edilmeden hareket edebilir.
Tehdit azaltma
Birinci nesil suni zeka tarayıcıları, BT ekipleri tarafınca, üçüncü taraf yazılımların izinsiz kurulumuyla aynı şekilde değerlendirilmelidir. Belirli yazılımların kullanıcılar tarafınca yüklenmesini engellemek nispeten kolay olsa da, Chrome ve Edge şeklinde ana akım tarayıcıların Gemini (Chrome’da) ve Copilot (Edge’de) şeklinde artan sayıda suni zeka özelliğiyle beraber sunulduğunu belirtmekte yarar var. Tarayıcı üreten firmalar, suni zekayla güçlendirilmiş tarama kabiliyetlerini etken olarak araştırıyor ve tarayıcı şirketleri arasındaki rekabet pozitif yanları ihtiyacı sebebiyle, aracılık özellikleri (tarayıcıya mühim seviyede özerklik kazandıran) hızla ortaya çıkacak.
Uygun nezaret ve kontroller olmadan kuruluşlar kendilerini mühim risklere açık hale getiriyor. Gelecek nesil tarayıcıların aşağıdaki özellikler açısından denetim edilmesi gerekir:
- İstem izolasyonu, LLM istemi oluşturulmadan ilkin kullanıcı amacını üçüncü taraf web içeriğinden ayırarak.
- Kapılı izinler. Suni zeka aracıları, açık kullanıcı onayı olmadan gezinme, veri alma yada dosya erişimi dahil olmak suretiyle otonom eylemleri gerçekleştirememelidir.
- Kırılgan taramanın (İK, finans, dahili denetim panelleri vb.) korumalı alana alınması, böylece bu duyarlı alanlarda suni zeka etkinliğinin olmaması.
- Yönetişim entegrasyonu. Tarayıcı tabanlı suni zekanın veri güvenliği politikalarıyla uyumlu olması ve yazılımın, ajansal eylemleri izlenebilir kılmak için kayıtlar sağlaması gerekir.
Bugüne dek hiçbir tarayıcı satıcısı, kullanıcı odaklı amaç ile model tarafınca yorumlanan komutlar içinde fark yapma kabiliyetine haiz akıllı bir tarayıcı sunmadı. Bu olmadan, tarayıcılar nispeten önemsiz bir istem enjeksiyonu kullanarak kuruluşa karşı harekete geçmeye zorlanabilir.
Karar verici paket servisi
Agentic AI tarayıcıları, işyerinde web tarama ve otomasyonda bir sonraki mantıksal evrim olarak sunuluyor. Kullanıcı/insan faaliyetleri arasındaki ayrımı bulanıklaştırmak ve kuruluşun dijital varlıklarıyla etkileşimin bir parçası haline gelmek için kasıtlı olarak tasarlanmıştır. Suni Zeka tarayıcılarındaki LLM’lerin atlatılma ve bozulma kolaylığı göz önüne alındığında, mevcut nesil Suni Zeka tarayıcıları, hareketsiz fena amaçlı yazılımlar olarak kabul edilebilir.
Büyük tarayıcı satıcıları, suni zekayı (ajans kabiliyetleri olsun yada olmasın) gelecek nesil platformlarına yerleştirmeye emin görünüyor; bu yüzden, güvenlik nezaretini sağlamak için her sürümün dikkatli bir halde izlenmesi gerekir.
(Fotoğraf deposu: Hugh Llewelyn tarafınca yazılan “Patlamamış bomba!” CC BY-SA 2.0 kapsamında lisanslıdır.)
Sektör liderlerinden suni zeka ve büyük veri hakkında daha çok data edinmek ister misiniz? Çıkış yapmak Yapay Zeka ve Büyük Veri Fuarı Amsterdam, Kaliforniya ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, TechEx ve öteki önde gelen teknoloji etkinlikleriyle aynı yerde bulunuyor. Tıklamak Burada daha çok data için.
AI News tarafınca desteklenmektedir TechForge Medyası. Yaklaşan öteki kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.
