İçindekiler
Yapay Zeka Sır Tutmayı Öğreniyor: TUS’tan Devrimsel “Seçici Unutma” Teknolojisi
Tokyo Bilim Üniversitesi (TUS) araştırmacıları, teknoloji dünyasında kartları yeniden dağıtacak bir yöntem geliştirdi. Ekip, yapay zeka modellerinin belirli verileri seçici olarak “unutmasını” sağlayan özel bir teknik tasarladı.
Yapay zeka, sağlıktan ulaşıma kadar hayatımızı değiştirdi. Ancak teknoloji geliştikçe etik sorunlar da büyüyor. Özellikle yapay zeka seçici unutma yeteneği, günümüzün en kritik ihtiyacı haline geldi.
Genelci Modellerin Görünmeyen Faturası
OpenAI’nin ChatGPT’si ve CLIP gibi dev sistemler, makinelerden beklentimizi yükseltti. Bu modeller her işi yapan bir İsviçre çakısı gibidir. Ancak bu çok yönlülüğün bedeli ağırdır.
Çünkü bu modelleri eğitmek muazzam enerji tüketir. Ayrıca şirketler, standart bilgisayarlar yerine servet değerinde donanımlar kullanmak zorunda kalır.
Dahası, her şeyi bilmek verimliliği düşürür. Proje lideri Doçent Go Irie durumu harika bir örnekle açıklıyor. Irie’ye göre, pratik uygulamalar her nesneyi tanımak zorunda değildir.
Togg Örneği ile Gereksiz Veri Yükü
Konuyu yerelleştirelim. Örneğin, yerli otomobilimiz Togg’un otonom sürüş sistemini düşünün. Bu sistemin sadece diğer araçları, yayaları ve levhaları tanıması yeterlidir.
Yani Togg’un kaldırımdaki bir kedinin cinsini veya vitrindeki mobilyayı bilmesine gerek yoktur. Irie, gereksiz bilgilerin sistemin kafasını karıştırdığını vurguluyor. Üstelik bu durum, kaynak israfına ve ciddi güvenlik açıklarına yol açar.
Kara Kutu Sorunu ve Yeni Çözüm
Çözüm aslında basittir. Modelleri gereksiz bilgileri “unutacak” şekilde eğitmek gerekir. Araştırmacılar süreci sadece gerekli olana odaklar.
Mevcut bazı yöntemler bunu yapabilir. Ancak bu yöntemler genellikle “beyaz kutu” yaklaşımını kullanır. Yani modelin içini görmeniz gerekir. Oysa gerçek dünya böyle işlemez.
Ticari şirketler kodlarını “ticari sır” olarak saklar. Biz buna “kara kutu” sistemler diyoruz. Dolayısıyla iç mekanizmayı görmeden müdahale etmek imkansızdı. En azından bugüne kadar.
Türevsiz Optimizasyon Tekniği
İşte TUS ekibi tam bu noktada oyunu değiştirdi. Araştırmacılar, “Türevsiz Optimizasyon” yolunu seçti. Bu yöntem, modelin kapalı kapılarına dokunmaz.
Ekip, bu devrimsel çalışmayı 2024 NeurIPS konferansında sunacak. Sistemin adı ise “Kara Kutu Unutma”.
Süreç oldukça zekice işliyor. Sistem, giriş komutlarını (istemleri) sürekli değiştiriyor. Böylece yapay zeka seçici unutma süreci başlıyor ve model belirli sınıfları hafızasından siliyor. Doçent Irie, bu çalışmada Yusuke Kuwana, Yuta Goto ve NEC Corporation’dan Dr. Takashi Shibata ile güçlerini birleştirdi.
Algoritma Nasıl Çalışıyor?
Ekip, deneylerinde CLIP modelini hedef aldı. Yöntemlerini CMA-ES algoritması üzerine kurdular. Bu algoritma, çözümleri adım adım iyileştirir. Sonuç olarak araştırmacılar, CLIP’in belirli görüntüleri tanıma yeteneğini bastırdı.
Elbette süreçte zorluklar çıktı. Mevcut teknikler büyük veri yığınlarında zorlandı. Araştırmacılar buna karşılık “Gizli İçerik Paylaşımı” stratejisini geliştirdi.
Bu yaklaşım, bilgiyi küçük parçalara böler. Sistem, belirli öğeleri tek bir simgeye atar. Böylece sorunun karmaşıklığı azalır. En önemlisi, bu strateji süreci hesaplanabilir kılar.
Sonuçlar şaşırtıcıydı. CLIP modeli, iç yapısına dokunulmadan hedef verilerin yaklaşık %40’ını başarıyla “unuttu”.
Veri Gizliliği ve Enerji Tasarrufu İçin Dev Adım
Bu yenilik sadece teknik bir başarı değildir. Gerçek dünya için devasa faydalar sağlar.
-
Hız ve Verim: Özelleşmiş modeller daha hızlı çalışır. Kaynakları verimli kullanır. Böylece yapay zeka, cep telefonlarında bile çalışabilir.
-
Güvenlik: Gereksiz kategorilerin silinmesi, zararlı içerik üretimini engeller. Modelin yanlış bilgi üretmesi zorlaşır.
-
Gizlilik: Belki de en kritik madde budur. Yapay zeka modelleri devasa veri setleri ile eğitilir. Bu setler bazen hassas veriler içerir.
Yasalar “Unutulma Hakkı”nı savunur. Ancak veriyi silmek için koca bir modeli yeniden eğitmek servet ister. Doçent Irie bu konuya dikkat çekiyor: “Büyük bir modeli yeniden eğitmek çok büyük enerji tüketir.”
Seçici unutma yöntemi, bu soruna kesin bir çözüm sunuyor. Özellikle sağlık ve finans sektörü bu teknolojiyi bekliyor. Tokyo Bilim Üniversitesi, teknolojiyi hem güvenli hem de yasalara uyumlu hale getiriyor.
