MIT spinout, AI’ya clueless ne zaman itiraf etmeyi öğretir

Yapay Zeka Halüsinasyonları Themis AI ile Tarihe Karışıyor

Yapay zeka modelleri, bilmedikleri konularda dürüst davranmak yerine genellikle hayal ürünü bilgiler üretiyor. “Halüsinasyon” olarak adlandırılan bu durum, özellikle kritik sektörlerde büyük riskler barındırıyor. MIT kökenli bir girişim olan Themis AI, geliştirdiği Capsa platformuyla bu soruna kökten bir çözüm sunuyor. Ekip, yapay zekaya “bilmiyorum” demeyi öğreterek dijital dünyada yeni bir güvenlik katmanı oluşturuyor.

Capsa Platformu Tahminleri Nasıl Denetliyor?

Themis AI’nın Capsa yazılımı, bir modelin sadece tahmin yürütüp yürütmediğini anında saptıyor. Yazılım; eksik veya yanlı verileri analiz ederek sistemin belirsizlik anlarını anında işaretliyor. Bu sayede kullanıcılar, yapay zekanın sunduğu verilerin güven oranını şeffaf bir şekilde takip ediyor.

Bununla birlikte, sistem sadece hataları bulmakla kalmıyor. Aynı zamanda eğitim verilerindeki boşlukları saptayarak yapay zekanın kendi hatalarını düzeltmesine imkan tanıyor.

MIT’den Dünyaya Yayılan Güvenlik Devrimi

Profesör Daniela Rus ve ekibi, Themis AI projesini 2021 yılında MIT çatısı altında hayata geçirdi. Ekip, başlangıçta otonom araçların yaya güvenliğini artırmak amacıyla bu teknolojiyi tasarladı. Hataların ölümcül sonuçlar doğurduğu otomotiv sektöründe, yapay zekanın kendi sınırlarını bilmesi hayati bir önem taşıyor.

Dahası, bu teknoloji ilaç geliştirme süreçlerinde de büyük bir değişim yaratıyor. İlaç şirketleri, yapay zekanın sadece yüksek güvenle önerdiği moleküllere odaklanarak milyonlarca dolar tasarruf ediyor. Açıkçası, Themis AI’nın sunduğu “öz farkındalık” katmanı, yapay zekayı basit bir tahmin aracından güvenilir bir iş ortağına dönüştürüyor.