AI halüsinasyonları, modeller yüzey bilgilerine giderek daha çok güvenilir ve eleştiri kararlar alırken daha tehlikeli hale gelir.
Çoğumuz, bir şey bilmediklerinde kabul edemeyen ya da çevrimiçi okudukları bir şeye dayanarak tehlikeli tavsiyeler vermeye başvuran her şeyi bilen bir arkadaşımız var. AI modellerinin halüsinasyonları o dost gibidir, sadece bu kanser tedavi planınızı oluşturmaktan görevli olabilir.
Bu yer burası resme girer. Bu MIT spinout, teoride rahat görünen sadece aslına bakarsak oldukça karmaşık bir şey elde etmeyi başardı, AI sistemlerine “Bundan güvenli değilim” demesini öğretti.
AI sistemleri tipik olarak aşırı itimat verir. Themis’in Capsa platformu, suni zeka için bir gerçeklik kontrolü görevi görür ve modellerin kesinlikten ziyade tahminlere girerken tanımasına destek sağlar.
2021 senesinde MIT Profesör Daniela Rus tarafınca kurulan eski araştırma meslektaşları Alexander Amini ve Elaheh Ahmadi ile beraber, Themis AI, hatalara yol açmadan ilkin belirsizlik anlarını işaretlemek için neredeyse tüm AI sistemiyle entegre olabilecek bir platform geliştirdi.
CAPSA, AI’yi, karışık, önyargılı yada halüsinasyonlara yol açabilecek tamamlanmamış verilerle çalıştığını gösterebilecek detayları iyi mi işlediğinde kalıpları saptamak için AI’yı eğitir.
Başlatıldığından beri Themis destek bulunduğunu iddia ediyor telekom Firmalar, maliyetli ağ planlaması hatalarından, petrol ve gaz firmalarına karmaşık sismik verileri anlamlandırmalarına destek sağlar ve güvenle telafi etmeyen söyleşi botları oluşturma mevzusunda araştırmalar yayınlanmıştır.
Bir çok insan, AI sistemlerinin ne sıklıkta en iyi tahminlerini aldığının bilincinde değil. Bu sistemler giderek daha eleştiri görevleri üstlendikçe, bu tahminlerin ciddi neticeleri olabilir. Themis AI’nın yazılımı, tamamlanmamış olan bir öz farkındalık katmanı ekler.
Themis’in AI halüsinasyonlarıyla mücadeleye yönelik yolculuğu
TEMIS AI’ya seyahat seneler ilkin Profesör Rus’un MIT Laboratuvarı’nda başladı, burada ekibin temel bir problemi araştırmış olduğu: Bir makineyi kendi sınırlamalarından iyi mi haberdar ediyorsunuz?
2018’de, Toyota kendi kendini devam eden araçlar için güvenilir AI ile ilgili araştırmalarını finanse etti-hataların ölümcül olabileceği bir sektör. Otonom araçlar yayaları ve öteki yol tehlikelerini doğru bir halde tanımlaması gerektiğinde bahisler inanılmaz derecede yüksektir.
Onların atılımları, yüz tanıma sistemlerinde ırksal ve cinsiyet yanlılığını tespit edebilecek bir algoritma geliştirdiklerinde geldi. Problemi bir tek tanımlamak yerine, sistemleri aslına bakarsak eğitim verilerini tekrardan dengeleyerek düzeltti – AI’ya açıkça kendi önyargılarını düzeltmesini öğretti.
2021 yılına gelindiğinde, bu yaklaşımın ilaç keşfinde iyi mi devrim yaratabileceğini göstermişlerdi. AI sistemleri potansiyel ilaçları değerlendirebilir, sadece – en önemlisi – tahminleri, eğitimli tahminlere yada tam halüsinasyonlara karşı sağlam kanıtlara dayandığında bayrak. İlaç endüstrisi, bir tek AI’nın kendinden güvenli olduğu ilaç adaylarına odaklanarak para ve zamandaki potansiyel tasarrufları tanıdı.
Hızla gelişen teknolojinin bir öteki pozitif yanları, sınırı olan informasyon işlem gücüne haiz cihazlar içindir. Edge Cihazlar, bir sunucuda çalışan büyük modellerin doğruluğuna uymayan daha minik modeller kullanır, sadece Themis’in teknolojisi ile bu cihazlar, bir çok görevi mahalli olarak işleme ve bir tek büyük sunuculardan zorlayıcı bir şeyle karşılaştıklarında yardım isteyebilir.
AI, hayatımızı iyileştirmek için çok büyük bir potansiyele haizdir, sadece bu potansiyel gerçek risklerle beraber gelir. AI sistemleri eleştiri altyapı ve karar almaya daha derin bir halde entegre hale geldikçe, halüsinasyonlara neden olan belirsizliği kabul etme kabiliyeti, en insan ve en kıymetli kalitesi bulunduğunu kanıtlayabilir. Themis AI bu mühim beceriyi öğrendiklerinden güvenli oluyor.
Ek olarak bakınız: Diyabet Yönetimi: IBM ve Roche, kan şekeri seviyelerini anlamak için AI kullanıyor
Sanayi liderlerinden suni zeka ve büyük veriler hakkında daha çok informasyon edinmek ister misiniz? Çıkış yapmak AI ve Big Data Fuarı Amsterdam, California ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, öteki önde gelen etkinliklerle beraber toplanır. Akıllı Otomasyon Konferansı– Blockx– Dijital Dönüşüm HaftasıVe Siber Güvenlik ve Bulut Fuarı.
Techforge tarafınca desteklenen öteki yaklaşan kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.
