Yapay zeka hızla ilerlemeye devam ettikçe, dünyayı değiştiren bu yeniliklerin geliştirilmesi ve uygulanmasıyla ilgili etik kaygılar daha da net bir şekilde ortaya çıkıyor.
Maçtan önce bir röportajda Yapay Zeka ve Büyük Veri Fuarı Kuzey AmerikaIgor Jablokov, AI şirketinin CEO’su ve kurucusu pryonbu acil sorunları doğrudan ele aldı.
Yapay zekada kritik etik zorluklar
En kritik etik zorluklar sorulduğunda Jablokov, “Bir tane bile yok, belki de neredeyse 20’den fazla var” dedi. Yapay zeka halüsinasyonları ve yalanların yayılmasından, veri gizliliği ihlallerine ve özel bilgilerle ilgili eğitimlerden kaynaklanan fikri mülkiyet sızıntılarına kadar dikkatle ele alınması gereken bir dizi potansiyel tehlikenin ana hatlarını çizdi.
Jablokov’a göre eğitim verilerine sızan önyargı ve düşmanca içerik de bir başka önemli endişe. Gömülü aracılar ve hızlı enjeksiyon saldırıları gibi güvenlik açıklarının yanı sıra büyük dil modellerinin aşırı enerji tüketimi ve iklim üzerindeki etkisi de endişeler listesinde üst sıralarda yer alıyor.
Pryon’un kökenleri, yirmi yıl önce modern yapay zekanın ilk hareketlerine kadar uzanabilir. Jablokov daha önce IBM’de, daha sonra Watson olacak olanın ilkel bir versiyonunu tasarlayan gelişmiş bir yapay zeka ekibine liderlik etmişti. “Buna yeşil ışık yakmadılar. Ve böylece hayal kırıklığı içinde ayrıldım ve son grubumuzu da ayağa kaldırdım” diye anlattı. O zamanlar Pryon olarak da adlandırılan bu şirket, Amazon’un yapay zeka ile ilgili ilk satın alımı haline geldi ve şu anda Alexa olan şirketi doğurdu.
Pryon’un mevcut versiyonu, kritik altyapı ve yüksek riskli kullanım durumlarına odaklanan sorumlu tasarım yoluyla yapay zekanın etik ikilemleriyle yüzleşmeyi hedefliyor. “[We wanted to] Jablokov, “Daha kritik altyapı, temel çalışanlar ve daha ciddi amaçlar için özel olarak güçlendirilmiş bir şey yaratın” diye açıkladı.
Anahtar unsurlardan biri, kuruluşlara veri ortamları üzerinde esneklik ve kontrol sunmaktır. Jablokov, “Çok kiracılı genel buluttan özel buluta ve şirket içi platformlara kadar platformlarını nasıl kullanacakları konusunda onlara seçenekler sunuyoruz” dedi. Bu, kuruluşların gerektiğinde kendi güvenlik duvarlarının arkasına son derece hassas verileri korumalarına olanak tanır.
Pryon ayrıca açıklanabilir yapay zekayı ve bilgi kaynaklarının doğrulanabilir niteliklerini vurguluyor. Jablokov, “Platformumuz bir yanıt ortaya çıkardığında ona dokunabilirsiniz ve her zaman alttaki sayfaya gider ve bilgiyi tam olarak nereden öğrendiğini vurgular” dedi. Bu, bilgi kaynağının insan tarafından doğrulanmasına olanak tanır.
Enerji, üretim ve sağlık hizmetleri gibi bazı alanlarda Pryon, yapay zeka tarafından oluşturulan rehberlik ön saflardaki çalışanlara ulaşmadan önce döngüdeki insan gözetimini uyguladı. Jablokov, bilgi teknisyenlere ulaşmadan önce “denetçilerin sonuçları iki kez kontrol edebildiği ve esas olarak ona bir onay rozeti verebileceği” bir örneğe dikkat çekti.
Sorumlu yapay zeka gelişiminin sağlanması
Jablokov, sorumlu yapay zeka geliştirme ve dağıtımını sağlamak için yeni düzenleyici çerçeveleri güçlü bir şekilde savunuyor. Beyaz Saray’ın son idari emrini bir başlangıç olarak memnuniyetle karşılarken, halüsinasyonlar, statik eğitim verileri, veri sızıntısı güvenlik açıkları, erişim kontrollerinin eksikliği, telif hakkı sorunları ve daha fazlası gibi üretken yapay zekayla ilgili riskler hakkındaki endişelerini dile getirdi.
Pryon bu düzenleyici tartışmalara aktif olarak katılmıştır. Jablokov, “Bir sürü devlet kurumuna geri kanallık yapıyoruz” dedi. “Düzenleyici ortam ortaya çıktıkça perspektiflerimize katkıda bulunmak açısından aktif bir rol üstleniyoruz… Üretken yapay zeka kullanımıyla ilişkili bazı riskleri ifade ederek ortaya çıkıyoruz.”
Uyarıldığı gibi, kontrolsüz, varoluşsal bir “Yapay Zeka Riski” potansiyeli hakkında bazı yapay zeka liderleri tarafından – Jablokov, Pryon’un yönetimli yaklaşımı hakkında nispeten iyimser bir ton kullandı: “Biz her zaman doğrulanabilir atıf üzerinde çalıştık… çözümlerin nereden geldiğini anlamaları için kuruluşların kendi içeriklerinden çıkarımlar yaptık ve daha sonra karar verip vermemeye karar verdiler. öyle olsun ya da olmasın.”
CEO, Pryon’un misyonunu, bazıları halüsinasyonlar ve etik kısıtlamalardan yoksun olma konusunda tartışmalara yol açan, yeni ortaya çıkan açık uçlu, konuşabilen yapay zeka asistanlarından kesin bir şekilde uzaklaştırdı.
“Biz bir palyaço koleji değiliz. Eşyalarımız Dünya gezegenindeki bazı daha ciddi ortamlara girecek şekilde tasarlandı,” dedi Jablokov açıkça. “Sanırım hiçbiriniz acil servise gitmekten ve oradaki tıp doktorlarının bir ChatGPT’ye, bir Bing’e, bir Bard’a sorular yazmasından rahatsız olmazsınız…”
Yüksek riskli, gerçek dünyada karar alma söz konusu olduğunda konu uzmanlığının ve duygusal zekanın önemini vurguladı. “Şu anda geçirmekte olduğunuz rahatsızlığa benzer şeyleri tedavi etme konusunda uzun yıllara dayanan deneyime sahip birini istiyorsunuz. Ve tahmin et ne oldu? Seni daha iyi hale getirmekle ilgilendikleri duygusal bir kalitenin de olması hoşuna gidiyor.”
Önümüzdeki dönemde Yapay Zeka ve Büyük Veri Fuarı, Pryon enerji, yarı iletkenler, ilaç ve kamu gibi sektörlerdeki platformunu sergileyen yeni kurumsal kullanım örneklerini açıklayacak. Jablokov, geliştiriciler için potansiyel olarak daha düşük seviyeli erişim de dahil olmak üzere, uçtan uca kurumsal teklifin ötesinde “Pryon platformunu kullanmanın farklı yollarını” da ortaya çıkaracaklarını söyledi.
Yapay zekanın etki alanı hızla dar uygulamalardan daha genel yeteneklere doğru genişledikçe, etik risklerin ele alınması daha da kritik hale gelecektir. Pryon’un yönetişime, doğrulanabilir bilgi kaynaklarına, insan gözetimine ve düzenleyicilerle işbirliğine sürekli odaklanması, endüstriler arasında daha sorumlu yapay zeka gelişimi için bir şablon sunabilir.
Igor Jablokov ile yaptığımız röportajın tamamını aşağıdan izleyebilirsiniz:
Sektör liderlerinden yapay zeka ve büyük veri hakkında daha fazla bilgi edinmek ister misiniz? Çıkış yapmak Yapay Zeka ve Büyük Veri Fuarı Amsterdam, Kaliforniya ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, aşağıdakiler de dahil olmak üzere diğer önde gelen etkinliklerle aynı yerde bulunuyor: BlockX, Dijital Dönüşüm HaftasıVe Siber Güvenlik ve Bulut Fuarı.
TechForge tarafından desteklenen diğer yaklaşan kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.
