Bir rakibe yönelik bir Openai araştırmacısının AI güvenliği hakkında bir eleştiri, endüstrinin mücadelesine bir pencere açtı: kendine karşı bir harp.
Şu anda izinli ve Openai’de güvenlik üstünde çalışan bir Harvard profesörü olan Boaz Barak’ın bir uyarı ile başladı. Xai’nin GROK modelinin lansmanını “tamamen sorumsuz” olarak nitelendirdi, başlık soruşturma maskaralıkları sebebiyle değil, tamamlanmamış olanı sebebiyle: bir kamu sistem kartı, detaylı güvenlik değerlendirmeleri, kırılgan ölçü haline gelen şeffaflığın temel eserleri.
Açık ve lüzumlu bir çağrıydı. Sadece, eski Openai mühendisi Calvin French-Owen’den şirketten ayrıldıktan bir tek üç hafta sonrasında gösterilen samimi bir yansıma, hikayenin öteki yarısını bizlere gösteriyor.
Fransız-Owen’in hesabı, Openai’deki oldukca sayıda insanoğlunun hakikaten güvenlik üstünde çalıştığını ve nefret söylemi, biyo-silahlar ve kendine zarar verme benzer biçimde oldukca gerçek tehditlere odaklandığını gösteriyor. Gene de içgörüyü sunuyor: “Meydana getirilen çalışmaların bir çok yayınlanmadı” diye yazdı Openai’nin “hakikaten oraya çıkarmak için daha fazlasını yapması icap ettiğini” de sözlerine ekledi.
Burada, iyi bir aktörün fena bir halde azarlanması rahat bir anlatısı çöküyor. Onun yerine, sanayi çapında gerçek ikilemin çıplak bulunduğunu görüyoruz. Tüm AI endüstrisi, ‘güvenlik-hız paradoksuna’ yakalandı, bu, rekabet etmek için son hızda hareket etme ihtiyacı ile bizi güvende tutmak için etik hareket etme ihtiyacı içinde derin, yapısal bir çatışma.
Fransız-Owen, Openai’nin kontrollü bir kaos durumunda bulunduğunu ve bir yılda 3.000’in üstünde 3.000’in üstüne çıktığını ve burada “süratli bir halde ölçeklendiğinizde her şey kırıldığını” öne sürüyor. Bu kaotik enerji, AGI’ye Google ve Antropik’e karşı “üç at yarışının” çok büyük baskısı ile kanalize edilir. Netice, inanılmaz bir hız kültürü, bununla birlikte gizlilikten biridir.
Yaratılışını düşünün KodeksOpenai’nin kodlama ajanı. Fransız-Owen, projeye bir tek yedi hafta içinde sıfırdan devrimci bir ürün inşa etmiş olduğu projeye “Mad-Dash Sprint” diyor.
Bu, hızın bir ders kitabı örneğidir; Bir çok gece gece yarısına kadar emek harcamayı ve hatta hafta sonları süresince bunu gerçekleştirmek için konu alıyor. Bu hızın insan maliyeti budur. Bu kadar süratli hareket eden bir ortamda, AI güvenlik araştırmalarının yayınlanmasının yavaş, metodik çalışmasının yarıştan bir dikkat dağıtıcı benzer biçimde hissetmesi şaşırtıcı mı?
Bu paradoks kötülükten değil, bir takım kuvvetli, birbirine kenetlenen güçlerden doğmuyor.
İlk olmak için belirgin rekabet baskısı var. Ek olarak, metodik süreçler üstünde gevşek “bilim adamları ve tamirci” grupları ve kıymet değiştiren atılımlar olarak başlamış olan bu laboratuvarların kültürel DNA’sı da vardır. Ve rahat bir ölçüm problemi var: hız ve performansı ölçmek kolaydır, sadece başarıya ulaşmış bir halde önlenen bir felaketi ölçmek son aşama zor olsa gerek.
Bugünün yönetim kurulu odalarında, görünür hız metrikleri neredeyse devamlı görünmez güvenlik başarılarından daha yüksek sesle bağıracaktır. Bununla beraber, ilerlemek için, parmakları işaret etmekle ilgili olması imkansız – oyunun temel kurallarını değiştirmekle ilgili olmalıdır.
Bir ürünü göndermenin ne anlama geldiğini tekrardan tanımlamamız ve bir güvenlik durumunun yayınlanmasını kodun kendisi kadar integral haline getirmemiz gerekiyor. Herhangi bir firmanın gayretinden dolayı rekabetçi bir halde cezalandırılmasını engellemiş olan ve güvenliği bir özellikten paylaşılan, pazarlık edilemez bir temele dönüştüren sektör çapında standartlara ihtiyacımız var.
Bununla beraber, en önemlisi, AI laboratuvarlarında, her mühendisin – bir tek güvenlik departmanı değil – bir mesuliyet duygusu hissettiği bir kültür geliştirmemiz gerekiyor.
AGI yaratma yarışı ilkin kimin oraya varmasıyla ilgili değil; Iyi mi geldiğimizle ilgilidir. Gerçek kazanan, bir tek en süratli olan şirket olmayacak, bununla birlikte hırs ve sorumluluğun beraber ilerleyebileceği ve yapması ihtiyaç duyulan izleyen bir dünyayı kanıtlayan şirket olacak.
(Fotoğraf Olamigoke Jr.)
Ek olarak bakınız: Antropic, Openai, Google ve Xai’ye verilen askeri AI sözleşmeleri
Sanayi liderlerinden suni zeka ve büyük veriler hakkında daha çok data edinmek ister misiniz? Çıkış yapmak AI ve Big Data Fuarı Amsterdam, California ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, öteki önde gelen etkinliklerle beraber toplanır. Akıllı Otomasyon Konferansı– Blockx– Dijital Dönüşüm HaftasıVe Siber Güvenlik ve Bulut Fuarı.
Techforge tarafınca desteklenen öteki yaklaşan kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.