Openai Şef Sam Altman, insanlığın suni süperlik dönemine geçtiğini ve geri dönüş olmadığını duyuru etti.
Altman, “Etkinlik ufkunu geçiyoruz; kalkış başladı” diyor. “İnsanlık dijital süper -supupintelligence inşa etmeye yakın ve en azından şimdiye kadar olması gerektiği şeklinde olduğundan fazlaca daha azca acayip.”
Görünür işaretlerin eksikliği – robotlar hemen hemen yüksek sokaklarımızda dolaşmıyor, hastalık fethedilmez – Altman’ın esasen devam etmekte olan derin bir dönüşüm olarak karakterize etmiş olduğu şeyleri maskeler. Kendi şeklinde teknoloji firmalarındaki kapalı kapıların arkasında, genel insan aklını aşabilecek sistemler ortaya çıkıyor.
“Büyük anlamda, Chatgpt şimdiye kadar yaşamış olan herhangi bir insandan esasen daha kuvvetli,” diyor Altman, “yüz milyonlarca insanoğlunun her gün ve giderek daha mühim görevler için güvendiğini” belirtiyor.
Bu bayağı gözlem, rahatsız edici bir gerçekliğe işaret ediyor: bu tür sistemler esasen çok önemli bir etkiye haiz, hatta minik kusurlar bile geniş kullanıcı tabanlarında çarpıldığında potansiyel olarak yaygın zarara niçin oluyor.
İçindekiler
Superstelligence’a giden yol
Altman, birçok okuyucunun takvimlerini denetim etmesini sağlayabilecek bir vakit çizelgesini özetliyor.
Gelecek yıl, “gerçek bilişsel iş yapabilen ajanların gelişini” temelde dönüştüren yazılım geliştirmeyi bekliyor. Ertesi yıl, yalnızca mevcut detayları işlemek yerine orijinal keşifler üreten suni zeka meydana getiren “yeni içgörüler bulabilecek sistemler” getirebilir. 2027 yılına kadar “gerçek dünyada vazife yapabilen robotlar” görebiliriz.
Her bir tahmin, bir öncekinin ötesine geçiyor ve entelektüel kapasitesi bir çok alanda insan potansiyelini büyük seviyede daha çok geride bırakan sihirbazlara açık bir halde işaret eden bir çizgi çiziyor.
Altman, “İnsan düzeyinde zekanın ne kadar ötesinde gidebileceğimizi bilmiyoruz, fakat öğrenmek üzereyiz” diyor.
Bu ilerleme uzmanlar içinde şiddetli tartışmalara yol açtı, bazıları bu yeteneklerin onlarca yıl uzakta kaldığını iddia ediyor. Gene de Altman’ın vakit çizelgesi, Openai’nin hemen hemen kamuya açık informasyon olmayan bu hızlandırılmış yol için iç kanıtları bulunduğunu ileri sürüyor.
Her şeyi değiştiren bir geri bildirim döngüsü
Mevcut AI gelişimini benzersiz bir halde anlamlı kılan şey, Altman’ın “özyinelemeli kendini geliştirmenin larva versiyonu” olarak adlandırdığı şeydir-bugünün suni zekasının araştırmacıların yarının daha yetenekli sistemlerini geliştirmelerine destek olma kabiliyeti.
“Gelişmiş AI birçok nedenden dolayı ilginçtir, sadece kim bilir daha süratli AI araştırması yapmak için kullanabileceğimiz kadar mühim değildir” diye açıklıyor. “Bir yıl ya da bir ay içinde on senelik bir araştırma yapabilirsek, ilerleme oranı açıkça oldukça değişik olacaktır.”
Bu hızlanma, çoklu geri bildirim döngüleri kesiştikçe bileşikler keser. Ekonomik kıymet, daha çok ekonomik kıymet yaratan daha kuvvetli sistemler elde eden altyapı gelişimini yönlendirir. Ayrıca, daha çok robot üretebilen fizyolojik robotların yaratılması, başka bir patlayıcı gelişme döngüsü yaratabilir.
Altman, “Elde edilmiş yeni harikaların oranı çok önemli olacak” diyor. “Bugün 2035 yılına kadar ne keşfedeceğimizi düşlemek bile zor; kim bilir bir yıl yüksek enerjili fiziği çözmekten gelecek yıl uzay kolonizasyonuna adım atmak için gideceğiz.”
Bu tür ifadeler neredeyse herkesten abartı şeklinde geliyor. Gezegendeki en gelişmiş AI sistemlerinden bazılarını denetleyen adamdan gelen, en azından birazcık düşünmek istiyorlar.
Superstelligence ile beraber yaşamak
Potansiyel etkiye karşın Altman, insan yaşamının birçok yönünün tanıdık konturlarını koruyacağına inanıyor. İnsanlar hala anlamlı ilişkiler kuracak, sanat yaratacak ve kolay zevklerin tadını çıkaracaklar.
Fakat bu sabitlerin altında, cemiyet derin bir bozulma ile karşı karşıya. “Tüm iş sınıfları” yok olacak – potansiyel olarak yeni roller yaratma yada işçileri tekrardan eğitme yeteneğimizi aşan bir hızda. Altman’a gore gümüş astar, “dünya o denli acele daha zenginleşecek ki, daha ilkin asla yapamayacağımız yeni siyaset fikirlerini ciddi şekilde eğlendirebileceğiz”.
Bu geleceği düşlemek için savaşım edenler için Altman bir fikir deneyi sunuyor: “Bin yıl ilkin bir geçim çiftçisi, çoğumuzun düzmece işlerimize haiz olduğumuza bakıp ne işe yaradığını söyleyecek ve bolca oranda yiyecek ve düşünülemez lüks olduğumuz için kendimizi eğlendirmek için oyunlar oynadığımızı düşünecek.”
Torunlarımız en prestijli mesleklerimizi benzer bir eğlence ile görebilirler.
Hizalama problemi
Bu tahminlerin ortasında Altman, AI güvenlik araştırmacılarını geceleri uyanık tutan bir zorluğu tanımlar: süper -superstelligent sistemlerinin insan değerleri ve niyetleri ile uyumlu kalmasını sağlamak.
Altman, “hizalama problemini çözme ihtiyacını belirtir, şu demek oluyor ki AI sistemlerinin uzun solukta hakkaten hakkaten istediğimiz şeylere öğrenmesini ve harekete geçmesini” sağlam bir halde güvence edebiliriz. Bunu, ruhsal güvenlik açıklarından yararlanarak iştirakı en üst düzeye çıkaran toplumsal medya algoritmalarıyla karşılaştırıyor.
Bu yalnız teknik bir mevzu değil, varoluşsal bir mevzu. Superintelligence sağlam bir hizalama olmadan ortaya çıkarsa, sonuçlar yıkıcı olabilir. Gene de “toplu olarak hakkaten istediğimiz şeyi” tanımlamak, rakip değerlere ve ilgi alanlarına haiz çeşitli küresel toplumda neredeyse olanaksız olacaktır.
Altman, “Dünya ne kadar acele bu geniş sınırların ne olduğu ve toplu hizalamayı iyi mi tanımladığımız hakkında bir konuşma başlatabilir,” diyor Altman.
Openai küresel bir beyin inşa ediyor
Altman, Openai’nin “dünya için bir beyin” olarak inşa ettiğini onlarca kere karakterize etti.
Bu mecazi olarak değil. Openai ve rakipleri, insan uygarlığının her yönüne entegre olmayı amaçlayan bilişsel sistemler yaratıyorlar – Altman’ın kendi kabulüne gore, alanlar arasındaki insan kabiliyetlerini aşacak.
Altman, “Metrer için fazlaca ucuz olan zeka kavrayış içinde” diyor Altman, süper süpergent yeteneklerin sonunda elektrik kadar her yerde ve uygun fiyatlı olacağını öne sürüyor.
Bilim kurgu şeklinde iddiaları reddeden Altman, yalnız birkaç yıl ilkin, bugünün AI yeteneklerinin eşit derecede mantıksız göründüğünü hatırlatıyor: “2020’de size bugün olduğumuz yerde olacağımız, muhtemelen 2030 civarında mevcut tahminlerimizden daha çılgınca geliyordu.”
Suni zeka endüstrisi süper -altlığa doğru yürüyüşe devam ettikçe, Altman’ın kapanış isteği – “sorunsuz, katlanarak ve olaysız bir halde ölçeklendirebilir miyiz” – daha azca tahmin ve daha fazlaca yakarma şeklinde geliyor.
Vakit çizelgeleri tartışılabilir (ve olacak), Openai Şefi süper -süperjence yönüne yönelik yarışın gelmediğini açıkça ortaya koyuyor – esasen burada. İnsanlık bunun ne anlama geldiğiyle boğuşmalıdır.
Ek olarak bakınız: Magistral: Mistral AI, akıl yürütme modeli ile büyük teknolojiye meydan okuyor
Sanayi liderlerinden suni zeka ve büyük veriler hakkında daha çok informasyon edinmek ister misiniz? Çıkış yapmak AI ve Big Data Fuarı Amsterdam, California ve Londra’da gerçekleşiyor. Kapsamlı etkinlik, öteki önde gelen etkinliklerle beraber toplanır. Akıllı Otomasyon Konferansı– Blockx– Dijital Dönüşüm HaftasıVe Siber Güvenlik ve Bulut Fuarı.
Techforge tarafınca desteklenen öteki yaklaşan kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.
