Coin Haber

Decart, gerçek zamanlı video oluşturmak için AWS Trainium3’ü kullanıyor

Picture1 1.jpg

Picture1 1.jpg

Amazon Web Services, AI video girişimi Decart ile yapmış olduğu anlaşmanın arkasından hususi AWS Trainium hızlandırıcıları için bir büyük zafere daha imza attı. Ortaklık Decart’ın optimizasyonunu sağlayacak amiral gemisi Lucy modeli Gerçek zamanlı video oluşturmayı desteklemek için AWS Trainium3’te yer ediniyor ve suni zeka hızlandırıcıların Nvidia’nın grafik işleme birimlerine nazaran artan popülaritesini vurguluyor.

Decart esasen AWS’ye yöneliyor ve anlaşmanın bir parçası olarak şirket kendi modellerini de üretecek Amazon Bedrock platformu aracılığıyla edinilebilir. Geliştiriciler, Decart’ın gerçek zamanlı video oluşturma yeteneklerini, temeldeki altyapı konusunda endişe duymadan hemen hemen her bulut uygulamasına entegre edebilir.

Bedrock aracılığıyla yapılan dağıtım, AWS’nin tak ve çalıştır yeteneklerini artırarak Amazon’un gerçek zamanlı yapay zeka videosuna yönelik artan talebe olan güvenini ortaya koyuyor. Ayrıca Decart’ın geliştirici topluluğu arasında erişimi genişletmesine ve benimsenmesini artırmasına olanak tanır. AWS Trainium, Lucy’ye kaliteden veya gecikmeden ödün vermeden yüksek kaliteli video oluşturmak için gereken ekstra işleme gücünü sağlar.

Trainium gibi özel yapay zeka hızlandırıcıları bir alternatif sağlamak AI iş yükleri için Nvidia’nın GPU’larına. Nvidia, AI pazarına hala hakim olsa da, GPU’ları AI iş yüklerinin büyük çoğunluğunu işliyor, sadece hususi işlemcilerden meydana gelen büyüyen bir tehditle karşı karşıya.

Suni zeka hızlandırıcıları üstündeki bu kadar yaygara niçin?

AWS Trainium geliştiricilerin haiz olduğu tek seçenek değil. Google’ın Tensör İşleme Birimi (TPU) ürün grubu ve Meta’nın Eğitim ve Çıkarım Hızlandırıcı (MTIA) yongaları, her biri Nvidia’nın GPU’larına (ASIC mimarisi (Uygulamaya Hususi Entegre Dönem)) nazaran benzer avantajlara haiz olan öteki hususi silikon örnekleridir. Adından da anlaşılacağı şeklinde ASIC donanımı belirli bir tür uygulamayı işlemek üzere özel olarak tasarlanmıştır ve bunu genel amaçlı işlemcilerden daha verimli bir şekilde gerçekleştirir.

Merkezi işlem birimleri, birden fazla uygulamayı yönetebilme yeteneklerinden dolayı genellikle bilgi işlem dünyasının İsviçre Çakısı olarak kabul edilirken, GPU’lar daha çok güçlü bir elektrikli matkap gibidir. CPU’lardan çok daha güçlüdürler ve çok büyük miktarlarda tekrarlanan, paralel hesaplamaları işlemek üzere tasarlanmışlardır, bu da onları yapay zeka uygulamaları ve grafik oluşturma görevleri için uygun hale getirir.

GPU bir elektrikli matkapsa, ASIC de son derece hassas prosedürler için tasarlanmış bir neşter olarak düşünülebilir. Yonga üreticileri, ASIC’leri oluştururken daha fazla verimlilik sağlamak için görevle ilgisi olmayan tüm işlevsel birimleri çıkarır; tüm operasyonları göreve adanmıştır.

Bu, GPU’lara kıyasla çok büyük performans ve enerji verimliliği avantajları sağlar ve artan popülerliklerini açıklayabilir. Yüzbinlerce Trainium2 işlemcisinden oluşan devasa bir küme olan Project Rainier üzerinde AWS ile ortaklık kuran Anthropic buna bir örnektir.

Anthropic, Project Rainier’ın kendisine Claude Opus-4.5 dahil en gelişmiş yapay zeka modellerini çalıştırmak için yüzlerce exaflop bilgi işlem gücü sağlayacağını söylüyor.

Yapay zeka kodlama girişimi Poolside da AWS Trainium2’yi kullanma modellerini eğitmeyi planlıyor ve altyapısını gelecekte de çıkarım için kullanmayı planlıyor. Ayrıca Anthropic, gelecekteki Claude modellerini bir milyona kadar Google TPU’dan oluşan bir küme üstünde eğitmeyi de amaçlıyor. Meta Platformların bildirildiğine nazaran Broadcom’la işbirliği Llama modellerini eğitmek ve çalıştırmak için hususi bir suni zeka işlemcisi geliştirmek ve OpenAI, benzer planlar.

Trainium’un pozitif yanları

Decart, Decart’ın gerçek zamanlı video modellerinin gerektirdiği düşük gecikmeyi elde etmesini elde eden performansı sebebiyle AWS Trainium2’yi seçti. Lucy’nin ilk kareye kadar geçen süresi 40 ms’dir, bu da komut isteminden derhal sonrasında video yapmaya başladığı anlamına gelir. Lucy, Trainium’da video işlemeyi kolaylaştırarak, Decart’ın 30 fps’ye kadar çıktı üretmesiyle OpenAI’nin Sora 2 ve Google’ın Veo-3’ü şeklinde fazlaca daha yavaş, daha yerleşik video modellerinin standardını de yakalayabilir.

Decart, Lucy’nin gelişeceğine inanıyor. Şirket, AWS ile yapmış olduğu anlaşmanın bir parçası olarak yeni duyurulan sürüme erken erişim elde etti Trainium3 işlemci100 fps’ye kadar çıktılar ve daha düşük gecikme süresine haiz. Decart’ın kurucu ortağı ve CEO’su Dean Leitersdorf yapmış olduğu açıklamada, “Trainium3’ün yeni nesil mimarisi, daha yüksek verim, daha düşük gecikme süresi ve daha yüksek hafıza verimliliği sunarak GPU’ların maliyetinin yarısı kadar maliyetle 4 kata kadar daha süratli çerçeve oluşturma olanağı sağlıyor” dedi.

Nvidia, hususi suni zeka işlemcileri mevzusunda fazla endişelenmeyebilir. AI çip devinin olduğu bildiriliyor kendi tasarımını yapıyor ASIC çipleri bulut rakiplerine rakip olacak. Üstelik ASIC’ler GPU’ların yerini tamamen almayacak şu sebeple her çipin kendine özgü kuvvetli yönleri var. GPU’ların esnekliği, GPT-5 ve Gemini 3 şeklinde genel amaçlı modeller için tek gerçek seçenek olmaya devam ettikleri ve suni zeka eğitiminde hala baskın oldukları anlamına geliyor. Bununla beraber, birçok suni zeka uygulamasının istikrarlı işleme gereksinimleri vardır; bu da bunların bilhassa ASIC’lerde çalışmaya uygun olduğu anlamına gelir.

Hususi suni zeka işlemcilerinin yükselişinin sektör üstünde derin bir tesir yaratması umut ediliyor. Çip tasarımını daha çok kişiselleştirmeye doğru iterek ve hususi uygulamaların performansını artırarak, gerçek zamanlı videonun ön planda olduğu yeni bir suni zeka inovasyonu dalgasına zemin hazırlıyorlar.

Fotoğraf AWS’nin izniyle re:invent

Exit mobile version