Nvidia'nın Digits'i masanız için küçük bir yapay zeka süper bilgisayarıdır

Nvidia'nın Digits'i masanız için minik bir suni zeka süper bilgisayarıdır

Tüm gözler Nvidia'nın yeni grafik kartları üzerindeyken (ve bunun iyi bir sebebi var – bunlar oldukça kuvvetli), şirket daha da büyük bir haber olabilecek bir şeyi yayınladı: Project Digits isminde kişisel bir AI süper bilgisayarı (biz buna bir tek Digits from diyeceğiz) şimdi devam edin bu sebeple bu oldukça daha havalı).

Digits, nerede ise her masaya sığması ihtiyaç duyulan minik, Mac mini benzeri bir kişisel bilgisayardır. Onu bir klavyeye ve monitöre bağlarsınız, güce takarsınız ve hazırsınız.

Fakat içindekiler onu oldukça hususi kılıyor. Digits, Nvidia'nın 1 petaflop'a kadar suni zeka performansı elde eden yeni GB10 Grace Blackwell Superchip'i tarafınca destekleniyor ve Nvidia, çipi daha enerji verimli hale getirmek için MediaTek ile ortaklık yapmış oldu; bu, onu çalıştırmak için standart bir standarttan aldığınız türden bir güç gerektiği anlamına geliyor. elektrik prizi.

AYRICA BAKINIZ:

CES 2025'te öne çıkanlar: Şu ana kadar gördüklerimiz

GB10, 128 GB RAM ve 4 TB'a kadar NVMe depolama alanıyla eşleştirilmiştir. Hepsi, geliştiricilerin 200 milyar parametreye kadar büyük dil modellerini (LLM'ler) çalıştırmasına olanak tanıyacak. Nvidia ConnectX teknolojisini kullanarak, iki Digits bilgisayarını 405 milyar parametreli modelleri çalıştıracak şekilde eşleştirebilecekler.

Bunların bir çok muhtemelen suni zeka uygulama geliştirme işinde olmayan kişiler için pek bir anlam ifade etmiyor. Sadece mesela, ChatGPT 3.5'in 175 milyar parametresi vardı (ChatGPT 4 oldukça daha büyük fakat tam sayıları bilmiyoruz), Meta'nın en kuvvetli LLM'si Llama 3'ün ise 405 milyar parametresi var). Bu, bulut altyapısına güvenmek yerine evinizde oldukça oldukça kuvvetli bir LLM çalıştırabileceğiniz anlamına gelir.

Mashlanabilir Işık Hızı

Nvidia'nın kurucusu ve CEO'su Jensen Huang yazılı bir açıklamada, “Her veri bilimcinin, suni zeka araştırmacısının ve öğrencinin masasına bir suni zeka süper bilgisayarı yerleştirmek, onlara suni zeka çağını şekillendirme ve etkileşim kurma gücü veriyor.” dedi.

Digits'i kullanan geliştiriciler, Nvidia NGC kataloğunda ve Nviia Geliştirici portalında bulunan geliştirme kitleri, orkestrasyon araçları, çerçeveler ve modeller dahil olmak suretiyle Nvidia'nın suni zeka yazılımı kütüphanesine erişebilecek. Ek olarak Nvidia NeMo çerçevesine ve Nvidia RAPIDS kitaplıklarına da erişebilecekler.

AYRICA BAKINIZ:

Apple, acayip bir halde yerleştirilmiş M4 Mac mini güç düğmesini savundu – işte yeni bir haiz olarak benim görüşüm

Kim bilir buradaki en büyük haber fiyattır. Rakamlar Mayıs ayında 3.000 dolardan süregelen fiyatlarla satışa sunulacak. Bu tür bir para, bunu suni zeka uygulamaları oluşturmak ve kontrol etmek için kullanacak oldukça sayıda minik şirket ve araştırmacının kullanımına sunacaktır.

Bu hala oldukça pahalı geliyorsa deneyebilirsiniz Nvidia'nın Jetson'u. Geçen Aralık ayında piyasaya sürülen 249 dolarlık bir suni zeka ev bilgisayarı ve 8 milyara kadar parametreyi işleyebiliyor.

Mashable CES 2025'te canlı yayında! Bu hafta en deli ve en mühim gelişimleri ele alıyoruz, bu yüzden lütfen yeniden denetim etmeye devam edin. bizimle. CES'in En İyisini belirlerken temsil ettiğiniz bir ürünü ekiplerimizin değerlendirmesi için göndermek ister misiniz? İşte nasıl yapılacağı hakkında daha fazla bilgi.

Mevzular
Suni Zeka CES

Teknory


Yayımlandı

kategorisi

yazarı:

Etiketler: