En yeni orta sınıf akıllı telefon mobil platformları serisinin yanı sıra Qualcomm, San Francisco'daki AI Günü'nde daha da büyük bir duyuru yaptı. Mobil çip devi, 2018'de Centriq serisini bıraktıktan sonra, sunucular için bir oyun daha yapıyor. Bu kez, AI bulut alanındaki ayağını almak için AI alanındaki teknolojilerini kullanıyor. İlk yonga Qualcomm Cloud AI 100 platformunu seçti.
Cloud AI 100 platformu, bir mobil yonga paketi değildir, eğitimden ziyade AI çıkarım görevleri için çığır açan bir 7nm tasarımdır. Bu, çipin, onları eğitmek için kullanılmasından ziyade sinir ağlarından geçen sayıları çarpacağı anlamına gelir. Bu, Qualcomm'u Nvidia’nın Tesla T4 serisi ve sunucular ve bulut bilişim için tasarlanan Google Edge TPU çıkarım çipleri ile doğrudan rekabete sokuyor gibi görünüyor. Qualcomm, rakipleri gibi en verimli AI işlemenin CPU'larda, GPU'larda ve FGPA'larda yapılmadığını, ancak özel bir AI hızlandırıcı gerektirdiğini fark etti.
Qualcomm, performans açısından Snapdragon 855'in yetenekleri üzerinde 50x'den yüksek bir AI performansı artırdığını tahmin ediyor. Snapdragon 855, Cloud AI 100'ün 350TOPS aralığında olduğunu öne süren yaklaşık 7TOPS performans sunuyor. Bu kesinlikle Nvidia’nın T4’üne parasını ödeyecek. Qualcomm, watt başına performans konusunda da bir üstünlüğe sahip olduğuna inanmakta ve endüstrinin bugün konuşlandırılan en gelişmiş AI çıkarım çözümlerine kıyasla 10 kat daha fazla gelişme sağlamıştır. Büyük rakamlarla uğraşırken, güç verimliliği şirketlere elektrik faturalarında büyük miktarda tasarruf sağlayabilir. Ek olarak Qualcomm, sinyal işleme ve 5G konusundaki uzmanlığından yararlanmak istiyor, böylece bulut platformu gelecekteki çok düşük gecikmeli ağlarda en üst düzeyde çalışabilir.
Sorulduğunda, Qualcomm, Cloud AI 100'de kullanılan mimarinin özel veya başka bir yerden lisanslı olup olmadığı konusunda yorum yapmaz. Bunun, özellikle düşük güç bütçesine sahip iş yükleri için özel olarak tasarlanan Arm’ın Trillium AI mimarisinin ilk görünümü olup olmadığını merak ediyorum. Ancak yeterli spekülasyon olan Qualcomm, gelecekte AI mimarisi hakkında daha fazla bilgi paylaşacağını söylüyor.
Son olarak, geliştiricilerin desteklenmesi için Qualcomm’un Cloud AI 100’ü, sektör lideri yazılım yığınlarının tümü olmasa da çoğu ile çalışır. Glow, OnnX ve XLA çalışma süreleri ile birlikte Caffe, Keras, mxnet, TensorFlow, PaddlePaddle ve Cognitive Toolkit çerçeveleri için destek var.
Qualcomm Cloud AI 100’deki müşterilerle örneklemeye başlaması bekleniyor
