Μαζί με την τελευταία της παρτίδα νέων mid-range κινητών πλατφορμών smartphone, η Qualcomm έκανε μια ακόμη μεγαλύτερη ανακοίνωση στην ημέρα AI του στο Σαν Φρανσίσκο. Ο γίγαντας των κινητών μικροεπεξεργαστών κάνει ένα άλλο παιχνίδι για διακομιστές, αφού εγκατέλειψε το φάσμα Centriq το 2018. Αυτή τη φορά, η εταιρεία αξιοποιεί τις τεχνολογίες της στον τομέα της AI για να πάρει το πόδι της στην πόρτα του cloud computing. Το πρώτο τσιπ μας κάλεσε την πλατφόρμα Qualcomm Cloud AI 100.
Η πλατφόρμα Cloud AI 100 δεν είναι μια ανασυγκρότηση κινητών τσιπ, είναι ένα ξεχωριστό design 7nm για τα καθήκοντα συμπερασμάτων AI, παρά για την εκπαίδευση. Αυτό σημαίνει ότι το τσιπ θα τραγουδάει τους αριθμούς που περνούν μέσα από νευρικά δίκτυα και όχι να τα χρησιμοποιούν για να τους εκπαιδεύσουν. Αυτό φαίνεται να θέτει την Qualcomm σε άμεσο ανταγωνισμό με τη σειρά Tesla T4 της Nvidia και τα τσιπ συμπερασμάτων της Google Edge TPU για διακομιστές και cloud computing. Ακριβώς όπως και οι ανταγωνιστές της, η Qualcomm έχει συνειδητοποιήσει ότι η πιο αποτελεσματική επεξεργασία AI δεν γίνεται σε CPU, GPUs και FGPAs, αλλά απαιτεί έναν ειδικό επιταχυντή AI.
Από την άποψη της απόδοσης, η Qualcomm εκτιμά την αύξηση των επιδόσεων AI κορυφής άνω των 50x σε σχέση με τις δυνατότητες του Snapdragon 855. Το Snapdragon 855 προσφέρει απόδοση περίπου 7TOPS, γεγονός που υποδηλώνει ότι το Cloud AI 100 βρίσκεται στη σειρά 350TOPS. Αυτό θα δώσει σίγουρα στην T4 της Nvidia ένα τρέξιμο για τα χρήματά της. Η Qualcomm πιστεύει ότι έχει το πλεονέκτημα της απόδοσης ανά watt, καθώς διαθέτει μια βελτίωση 10 φορές σε σύγκριση με τις πιο προηγμένες λύσεις συμπερασμάτων του AI που αναπτύσσονται σήμερα. Όταν χτυπάτε μεγάλους αριθμούς, η εξοικονόμηση ενέργειας μπορεί να σώσει τις εταιρείες τεράστια ποσά στους λογαριασμούς ηλεκτρικού ρεύματος. Επιπλέον, η Qualcomm θέλει να αξιοποιήσει την τεχνογνωσία της στον τομέα της επεξεργασίας σημάτων και των 5G, οπότε η πλατφόρμα του cloud μπορεί να λειτουργήσει στην άκρη σε μελλοντικά πολύ χαμηλά λανθάνοντα δίκτυα.
Όταν ερωτήθηκε, η Qualcomm δεν θα σχολιάσει εάν η αρχιτεκτονική που χρησιμοποιήθηκε στο Cloud AI 100 ήταν ιδιοκτησιακή ή άδεια από αλλού. Αναρωτιέμαι αν πρόκειται για την πρώτη εμφάνιση της αρχιτεκτονικής Trillium AI του Arm, η οποία έχει σχεδιαστεί ειδικά για φόρμες συμπερασμάτων σε χαμηλό προϋπολογισμό ισχύος. Αλλά αρκετές εικασίες, Qualcomm λέει ότι θα μοιραστεί περισσότερες πληροφορίες σχετικά με την αρχιτεκτονική του AI στο μέλλον.
Τέλος, για να υποστηρίξει τους προγραμματιστές, το Cloud AI 100 της Qualcomm συνεργάζεται με τα περισσότερα, αν όχι όλα, από τα κορυφαία στοίβα λογισμικού του κλάδου. Υπάρχει υποστήριξη για πλαίσια Caffe, Keras, mxnet, TensorFlow, PaddlePaddle και Cognitive Toolkit, μαζί με τις ώρες λειτουργίας Glow, OnnX και XLA.
Το Qualcomm Cloud AI 100 αναμένεται να ξεκινήσει δειγματοληψία στους πελάτες του
