![Как устроена IT-столица мира / Russian Silicon Valley (English subs)](https://i.ytimg.com/vi/9lO06Zxhu88/hqdefault.jpg)
Заедно с най-новата си партида нови мобилни платформи за среден клас смартфони, Qualcomm направи още по-голямо анонс на AI Day в Сан Франциско. Гигантът на мобилните чипове прави друга игра за сървъри, след като изостави гамата си Centriq още през 2018 г. Този път компанията използва своите технологии в областта на AI, за да влезе в крака във вратата за облачни изчислителни системи. Първият чип ни нарече платформата Qualcomm Cloud AI 100.
Платформата Cloud AI 100 не е преопаковане на мобилен чип, а е замислен 7nm дизайн за AI задачи, а не за обучение. Това означава, че чипът ще троши числата, преминаващи през невронни мрежи, вместо да бъде използван за обучението им. Изглежда, че Qualcomm е в пряка конкуренция с Tesla T4 серията на Nvidia и чипове за извеждане на Google Edge TPU, създадени за сървъри и облачни изчисления. Точно като своите конкуренти, Qualcomm разбра, че най-ефективната обработка на AI не се извършва на процесори, графични процесори и FGPA, а изисква специален AI ускорител.
По отношение на производителността Qualcomm оценява по-голямо от 50x пиково увеличение на производителността на AI над възможностите на своя Snapdragon 855. Snapdragon 855 предлага около 7TOPS производителност, което предполага, че Cloud AI 100 е в обхвата на 350TOPS. Това със сигурност ще даде T4 на Nvidia за парите си. Qualcomm вярва, че има и предимство на производителността на ват, като се похвали с 10-кратно подобрение в сравнение с най-модерните в индустрията решения за изводи, внедрени днес. Когато съкращавате големи числа, енергийната ефективност може да спести на компаниите огромни суми в сметките за електричество. В допълнение, Qualcomm иска да използва своя опит в обработката на сигнали и 5G, така че неговата облачна платформа може да работи в края на бъдещите мрежи с много ниска латентност.
На въпрос Qualcomm не би коментирал дали архитектурата, използвана в Cloud AI 100, е собственост или лицензирана от другаде. Интересно ми е дали това е първата поява на Arm's Trillium AI архитектура, която също е проектирана специално за извод натоварвания при нисък бюджет на мощност. Но достатъчно спекулации, Qualcomm казва, че в бъдеще ще споделя повече информация за своята AI архитектура.
И накрая, за да поддържа разработчиците, Qualcomm's Cloud AI 100 работи с повечето, ако не и всички, водещи в отрасъла софтуерни стекове. Има поддръжка за рамки Caffe, Keras, mxnet, TensorFlow, PaddlePaddle и Cognitive Toolkit, заедно с Glow, OnnX и XLA време на изпълнение.
Очаква се Qualcomm Cloud AI 100 да започне да взема проби за клиенти през