После CPU и GPU наступает … NPU — но что это такое и что он может делать?

NPU теперь доступны почти у каждого крупного производителя оборудования. Но что это за чип? Что он может делать и что делает его таким особенным? Мы объясним вам

Это есть у Apple, у Samsung, у AMD, а теперь есть и у Intel: собственный NPU.

Этот чип в первую очередь используется в приложениях искусственного интеллекта. Об этом свидетельствует широкое распространение среди производителей: NPU — это явно не мимолетная причуда, он останется надолго.

Но что делает NPU? Почему каждый производитель хочет иметь его? Чем он полезен в повседневной жизни и сможет ли он в какой-то момент заменить графический процессор?

• Что такое NPU?
• NPU: конец графических чипов?
• Почему скоро каждый ноутбук будет оснащен NPU
• Что NPU может сделать для вас на практике

Что такое NPU?

NPU (Neural Processing Unit) — это процессор, такой же, как CPU или GPU. Однако его зона ответственности — не графика и не общие задачи. Вместо этого NPU предназначен для быстрого и эффективного выполнения задач машинного обучения.

Это не только обеспечивает прирост производительности, но и должно снизить нагрузку на CPU и GPU. Для этого NPU был оптимизирован для математических вычислений, которые происходят в процессе машинного обучения.

Как и графические чипы, он использует распараллеливание для одновременного решения множества небольших задач. В то же время он еще более специализированный.

Поэтому в таких вычислениях NPU не только эффективнее графических чипов, но в некоторых случаях даже в 10 000 раз быстрее.

NPU: конец для графических чипов?

Поначалу это звучит чертовски мощно — и почти как лебединая песня для GPU с точки зрения масштаба. Отпадет ли необходимость в GPU в будущем, если NPU станут более экономичными и гораздо более быстрыми?

На данный момент ответ вполне очевиден: да

Потому что в настоящее время NPU используют свое распараллеливание в основном для максимально эффективного решения небольших повторяющихся задач: Размытие фона при видеозвонке или предоставление возможности чатботу с искусственным интеллектом отвечать на вопросы

С другой стороны, графические процессоры берут на себя более крупные задачи, такие как графические расчеты (которые все больше опираются на ИИ), обработка видео или обучение моделей ИИ, что делает их предпочтительным оборудованием даже в секторе ИИ, если энергопотребление не является проблемой.

В то же время уже существует концепция GPNPU (General Purpose NPU), то есть гибрида GPU-NPU. Это единый чип, который призван обеспечить здоровый баланс между специализированным NPU иоружием общего назначенияGPU.

Вполне возможно, что в будущем это будет работать настолько хорошо, что GPU и NPU снова сольются в один чип, особенно для аппаратного обеспечения, которое особенно ограничено в пространстве и зависит от времени автономной работы, например, смартфонов и ультрабуков.

Почему скоро в каждом ноутбуке будет стоять NPU

Все, кто думает: Мне это не нужно, несмотря на все прогнозируемые преимущества NPU, скоро вообще не будет иметь выбора. Потому что велика вероятность того, что через несколько лет, по крайней мере на мобильном рынке — для смартфонов и ноутбуков — вы будете вынуждены выбрать модель с NPU.

Почти каждый крупный производитель чипов уже разработал свою собственную форму NPU.

Так, например, Qualcomm использует NPU с момента выпуска Snapdragon 855в 2018 году. Тогда главной целью было догнать Huawei, которая одной из первых использовала NPU в своем процессоре Kirin 970, но сейчас она, скорее всего, будет конкурировать с процессорами Exynos от Samsung, которые, конечно, тоже используют NPU.

Apple также уже некоторое время использует NPU в своих продуктах -особенно под названием Neural Engine. Он установлен в процессорах серии M (например, Mac), а также серии A (например, iPhone). Одна из функций, в которой задействован NPU, — Face ID. Используя искусственный интеллект, сканер изображения может распознать вас, даже если вы носите очки или отрастили бороду.

Intel по-настоящему взошла на волну NPU только в январе. Помимо CPU и интегрированного GPU, каждый из новых чипов Ultra также содержит NPU — это одна из причин, по которой Intel решила перейти на чиплеты в Meteor Lake.

Компания

AMD уже немного продвинулась вперед. Всего около трех недель назад они представили второе поколение своего собственного NPU под названием XDNA 2, который будет использоваться в процессорах Strix Point в 2024 году

Что NPU может сделать для вас на практике

Реальные преимущества многих NPU пока ограничены. Чипы уже обеспечивают определенное преимущество в производительности и времени работы, особенно если аппаратное и программное обеспечение поставляется из одного источника (кашель, Apple)

Но преимущество NPU действительно должно быть реализовано в обозримом будущем. Потому что на данный момент не похоже, что приложения с искусственным интеллектом — это просто мимолетная тенденция.

Прогнозы в такой быстро развивающейся области затруднительны, но чем больше приложений и приложений, которые вступят на этот путь и интегрируют генеративный ИИ в свой инструментарий, тем мощнее будут становиться NPU.

В то же время операционные системы, вероятно, станут еще лучше распределять задачи ИИ между CPU, GPU и NPU, что позволит аппаратным средствам решать задачи еще эффективнее.

А что думаете вы? Будут ли NPU играть все более важную роль в компьютерах в будущем? Присоединятся ли они к CPU и GPU в качестве третьего в стае — или через несколько лет снова сольются с последними? Какие приложения вы используете сами, где NPU мог бы помочь в повседневной жизни — или, возможно, уже помогает? Сообщите нам об этом в комментариях!