Эпоха искусственного интеллекта в ноутбуках: технологии NPU, TOPS и Copilot+ PC

Искусственный интеллект уже не ограничивается чат-ботами, которыми мы пользуемся в интернете. В современных ноутбуках также предусмотрены специальные аппаратные возможности для более быстрого и энергоэффективного выполнения функций ИИ. Снижение шума во время видеоконференций, улучшение изображения, обработка фотографий и запуск некоторых моделей искусственного интеллекта непосредственно на устройстве — примеры таких возможностей.
При выборе ноутбука нового поколения часто можно встретить такие обозначения, как Intel Core Ultra, AMD Ryzen AI, Snapdragon X, NPU, TOPS и Copilot+ PC. Что означают эти технологии? Чем AI-ноутбук отличается от обычного ноутбука и стоит ли доплачивать за эти функции?
Что такое NPU и для чего он нужен в ноутбуке?

Среди основных вычислительных компонентов ноутбука CPU, GPU и NPU выполняют разные задачи:
- CPU (Central Processing Unit) — управляет операционной системой, программами и общими вычислительными задачами.
- GPU (Graphics Processing Unit) — используется для графики, игр, обработки видео и параллельных вычислений. Многие модели ИИ также можно ускорять с помощью GPU.
- NPU (Neural Processing Unit) — предназначен для выполнения поддерживаемых операций искусственного интеллекта с помощью специализированного оборудования и с меньшим энергопотреблением.
Например, такие функции, как размытие фона во время онлайн-встречи и удаление нежелательных шумов из звука микрофона, при наличии совместимого программного и аппаратного обеспечения могут выполняться на NPU. Это помогает сохранить ресурсы CPU и GPU для других задач и одновременно снизить энергопотребление.
Однако наличие NPU не означает, что все программы ИИ будут работать быстрее. Для этого программа должна поддерживать данный NPU, а задача — соответствовать его возможностям.
Что такое TOPS и как измеряется производительность ИИ?
TOPS — это сокращение от Tera Operations Per Second. Этот показатель отражает, сколько триллионов операций процессор способен выполнять за одну секунду. В сфере искусственного интеллекта TOPS в основном используется для оценки теоретической вычислительной производительности при обработке задач ИИ.
Например, процессор с NPU производительностью 40 TOPS теоретически может выполнять 40 триллионов операций в секунду. Однако это не означает, что реальная программа обязательно будет работать с такой скоростью. На результат также влияют программное обеспечение, используемая модель, формат данных и возможности памяти.
При выборе ноутбука важно не путать показатель TOPS самого NPU с общим показателем TOPS платформы. Некоторые производители указывают суммарные возможности CPU, GPU и NPU по вычислениям ИИ. Это значение может быть выше показателя одного NPU, поэтому напрямую сравнивать их некорректно.
Показатель TOPS можно запомнить следующим образом:
- Более высокий TOPS — при соответствующих условиях означает больший вычислительный потенциал для ИИ.
- Одинаковый TOPS, разные результаты — даже при одинаковом показателе два процессора могут демонстрировать разную производительность в реальных программах.
- TOPS — не единственный критерий: также важны общая производительность процессора, RAM, GPU, система охлаждения и совместимость программ.
Поэтому вместо выбора ноутбука только по самому высокому показателю TOPS целесообразнее оценить, какие программы ИИ поддерживает устройство и насколько полезны эти функции именно для вас.
Что такое Copilot+ PC и чем он отличается от обычного ноутбука?

Одно из основных требований — наличие NPU с вычислительной мощностью для ИИ не менее 40 TOPS. Кроме того, для устройств Copilot+ PC существуют требования к памяти, накопителю и другим системным компонентам.
Это важное различие: не каждый ноутбук с NPU относится к категории Copilot+ PC. Хотя некоторые процессоры оснащены NPU, его производительность или другие характеристики устройства могут не соответствовать требованиям Microsoft.
К преимуществам категории Copilot+ PC относятся:
- Возможность использовать совместимые функции ИИ в Windows.
- Выполнение части вычислений ИИ непосредственно на устройстве в поддерживаемых задачах.
- Снижение зависимости от облачных сервисов для некоторых функций.
- Использование энергоэффективной локальной обработки ИИ.
При этом не все функции ИИ могут работать без подключения к интернету. Некоторые возможности зависят от конкретной программы, версии Windows, языковой поддержки и региона. Поэтому перед покупкой ноутбука необходимо проверить, действительно ли нужная вам функция доступна на этом устройстве.
Intel Core Ultra, AMD Ryzen AI и Snapdragon X: основные различия

Intel Core Ultra
Во многих современных моделях этого семейства процессоров есть NPU под названием Intel AI Boost. Например, показатель NPU у модели Core Ultra 7 256V составляет 47 TOPS. Он предназначен для локальной обработки ИИ в совместимых программах.
AMD Ryzen AI

Семейство Ryzen AI ориентировано на ускорение операций ИИ с помощью NPU. Например, у совместимых моделей серии Ryzen AI 300 показатель NPU может достигать 50 TOPS. Точное значение зависит от модели процессора.
Qualcomm Snapdragon X

Серия Snapdragon X выделяется энергоэффективностью и возможностями локального ИИ в ноутбуках Windows. Процессоры Snapdragon X Elite и X Plus относятся к платформам, используемым в устройствах Copilot+ PC. Также необходимо учитывать совместимость программ с архитектурой ARM.
Неправильно ранжировать все эти процессоры только по показателю TOPS. На выбор также влияют общая производительность ноутбука, время автономной работы, система охлаждения, экран и совместимость программ.
Для каких задач полезен AI-ноутбук?

Польза функций искусственного интеллекта зависит от задач пользователя. Некоторые возможности заметны в повседневной работе, другие важны только для тех, кто использует специальные программы.
- Онлайн-встречи: размытие фона, снижение шума и улучшение изображения в совместимых программах.
- Работа с текстом: составление краткого содержания, редактирование текстов и создание контента в поддерживаемых приложениях.
- Обработка изображений и видео: ускорение инструментов на основе ИИ в некоторых творческих программах.
- Перевод и обработка речи: преобразование речи в текст и перевод в реальном времени в поддерживаемых функциях.
- Программирование: выполнение некоторых задач кодирования с помощью совместимых локальных моделей и инструментов разработки.
Здесь важно понимать: не все эти функции требуют именно NPU. Некоторые могут работать на CPU или GPU, а другие — на облачных серверах через интернет. Преимущество AI-ноутбука заключается в возможности эффективно выполнять часть поддерживаемых задач непосредственно на самом устройстве.
Стоит ли покупать AI-ноутбук?
При выборе AI-ноутбука главный вопрос заключается не в том, есть ли в устройстве NPU, а в том, насколько часто вы будете использовать эту технологию.
Цель использования | Значимость возможностей ИИ |
Интернет, фильмы и офисные программы | В большинстве случаев это не главный приоритет |
Онлайн-встречи и мобильная работа | Может быть полезно |
Программирование и инструменты ИИ | Зависит от используемых программ |
Дизайн, обработка фото и видео | Также важны GPU и поддержка программ |
Работа с локальными моделями ИИ | Необходимо оценивать NPU, GPU, RAM и накопитель в совокупности |
Если вы покупаете ноутбук в основном для интернета, Word, Excel и повседневных задач, доплачивать за более мощный NPU необязательно. В этом случае важнее могут быть общая производительность процессора, RAM, SSD, экран и аккумулятор.
Напротив, если вы регулярно используете функции ИИ, планируете работать с локальными моделями или хотите пользоваться новыми возможностями ИИ в Windows, имеет смысл учитывать показатель NPU при выборе.