Модели, на которых AI работает не только в облаке

«AI-ready» на этом сайте — не рекламная наклейка, а метка с известным правилом. Мы считаем её из характеристик: Bronze — устройство для облачных ассистентов, Silver — облако плюс лёгкие локальные модели около 1B, Gold — конфигурация, на которой запускаются локальные модели на 3–7B параметров. В эту подборку попадают только Gold: 16 ГБ оперативной памяти, накопитель UFS или NVMe и процессор среднего класса или выше. Обоснование печатается в карточке отдельной строкой, поэтому метку можно оспорить, а не принять на веру.

Почему именно память. Локальная модель целиком держится в оперативной памяти вместе с системой, вкладками браузера и Linux-контейнером. На 8 ГБ она вытесняется на диск, и ответ вместо секунд ждёшь десятки секунд. Накопитель важен по той же причине: eMMC заметно медленнее на чтении весов модели, а UFS и NVMe убирают паузу при первом запуске.

Что даёт NPU. Отдельный нейроблок ускоряет встроенные функции ChromeOS — шумоподавление и размытие фона в звонках, обработку изображения, субтитры. Для больших языковых моделей он памяти не добавляет: устройство с NPU и 8 ГБ останется в Silver, и это не ошибка расчёта.

Про архитектуру. На x86 набор готовых сборок инструментов запуска моделей шире. На ARM локальный запуск возможен, но часть сборок под arm64 просто не выпущена — конкретную модель проверяйте до покупки, а не после.

Чего здесь нет и не будет. Chromebook не обучает модели, не отдаёт GPU под расчёты и не запускает модели, которым нужно больше памяти, чем есть у устройства. Если задача — дообучение или инференс больших моделей, нужен другой класс техники. И обратное тоже верно: облачные ассистенты, генерация текста и разбор документов в браузере одинаково работают на любой модели каталога, включая Bronze, — за это доплачивать не нужно. Подборка узкая намеренно: критерий Gold жёсткий, и расширять его ради длины списка мы не будем.