Microsoft открыла скачивание Aion 1.0 Instruct, текстовой модели примерно с 2,29 млрд параметров. Основной репозиторий датирован 18 ноября. В нём около 4,58 ГБ неквантованных весов под лицензией MIT. В отдельном пакете ONNX WebGPU примерно на 1,3 ГБ веса хранятся с меньшей точностью. Оба варианта можно опробовать на совместимых устройствах. Переход подходящих устройств Windows Insider на Aion намечен на декабрь, а более широкое распространение на обычных версиях Windows компания планирует к концу января 2027 года. Карточка модели Microsoft · Пакет WebGPU · График перехода Windows

Практический смысл в том, что приложение может работать с текстом без отправки каждого запроса в удалённую службу. Читалка может переформулировать абзац, исследовательское приложение извлечь заголовки из заметок, а просмотрщик документов составить краткое изложение без подключения. Сложность переходит к приложению. Модель должна поместиться на устройстве, соответствовать задаче читателя и давать достаточно стабильный результат на разных машинах. Доступные веса позволяют начать с узкой текстовой функции. Размер и лицензия мало говорят о том, как приложение справится со следующим настоящим документом пользователя.

Три способа встретить Aion#

Основное скачивание предназначено для разработчиков, выбирающих среду выполнения. В репозитории есть веса, токенизатор, код модели и шаблон диалога. Microsoft указывает около 2,29 млрд параметров в bfloat16, по два байта на параметр без учёта упаковки. Размер около 4,58 ГБ соответствует этому числу. При запуске память занимают также среда исполнения и тензоры для обработки входа и генерации текста. Размер файла помогает планировать загрузку. Необходимая память зависит от среды, контекста и того, как устройство делит ресурсы с другими программами. Файлы репозитория Aion

Пакет WebGPU представляет ту же семью в другой форме. В карточке указаны четырёхбитные веса, активации и кеш генерации половинной точности. Граф ONNX и отдельный файл весов вместе занимают около 1,3 ГБ, примерно 28 % от файла bfloat16 в десятичных единицах. Разница существенна для приложения, которое предлагает человеку скачать модель. Нужны совместимые графика и среда выполнения. Уменьшение файла не убирает остальных затрат памяти. Microsoft указывает на работу через подходящую сборку ONNX Runtime в браузере и в нативном режиме WebGPU. Описание модели ONNX WebGPU

Стилизованная схема: большой стек неквантованной модели рядом с меньшей 4-битной моделью в окне браузера.

Третья возможность связана со встроенной версией Windows. Microsoft описывает её как дополнительно оптимизированную модель с локальным компонентом модерации. В поддерживаемых функциях Windows AI она заменит Phi Silica. В сообщении от 13 ноября начало распространения по программе Insider намечено на 4 декабря, а в обычных версиях на конец января. Поддержку совместимых GPU тоже будут расширять поэтапно. Для разработчика Windows сроки и список устройств важнее дня открытия репозитория Hugging Face. Прототип с открытыми весами знакомит с моделью. Для проверки системной функции понадобятся версия и устройства, на которые она действительно доставляется. График перехода Windows

Эти варианты помогают принять разные решения. Разработчик межплатформенного эксперимента может взять открытый пакет и записать версии файлов. Разработчик Windows может оценить предварительный фреймворк перед системным выпуском. Браузерное приложение может применить ONNX и само заняться доставкой, ускорением и памятью. Все называют модель Aion, хотя одна схема зависит от браузера, а другая от очереди обновления Windows. Проверка совместимости начинается с указания файлов и способа запуска. После этого можно сказать, какого результата ожидать на другом компьютере.

Размер позволяет попробовать модель, но заметен при загрузке#

Пользователь встречается со скачиванием раньше первого ответа. При постоянной скорости 50 Мбит/с передача 1,3 ГБ заняла бы около трёх с половиной минут без накладных расходов и запуска. Это условная скорость для понимания масштаба. Передача 4,58 ГБ по тому же соединению заняла бы более двенадцати минут. Если приложение кеширует пакет, ждать, возможно, придётся один раз. Пользователь, пропустивший функцию при первом запуске, может так и не узнать, насколько быстро она работает после подготовки. Установка, первая загрузка модели и готовый к работе режим требуют отдельных измерений.

Открытое скачивание обеспечивает лишь часть стабильной локальной работы. В веб-приложении нужно учитывать обрывы сети, доступное хранилище браузера и версии файлов в кеше. У нативного приложения похожие вопросы под другими правилами ОС. Организация может выдавать пакет через локальную сеть или в составе обновления. От этого зависит, кто начинает работу сразу, а кому нужно получить файлы. Документация ONNX Runtime для веба разбирает размеры, память и отдельные файлы больших моделей. Меньший пакет делает такой вариант реальнее. Первый запуск всё равно должен понятно показывать ход передачи и подготовки. ONNX Runtime о больших веб-моделях

Устройство должно загрузить и подготовить модель, обработать вход и постепенно генерировать выход. Ноутбук с отдельной видеокартой, устройство с общей памятью и устройство с иным провайдером исполнения покажут разные скорости и объёмы памяти. В примере Microsoft также описана первоначальная компиляция для нейропроцессора с последующим использованием кеша. Это свойства конкретного предварительного варианта с его требованиями. При сравнении стоит регистрировать версию, устройство, среду, длину входа, время до первого текста и до окончания. Скорость после прогрева оставляет за рамками несколько затрат, которые заметны в обычной работе. Предварительный пример Aion от Microsoft

Расходы сохраняются даже без оплаты отдельного запроса. Локальная работа использует диск, память, электричество и вычислительные ресурсы. На рабочей станции с питанием от сети они могут быть малозаметны. При чтении длинных документов от батареи человек может заметить вентилятор, тепло или снижение заряда. Имеет смысл начать с функций, где отсутствие сетевой задержки или работа без сети важны. При проверке можно смотреть, остаётся ли приложение отзывчивым во время обработки, мешает ли работа другим задачам и оправдывает ли частота использования хранение модели.

Размер приложения и размер модели влияют на разные решения. Утилита на 20 МБ может добавить пакет на 1,3 ГБ как функцию по выбору, показывать ход загрузки и оставлять остальные возможности доступными. Специализированное исследовательское приложение может включить веса в управляемую установку, если они нужны её аудитории. В обоих случаях работает одна модель. Отличаются частота, с которой функция оправдывает установку, способ обновиться до подходящей версии и поведение при нехватке диска или памяти.

Контекст задаёт предел в токенах#

В основной карточке указан контекст в 32 768 токенов. В пакете WebGPU настройка по умолчанию предусматривает 4 096 токенов вместе для запроса и ответа. Её можно поднять до предела модели, выделив больше места под кеш. Приложение для длинных документов должно оставить место инструкциям и результату и уложиться в ресурсы среды. Токены представляют части ввода, и их число не равно фиксированному числу слов или страниц. Два внешне равных документа могут занимать разный объём из-за языка, таблиц и структуры. Спецификация задаёт максимум, а конфигурация определяет, насколько близко к нему подойдёт конкретное устройство. Контекст и конфигурация WebGPU

Представим отчёт на двенадцати страницах с бюджетной таблицей и предупреждениями к четырём рекомендациям. Читатель хочет краткое изложение, где сохранятся предупреждения и соответствующие суммы. Приложение может проверять присутствие этих сведений, точность чисел и связь с исходными фрагментами. Такая проверка смотрит дальше предела ввода. Модель может принять целый документ и пропустить деталь в середине. Важно и преобразование файла в текст. Если таблица стала списком чисел без названий, больший контекст оставит модели ту же неоднозначность.

Разным задачам подходят разные формы входа. Для редактирования обычно нужны выделенный отрывок и требование к тону. Краткая запись собрания должна сохранить имена, решения и позиции в стенограмме для сверки. На вопрос о длинном руководстве можно ответить, извлекая связанные фрагменты и показывая их человеку. Сокращение объёма экономит память и помогает сосредоточить модель. Стоит различать работу с целым документом и с выбранными фрагментами. Неподходящая выборка и ошибка сгенерированной фразы требуют разных исправлений, хотя читатель в обоих случаях получает плохой ответ.

В карточке также указан предел знаний в декабре 2025 года. К дате публикации нельзя рассчитывать, что модель узнала при обучении обо всех последующих событиях. Текущий факт можно получить из открытого на устройстве документа. Приложение может предоставить явный поиск, если это совместимо с его правилами конфиденциальности. Вопрос о сегодняшней цене или новом правиле отличается от редактирования текста этого правила на экране. Показ исходного документа и нужного фрагмента помогает избежать неверных выводов. Гладкий ответ заметен сразу, а использование источника нужно проверять отдельно. Устройство модели и предел знаний

Что подтверждают опубликованные измерения#

Microsoft приводит 55,15 на MMLU, 83,90 по своему строгому среднему IFEval и 32,00 по мягкой оценке на уровне запросов IFBench. Это разные задачи и метрики. Результаты указывают, что дальше проверять в области общих знаний и выполнения требований. Частоту достижения порога качества в приложении нужно измерять отдельно. Microsoft также отмечает ограничения фактической точности и сложных рассуждений. В карточке WebGPU сопоставимые оценки квантованного варианта обещаны позднее. Команде, которая распространяет эту версию, следует оценивать её на документах нужных типов. Результаты Microsoft · Данные по оценке WebGPU

Языки требуют такой же осторожности. Microsoft перечисляет восемь языков, включая английский, французский и китайский, и указывает на возможные различия качества. Русский в список не включён. Для проверки редактирования подойдут обычные сообщения, специальная лексика, двуязычные имена и указания по тону. Для краткого изложения полезны таблицы и имена, которые важно сохранить в понятном виде. Если выбирать только отшлифованные примеры на одном языке, легко пропустить реальные сокращения, знаки препинания и смешанный текст. Результат должен помогать понятно описать пользователю надёжные варианты использования. Заявленные языки и ограничения

Сравнение четырёхбитного и неквантованного пакетов тоже требует условий. Снижение точности уменьшает файл и при одинаковых входах может менять качество выходов или исполнение указаний по формату. Устройство и среда меняют задержку отдельно от смысла ответа. Для ограниченной оценки можно дать двум пакетам общие запросы, примеры и правила остановки, затем сравнить время до первого текста, пик памяти и долю результатов, которые пригодны без правок. При редактировании пропуски могут быть важнее стиля, при структурированном извлечении важнее форма и факты. Минимальный пригодный пакет определяется на целевых устройствах и аудитории.

У основного пакета есть отдельное требование к интеграции. Карточка описывает запуск Transformers с собственным кодом репозитория. Загрузка весов и выполнение кода представляют разные операции. В управляемой среде можно выбрать известную ревизию, изучить зависимость и сопоставить её с поддерживаемым пакетом ONNX до установки. Это обычный контроль цепочки поставок программ. Он также касается качества приложения. Для установки локальной модели всё равно могут понадобиться дополнительные файлы. Обещание автономной работы требует проверки всего цикла после получения этих компонентов. Требования основной модели к запуску

Место исполнения меняет ответственность#

Польза для конфиденциальности появляется, когда документ читается, обрабатывается и возвращается на том же устройстве. Поставщик модели тогда не получает запроса. У других функций приложения остаются собственные маршруты. Читалка может синхронизировать текст с учётной записью, диагностика собирать отрывки, а гибридная функция предлагать удалённую модель при нехватке ресурсов. Эти решения влияют на отправку данных. Человек должен понимать, что происходит при нехватке памяти, незавершённой загрузке или неудачном результате. Понятный локальный режим позволяет увидеть выбранный путь и оставленные файлы.

Для практической проверки можно открыть синтетический документ, закончить скачивание, отключить сеть и повторить запрос. Так проверяется обещанный режим. После восстановления сети или выхода из учётной записи можно выяснить, зависит ли хранилище от аккаунта и ожидает ли локальный результат синхронизации. Пользователю полезно видеть, что доступно до скачивания и как удалить файлы позднее. Когда продукт поддерживает и локальную, и удалённую обработку, такие детали помогают понять значение выбранного режима без знакомства с устройством среды выполнения.

Для предсказуемого внедрения также важна разница между открытыми весами и предусмотренной защитой Windows. Microsoft говорит, что модель системы будет работать с локальной модерацией. Разработчики с отдельными пакетами оценивают те компоненты, которые действительно включают, и эффект операции для людей. Подготовить черновик для проверки проще, чем автоматически его разослать. Человек, читающий личную заметку, может сверить пересказ и отредактировать его. Когда другая система принимает уверенно написанный текст за указание, последствия меняются. Использование результатов как предложений на первом этапе помогает людям увидеть, где модель полезна.

Локальная модель может пользоваться обычными возможностями приложения. При этом необходимо понимать, кто инициирует действие и как оно разрешается. Текстовый помощник предлагает заголовок, а человек выбирает, применить ли его. Приложение для доступности даёт простое объяснение и оставляет оригинал под рукой. Система заметок может отмечать возможные решения для подтверждения. В таких схемах несовершенный результат легко посмотреть и поправить. Доля пригодных ответов с первой попытки говорит больше, чем характеристика всестороннего помощника. Добавлять новые обязанности можно после наблюдения за первыми.

Разрешительная лицензия позволяет изучать и распространять опубликованный пакет на предусмотренных условиях. В карточке отдельно описаны назначение и ограничения. У Windows свой процесс доставки, а у предварительного фреймворка свои условия проверочного пакета. Прежде чем связывать открытую модель, предварительную версию и будущий Windows API в одной системе, команде нужно определить используемый компонент и механизм обновления. Такая запись помогает, когда скачанные веса остаются на определённой ревизии, а поставщик модели ОС обновляется. Лицензия весов · Документация предварительного пакета Windows

Переход Windows стоит проверить отдельно#

Microsoft говорит, что приложениям с обычными Windows AI API при переходе с Phi Silica чаще всего нужно немного изменений. Проверки требуют собственные системные инструкции, адаптеры LoRA и особенные разборщики ответа. Компания упоминает невидимую маркировку для требований отдельных регионов к происхождению текста. Привязка к точным фразам старой модели может изменить работу даже при успешном обращении к API. Для сравнения нужны результаты и поведение клиента, включая обработку неожиданного текста. Для структурированного выхода можно сохранить трудные случаи, проверяемые на двух моделях. Подробности перехода Microsoft

Сроки важны и потому, что устройства обновляются неодновременно. В одной организации могут быть машины со старой локальной моделью, небольшая группа предварительной версии и устройства, получившие обычный выпуск. Запись среды и версии во внутренних измерениях покажет, связано ли изменение с определённой группой. В переходный период можно поддерживать небольшой проверенный базовый набор для двух версий. Предположение об одновременной замене затруднит поиск причин сбоя. Целевые сроки Microsoft помогают запланировать пилот и сохранить время для перенастройки ввода и разбора после получения обычной версии. Документация модели Windows AI

Публикация упрощает начало испытаний в реальных условиях. Можно выбрать нужную текстовую задачу на устройстве, которое у людей уже есть, подобрать устанавливаемый пакет и измерить качество и задержку после подготовки, при первом запуске и без сети. Важно включить заявленные языки и зафиксировать источники модели и направления передачи данных. Если результат надёжен, браузерный или нативный пакет даёт конкретной задаче полезный локальный режим. График Windows открывает ещё одну возможность после обновления подходящих машин. Самый интересный результат получится, если люди продолжат выбирать функцию после того, как удобство локального запуска придётся соотнести с расходами на него.