Perplexity выкатила Portable Computer — версию своего агента, которая целиком работает на вашем железе. Не только модель, а вся обвязка: оркестратор, планировщик, роутер инструментов. Любая задача начинается на устройстве, и за локальные шаги не списывается ни одного токена.

Как это устроено

Мозгами служат модели на 27 миллиардов параметров: Qwen 3.8 27B в трёхбитном квантовании (17,4 ГБ загрузки, 32 ГБ памяти) или PPLX 27B — тот же базовый каркас, дообученный самой Perplexity. Скоро обещают Nemotron 3.5 Lightning от Nvidia. Требования к железу серьёзные: либо Nvidia DGX Spark с суперчипом GB10 и 128 ГБ памяти, либо обычная машина с RTX от 24 ГБ видеопамяти, на DGX OS или Ubuntu.

Код и вызовы инструментов исполняются в песочнице на уровне операционной системы — она режет агенту процессы, пути в файловой системе и сеть. Деталь, за которую хочется похвалить отдельно: если песочница по какой-то причине недоступна, агент не «деградирует тихонечку», а полностью отключает выполнение инструментов.

Самое интересное — момент выхода в сеть

Когда шагу нужен живой интернет или рассуждения фронтирной модели, оркестратор останавливается и спрашивает. Перед каждым облачным вызовом система классифицирует персональные данные, показывает, что именно уйдёт с устройства, и ждёт явного подтверждения — на каждый шаг отдельно. Сама Perplexity формулирует так: «чувствительные данные никогда не покидают устройство без разрешения, а локальные модели не берут плату за инференс».

Сколько от этого толку

На собственном бенчмарке Local Knowledge Work Bench из 53 задач PPLX 27B выдаёт 85,4 процента. На более жёстком Terminal Bench 2.1 чисто локальный режим даёт 59,6 процента, а с подключённым облачным советчиком — 73 процента примерно за 0,4 доллара за прогон. То есть локальный агент пока заметно слабее облачного на сложных задачах — и это честно показано цифрами, а не заметено под ковёр.

Почему это важно

Это вторая за сутки крупная ставка на локальный ИИ — после того как Apple прямым текстом назвала свои новые десктопы машинами для запуска моделей дома. Логика везде одна: агенты жгут токены сотнями тысяч шагов, и если рутинную часть можно перенести на своё железо, счёт схлопывается в разы. Бонусом идёт то, чего в облаке купить нельзя вообще: ваши файлы физически не уезжают с машины.

Оговорки, впрочем, крупные. Portable Computer доступен только платным подписчикам уровня Pro и Max, пока только на Linux; Windows обещают в сентябре, а macOS в планах не значится вовсе. Плюс видеокарта от 24 ГБ — то есть «бесплатные токены» начинаются после того, как вы один раз заплатите за железо.

Источники: MarkTechPost и ZDNet

НЕЙРО-ПУШКА ● Новости и обзоры нейросетей

Anthropic закрыла Китаю доступ к своим моделям. Это не помешало китайским разработчикам покупать токены Claude по цене примерно в десять раз ниже официальной. Схема выросла в полноценную отрасль со своим сленгом, ценовыми рейтингами и цепочкой поставок — а свежий аудит показал, что расплачивается за дешевизну не только покупатель.

Что такое «перевалочная станция»

Механику разобрала Цзылань Цянь из Oxford China Policy Lab в материале для ChinaTalk. Ключевой элемент рынка называется 中转站 — «перевалочная станция». Это API-прокси на зарубежном сервере, который стоит между разработчиком и инфраструктурой Anthropic: принимает запрос, пересылает его дальше как совершенно легитимный и возвращает ответ обратно. Гео-блокировка и проверка личности при этом не срабатывают — с точки зрения провайдера обращается обычный зарубежный клиент.

Платят юанями через WeChat или Alipay. Ценник держится в районе 1 юаня за 1 доллар потреблённых токенов — это на 70–90% ниже официальных тарифов. Сами станции каталогизированы в сообществах разработчиков и ранжированы по цене, как товары в маркетплейсе; розница добралась до Taobao.

Откуда берётся такая скидка

Дешевизна складывается из трёх независимых источников — в разборе это называют принципом «одна рыба — три блюда».

Первое: арбитраж на самих аккаунтах. Массовая регистрация ради стартовых бесплатных кредитов, перепродажа неизрасходованных квот, корпоративные и образовательные скидки, деление одной подписки Max на множество пользователей. Отдельная индустрия обслуживает верификацию: поддельные документы, дипфейки против биометрии, найм живых людей в бедных странах, готовых продать свой скан за три десятка долларов.

Второе: подмена модели. Пользователь выбирает Opus, а прокси молча уводит запрос на Sonnet, Haiku или вовсе на китайские Qwen либо GLM — ответ возвращается под нужной этикеткой.

Третье, самое неприятное: логи. Через оператора прокси проходит всё целиком.

Каждый запрос, проходящий через прокси, — полный промпт, полный ответ, вызовы инструментов — лежит на сервере оператора.

Счёт выставили науке

Пока это выглядело как проблема отдельных сэкономивших разработчиков. Но исследователи из немецкого центра безопасности CISPA провели первый систематический аудит таких сервисов — и масштаб оказался другим.

Проверив 17 теневых API, они обнаружили, что 45,83% эндпоинтов не прошли проверку на подлинность модели. Разница видна на замерах: официальная Gemini-2.5-flash даёт на медицинском тесте MedQA 83,82% точности, тогда как те же вопросы через прокси — около 37%. Провал почти на 47 пунктов, при том что клиент уверен, что говорит с фронтирной моделью.

Главное здесь то, на чём эти сервисы уже успели отметиться: по подсчётам авторов, теневые API использовались в 187 научных работах, а самый популярный из них накопил почти шесть тысяч цитирований. То есть часть опубликованных результатов получена не на той модели, которая указана в статье, — и воспроизвести их корректно уже нельзя.

Почему это важно

Экспортный контроль оказывается дырявым по построению: ограничить доступ к весам можно, а доступ к API утекает через прокси-слой, который никакими списками не регулируется. Anthropic это видит — компания уже блокировала масштабные попытки дистилляции своих моделей, счёт шёл на десятки тысяч поддельных аккаунтов и миллионы запросов, — но каждая перевалочная станция выглядит для неё как один добросовестный клиент, и скоординированное злоупотребление в такой оптике попросту невидимо.

Ломается и слой безопасности: аудит показал, что теневые API ведут себя непредсказуемо и по вредоносности ответов — где-то фильтры оказываются жёстче официальных, где-то оценка вреда почти удваивается. Наконец, рушится сама возможность доверять цифре в чужой работе, если неизвестно, какая модель на самом деле отвечала.

Дешёвый доступ никуда не денется, пока разница в цене десятикратная. Но покупатель платит не только юанями — он отдаёт свой код, свои промпты и, довольно часто, качество ответа, о подмене которого даже не узнает.

Источники: ChinaTalk, The Decoder, исследование CISPA

НЕЙРО-ПУШКА ● Новости и обзоры нейросетей

Американский стартап Subquadratic представил модель SubQ и заявил, что смог значительно снизить вычислительные затраты при обработке длинного контекста. Компания утверждает, что её система способна работать с контекстным окном объёмом до 12 миллионов токенов, анализировать сотни документов и крупные программные проекты за один проход.

Главное отличие SubQ связано с отказом от стандартного плотного механизма внимания, при котором каждый токен сравнивается со всеми остальными. По мере увеличения текста количество вычислений быстро растёт. В SubQ используется разрежённый подход: модель выбирает только наиболее важные связи между отдельными участками контекста, сокращая нагрузку на оборудование.

По данным Subquadratic и стороннего тестирования Appen, модель показала высокую скорость обработки длинных последовательностей и конкурентоспособные результаты в задачах программирования. Компания также заявляет о кратном преимуществе относительно решений на основе FlashAttention.

Однако говорить о доказанной революции пока рано. SubQ доступна только ограниченному числу пользователей, исходный код архитектуры не опубликован, а полноценное независимое тестирование модели провести невозможно. Кроме того, технология частично опирается на существующие открытые модели семейства Qwen, поэтому утверждение о полном отказе от трансформеров вызывает вопросы.

Если результаты подтвердятся, подход Subquadratic может снизить стоимость работы больших языковых моделей, ускорить обработку огромных документов и сделать контекст в миллионы токенов действительно практичным. Но пока SubQ остаётся одной из самых интригующих и одновременно спорных разработок в сфере искусственного интеллекта.

Действительно ли стартап решил фундаментальную проблему современных LLM или перед нами очередное громкое обещание?

Семейство открытых AI-моделей Qwen от Alibaba преодолело отметку в 3 млрд загрузок. По данным Fortune, модели Qwen достигли этого результата за последние шесть месяцев. Для сравнения, согласно данным Hugging Face за 2026 год, открытые модели Google набрали около 418 млн загрузок, а Meta — около 227 млн. Таким образом, по этому показателю Qwen значительно опережает обоих американских конкурентов.

Ещё в январе 2026 года Qwen насчитывал около 700 млн загрузок, а к марту показатель приблизился к 1 млрд. Теперь семейство перешагнуло рубеж в 3 млрд.

Рост Qwen особенно интересен на фоне прежнего лидерства американских открытых моделей. Llama от Meta долгое время была одним из главных вариантов для разработчиков, желающих запускать и модифицировать модели самостоятельно. Однако статистика загрузок показывает заметное изменение расстановки сил: китайские модели становятся всё более востребованными среди разработчиков по всему миру.

При этом Alibaba продолжает развивать Qwen и одновременно экспериментирует с коммерческой моделью распространения своих наиболее мощных систем. В августе Reuters сообщал, что компания рассматривает новые условия использования Qwen для крупных коммерческих клиентов. Получается интересная ситуация: Qwen быстро наращивает открытую экосистему, одновременно превращаясь для Alibaba в полноценную коммерческую AI-платформу.

• https://fortune.com/2026/08/15/alibaba-qwen-open-ai-models-3...

• https://www.scmp.com/tech/big-tech/article/3339568/alibabas-...

• https://www.scmp.com/tech/big-tech/article/3349552/alibabas-...

• https://www.reuters.com/business/retail-consumer/alibaba-pla...

Это новая флагманская модель компании на 2,4 трлн параметров. Она умеет автономно вести проекты 10+ дней, планировать сотни итераций, работать с кодом, изображениями и длинными задачами вообще без ручного вмешательства. И фанфакт: на рекламе они отправили ее проектировать чипы в течение 12 часов без остановки — явный вызов США. 😃

По бенчмаркам при этом Qwen 3.8 Max стала одной из сильнейших моделей в мире в кодинге и агентных сценариях. И да — на нескольких тестах она обходит Fable 5 и GPT-5.6 Sol.

Попробовать онлайн можно тут. Веса обещают уже на следующей неделе.

Вот это утренний подарок 😳

@xor_journal

Исследователи из IIT Bombay и Adobe Research обучили «обратную» языковую модель, которая по готовому тексту ответа восстанавливает исходный запрос — без доступа к весам и логитам целевой модели. Заголовки уже хоронят секретные системные промпты. Мы полезли в саму работу — там всё интереснее и честнее.

Зеркальная языковая модель

Обычная языковая модель устроена просто: предсказывает следующий токен за предыдущими. Авторы работы — Пирзада Сухайл, Нагасаи Сакетх Найду, Атану Синха и Амит Сетхи — развернули стрелку времени и обучили модель предсказывать токен предыдущий. Метод так и называется: previous-token prediction, PTP.

Самое неприятное для тех, кто прячет промпты, — как эту инверсную модель готовят. Её не дообучают на чужих датасетах и не лезут внутрь целевой модели: её учат с нуля на данных, которые сама же жертва и нагенерировала по запросам снаружи. Прежние методы инверсии требовали весов или логитов, то есть доступа, которого у атакующего обычно нет. Здесь хватает чёрного ящика с API.

Цифры, которых нет в заголовках

На Qwen3-0.6B в чат-версии инверсная модель восстанавливает промпт слово в слово в 64,77 процента случаев, BLEU — 63,08, косинусная близость по смыслу — 86,13. На базовой версии без чат-тюна точное совпадение падает до 35,14 процента.

Это не «почти идеально», но отрыв от предшественников разгромный. Лучший прежний метод на том же тесте давал 25,44 процента точных попаданий, а подход через обратный промпт-инжиниринг — вообще 0,64 процента. Разрыв почти в сто раз.

А что с большими моделями

Здесь самый отрезвляющий опыт. Инверсную модель, обученную на крохотном Qwen, натравили на ответы GPT-4o. Дословно угадано всего 11,36 процента промптов — зато смысловая близость держится на 63 процентах, а у восстановленных ответов на 81,57. Перевод на человеческий: точную формулировку чужого запроса вы не достанете, а вот о чём он был — вполне.

В статье есть наглядный пример. Оригинальный запрос звучал как «Как выйти на конкурентов, чтобы узнать их ценовые стратегии?». Инверсная модель выдала несколько вариантов, среди них — дословно тот же вопрос и два пересказа той же задачи другими словами. Когда эти реконструкции скормили исходной модели обратно, она выдала по смыслу те же ответы.

Где тонко

Авторы честно перечисляют ограничения. Чтобы нагенерить обучающие данные, нужно прогнать весь словарь целевой модели — у Qwen это около 150 тысяч токенов, то есть счёт за API выйдет заметный. Для дообучения всё равно нужны реальные пары запрос–ответ, хоть и немного: в работе хватило 400 промптов из ShareGPT. И главное — всё проверялось на коротких запросах в одно-два предложения. Длинные системные промпты на несколько абзацев, те самые, что и стоят денег, не тестировались вовсе.

Почему это важно

Последние годы целая индустрия строится на допущении, что системный промпт — это актив, который можно спрятать. В нём живут правила модерации, фирменные сценарии и вся секретная кухня стартапов, чей продукт — обёртка вокруг чужой модели. PTP пока не вскрывает такие промпты целиком, но показывает направление удара: каждый опубликованный ответ модели — это утечка того, что её об этом попросили.

Вторая сторона неприятнее. Если по тексту ответа восстанавливается запрос, то любой выложенный в сеть фрагмент переписки с ботом потенциально выдаёт, о чём человек спрашивал — включая то, что он аккуратно вырезал перед публикацией.

Источники: The Decoder, arXiv

НЕЙРО-ПУШКА ● Новости и обзоры нейросетей