ai_frontier · 2026-11-03
Новый дискретный поиск сокращает объем памяти, раскрывая скрытые инварианты модели
Большие языковые модели увеличиваются в размерах благодаря их успеху в широком спектре приложений. Это требует острой необходимости сократить использование памяти, чтобы сделать их более доступными. Квантование после обучения — это популярный метод, который использует меньшее количество битов (например, 4–8 бит) для представления модели без ее повторного обучения. Однако выполнение квантования в конфигурации со сверхмалой разрядностью (например, 2 бита) остается сложной задачей. В этой статье мы предлагаем InvarExplore, унифицированную структуру, которая систематически одновременно исследует инвариантность различных моделей, что позволяет нам воспользоваться синергией между каждым типом инвариантности. Важно отметить, что InvarExplore имеет алгоритм дискретного поиска, который позволяет нам исследовать инвариантность перестановок, которая недостаточно изучена, поскольку ее нельзя оптимизировать с помощью градиентных методов. Результаты показывают, что InvarExplore совместим с существующими современными методами, обеспечивая дополнительное повышение производительности по сравнению с сильными конкурирующими методами.
## В чем суть открытия
InvarExplore представляет дискретный поиск для использования инвариантности перестановок, обеспечивая сверхнизкое 2-битное квантование для больших моделей.
## Как это устроено: принцип работы
InvarExplore сочетает в себе алгоритм дискретного поиска с исследованием инвариантности модели. Он ищет весовые перестановки недифференцированно, чтобы минимизировать ошибку квантования перед усечением битов. Это создает синергию между несколькими инвариантами без необходимости обновления градиента.
## Что это меняет на практике
Позволяет развертывать массивные базовые модели на периферийных устройствах с 2-битной точностью в течение 1–3 лет за счет сокращения требований к памяти при сохранении точности.
## Границы метода и риски
Дискретный поиск требует более высоких вычислительных затрат в автономном режиме во время квантования после обучения, а чрезмерное 2-битное сжатие по-прежнему приводит к незначительной потере мощности при выполнении сложных задач.
## Результаты и доказательства
- **Комплексный скор значимости:** 9.5 / 10.0
- **Уровень доказательности:** программный бенчмарк и верификация
- **Бенчмарки и прирост:** Perplexity and task accuracy in 2-bit post-training quantization setups
- **Размер выборки / валидация:** N = Large Language Models evaluated on 2-bit PTQ benchmarks
quantum_physics · 2026-11-18
Аннотация: Современная цифровая инфраструктура сталкивается с системным комплексным кризисом по трем фундаментальным векторам: вероятностная ловушка ИИ (стохастические модели с галлюцинациями и катастрофическим потреблением энергии), уязвим
ai_frontier · 2026-11-18
Abstract Background Children with cerebral palsy (CP) exhibit substantially elevated energetic costs of walking, yet the biomechanical origins of this excessive cost remain unclear, limiting the effectiveness of current interventions. Metho
ai_frontier · 2026-11-18
Детекторы Шиллинга для рекомендательных систем почти всегда оцениваются по одному числу — обнаружению AUROC, без учета того, когда ему можно доверять. Мы проверяем обнаружение пространства представления с помощью VEIL (Вариационная оценка п
brain_bci · 2026-11-18
Монреальская когнитивная оценка (MoCA) широко используется в исследованиях болезни Паркинсона (БП) для измерения когнитивных функций, но опубликованные пороговые значения для легких когнитивных нарушений (PD-MCI) и деменции (PDD) различаютс
brain_bci · 2026-11-18
Компьютеризированная когнитивная тренировка (CCT) направлена на смягчение снижения когнитивных функций при субъективном снижении когнитивных функций (SCD) и легких когнитивных нарушениях (MCI). Однако соблюдение требований и долгосрочное
brain_bci · 2026-11-18
Изучить этническое неравенство в результатах найма и представительстве рабочей силы среди медсестер и акушерок в разных диапазонах оплаты, а также оценить, могут ли регулярно собираемые административные данные генерировать воспроизводимые п
biomedicine_health · 2026-11-18
Это обновление ранее опубликованного обзора. Женщины с бесплодием могут использовать дополнительные методы лечения для улучшения репродуктивных результатов. Мио-инозитол и D-хиро-инозитол — это широко доступные пищевые добавки, которые обыч
biomedicine_health · 2026-11-18
Имеглимин — противодиабетический препарат на основе метформина, который улучшает гликемию за счет оптимизации функции митохондрий. Данные свидетельствуют о том, что он повышает эффективность митохондрий и сохраняет массу β-клеток поджелудоч
brain_bci · 2026-11-18
Несмотря на наблюдаемые преимущества современных методов лечения, у людей, живущих со спинальной мышечной атрофией (СМА), сохраняются некоторые тяжелые симптомы. Усталость постоянно указывается сообществом СМА как главная неудовлетворенная
biomedicine_health · 2026-11-18
In reproductive-aged women with polycystic ovary syndrome, overweight or obesity exacerbates metabolic and reproductive risks; lifestyle interventions and metformin have limited weight-loss effects, and more effective pharmacological weight
biotech_bioengineering · 2026-11-18
Геномный отбор стал мощным инструментом для ускорения генетического улучшения в селекции животных, однако его более широкое применение часто ограничивается высокими затратами на генотипирование и снижением надежности прогнозирования среди п
biotech_bioengineering · 2026-11-18
Osteoglossidae, одна из самых древних пресноводных рыб, демонстрирующая трансконтинентальную дизъюнкцию, дает важную информацию о ранней эволюции костистых рыб и исторической биогеографии. Используя интегрированные стратегии секвенирования,
biotech_bioengineering · 2026-11-18
Фертильность молока сильно влияет на устойчивость фермы, поскольку молодых коров приходится выращивать в течение многих месяцев, прежде чем они начнут давать молоко. Возраст начала обслуживания (AFS) является ключевым фактором репродуктивно
biomedicine_health · 2026-11-18
Понимание движущих сил, лежащих в основе половых различий в продолжительности жизни, может дать ценную информацию об эволюции продолжительности жизни в целом. Однако сравнительные исследования, выявляющие эти факторы у беспозвоночных, остаю
ai_frontier · 2026-11-18
Травматическая оптическая нейропатия (ТОН) является основной причиной необратимой потери зрения после тупой черепно-мозговой травмы, однако отсутствие клинически значимых моделей на крупных животных, которые точно повторяют человеческий ТОН