Оптимизация языковых моделей на FPGA: новый подход к сжатию и ускорению
![Предлагаемый конвейер оптимизации демонстрирует поэтапный переход от начальной подготовки модели, включающей разрежение [latex]N:M[/latex], квантование и упаковку данных, к этапу бенчмаркинга на различных платформах, где происходит загрузка, деквантование и матричное умножение, причём использование 16-битного числа с плавающей точкой (FP16) выделено пурпурным цветом, нули - белым, а четырехбайтовые целые числа (INT4) - синим, что позволяет оценить эффективность и производительность системы в различных условиях.](https://arxiv.org/html/2512.24713v1/x1.png)
В статье представлен метод совместного проектирования аппаратного и программного обеспечения для повышения эффективности работы больших языковых моделей на FPGA.
Денис Аветисян
Диалог с предвидением: Как понять намерения собеседника
Новая модель BEDA позволяет системам искусственного интеллекта строить более эффективные диалоги, учитывая предполагаемые убеждения и намерения оппонента.
Эволюция кода: предсказание дефектов с помощью искусственного интеллекта
Новый подход к прогнозированию ошибок в программном обеспечении учитывает изменения в коде и использует коллективный разум искусственных агентов для повышения точности.
Невидимый свет против шума: новая эра фазовой микроскопии
Исследователи разработали метод получения четких изображений даже в условиях сильного шума, используя неочевидный подход к фазовой микроскопии.
Гиперсвязи под контролем: Новый подход к стабильности глубоких сетей
Исследователи предлагают инновационный метод стабилизации обучения глубоких нейронных сетей за счет ограничения пространства остаточных связей.
Искусственный интеллект на страже производительности: анализ изменений в коде
Новое исследование показывает, как системы искусственного интеллекта, самостоятельно вносящие изменения в код, влияют на оптимизацию программного обеспечения.
Внутренности чёрной дыры: как квантовая гравитация меняет гравитационные волны
Новое исследование предлагает эффективные уравнения Регге-Виллера для изучения возмущений гравитационного поля внутри чёрной дыры, описываемой квантовой петлевой гравитацией.
Самообучающиеся агенты: От теории к практике
В новой работе представлен комплексный подход к созданию эффективных самообучающихся систем на основе больших языковых моделей.
Диагностика болезней: Искусственный интеллект с объяснениями
Новая система объединяет возможности больших языковых моделей и логического программирования для автоматической диагностики заболеваний и предоставления понятных объяснений.
Электриды: как точно смоделировать экзотические материалы
Новый обзор посвящен систематической оценке методов теории функционала плотности для надежного предсказания свойств и структуры электридов.