Денис Аветисян

Раскрывая логику нейросетей: Графы причинно-следственных связей

от

В рамках разработанного конвейера CCG, состоящего из трёх этапов - обусловленного задачей автоэнкодера на остаточных активациях GPT-2 Medium с применением TopK-гейтинга (K=256, k=13, достигающего 5.1% разреженности), обучения разреженного DAGMA над 64 концепциями для каждой области и оценки верности интервенций посредством CFS (CFS=5.654, p<0.0001 по сравнению с базовыми показателями) - демонстрируется возможность построения системы, способной к целенаправленному управлению семантическим пространством.

Новый подход позволяет визуализировать и анализировать внутренние механизмы работы больших языковых моделей, выявляя ключевые причинно-следственные связи.

Пишущий разум: Как ИИ меняет процесс создания текстов

от

Экспериментальная платформа для письма демонстрирует возможности искусственного интеллекта в предоставлении предложений, что позволяет исследовать взаимодействие человека и машины в процессе создания текста.

Новое исследование показывает, что совместное написание текстов с искусственным интеллектом может перестраивать мыслительные процессы, заставляя авторов реагировать на предложения, а не генерировать собственные идеи.

Нейросети в памяти: Новый подход к квантованию для энергоэффективных вычислений

от

Квантование и характеристики аналого-цифрового преобразователя (АЦП) оказывают существенное влияние на точность моделей глубокого обучения, таких как ResNet-18, VGG-16, Inception-V3 и DistilBERT, демонстрируя, что снижение разрядности представления данных может привести к заметной деградации производительности.

Исследователи разработали инновационный метод квантования нелинейных активаций, позволяющий значительно повысить точность и энергоэффективность вычислений в памяти.

Узкое Горлышко Обратного Распространения: Почему Языковые Модели Не Могут Обучиться Полностью

от

Ограничение размерности выходного слоя языковой модели, даже без изменения архитектуры основной части Transformer, существенно замедляет сходимость обучения, причём ключевым фактором выступает эффект

Новое исследование показывает, что слой softmax в языковых моделях создает значительное сжатие градиентов, ограничивая эффективность обучения, даже при наличии достаточной выразительной способности модели.

Врач и ИИ: совместная диагностика сложных случаев

от

Комплексный анализ клинических данных, включающий историю болезни, результаты осмотров и лабораторные анализы, позволяет языковой модели последовательно генерировать и уточнять диагностические гипотезы - от быстрого увеличения шейки матки и повышенного уровня тиреоидных антител - а затем, посредством поиска в PubMed, подтвердить или опровергнуть их, в конечном итоге приводя к постановке точного диагноза, например, злокачественной лимфомы на фоне тиреоидита Хашимото, и формированию дифференциального диагноза.

Новый подход к медицинской диагностике объединяет возможности искусственного интеллекта и опыт врачей, значительно повышая точность и скорость выявления редких заболеваний.

Единое понимание: новая модель для обработки изображений и генерации контента

от

Основываясь на сжатых непрерывных представлениях, унифицированная мультимодальная модель UniCom демонстрирует исключительные возможности в генерации изображений по текстовому описанию, точной правке изображений и детальном контролируемом создании контента, позволяя преобразовывать хаотичные данные в визуально связные формы.

Исследователи представили UniCom — архитектуру, объединяющую различные модальности данных в компактное семантическое пространство для эффективного анализа и синтеза изображений.

Электрон-фононное взаимодействие: новый импульс для материаловедения

от

Гибридная схема, сочетающая MPI, GPU и OpenMP, обеспечивает масштабируемый расчёт интерполяции матриц электрон-фонон, распределяя нагрузку между коммуникаторами MPI для циклов по [latex]\mathbf{q}[/latex] и [latex]\mathbf{k}[/latex], при этом ускорение GPU используется для преобразования Фурье векторов Вигнера-Зейца фононов [latex]\mathbf{R}_{\rm p}[/latex], а многопоточность OpenMP - для оценки внутри цикла по [latex]\mathbf{k}[/latex], что позволяет эффективно вычислять матрицу электрон-фонон для всех [latex]\mathbf{k}[/latex]-точек в каждом пуле.

Исследователи представили высокопроизводительную реализацию расчетов электрон-фононного взаимодействия, открывающую возможности для моделирования материалов с беспрецедентной эффективностью.

Искусство видеть: Как нейросети распознают стили в живописи?

от

Искусствоведы рассматривают ряд ключевых концепций, формирующих понимание и интерпретацию произведений искусства.

Новое исследование показывает, что современные системы компьютерного зрения способны выделять визуальные концепции, сопоставимые с экспертными знаниями искусствоведов.

Квантовые автоматы: новая грань гомологической теории

от

Исследование устанавливает связь между квантовыми клеточными автоматами и обобщенным гомологическим инвариантом, открывая новые перспективы в математической физике.