Защита от вредоносных данных в федеративном обучении: новый подход
![Система [latex]𝖯𝗋𝗈𝗍𝖾𝗀𝗈𝖥𝖾𝖽\mathsf{ProtegoFed}[/latex] обеспечивает защиту от отравленных данных, поступающих с внешних платформ, посредством преобразования Фурье (DCT) для анализа частотных характеристик, последующего снижения размерности и кластеризации, после чего локальные центроиды отправляются на сервер для поиска по основному кластеру, минимизируя накладные расходы и гарантируя надежность обучения.](https://arxiv.org/html/2603.00516v1/2603.00516v1/x5.png)
Исследователи предлагают метод выявления и нейтрализации отравленных данных в распределенных системах машинного обучения, обеспечивая надежность моделей без ущерба для их производительности.
![Процедура QSGWGW расчётов, начинающаяся с вычислений KS-DFT и приводящая к самосогласованию с использованием программного обеспечения LibRPA, оперирует индексами [latex]i, j[/latex], обозначающими базисные функции NAO с магнитным квантовым числом [latex]m[/latex]; состояниями одночастичных волновых функций [latex]\psi_{p\mathbf{k}}[/latex], где [latex]\mathbf{k}[/latex] - волновой вектор Блоха, и передачей импульса [latex]\mathbf{q}[/latex] в выражении [latex]W_{\mu\nu}^{0}(\mathbf{q},\mathrm{i}\omega)[/latex], учитывая атомные индексы [latex]I, J[/latex] и номер итерации [latex]n[/latex].](https://arxiv.org/html/2603.00637v1/2603.00637v1/QSGW_in_LibRPA.png)


![Трансформерные языковые модели, обученные с использованием Muon-Kimi и AdamW, демонстрируют стабильность норм признаков и эффективную передачу гиперпараметров при масштабировании ширины и глубины благодаря применению [latex]\mu\mu P[/latex], что позволяет добиться снижения потерь по сравнению с SP при увеличении соответствующих параметров.](https://arxiv.org/html/2603.00541v1/2603.00541v1/x4.png)
![Наблюдения на бенчмарке GEdit демонстрируют, что разработанный алгоритм ADE-CoT (обозначен фиолетовой звездой) последовательно превосходит современные методы Image-CoT по всем моделям и при различных объемах выборки ([latex]N = 1, 2, 4, 8, 16, 32[/latex]), обеспечивая оптимальный баланс между производительностью и вычислительными затратами (NFE).](https://arxiv.org/html/2603.00141v1/2603.00141v1/x6.png)