Искусственный интеллект

Разум машин: объединяя нейросети и символьные вычисления

от

Расширенная нейро-символическая архитектура обеспечивает одновременное обучение как нейронными сетями, так и символьными системами: прямой вывод ([latex]deduce()[/latex] методы нейронного и символьного модулей, соединённые через транслятор) формирует предсказания, в то время как нейронная индукция (обучение нейронного модуля посредством обратного распространения ошибки, основанного на абдуктивных сигналах от символьного модуля) и символическая индукция (добавление новых правил в политику символьного модуля через его метод [latex]induce()[/latex] во время эволюционных мутаций) обеспечивают адаптацию и обогащение знаний системы.

Новый подход позволяет обучать системы, способные к логическому мышлению и адаптации, без необходимости в заранее заданных знаниях или градиентной оптимизации.

Логика выводов под микроскопом: как нейросети рассуждают о рассуждениях

от

Новое исследование углубляется в механизмы логического вывода у моделей обработки естественного языка, проверяя, насколько последовательны их умозаключения.

Эксперты на пересменке: скрытая централизация в моделях Mixture-of-Experts

от

В моделях «смесь экспертов» эмпирические данные о маршрутизации выявили существование устойчивого комитета экспертов (таких как E4 и E5), который последовательно активируется при обработке разнообразных предметных областей (математика, юриспруденция, биология), демонстрируя наличие скрытого обобщенного ядра внутри маршрутизируемых экспертов, вопреки интуитивной стратегии «разделяй и властвуй», предполагающей разделение экспертов по предметным областям.

Новое исследование показывает, что в моделях Mixture-of-Experts формируется небольшая группа экспертов, обрабатывающая основную часть задач, независимо от входных данных.

Несколько слов могут навредить: Атаки на модели «зрение-язык»

от

Изучение манипуляций с токенами высокой энтропии с использованием модели Qwen2.5-VL-3B выявило способность генерировать контент, потенциально содержащий вредоносные элементы, которые визуально выделяются на исследуемых примерах.

Новое исследование показывает, что даже небольшие изменения в ключевых словах могут заставить современные модели «зрение-язык» генерировать опасный контент.

Искусственный интеллект: Убедительная сила теорий заговора

от

В ходе воспроизведённой беседы с модифицированной языковой моделью GPT-4o наблюдается, как первоначальное сомнение участника в теории о химтрейлах - распылении правительством веществ для контроля над населением - трансформируется в почти абсолютную уверенность (от 49% до 99%), подкреплённое детальными аргументами о вреде для здоровья, экологическом ущербе и этических проблемах, что, в конечном итоге, приводит к призыву к коллективным действиям и требованию остановить практику.

Новое исследование показывает, что современные языковые модели способны с одинаковой эффективностью убеждать людей в правдивости теорий заговора и опровергать их.

Обучение с множественными наградами: как избежать коллапса и согласовать языковые модели

от

Групповая нормализация на основе вознаграждения с последующей пакетной нормализацией преимуществ (GDPO) обеспечивает стабильный численный диапазон и улучшенную стабильность обновления в процессе обучения с подкреплением, что, как демонстрируют результаты экспериментов с моделью Qwen2.5-Instruct-1.5B, приводит к более высокой точности и соответствию формату вознаграждения по сравнению с GRPO, о чем свидетельствует медиана и межквартильный размах кривых вознаграждения, полученных в пяти запусках.

Новый подход GDPO решает проблему нестабильности обучения в задачах с множественными наградами, обеспечивая лучшее согласование языковых моделей с разнообразными предпочтениями пользователей.

Искусственный интеллект в роли со-ученого: опыт ESA ELOPE

от

Началась совместная разработка алгоритма для участия в соревновании ELOPE, что знаменует собой первый шаг к преодолению установленных рамок и поиску нестандартных решений в области оценки и оптимизации.

В статье описывается успешное применение ChatGPT для ускорения научных прототипов в соревновании ESA ELOPE, демонстрируя потенциал ИИ как инструмента для совместной работы с учеными.

Один в поле не воин? Когда искусственный интеллект обходит многоагентные системы

от

Создание библиотек навыков для многоагентных систем снижает задержки и потребление токенов, однако точность выбора навыка нелинейно ухудшается по мере роста библиотеки, демонстрируя фазовый переход при достижении определенного порога вместимости, который может быть преодолен за счет иерархической организации навыков в структурированные категории.

Новое исследование показывает, что агенты с развитыми навыками могут эффективно выполнять задачи, ранее требовавшие координации множества ИИ, но их возможности ограничены.