Безопасные агенты: как защитить ИИ от вредоносных действий

Новая разработка позволяет предвидеть и блокировать опасные команды, которые могут выполнить языковые модели с доступом к инструментам.

Новая разработка позволяет предвидеть и блокировать опасные команды, которые могут выполнить языковые модели с доступом к инструментам.
В статье представлена система классификации потенциальных угроз, связанных с развитием искусственного интеллекта, основанная на анализе вероятных сценариев сохранения человечества.

Новый подход на базе искусственного интеллекта позволяет генерировать молекулы, точно соответствующие нескольким заданным параметрам одновременно.
Исследование посвящено применению искусственного интеллекта и машинного обучения для оптимизации процессов производства из возобновляемых и биооснованных материалов.

Исследователи предлагают инновационную архитектуру, позволяющую моделям лучше понимать связь между текстом и изображениями, приближая их к человеческому восприятию.

Новый подход к поиску в интернете предлагает персонализированную помощь прямо в браузере, не отправляя ваши данные в облако.
Новое исследование демонстрирует, что современные системы искусственного интеллекта все еще испытывают трудности с точным извлечением данных из электронных медицинских карт и сложным клиническим анализом.

Новая разработка позволяет автоматически формировать правила доступа и контролировать исполнение, снижая риски, связанные с вредоносными запросами и непредсказуемостью больших языковых моделей.

Исследователи предлагают инновационную систему VQ-Seg, использующую векторизацию и структурированные возмущения для повышения точности сегментации медицинских изображений при недостатке размеченных данных.

Новый взгляд на взаимодействие человека и ИИ рассматривает не просто совместную работу, а обоснование надежности принимаемых решений.