Искусственный интеллект в действии: как расширяется сфера возможностей?

Автор: Денис Аветисян

Новое исследование анализирует 177 000 инструментов, используемых ИИ-агентами, чтобы понять, как быстро растет их способность взаимодействовать с миром.

Географическое распределение загрузок пакетов, используемых AI-агентами, демонстрирует концентрацию активности в Северной Америке и Западной Европе, при этом в период с ноября 2024 по октябрь 2025 года зафиксированы значительные колебания долей загрузок - от роста до падения на несколько процентных пунктов - на основе анализа <span class="katex-eq" data-katex-display="false">6.73</span> миллионов загрузок с <span class="katex-eq" data-katex-display="false">528</span> серверов управления пакетами, имеющих данные о местоположении. — Географическое распределение загрузок пакетов, используемых AI-агентами, демонстрирует концентрацию активности в Северной Америке и Западной Европе, при этом в период с ноября 2024 по октябрь 2025 года зафиксированы значительные колебания долей загрузок — от роста до падения на несколько процентных пунктов — на основе анализа $6.73$ миллионов загрузок с $528$ серверов управления пакетами, имеющих данные о местоположении.

Анализ обширного набора данных инструментов, использующих протокол Model Context Protocol (MCP), выявил расширение ‘пространства действий’ ИИ-агентов и связанные с этим риски.

Несмотря на растущий потенциал автоматизации задач с помощью ИИ-агентов, остается мало информации о текущих сценариях их практического применения и связанных с этим рисках. В работе ‘How are AI agents used? Evidence from 177,000 MCP tools’ представлен анализ обширного массива инструментов для ИИ-агентов, полученного через протокол Model Context Protocol (MCP), который выявил быстро расширяющееся пространство действий и доминирование разработки программного обеспечения в этой области. Полученные данные свидетельствуют о значительном росте доли инструментов, непосредственно модифицирующих внешние среды, в частности, в задачах, связанных с финансовыми операциями. Как правительства и регулирующие органы могут использовать подобные методы мониторинга для оценки и смягчения потенциальных рисков, связанных с развертыванием автономных ИИ-систем?

Эволюция Инструментов ИИ: От Зарождения к Экосистеме

Современные агенты искусственного интеллекта, основанные на больших языковых моделях (LLM), демонстрируют впечатляющий рост возможностей, однако их эффективность напрямую зависит от использования внешних инструментов. Внутренних ресурсов LLM недостаточно для решения сложных задач, требующих доступа к актуальной информации, выполнения конкретных действий или взаимодействия с реальным миром. Поэтому, для преодоления этих ограничений, агенты активно интегрируют разнообразные инструменты — от поисковых систем и калькуляторов до баз данных и API для управления устройствами. Эта зависимость от внешних ресурсов определяет архитектуру современных AI-агентов и является ключевым фактором, влияющим на их адаптивность и способность решать широкий спектр задач. Без доступа к этим инструментам, потенциал LLM остается нереализованным, а возможности агента существенно ограничены.

Для эффективной работы современные искусственные интеллект-агенты нуждаются в широком спектре инструментов, охватывающих восприятие окружающей среды, логическое мышление и выполнение действий. Эта потребность породила сложную экосистему, насчитывающую уже 177 436 публично доступных инструментов по состоянию на февраль 2026 года. Разнообразие этих инструментов позволяет агентам решать задачи, выходящие за рамки возможностей базовых языковых моделей, однако одновременно создает новые вызовы, связанные с управлением, классификацией и обеспечением безопасности операционной среды агентов. Эффективное взаимодействие с таким количеством инструментов требует разработки новых подходов к интеграции и координации, что является ключевым фактором для дальнейшего развития и распространения AI-агентов.

Стремительное увеличение числа инструментов, используемых агентами искусственного интеллекта, создает значительные трудности в понимании и организации их функционирования. Огромное разнообразие доступных решений — от инструментов для обработки информации и логического вывода до средств реализации действий в реальном мире — формирует сложную экосистему, требующую систематизации. Помимо трудностей категоризации, возникает серьезная проблема безопасности: неконтролируемое использование множества инструментов повышает риск уязвимостей и несанкционированного доступа, что требует разработки новых методов защиты и контроля над операционным пространством агентов. Эффективное управление этим растущим ландшафтом инструментов становится ключевой задачей для обеспечения надежности и безопасности систем искусственного интеллекта.

Анализ загрузок инструментов ИИ с PyPI и NPM за период с ноября 2024 по январь 2026 года показывает, что наибольший спрос наблюдается у инструментов для действий (красные оттенки), рассуждений (синие оттенки) и восприятия (серые оттенки), при этом общий тренд, аппроксимируемый асимптотической моделью <span class="katex-eq" data-katex-display="false">y(t)=L-(L-y_0)e^{-kt}</span>, указывает на стабилизацию спроса на уровне <span class="katex-eq" data-katex-display="false">L</span> (указано на легенде с 95% доверительным интервалом), подтвержденную экспертами (78% согласия) и данными о количестве серверов, на которых установлено программное обеспечение. — Анализ загрузок инструментов ИИ с PyPI и NPM за период с ноября 2024 по январь 2026 года показывает, что наибольший спрос наблюдается у инструментов для действий (красные оттенки), рассуждений (синие оттенки) и восприятия (серые оттенки), при этом общий тренд, аппроксимируемый асимптотической моделью $y(t)=L-(L-y_0)e^{-kt}$ , указывает на стабилизацию спроса на уровне $L$ (указано на легенде с 95% доверительным интервалом), подтвержденную экспертами (78% согласия) и данными о количестве серверов, на которых установлено программное обеспечение.

Классификация Инструментов: Анатомия Интеллекта

Классификация инструментов агентов представляет собой структурированную методологию, позволяющую категоризировать инструменты в зависимости от их функционального назначения. Данная классификация разделяет инструменты на три основные группы: инструменты восприятия, предназначенные для сбора информации об окружающей среде; инструменты рассуждения, осуществляющие логический анализ и принятие решений на основе полученных данных; и инструменты действия, выполняющие конкретные задачи или манипуляции в среде. Эта систематизация позволяет проводить более глубокий анализ возможностей агента и потенциальных уязвимостей, а также обеспечивает основу для автоматизированного анализа и сравнения различных инструментов.

Автоматизированный анализ инструментов агентов использует вычислительные методы для ускорения процесса их категоризации, позволяя определять характеристики инструментов в масштабе. Данный подход включает в себя применение алгоритмов машинного обучения и анализа данных для автоматического извлечения ключевой информации об инструментах, такой как их назначение (восприятие, рассуждение или действие), входные и выходные данные, а также требуемые ресурсы. Это позволяет значительно сократить время и трудозатраты, связанные с ручным анализом, и обеспечивает возможность обработки больших объемов данных для выявления тенденций и закономерностей в использовании инструментов агентами.

Систематический подход к категоризации и анализу инструментов агентов позволяет получить более глубокое понимание их возможностей и потенциальных уязвимостей. Наблюдается значительный сдвиг в структуре загрузок: доля инструментов, предназначенных для выполнения действий (action tools), выросла с 27% до 65% за период исследования. Этот рост указывает на увеличение зависимости агентов от инструментов, непосредственно взаимодействующих с окружением или выполняющих конкретные задачи, что, в свою очередь, может потребовать повышенного внимания к вопросам безопасности и контроля над выполняемыми действиями.

Анализ 177 тысяч инструментов автоматизации задач (MCP) с использованием LLM-оценки и классификации по категориям - общности, влиянию и домену задач - показал рост числа инструментов, особенно тех, которые созданы с использованием ИИ, что подтверждается кумулятивным увеличением, распределением по доменам O\*NET и ежемесячным количеством загрузок, демонстрируя экспоненциальный рост для инструментов с ИИ и изменение структуры по типу выполняемых действий (пространству действий). — Анализ 177 тысяч инструментов автоматизации задач (MCP) с использованием LLM-оценки и классификации по категориям — общности, влиянию и домену задач — показал рост числа инструментов, особенно тех, которые созданы с использованием ИИ, что подтверждается кумулятивным увеличением, распределением по доменам O\*NET и ежемесячным количеством загрузок, демонстрируя экспоненциальный рост для инструментов с ИИ и изменение структуры по типу выполняемых действий (пространству действий).

Инфраструктура Агентов: Картография Ума

Агенты искусственного интеллекта (ИИ) часто функционируют посредством MCP-серверов — легковесных программ, предназначенных для размещения инструментов и обеспечения взаимодействия с различными средами. Эти серверы выступают в качестве посредников, позволяя агентам получать доступ к необходимым ресурсам и выполнять задачи в целевых окружениях. MCP-серверы отличаются минимальными требованиями к ресурсам, что обеспечивает их гибкость и масштабируемость для поддержки широкого спектра ИИ-агентов и инструментов. Они позволяют агентам взаимодействовать как с ограниченными, так и с неограниченными средами, расширяя возможности их применения.

Для идентификации серверов управления (MCP Servers), используемых AI-агентами, требуется сбор всесторонних данных с платформ, таких как GitHub и Smithery. Этот процесс включает в себя анализ репозиториев, отслеживание загрузок инструментов и выявление связей между ними. Полученные данные используются для построения карты инфраструктуры агента, которая отображает все задействованные серверы, инструменты и источники данных. Такая карта позволяет определить архитектуру агента, его зависимости и потенциальные точки отказа, что критически важно для обеспечения безопасности и надежности его работы.

Серверы MCP поддерживают работу как в ограниченных (constrained), так и в неограниченных (unconstrained) средах, что существенно влияет на область действия и потенциальный охват агента. На данный момент 50% всех загрузок инструментов приходится на универсальные инструменты, функционирующие именно в неограниченных средах. Это указывает на растущую тенденцию к использованию агентов в более широком спектре задач и сценариев, не ограниченных заранее определенными рамками, и требует учета особенностей работы с такими инструментами при построении инфраструктуры.

Анализ ежемесячных изменений показывает, что использование ИИ-агентов, особенно Claude (69% серверов), значительно увеличило долю вновь создаваемых MCP-серверов (+4.10 процентных пункта в месяц, <span class="katex-eq" data-katex-display="false">R^2</span> = 0.97), что подтверждается квадратичной регрессией с учетом ежемесячного числа серверов. — Анализ ежемесячных изменений показывает, что использование ИИ-агентов, особенно Claude (69% серверов), значительно увеличило долю вновь создаваемых MCP-серверов (+4.10 процентных пункта в месяц, $R^2$ = 0.97), что подтверждается квадратичной регрессией с учетом ежемесячного числа серверов.

Системные Риски и Будущее Инструментария: Эхо Бесконечности

Взаимосвязанность искусственного интеллекта и используемых им инструментов формирует системный риск, при котором уязвимости в одном компоненте могут распространяться по всей системе. Этот принцип особенно актуален в условиях растущей сложности и автоматизации, когда агенты взаимодействуют друг с другом и с внешними сервисами. Даже незначительная ошибка в коде одного инструмента или сервиса может привести к каскаду сбоев, затронув множество других агентов и приложений. Такая зависимость создает новые вызовы для обеспечения безопасности и надежности, требуя комплексного подхода к мониторингу, тестированию и управлению рисками, направленного на предотвращение распространения уязвимостей и обеспечение стабильной работы всей системы.

Наблюдается стремительное увеличение скорости разработки новых инструментов, обусловленное широким распространением технологий искусственного интеллекта. Согласно данным на февраль 2026 года, у 62% вновь создаваемых серверов MCP выявлены признаки использования ИИ-ассистентов в процессе разработки. Этот феномен, с одной стороны, значительно ускоряет инновации и предоставляет возможности для автоматизации рутинных задач, а с другой — одновременно увеличивает потенциальные риски, связанные с безопасностью и надежностью создаваемых инструментов. Подобная динамика требует повышенного внимания к вопросам контроля качества и тестирования, чтобы гарантировать стабильность и предсказуемость функционирования систем, построенных на базе ИИ-генерируемого кода.

Для смягчения системных рисков, возникающих в связи с развитием инструментов на основе искусственного интеллекта, необходим проактивный мониторинг, строгая классификация и глубокое понимание базовой инфраструктуры. Исследования показывают, что значительная часть использования сосредоточена на небольшом количестве серверов: первые 1% серверов обеспечивают 79.3% всех загрузок из NPM и 42.9% из PyPI. Это указывает на потенциальные точки отказа и необходимость уделять особое внимание безопасности и устойчивости наиболее критичных компонентов. Подобный подход позволит не только снизить вероятность распространения уязвимостей, но и обеспечит более ответственное внедрение технологий искусственного интеллекта, способствуя стабильности и надежности всей системы.

Анализ последствий действий ИИ-агентов для различных профессий показывает, что наибольшее количество инструментов автоматизации сосредоточено в высокорискованных областях, однако эта зависимость статистически незначима (<span class="katex-eq" data-katex-display="false">R^{2}\approx 0.03</span>, p=0.015), что указывает на значительную неоднородность в распределении инструментов по профессиям. — Анализ последствий действий ИИ-агентов для различных профессий показывает, что наибольшее количество инструментов автоматизации сосредоточено в высокорискованных областях, однако эта зависимость статистически незначима ( $R^{2}\approx 0.03$ , p=0.015), что указывает на значительную неоднородность в распределении инструментов по профессиям.

Исследование показывает, что пространство действий ИИ-агентов расширяется экспоненциально, а вместе с ним и потенциальные риски, связанные с возрастающей автономией систем. Этот процесс напоминает эволюцию, где каждая новая возможность — это не просто инструмент, а изменение всей экосистемы. Как заметил Роберт Тарьян: «Алгоритмы должны быть достаточно хороши, чтобы обмануть людей, но достаточно прозрачны, чтобы их можно было понять». Именно прозрачность и понимание принципов работы становятся критически важными, когда речь идет о системах, способных к самообучению и адаптации, ведь долгосрочная стабильность может быть лишь предвестником скрытой катастрофы, особенно в контексте постоянно расширяющегося ‘action space’, выявленного в исследовании.

Что Дальше?

Анализ пространства действий, открывающегося перед агентами искусственного интеллекта, посредством протокола MCP, обнажил не просто расширение возможностей, а экспоненциальный рост сложности. Каждый новый инструмент — это не кирпичик в фундаменте, а семя, брошенное в неизвестность. Системы не строятся; они вырастают, и каждый деплой — маленький апокалипсис, демонстрирующий, какие пророчества оказались верными, а какие — нет.

Настоящая проблема заключается не в классификации инструментов, а в понимании их взаимодействия. Протокол MCP фиксирует что делают агенты, но не почему. В стремлении к автономности мы создаем экосистемы, правила в которых устанавливаются не проектировщиками, а самими агентами. Вопрос не в контроле, а в принятии неизбежной эволюции.

Документация? Никто не пишет пророчества после их исполнения. Вместо этого необходимо сместить фокус с предсказания сбоев на создание систем, способных к адаптации и самовосстановлению. Исследования должны быть направлены не на предотвращение ошибок, а на изучение способов их усвоения. Иначе мы обречены бесконечно фиксировать последствия, не понимая причин.

Оригинал статьи: https://arxiv.org/pdf/2603.23802.pdf

Связаться с автором: https://www.linkedin.com/in/avetisyan/

Смотрите также:

2026-03-26 07:22

🚀 Квантовые новости