Искусственный интеллект в деле: как пользователи «латают» систему

Автор: Денис Аветисян

Новое исследование показывает, что обходные пути, используемые сотрудниками вузов для внедрения генеративного ИИ, — это не отклонение от правил, а важная часть процесса интеграции технологий.

Автоэтнографическое исследование демонстрирует, что пользовательские «латки» и невидимый труд необходимы для адаптации генеративного ИИ к сложным организационным условиям.

Несмотря на растущий интерес к внедрению генеративного искусственного интеллекта (GenAI) в образовательные учреждения, часто упускается из виду невидимый труд, необходимый для его практической реализации. Данное исследование, озаглавленное ‘Making AI Work: An Autoethnography of a Workaround in Higher Education’, представляет собой инсайдерский анализ социотехнических трений, возникающих при попытке внедрения GenAI в условиях организационных ограничений и борьбы за влияние. В центре внимания — пользовательские обходные пути, которые, вопреки распространенному мнению, являются не отклонениями, а неотъемлемой частью процесса социотехнической интеграции, часто оставаясь невидимым трудом. Как эти неформальные практики влияют на долгосрочную устойчивость и эффективность внедрения GenAI в сложных организационных структурах?

Пределы Масштабируемости: Вызов Данным

Генеративный искусственный интеллект (GenAI) открывает впечатляющие перспективы для преобразования различных областей, однако его практическое применение часто ограничивается масштабами реальных наборов данных. Несмотря на способность создавать новые данные, имитировать человеческое мышление и автоматизировать сложные процессы, современные модели GenAI сталкиваются с трудностями при обработке объёмных и многомерных данных, характерных для современных задач. Попытки анализа таких данных без предварительной обработки или адаптации архитектуры моделей приводят к снижению точности, увеличению вычислительных затрат и, в конечном итоге, к неэффективности применения GenAI. Поэтому, для реализации полного потенциала генеративного ИИ, необходимо разрабатывать новые подходы к обработке больших данных, позволяющие преодолеть существующие ограничения по масштабируемости и эффективности.

Ограничение «окна контекста» больших языковых моделей (LLM) представляет собой серьезное препятствие при обработке обширных массивов данных, таких как данные Фонда развития персонала (SDF). Эта особенность архитектуры LLM определяет максимальный объем текста, который модель способна учитывать одновременно при генерации ответа или выполнении задачи. В случае данных SDF, содержащих детальную информацию о множестве сотрудников и программ обучения, «окно контекста» часто оказывается недостаточным для охвата всей релевантной информации, необходимой для формирования комплексных и точных выводов. В результате, модель может упускать важные взаимосвязи и контекст, что снижает качество анализа и приводит к неполным или ошибочным результатам. Преодоление этого ограничения требует инновационных подходов к обработке данных, включая сегментирование информации, использование методов сжатия данных или разработку новых архитектур LLM, способных эффективно работать с большими объемами текста.

Традиционные методы анализа данных сталкиваются с существенными трудностями при работе с крупномасштабными наборами, такими как данные Фонда развития персонала. Простые алгоритмы и статистические модели зачастую не способны эффективно извлекать полезную информацию из-за огромного объема и сложности данных, что приводит к неточным или неполным результатам. Для преодоления этих ограничений требуется значительная предварительная обработка данных — очистка, нормализация, и отбор релевантных признаков — что само по себе является трудоемким и ресурсозатратным процессом. Более того, в некоторых случаях необходимы существенные модификации архитектуры самих алгоритмов, например, переход к распределенным вычислениям или использованию более сложных моделей машинного обучения, способных обрабатывать большие объемы информации и выявлять скрытые закономерности. В конечном итоге, успешная работа с крупными данными требует не только вычислительных мощностей, но и глубокого понимания специфики данных и применения передовых методов анализа.

Временный Обход: Адаптация Технологии в Практике

Для обхода ограничений, связанных с объемом и структурой данных, пользователи разработали альтернативный процесс, получивший название ‘Workaround’. Данный процесс предполагает использование скрипта на языке Python для автоматизированного суммирования и подготовки данных. Скрипт осуществляет предобработку исходных данных, извлекая ключевую информацию и формируя структурированный формат, пригодный для дальнейшего анализа и использования в других системах. Использование Python позволило автоматизировать рутинные операции по обработке данных, значительно сократив время и усилия, необходимые для получения необходимых сводок и отчетов.

Для обеспечения возможности запросов к данным SDF был разработан процесс предварительной обработки. Этот процесс включал в себя преобразование формата данных SDF таким образом, чтобы они стали совместимы с Microsoft Copilot. Предварительная обработка позволила структурировать данные и адаптировать их для использования в системе Copilot, что сделало возможным извлечение информации посредством естественного языка и автоматизированного анализа. Данные, прошедшие предварительную обработку, представляли собой структурированный набор, пригодный для запросов и интерпретации Copilot.

Успех разработанного обходного решения заключался не только в технической реализации, но и в значительной работе по согласованию (Articulation Work). Данная работа включала в себя адаптацию процесса обработки данных и интеграцию полученных результатов в существующие организационные процессы и рабочие потоки. Необходимость согласования возникла из-за расхождений между форматом предоставленных данных и требованиями пользователей, а также из-за необходимости убедить заинтересованные стороны в ценности и применимости нового подхода. Эффективное внедрение потребовало активного взаимодействия с различными подразделениями для определения их потребностей и адаптации решения под конкретные задачи, что обеспечило его практическую полезность и принятие внутри организации.

Скрытые Издержки: Невидимый Труд и Организационная Политика

Разработка и поддержка обходного решения требовала значительных затрат “невидимого труда” — усилий, которые зачастую не фиксируются в формальных системах учета и оценки работы. Этот труд включал в себя не только непосредственное исправление возникающих проблем и адаптацию решения к меняющимся условиям, но и коммуникацию между сотрудниками, обмен знаниями и документацией, а также поиск и устранение последствий, возникающих из-за обхода официальных процедур. Несмотря на свою важность для обеспечения непрерывности рабочих процессов, этот труд редко получает официальное признание или вознаграждение, что приводит к увеличению нагрузки на отдельных сотрудников и потенциальному выгоранию.

Разработка и использование обходных решений в рабочих процессах часто связано с организационной политикой, поскольку эти решения обходят формальные IT-процедуры и системы контроля. Такое обходное действие приводит к возникновению так называемого “теневого IT” — использования несанкционированного программного обеспечения и аппаратного обеспечения, которое не поддерживается и не контролируется IT-отделом. Это, в свою очередь, создает риски для безопасности данных и может привести к проблемам с совместимостью и масштабируемостью, требуя дополнительных ресурсов для управления и контроля.

Автоэтнографическое исследование выявило, что внедрение и поддержание обходного решения требовало постоянных переговоров и адаптации к существующим властным структурам внутри организации. Процесс не ограничивался технической реализацией; он включал в себя неформальные коммуникации, выстраивание альянсов и компромиссы с различными отделами и сотрудниками, чтобы обеспечить функционирование системы, минуя официальные IT-процедуры. Успех обходного решения зависел от способности его инициаторов понимать и учитывать политические мотивы и интересы ключевых лиц, а также от умения находить баланс между потребностью в функциональности и необходимостью избегать конфликтов с установленными правилами и процедурами.

Взаимное Формирование: Технология и Социальный Контекст

Концепция “Двойственности технологии” позволяет понять, что найденное решение не было просто техническим исправлением, а скорее результатом взаимного влияния технологии и социального контекста. В данном случае, пользователи не просто адаптировали существующую систему, но и активно формировали её функциональность, чтобы соответствовать организационным потребностям и ограничениям. Это взаимодействие демонстрирует, что технология и общество находятся в постоянном диалоге, где каждое оказывает влияние на другое, и успешные инновации возникают именно в результате этого процесса взаимной адаптации и формирования. Подобный подход подчеркивает важность анализа не только технических аспектов, но и социальных, организационных и культурных факторов, определяющих эффективность и применимость технологических решений.

Теория процессов Алтера позволяет рассмотреть развитие обходного пути не как одномоментное решение, а как последовательный, итеративный процесс. Исследование показывает, что идентификация потребностей пользователей и последующая реализация решения происходят не линейно, а через постоянную адаптацию и уточнение. Начальный этап, определяемый вызовами и ограничениями, переходит в фазу разработки и тестирования, где первоначальные идеи подвергаются корректировкам на основе обратной связи и практического опыта. В конечном итоге, это приводит к созданию функционального решения, которое органично вписывается в существующий контекст, демонстрируя динамичную взаимосвязь между технологией и потребностями пользователей. Именно такой подход позволяет понять, как технологические инновации возникают не в вакууме, а как результат постоянного взаимодействия и эволюции.

Данное исследование наглядно демонстрирует, что пользователи не являются пассивными потребителями технологий, а активно участвуют в придании им функциональности, особенно в условиях организационных ограничений. Вместо того, чтобы просто адаптироваться к существующим системам, они творчески преобразуют их, находя способы обойти недостатки и удовлетворить свои потребности. Этот процесс «создания» технологии изнутри подчеркивает критическую важность учета человеческого фактора при разработке и внедрении новых инструментов. Понимание мотивации, навыков и стратегий, которые применяют пользователи для решения возникающих проблем, позволяет создавать более эффективные и удобные системы, которые действительно соответствуют их задачам и контексту работы.

Исследование показывает, что пользователи не просто обходят систему, а активно участвуют в её адаптации, встраивая генеративный ИИ в сложный контекст организации. Это не отклонение от задуманного, а необходимый труд, часто невидимый, но критически важный для функционирования системы. Как однажды заметил Клод Шеннон: «Теория коммуникации должна иметь дело не только с передачей информации, но и с тем, что происходит, когда информация теряется». Подобно потерям в канале связи, в организационных системах неизбежны несоответствия и необходимость в «работе над ошибками», в создании обходных путей, которые и делают систему по-настоящему работоспособной. Масштабируемость, как выясняется, лишь маскирует эту сложность, оправдывая необходимость постоянной адаптации и невидимого труда.

Что дальше?

Настоящая работа не в создании систем, а в понимании их неизбежной эволюции. Данное исследование демонстрирует, что так называемые «обходные пути» — это не дефекты внедрения, а фундаментальные акты социотехнической интеграции. Их часто незаметный труд — не ошибка, а необходимое условие функционирования податливого генеративного ИИ в сложной организационной среде. Иллюзия контроля над технологией рассеивается, когда становится ясно, что именно пользователи, а не архитекторы, определяют её истинное назначение.

Следующим шагом видится отказ от попыток построить «идеальную» систему. Вместо этого, необходимо сосредоточиться на развитии инструментов для наблюдения за её органическим ростом, для понимания паттернов адаптации и спонтанной самоорганизации. Мониторинг — это не предотвращение сбоев, а осознанное ожидание их неизбежности, возможность извлечь уроки из моментов истины.

Настоящая устойчивость начинается там, где кончается уверенность в непогрешимости архитектуры. Будущие исследования должны быть направлены на изучение политической экономики этого невидимого труда, на выявление скрытых издержек и выгод, возникающих в процессе адаптации технологий к реальным потребностям. Вопрос не в том, как заставить систему работать, а в том, как принять её несовершенство и извлечь из него пользу.

Оригинал статьи: https://arxiv.org/pdf/2512.21055.pdf

Связаться с автором: https://www.linkedin.com/in/avetisyan/

Смотрите также:

2025-12-26 17:32

🚀 Квантовые новости