ИИ и этика: зачем бизнесу прозрачные правила владения контентом — РБК Отрасли

Фото: пресс-служба

Лишь несколько лет назад искусственный интеллект (ИИ) обсуждали как перспективную экспериментальную технологию для бизнеса, а уже сегодня это один из главных инструментов повышения эффективности и производительности, который используется практически во всех отраслях. Каждая седьмая российская компания уже активно применяет ИИ для самых разных задач — от обработки больших массивов данных до документооборота и подбора персонала, согласно июньскому опросу Центробанка России.

Как только технология стала массовой, ИИ внедряли все подряд, часто без конкретной стратегии и ради эффектных заголовков в медиа. Однако довольно быстро выяснилось, что бездумное внедрение технологии ощутимо бьет по прибыли — деньги на ПО и оборудование уходят, а измеримого результата нет. Поэтому многие крупные компании поставили жесткие требования: инвестиции в ИИ должны окупаться в течение года.

Российский бизнес сейчас переходит к уровню мультиагентных систем, когда несколько ИИ-агентов совместно выполняют один процесс, распределяя между собой задачи. Один агент разбирает входящий документ, второй проверяет информацию по внутренним системам, третий согласовывает результат и запускает следующий этап. В итоге ИИ сопровождает весь цикл работы — от обработки документов до управления отдельными операционными процессами.

Согласно описанию стадии зрелости ИИ американской компании OpenAI, это третья стадия после чат-ботов и ризонинг-моделей (ИИ‑модели, которые не просто выдают готовый ответ, а строят и часто показывают цепочку логических рассуждений, чтобы прийти к решению. — «РБК Отрасли») и до «созидающего ИИ» и автономных ИИ-организаций.

Многие компании начинали внедрение ИИ именно для аналитических задач. На сбор большого массива данных, поиск различных закономерностей и интерпретацию сегодня уходит всего несколько часов. Например, мы уже около трех лет собираем и анализируем все данные по ЦИПР только с помощью ИИ.

Также ИИ меняет операционные процессы в компаниях — это обычно приносит ощутимый экономический эффект. Например, X5 в 2025 году получила от автоматизации с помощью ИИ управления ассортиментом, ценообразования, контроля закупок и других процессов около 5 млрд руб. дополнительной операционной прибыли, говорится в отчетности компании.

Следом трансформируются клиентские процессы — обслуживание, поддержка, консультации. ИИ все больше берет на себя процессы рутинного общения с клиентами. В финтехе, например в ВТБ, голосовые ассистенты уже обрабатывают более 62% обращений без участия оператора, а бот в мобильном приложении справляется самостоятельно с 75% запросов по 2 тыс. тематик. Наш чат-бот на ЦИПР отвечал на различные вопросы о конференции, помогал с навигацией по площадке и по расписанию деловой программы.

В управленческом контуре ИИ не принимает стратегических решений самостоятельно, но является эффективным помощником в подготовке к ним: предиктивная аналитика, моделирование сценариев, сбор и обработка данных для руководства компании все чаще делегируются нейросетям. Однако финальное решение и ответственность за него в любом случае остаются за человеком.

С другой стороны, слепо доверять ИИ нельзя, цена может быть очень высокой. ИИ уверенно отвечает даже там, где промт составлен нечетко. Он не переспрашивает, не уточняет, не говорит «данных недостаточно», а молча приступает к выполнению задачи и объясняет логику своих действий максимально убедительным тоном, даже если она неверная. Более того, даже последние версии Claude и ChatGPT могут галлюцинировать и при полностью корректном запросе выдавать вымышленную информацию и фактические ошибки: принцип работы LLM — в предсказании вероятного продолжения текста, они не умеют автоматически проверять факты. В мае 2026 года российский суд впервые оштрафовал компанию за ссылку на несуществующую судебную практику, сгенерированную нейросетью.

Поэтому в отрасли давно устоялся принцип Human-in-the-Loop — «человек в контуре». Согласно ему определяют, где ИИ может действовать сам, а где нужен человек, по трем простым критериям: цена ошибки, обратимость решения и постановка задачи.

Если цена ошибки низкая, решение обратимо, а задача сформулирована однозначно — ИИ работает автономно. Поэтому документооборот, диагностику оборудования и типовые клиентские обращения все чаще доверяют ИИ-агентам. Если хотя бы один из трех критериев не выполняется, ИИ используется исключительно как помощник: готовит данные, предлагает варианты, но финальное решение остается за человеком. Так работают HR-решения по конкретному сотруднику, стратегические выборы, сложные клиентские кейсы, любые ситуации с этическим или репутационным риском.

Граница определяется не технологической зрелостью ИИ, а тем, готов ли бизнес отдать то или иное решение полностью на его усмотрение: если результат ошибки модели нельзя откатить без серьезных потерь, значит, человека из контура выводить рано.

При этом часть профессий ИИ уже оставит за бортом рынка труда, в частности вспомогательный персонал — начинающих программистов, младших юристов и бухгалтеров. А откуда возьмутся старшие специалисты, если не будет младших? В результате через несколько лет может возникнуть кадровая проблема, сравнимая с демографическим кризисом.

Впрочем, для художников и дизайнеров, вопреки опасениям, с появлением Midjourney и DALL-E генеративный ИИ стал новым инструментом воплощения творческих замыслов. На выставке цифрового искусства DeCIPRaland в рамках ЦИПР, например, многие работы созданы в соавторстве человека и ИИ. Технология берет на себя техническую часть, а человек сохраняет роль автора, который задает идею, стиль и смысл.

Вокруг ИИ формируются и новые специальности — ИИ-тренер, промт-инженер, no-code-специалист и специалисты по физическому ИИ. Технологии ИИ хорошо справляются с шаблонными задачами, а нестандартное мышление, эмпатия и креативность становятся главным преимуществом человека.

Тренд хорошо заметен в модной индустрии. Бренд Mango в коллекции Sunset Dream отказался от живых моделей и сгенерировал их полностью через нейросеть. Получились красивые изображения, но без истории, характера и эмоционального отклика. Российский бренд Yuliawave использовал другой подход: концепцию новой коллекции придумал человек, а ИИ подключили на рутинных задачах — обработке визуалов, техническом продакшене и производстве цифрового аватара. Результат вышел живым, потому что творческое ядро осталось за людьми, а технология лишь ускорила и удешевила его воплощение.

Особую роль играет культурный и социальный контекст. Технология, которая успешно работает в одной среде, может оказаться неэффективной в другой, если не учитывать язык, традиции, нормы поведения и особенности аудитории. Поэтому ИИ-трансформация требует не только сильных технологий, но и понимания людей, для которых эти технологии создаются. Российские компании развивают собственные модели — GigaChat, YandexGPT — отчасти потому, что глобальные нейросети хуже работают с русскоязычной средой и ее культурными кодами.

Глобально бизнес сталкивается с тремя ключевыми этическими вопросами применения ИИ. Первый — право на образ и цифровую идентичность. Например, H&M при создании цифровых двойников моделей сохранил за ними контроль над использованием их образов и предусмотрел плату за каждое применение аватара. Второй — прозрачность происхождения контента: пользователю важно понимать, создан материал человеком или с помощью ИИ. По мере развития технологий отличить одно от другого становится все сложнее, поэтому маркировка будет играть все большую роль. Третий вопрос — ответственность за результат: она остается за человеком или организацией, которая использует ИИ.

Эти вызовы решаются через прозрачные правила владения данными и контентом, маркировку созданных ИИ материалов и развитие законодательства. В Евросоюзе уже действует AI Act — первый комплексный закон, регулирующий применение искусственного интеллекта.

В России также формируется правовая база для отрасли: Госдума недавно приняла закон «О поддержке развития технологий искусственного интеллекта», который вводит юридические определения ИИ и суверенных моделей и закрепляет роль Минцифры как регулятора. При этом важно сохранить баланс: регулирование должно повышать доверие к технологиям, но не тормозить их развитие.

Разное