Самая опасная ошибка искусственного интеллекта — не глупость, а убедительность. В бизнес-аналитике он уже не просто показывает графики, а объясняет, почему упали продажи, и советует, что проверить первым. Проблема в том, что машина не знает, что вы называете выручкой или активным клиентом, пока вы сами не договорились. А чем больше она действует сама, тем дороже может стоить красивая, но неверная догадка. Рассказывает Грачья Алексанян, эксперт по BI и управленческой аналитике, директор Win Solutions и основатель российской BI-системы Fastboard.
Но до недавнего времени между цифрой на экране и решением оставался человек. Компьютер мог показать, что продажи снизились, расход топлива вырос или доставка стала занимать больше времени. Почему это произошло и что делать дальше, предстояло выяснять самостоятельно.
Искусственный интеллект постепенно меняет эту схему. Теперь система может не только показать отклонение, но и попытаться объяснить его: сопоставить несколько показателей, найти возможную причину и предложить, что проверить в первую очередь. Аналитика начинает переходить от ответа на вопрос «что произошло?» к более сложным вопросам — «почему это произошло?» и «что можно сделать дальше?».
Обычную аналитику проще всего представить как приборную панель автомобиля. Водитель видит скорость, количество топлива, температуру двигателя и предупреждающие сигналы. Приборы сообщают о состоянии машины, но не ведут с человеком диалог.
Теперь представим, что автомобиль не просто показывает повышенный расход топлива, а говорит: «За последние три дня расход вырос на 15%. Одновременно снизилось давление в двух колёсах. Возможно, стоит начать с их проверки». Машина ещё не принимает решение за водителя, но уже помогает быстрее разобраться в происходящем.
Примерно такой переход сейчас происходит и с системами бизнес-аналитики — BI (Business Intelligence). Это программы, которые собирают данные из разных источников, помогают увидеть ключевые показатели и понять, что происходит с процессами. Руководителю магазина больше не обязательно последовательно открывать десятки графиков, чтобы разобраться, почему снизились продажи. Он может задать обычный вопрос: «Почему на этой неделе мы продали меньше?» Система проверит доступные ей данные и, например, обнаружит, что основное снижение пришлось на несколько популярных товаров, которых три дня не было на складе.
Так появляется conversational BI — «разговорная аналитика», когда человек взаимодействует с данными не только через таблицы, фильтры и графики, но и с помощью обычного языка. Это один из наиболее заметных эффектов появления искусственного интеллекта в аналитике: человек постепенно переходит от поиска нужной таблицы к формулировке самого вопроса.
Однако здесь возникает проблема, которая на первый взгляд кажется неожиданной. Искусственный интеллект хорошо работает с огромными объёмами информации, но сама по себе таблица почти ничего ему не объясняет.
Возьмём простое слово — «выручка». Кажется, что это обычная цифра, которую достаточно найти в базе данных. Но что именно считать выручкой: все оформленные заказы или только оплаченные? Учитывать ли возвраты? Что делать с заказом, который был сделан в конце декабря, а оплачен в январе? Два подразделения одной компании могут даже пользоваться разными правилами расчёта одного и того же показателя.
Человек, много лет работающий в организации, нередко понимает подобные нюансы почти автоматически. Искусственный интеллект такого внутреннего знания не имеет. Если не объяснить ему правила, он способен совершенно правильно произвести вычисления и получить совершенно неправильный по смыслу результат.
Именно поэтому современные BI-системы стараются хранить не только сами данные, но и информацию о том, что они означают: как рассчитывается показатель, откуда он берётся, какие исключения существуют и кому разрешено его видеть. В профессиональной среде это называют семантическим слоем. Если говорить проще, это своего рода словарь, который помогает машине понять язык данных и связать технические названия с их реальным смыслом.
«Самая сложная задача сегодня — не научить искусственный интеллект быстро считать. Он и так считает быстрее человека. Гораздо важнее научить его понимать, что именно означают наши цифры. Если внутри компании нет единого ответа на вопрос, что такое выручка, маржинальность или активный клиент, искусственный интеллект не решит эту проблему — он просто начнёт быстрее работать с этой неопределённостью», — Грачья Алексанян, эксперт по BI и управленческой аналитике, директор Win Solutions и основатель российской BI-системы Fastboard.
Есть ещё одна особенность современных AI-систем. Их ошибка далеко не всегда выглядит как ошибка. Иногда она звучит логично, подробно и вполне убедительно.
Представим, что компания обнаружила падение прибыли. Искусственный интеллект анализирует показатели и замечает, что одновременно выросли расходы на доставку. Он делает вывод: причина — подорожание логистики. Ответ кажется разумным. Но реальной причиной могло оказаться изменение ассортимента: компания стала продавать больше товаров с низкой наценкой. Если системе не хватило данных или она неправильно поняла значение одного из показателей, правдоподобное объяснение окажется неверным.
Пока искусственный интеллект только рассказывает человеку о возможной причине, такую ошибку можно проверить. Но следующий этап развития технологий — AI-агенты. В отличие от обычного чат-бота, агент может не просто отвечать на вопрос, а выполнять последовательность действий: обратиться к данным, провести расчёт, сравнить показатели, подготовить вывод и предложить дальнейший шаг.
Например, такой агент может создать задачу сотруднику, отправить предупреждение или запустить разрешённый процесс. В этот момент цена ошибки становится значительно выше. Неверная цифра способна превратиться сначала в неверный вывод, затем — в неверную рекомендацию и наконец — в реальное действие.
Поэтому чем самостоятельнее становятся AI-системы, тем важнее возможность восстановить всю цепочку: какой вопрос получила система, на каких данных основывалась, почему пришла к определённому выводу и кто разрешил выполнить действие.
Об этом часто говорят как о неизбежном следующем шаге, но на практике всё сложнее. Между командами «найди причину падения продаж» и «сделай так, чтобы продажи снова выросли» огромная разница. Во втором случае система потенциально может затронуть цены, закупки, рекламу, запасы, работу сотрудников и множество других процессов.
Поэтому наиболее реалистичный сценарий — не мгновенный переход к полной автономности, а появление разных уровней самостоятельности. Одни простые операции система сможет выполнять сама, другие — только предлагать человеку, третьи — запускать после подтверждения, а наиболее чувствительные решения останутся под непосредственным контролем людей.
В профессиональной среде такой подход называют Human-in-the-loop — «человек в контуре». Это означает, что алгоритм может анализировать ситуацию и предлагать действие, но на важных этапах требуется подтверждение человека. Подобный принцип давно используется и в других технологиях. Современный самолёт способен выполнять значительную часть полёта автоматически, но это не отменяет пилотов, правил и процедур контроля.
Есть и менее очевидный эффект. Чтобы машина правильно работала с информацией, людям самим приходится точнее договариваться о значении своих показателей.
Если один отдел считает «активным клиентом» человека, который покупал что-либо за последние 30 дней, другой — за 90, а третья система использует ещё одно определение, искусственный интеллект не сможет самостоятельно решить, какое из них правильное. Для него это три разных правила.
Поэтому внедрение AI неожиданно возвращает компании к очень человеческому вопросу: одинаково ли мы понимаем собственные слова? Что именно называем прибылью, просрочкой, клиентом, заказом, эффективностью? И если разные люди отвечают по-разному, проблема возникла задолго до появления искусственного интеллекта.
В каком-то смысле машина становится зеркалом качества наших собственных договорённостей. Чем точнее люди описали правила, тем точнее сможет работать алгоритм. Именно поэтому в работе с данными всё чаще говорят о data governance — управлении данными. За этим термином стоят вполне практические вещи: единые правила расчётов, контроль качества информации, разграничение доступа и понимание того, откуда появился тот или иной показатель.
За несколько десятилетий аналитические технологии прошли довольно понятный путь. Сначала компьютер помогал хранить и считать данные. Затем появились графики и интерактивные отчёты, позволяющие быстрее замечать изменения. Теперь искусственный интеллект добавляет следующий уровень — возможность задавать вопросы данным обычным человеческим языком, искать причины и получать варианты дальнейших действий.
Это не означает, что аналитические системы внезапно «научились думать» так же, как человек. Они по-прежнему зависят от качества информации, заданных правил и ограничений. Чем увереннее звучит ответ машины, тем важнее понимать, на чём он основан.
Вероятно, главное изменение ближайших лет будет заключаться не в том, что искусственный интеллект полностью заберёт у людей принятие решений. Скорее изменится сам способ работы с информацией. Вместо долгого поиска нужного отчёта человек сможет спросить: «Что здесь произошло?», затем — «Почему?» и наконец — «Что стоит проверить?».
И если раньше BI в основном помогал нам увидеть цифры, то теперь аналитические системы постепенно учатся помогать человеку понимать их смысл. Именно в переходе от расчёта к объяснению и заключается одна из самых интересных технологических перемен сегодняшнего дня.
Это новость от журнала ММ «Машины и механизмы». Не знаете такого? Приглашаем прямо сейчас познакомиться с этим удивительным журналом.
