GIGO в эпоху нейросетей: почему ИИ делает плохие данные опаснее

Есть старый принцип информатики — GIGO, Garbage In, Garbage Out. По-русски его обычно переводят как «мусор на входе — мусор на выходе». Смысл прост: если система получает неверные, неполные или противоречивые данные, хороший алгоритм не превращает их в истину. Он лишь обрабатывает то, что ему дали. Долгое время этот принцип было легко заметить: ошибка в таблице оставалась ошибкой в таблице, пропущенное значение — пустой ячейкой, а две несовпадающие цифры в отчетах заставляли людей выяснять, кто считает правильно.Генеративный искусственный интеллект изменил не сам принцип, а форму проблемы. Теперь плохие данные могут превратиться в аккуратно написанный текст, стройное объяснение и вполне логичную рекомендацию. Представим совещание: руководитель спрашивает, почему снизились продажи, и ИИ-ассистент за несколько секунд отвечает, что упала конверсия, выросло число отказов и один из каналов работает хуже. Ответ звучит профессионально, пока команда не начинает проверять детали и не обнаруживает, что часть лидов в CRM заведена дважды, причины отказа заполняются нерегулярно, а понятие «успешная сделка» разные подразделения трактуют по-разному. Технически ИИ мог отработать корректно: он получил данные, нашел закономерности и сформулировал вывод. Проблема была в том, что на входе находилась противоречивая картина мира.Почему плохие данные не исправляются самиИскусственный интеллект часто воспринимают как систему, способную самостоятельно «разобраться» в больших массивах информации. На практике модель не знает, какие данные в компании правильные, если сама компания этого нигде не определила. Вопрос «Почему снизилась маржинальность?» для человека звучит однозначно, но для информационной системы за ним скрывается множество условий: учитывать ли логистику, как считать возвраты, включать ли скидки, какую себестоимость использовать, за какой период считать показатель и что считать продажей — оплату или отгрузку.Если финансовый отдел использует одну формулу, коммерческий — другую, а аналитики каждый месяц вручную корректируют отчет, нейросеть не сможет сама определить, какая версия истинная. Она выберет доступную интерпретацию и построит ответ на ее основе. Причем сделает это так, что пользователь может и не заметить проблему. В этом и состоит главное отличие генеративного ИИ от обычного отчета: ошибка больше не обязана выглядеть как ошибка.Плохие данные при этом редко выглядят как полностью сломанная база. Чаще это мелкие несогласованности, которые годами накапливаются внутри процессов. Один и тот же клиент записан под разными названиями, часть обязательных полей не заполняется, разные системы фиксируют одно событие в разные моменты, в одном отчете возвраты учитываются, а в другом нет. Перед совещанием сотрудник вручную исправляет несколько строк в Excel, потому что «так всегда делали». Для людей внутри компании такая система может работать: они знают, какой файл открыть, кому позвонить и какую цифру считать правильной. Для ИИ этого неформального знания не существует, если оно нигде не описано.Даже чистые данные могут быть неоднозначнымиЕсть еще одна важная вещь: качество данных — это не только отсутствие дублей, пустых строк и технических ошибок. Данные могут быть безупречно заполнены и при этом оставаться неоднозначными по смыслу. Допустим, в базе есть поле «выручка», все значения корректны, формат правильный, пропусков нет. Но одна система считает выручку по отгрузке, другая — по оплате, а третья по-своему учитывает возвраты. С технической точки зрения все три набора выглядят чистыми. С точки зрения бизнеса они описывают разные вещи.Чтобы ИИ мог работать с такими данными осмысленно, ему нужен слой, где закреплен бизнес-смысл показателей: что именно считать выручкой, клиентом, продажей или просрочкой, какие формулы использовать, какие фильтры обязательны и какой источник считать главным при расхождении. В аналитических системах это называют семантическим слоем. Если говорить проще, машине недостаточно знать, в какой колонке лежит число. Ей нужно понимать, что это число означает.Фраза «покажи выручку за август» для человека кажется простой, а для системы превращается в набор решений: какую дату использовать, включать ли НДС, учитывать ли возвраты, входят ли внутренние операции между компаниями группы. Если эта логика уже зафиксирована, ИИ может использовать ее в ответе. Если нет, ему приходится угадывать. И тогда к нескольким существующим внутри компании версиям одного показателя может добавиться еще одна — созданная самой моделью.Почему генеративный ИИ делает GIGO опаснееВ обычной аналитике противоречие часто заметно. Два отчета показывают разные цифры — и кто-то обязательно спрашивает, почему. Генеративная модель работает иначе: ее задача — сформировать связный ответ. Поэтому несколько противоречивых сигналов могут не выглядеть как конфликт, а превратиться в единое объяснение. Раньше плохие данные приводили к плохому отчету. Теперь они могут привести к хорошему объяснению плохого отчета.Пока ИИ используется как помощник, последствия такой ошибки ограничены: человек может перепроверить результат. Но по мере перехода от ответов к рекомендациям и действиям цена становится выше. Одно дело — неверно объяснить падение продаж. Другое — на основании этого объяснения предложить изменить кредитный лимит, объем закупки или коммерческие условия. Чем больше самостоятельности получает система, тем важнее возможность проверить, на каких данных основан ее вывод и какие правила использовались при расчете.Именно поэтому разговор о качестве ИИ нельзя отделять от качества данных и процессов вокруг него. Если важное событие не фиксируется, модель не сможет его восстановить. Если часть операций проходит мимо учетной системы, для алгоритма их просто не существует. Если правильность отчета держится на одном сотруднике, который знает все исключения и ручные корректировки, нейросеть этого знания не увидит. В этом смысле большая часть работы с ИИ оказывается довольно неэффектной: проверка источников, устранение дублей, заполнение пропусков, согласование определений и правил.Нужно ли сначала привести в порядок все данныеИз этого легко сделать слишком радикальный вывод: прежде чем подключать ИИ, нужно несколько лет очищать все базы и строить идеальную архитектуру. На практике такой подход способен остановить любой проект. Гораздо разумнее начинать с конкретного сценария. Если система должна анализировать продажи, сначала проверяют данные, определения и правила, связанные именно с продажами. Если задача касается дебиторской задолженности — начинают с соответствующих источников и показателей.Перед запуском достаточно ответить на несколько вопросов: что означает каждый ключевой показатель, откуда он берется, насколько много дублей и пропусков, какая система считается основной при расхождении и можно ли проверить, из каких данных ИИ получил свой ответ. Это уже превращает абстрактное «качество данных» в понятную инженерную задачу и позволяет не пытаться исправить всю корпоративную инфраструктуру сразу.

GIGO появился задолго до современных нейросетей, но именно сейчас этот принцип снова становится особенно актуальным. Искусственный интеллект действительно может быстрее находить закономерности, объяснять изменения и делать сложную аналитику доступнее. Но он не превращает плохие данные в хорошие и не решает за людей, что именно должна означать та или иная цифра. Чем убедительнее становится язык модели, тем внимательнее приходится относиться к фундаменту, на котором построен ответ.Поэтому главный вопрос перед подключением ИИ к данным звучит не «насколько хорошо он умеет рассуждать?», а гораздо проще: насколько хорошо мы понимаем то, что собираемся дать ему на вход. Потому что GIGO работает и в эпоху нейросетей — просто теперь мусор на выходе научился очень хорошо объяснять себя.