Почему ИИ ошибается и как построить работу с учётом этого
Ошибки неизбежны, поэтому важна не идеальность, а система контроля.
Нейросеть не «знает» ответ, а подбирает наиболее вероятный. Поэтому иногда она уверенно говорит неправду. Это не повод отказываться от ИИ, но повод продумать контроль.
Ответы только по источникам. Ассистент отвечает по вашим документам и показывает, откуда взят ответ. Нет источника — нет ответа.
Право сказать «не знаю». Хороший сценарий позволяет ассистенту честно отказаться от ответа и передать вопрос человеку.
Проверка важного. Суммы, сроки, юридические условия и всё, где цена ошибки высока, подтверждает специалист.
Журнал ответов. Записанные ответы позволяют находить повторяющиеся ошибки и исправлять их.
Тест на реальных примерах. Перед запуском прогоняем десятки настоящих вопросов и считаем ошибки.
Цель не в том, чтобы ИИ никогда не ошибался, а в том, чтобы ошибка не доходила до клиента без проверки.
Читайте также
Расскажите о задаче
Разберём её на бесплатной получасовой встрече и честно скажем, подойдёт ли здесь ИИ.