Говорит и слушает ИИ

Новая профессия ИИ – аудитор? Многие уже внедрили RAG-поиск: сотрудники находят корпоративную информацию за секунды, а голосовые помощники консультируют по актуальным регламентам компании. Но вопрос – можно ли полностью доверять ответам, которые выдает RAG-система? Чтобы на него ответить, RAG-модель тестируют – и это один из самых трудоемких этапов разработки. Поэтому сегодня ИИ зачастую проверяет... другой ИИ. Системе устраивают экзамен, где для каждого документа ИИ-аудитор генерирует вопросы с вариантами ответов, один из которых правильный. Здесь все просто: оценка RAG = доля правильно отвеченных вопросов. А чтобы понять, почему система работает хорошо или плохо, разработали модель, которая позволяет оценить влияние каждого компонента на качество ответов: 🔘ИИ-модель 🔘механизм поиска и извлечения информации (retrieval) 🔘контекстное обучение – например, количество примеров в промпте Так можно определить, за счет чего именно улучшается качество RAG: более сильной модели, более точному поиску информации или более удачному промпту. Microsoft при оценке RAG-моделей рекомендует смотреть на такие критерии: насколько ответ подтверждается источниками, релевантен ли он вопросу, полностью ли отвечает на все его части, и корректен ли с точки зрения фактов. По такому принципу и работают современные ИИ-аудиторы. Например, в нашем инструменте для обучения моделей они автоматически оценивают: ✅ насколько ответ соответствует эталону ✅ насколько ответ корректен, даже если эталонного ответа нет ✅ действительно ли модель использовала релевантные фрагменты базы знаний ✅ не придумала ли она факты и не противоречит ли документам При этом оценивать качество можно по-разному: ➡️ A/B-сравнение – когда два ответа разных моделей сравниваются между собой, и ИИ выбирает лучший ➡️ Категории – например, «полезный / частично полезный / неполезный ответ». ➡️ Рубрики – например, оценка по шкале от 0 до 1. Так, для большинства продуктов обоснованность ответа документами должна быть около 0,8, а в финансовой, медицинской и других чувствительных сферах требования обычно – не менее 0,9. Такие ИИ-аудиторы становятся обязательным элементом обучения моделей – ведь важнее не получить ответ за секунду, а быть уверенным в его достоверности👍 Мы теперь и в MAX

Как ИИ связан с рождаемостью в Бурятии и локальным бизнесом в Подмосковье? Почему компании не готовы к закону об ИИ, и из-за чего внедрения не приносят прибыли? Все о диалоговом ИИ за две недели ⤵️    🧑‍🏫О чем говорят цифры? Первый закон об ИИ принят, но только 20% компаний критической инфраструктуры готовы к его требованиям. У остальных пока не адаптированы данные и плохо закреплена ответственность за ИИ.  Примерно 3 из 4 компаний использовали ИИ в разработке ПО в прошлом году – из них 48% отметили рост эффективности, однако не увидели роста выручки из-за организационных процессов. Как внедрить ИИ в разработку и увеличить прибыль – рассказывали здесь.  За год доля предпринимателей малого и среднего бизнеса, использующих ИИ, выросла с 17% до 53% – его применяют в маркетинге, аналитике и работе с клиентами. ИИ все чаще встроен в готовые решения и не требует отдельных внедрений. За год число атак на компании с помощью ИИ-инструментов выросло на 56%. Более 20% столкнулись с атаками непосредственно на свои ИИ-системы – при этом 92% из них не обеспечили надлежащий контроль доступа к ним.     🧪Чему научились в последнее время? Точнее выявлять галлюцинации. Новый инструмент анализирует ответ ИИ-модели или его фрагменты, а также может заранее оценивать, достаточно ли у нее информации для ответа. Так, созданная метамодель повышает точность обнаружения ошибок почти на 30% всего на 250 примерах.  Эффективнее обновлять голосовых помощников. Новый метод позволяет добавлять слова-триггеры для новых голосовых команд без переобучения всей модели, чтобы старые команды не забывались – для этого к ней подключают небольшой обучаемый модуль.     💼Кем диалоговый ИИ уже работает? ИБ-специалистом в Мосбирже: ищет уязвимости в коде и помогает расставить приоритеты для дальнейшей ручной проверки.  Ассистентом жителей разных регионов: в Хабаровском крае помогает записаться к врачу, в Псковской области позволяет эффективнее решать бытовые вопросы, в Бурятии рассказывает родителям о мерах поддержки при рождении детей, а в Подмосковье консультирует по госуслугам как жителей, так и локальный бизнес. Хостес: принимает звонки от гостей и самостоятельно бронирует столики, даже когда заведения закрыты. Аналитиком в поликлиниках Москвы: работает с программным кодом и подбирает методы анализа данных, чтобы команды больниц могли изучать информацию об операциях, исследованиях и других процессах – и эффективнее выявлять проблемы и находить их решения. Консультантом с Уолл-стрит: помогает российским инвесторам подбирать активы и проводить сделки. Мы теперь и в MAX

Американский журнал Time начал продавать рекламу для ИИ-агентов! Для этого издание публикует специальные markdown-версии страниц без картинок и сложного оформления. Реклама теперь выглядит как блок с вопросами и ответами о бренде, помеченный как спонсорский контент – такие страницы проще обрабатывать ИИ-системам и поисковым агентам.  Если раньше компании думали, как попасть в топ Google, то теперь возникает вопрос: как сделать так, чтобы именно твой бренд вспомнил ИИ, когда пользователь задаст соответствующий вопрос? Похоже, ИИ-агенты становятся не только инструментами автоматизации, но и новой аудиторией, с которой бизнесу приходится выстраивать отношения 👋 Мы теперь и в MAX

Пока одни покоряют горы, а другие – лежаки у моря, предлагаем сохранить пару минут для полезного чтения. Собрали самое интересное об ИИ, что вышло в канале за прошлый месяц ⤵️ Исследования почему 70% проектов с ИИ-агентами потерпят неудачу и от чего зависит успех: собрали цифры, примеры, прогнозы от Gartner и KPMG Обзоры какие сферы и регионы лидируют по применению ИИ, какие решения государство внедряет чаще всего и какой эффект это уже приносит (спойлер: чат-боты – не самый популярный инструмент) 7 кейсов, как государство применяет ИИ в конкретных задачах, от Минздрава в Перми до правительства Ханты-Мансийска Новости ИИ в первую половину июля: пишет тексты по-новому, берет на себя финансовые задачи, устраивается на уральский завод и в Пятерочку Кейсы от нашей команды 3 фишки, которые улучшили медицинского голосового помощника – так, что он самостоятельно обрабатывал более половины звонков и успешно помогал записывать людей на прием и вызывать врача на дом 4 проблемы, которые могут снизить качество RAG на 30% – так, что даже поиск по базе знаний не спасет от галлюцинаций – и как этих проблем избежать   3 ошибки, которые сделают ИИ-помощника бесполезным – как НЕ нужно настраивать взаимодействие робота с информационными системами – и, напротив, как сделать так, чтобы робот не тормозил и не выдавал ошибок Мы теперь и в MAX

ИИ ответственнее своих пользователей? Некоторое время назад канадский депутат зачитал в парламенте речь прямо вместе с комментарием от нейросети: «Вот более естественно звучащий вариант этого раздела...» – и продолжил как ни в чем не бывало. А вот ChatGPT начал отказываться писать тексты в стиле известных писателей – причем ограничение относится как к классическим, так и к современным авторам. Теперь вместо «напиши как Хемингуэй» или «как Стивен Кинг» чат-бот предлагает взять общие особенности автора, но сохранить оригинальный стиль пользователя. Кажется, большие языковые модели быстро проходят курс по человеческому этикету — очередь людей подтянуть цифровой 🔥

Если ожидание превышает 5 секунд, большинство прерывает звонок! Голосовые роботы уже умеют выполнять действия – например, записывать на прием ко врачу или вызывать специалиста на дом. Для этого робота нужно подключить к информационной системе, чтобы он мог проверить расписание врачей или карту пациента.  ⚠️ Но если настроить взаимодействие с системой неправильно, робот только принесет проблем: будет очень долго думать и выдавать ошибки.  3 главные причины, почему это происходит – и как этого избежать: 😬 Робот делает много запросов для простого действия Тут и вероятность ошибки больше, и время обработки дольше. Решение – настроить более точечные запросы. Например, вместо того чтобы сначала запрашивать из системы весь список врачей, потом отдельно искать даты, робот сразу может передать нужные параметры – со специальностью врача и датой приема – в одном запросе к системе. ⚠️ Робот получает данные в сыром виде Пока бот извлекает ФИО пациента из служебных таблиц и приводит даты к нужному виду, вероятность что звонящий бросит трубку или взмолится об операторе растет. Решение – система должна передавать роботу данные в готовом для обработки формате, чтобы он мгновенно мог сверить ФИО и дату рождения, номер СНИЛС и номер полиса ОМС. 🧠 Робот не понимает ответы системы Если информационная система возвращает роботу сообщения вроде «Невозможно завершить операцию», это не помогает ему понять, что делать дальше. Решение – давать конкретные статусы: «Пациент не найден», «Найдено несколько совпадений», «Запись успешно создана». Если скорректировать эти три момента, можно повысить конверсию в три раза – робот будет успешно завершать операции примерно в 70% случаев. Все это мы выяснили на опыте внедрения ботов на линии 122 – например в Пермском крае наш робот закрывает 80% запросов без обращения к оператору, а в Подмосковье сам обработал 8 млн заявок за прошлый год. В статье на VC также рассказываем, что делать, если система возвращает пустые поля, и какую проблему с данными важно решить еще до начала интеграции.  Мы теперь и в МАХ!

Об ИИ-агентах говорят все. Однако Gartner предсказывает: более 70% корпоративных инициатив по внедрению агентного ИИ потерпят неудачу уже в ближайшие три года.  В этом виновата одна конкретная проблема. О ней и других ошибках на пути внедрения ИИ-агентов – рассказываем в карточках, где собрали главные цифры и выводы недавних исследований Gartner и KPMG. Мы теперь и в МАХ!

ИИ начинает писать тексты по-новому, берет на себя финансовые задачи и устраивается на уральский завод: главное о диалоговом ИИ за две недели ⤵️ О чем говорят цифры? За последний год доля пользователей, которые регулярно обращаются к голосовым ассистентам для решения финансовых задач, выросла более чем х2. В крупнейших банках объем операций через них вырос на 60-70%. 67% российских компаний готовы доверить ИИ не только информирование клиентов, но и квалификацию лидов, запись на услуги, ответы на типовые вопросы и маршрутизацию звонков. Каковы новые открытия? Новая LLM на основе диффузионного подхода – принципа, с помощью которого нейросети создают изображения и видео – позволяет генерировать текст на 45% быстрее. Она не пишет текст последовательно, а создает общий черновик ответа и дорабатывает его целыми блоками, что позволяет быстрее исправлять ошибки. ИИ-агенты обучаются быстрее благодаря длительной работе в реальной среде — при взаимодействии с пользователями и внешними системами. В результате скорость их обучения может удваиваться каждые три месяца. Где диалоговый ИИ работает? В Пятерочке – и других торговых сетях X5: проводит оценку продуктовых навыков менеджеров: анализирует их ответы на кейсы, оценивает компетенции и формирует персональные рекомендации – все за два часа вместо двух недель. Помощником подмосковных бизнесменов: помогает оформить субсидии и выбрать участок или помещение, рассказывает о мерах поддержки и отвечает на вопросы предпринимателей. На уральском заводе: будет анализировать техническую и корпоративную документацию и выступать в роли виртуальных ассистентов для сотрудников. Учителем иностранного языка: предлагает персонализированные тренировки устной речи на разных языках и дает детальную обратную связь. Мы теперь и в МАХ!

Недавно в докладе KPMG обнаружили галлюцинации: нейросеть приписала крупным организациям ИИ-проекты, которых никогда не существовало. И это не единичный случай. Например, в России в судебные документы уже не раз попадали ссылки на несуществующие судебные акты и сгенерированные цитаты. Обычно от таких ошибок защищает RAG – когда ИИ ищет информацию в конкретной базе знаний. Он не гарантирует идеального качества, однако правильная подготовка системы сильно повышает шансы. На одном из наших проектов после подключения RAG точность ответов вначале составила всего 56%. Вот 4 причины, почему так происходит, и что с этим делать: 🔢Неправильная настройка пайплайна. Важно скорректировать то, как данные разбиваются на фрагменты, как происходит поиск и ранжирование. Фрагменты должны содержать заголовки, их должны сортировать специальные фильтры, а дополнительно может потребоваться, например, поиск по терминам или поиск в интернете. 🔢Плохое качество данных. Компании могут хранить разные версии документов – при векторизации их фрагменты выглядят одинаково релевантными, поэтому модель будет путаться. Важно убрать дубли, противоречия и обновить данные – именно так на нашем кейсе мы повысили точность RAG более чем на 30%. 🔢Несбалансированные «этические» фильтры. Если фильтров нет, бот может выдавать спорные ответы на чувствительные темы. Если фильтры слишком строгие – может вместо ответа всегда отправлять пользователя в интернет. В таких случаях стоит пересмотреть формулировки в базе знаний и правилах обработки запросов, связаться с разработчиком для «смягчения» или вовсе подобрать другую LLM. 🔢Устаревшая LLM-модель. Важно постоянно следить за новыми релизами и обновлять свой инструмент. В одном гос-проекте использовался каскад из нескольких LLM – каждая из них могла делать лишь часть задачи. Когда мы заменили весь этот стек на одну недавно вышедшую модель, качество ответов выросло. Одним словом, бороться с галлюцинациями нужно еще на этапе настройки системы – тогда они не станут поводом для громких публикаций 🧠 Мы теперь и в MAX

Первый ИИ-ассистент специально для госслужащих появился в России в мае: он расшифровывает совещания, переводит разговорную речь в официально-деловой стиль и за несколько минут готовит проект протокола с поручениями, исполнителями и сроками. Упрощение работы с разрозненными данными и документами – одна из главных болей, которые госведомства хотят закрыть с помощью ИИ. Мы собрали яркие кейсы из разных регионов по этой и двум другим ключевым задачам госсектора. Как ИИ вдвое сокращает число отказов при выдаче пропусков на МКАД, помогает налоговой службе обходиться без выездных проверок, упрощает общение с гражданами не только с помощью чат-ботов, и выполняет за день работу, на которую у людей ушло бы четыре года – смотрите в карточках. Кстати, кейсы из раздела «Общение с гражданами» знаем особенно хорошо: они работают на наших речевых технологиях. В отдельных статьях можно почитать подробнее про МФЦ Санкт-Петербурга, линию 112 в Прикамье и ассистента СФР. Мы теперь и в MAX