Поиск по документам и более точные ответы: новые инструменты для бизнеса в YandexGPT 4

Языковые модели нового поколения вдвое быстрее отвечают на вопросы, поддерживают вызов функций для работы с внешними инструментами, объясняют логику ответов и обрабатывают запросы объёмом до нескольких десятков страниц.

В Yandex Cloud стали доступны новые большие языковые модели YandexGPT 4 в двух версиях: Lite и Pro. Они превосходят предыдущие версии по качеству ответов и способны обрабатывать контекст в четыре раза длиннее. Это позволяет использовать их для решения более сложных и разнообразных бизнес‑задач — от анализа обращений клиентов до автоматизации закупок.

Новые модели в Yandex Cloud будут особенно востребованы у разработчиков собственных IT‑решений, а также у финтеха, ритейла, промышленности и компаний с крупными клиентскими сервисами.

С помощью моделей YandexGPT 4 можно сортировать заявки клиентов, анализировать резюме и решать другие задачи, связанные с обработкой текста. Версия Pro подходит для решения сложных трудоёмких задач, например ответа на вопросы сотрудников по документации. Lite будет полезна в случаях, где важна скорость ответа. Версия Pro в 70% случаев превосходит предыдущую модель по качеству ответов, а Lite теперь демонстрирует результаты, которые были доступны в самой мощной модели Яндекса прошлого поколения. Кроме того, новые модели в среднем в два раза быстрее предыдущих генерируют ответы на вопросы.

Функции новых моделей YandexGPT 4:

  • Рассуждения. Модели YandexGPT 4 могут «обдумывать» запрос, выстраивая логическую цепочку рассуждений до финального ответа. Теперь модели можно применять в случаях, когда ответ не очевиден и требует дополнительного анализа. Например, в бизнесе — изучать жалобу клиента, разбираться в его проблеме и предлагать выход из ситуации.
  • Работа с внешними приложениями. Модель YandexGPT 4 Pro теперь можно настроить для работы с функциями — специальными командами, которые позволяют использовать внешние инструменты и API. Разработчики могут указать список функций и параметры вызова, а модель сама по тексту запроса определит, когда ими воспользоваться. Сам вызов происходит на стороне клиента. Это особенно полезно для создания умных ассистентов, которые могут взаимодействовать с такими системами, как 1С или CRM, проверяя наличие товара, статус заказа или погодные условия.
  • Улучшенная работа с RAG. Модели YandexGPT 4 лучше справляются с вопросами, ответы на которые требуют использования данных из внешних источников — например, с опорой на документы компании или статьи. Доля ошибок, в том числе выдуманных фактов, снизилась в таких сценариях почти в два раза. Разработчики могут добавить в свои приложения функцию умного поиска с краткой суммаризацией и ссылками на источники.
  • Длинный контекст. YandexGPT 4 Pro может обрабатывать запросы в четыре раза длиннее предыдущей версии — общее окно контекста увеличено до 32 тысяч токенов (порядка 60 страниц текста). Возможность загрузить большой документ целиком в память модели упрощает её применение в речевой аналитике, а также в работе чат‑ботов и умных помощников.

Сейчас в Yandex Cloud доступны модели четвёртого поколения с ответами в высоком качестве, а YandexGPT 4 Pro уже поддерживает длинный контекст. Возможности рассуждений и работы с функциями на платформе в новых моделях появятся позже. Также в будущем планируется добавить обработку длинных запросов в YandexGPT 4 Lite.

Иван Чернов, руководитель команды аналитиков Easy Commerce

«Мы успешно внедрили YandexGPT для обработки пользовательских отзывов на маркетплейсах и оцениваем тональность и тему каждого из них. Нам удалось обработать 6 миллионов отзывов через YandexGPT Lite. Это оказалось в 20 раз дешевле предыдущего решения при сравнимом качестве. Мы достигли точности определения тональности в 99,3% и точности определения темы в 96,5%».

Илья Щиров, руководитель направления развития чатов и ботов Райффайзен Банка

«Райффайзен Банк с помощью YandexGPT предоставил специалистам службы поддержки возможность видеть краткое содержание диалога с клиентом. Это помогает быстрее понять суть запроса и улучшить опыт коммуникации с более, чем 5 млн обращений клиентов в год. Кроме того, у каждого сотрудника банка есть возможность получить доступ к языковой модели в удобном интерфейсе и использовать её для работы или самостоятельного тестирования гипотез. На текущий момент её используют уже более 200 специалистов».

Ксения Паринова, руководитель продукта в Лемана ПРО (Леруа Мерлен)

«Сейчас наша компания запустила пилотный проект по генерации описаний товаров с помощью нейросети YandexGPT. По сравнению с человеком, нейросети позволяют значительно быстрее обогащать карточки товаров уникальными описаниями, существенно экономя трудовые и денежные ресурсы. Фактически создание описаний стало в 95 раз дешевле. Также мы тестируем возможности нейросетей для производства медиаконтента — например, генерируем фото наших товаров на релевантных фонах. Этот процесс позволит покупателю представить товар в нескольких интерьерных или экстерьерных сценах и облегчит выбор, положительно повлияв на конверсию в покупку. Система значительно сократит расходы на фотосессии продукта, увеличив при этом общую коллекцию изображений».

Новая модель анализирует предложенные источники и на их основе отвечает строго на поставленный вопрос, без включения лишних подробностей. Это поможет бизнесу автоматизировать поддержку клиентов и быстро найти нужную информацию

Рекомендательные системы на базе новых моделей дают более точные ответы на запросы пользователя

Новая модель лучше анализирует условия математических и логических задач и приходит к правильному ответу

По сравнению с моделями предыдущего поколения YandexGPT 4 Pro лучше отвечает на все типы вопросов, а по некоторым из них вплотную приближается по качеству ответов к GPT‑4o. Это стало возможным благодаря новому подходу к обучению. Разработчики усложнили датасет, провели дополнительное обучение на всех этапах и тренировали модель на примерах с пошаговым решением задач.

Источник: https://yandex.cloud/ru/blog/posts/2024/10/yandex-gpt-4-0

Перезвоним и ответим на ваши вопросы

Имя *
Код *
Телефон *
Компания *
Сообщение

На связи любым способом

Заявка на аудит

Имя *
Компания *
tel *
email *

Скачать пример аудита

Имя *
Компания *
tel *
email *
Опишите задачу
Имя
Компания
Телефон
Email