Открываем YandexGPT API для всех пользователей в режиме Public Preview и запускаем программу Yandex Cloud Boost AI. Теперь технологические компании могут получить до 1 миллиона рублей на использование сервиса.

В процессе подготовки YandexGPT API к выходу в режиме Public Preview, мы добавили ряд новых возможностей и улучшений. В сервисе^* стала доступна большая модель YandexGPT, работающая в асинхронном режиме. Она лучше справляется с решением сложных текстовых задач и подойдет, например, для аналитики аудиозаписей. При этом остаётся и более простая модель YandexGPT Lite для задач, где требуется ответ на запросы в режиме реального времени.

Также мы собрали библиотеку готовых текстовых запросов к нейросети — промтов — по наиболее популярным для бизнеса сценариям использования нейросети. Промты позволяют пользователям составлять свои успешные запросы и организовывать работу с GPT-сценариями. Например, сгенерировать заголовки по содержанию или написать рекламное объявление. Кроме того, сделали API удобнее и перешли на универсальный режим генерации запросов и ответов.

YandexGPT API — нейросеть, которая умеет создавать и редактировать тексты, предлагать новые идеи и учитывать контекст беседы. C начала июля 2023 года, через два месяца после выпуска сервиса, в закрытом тестировании YandexGPT API приняли участие более 2000 компаний. По итогам первых пилотов мы увидели большой интерес и потенциал применения этой технологии.

Другие возможности YandexGPT API:

• В консоли, благодаря удобному интерфейсу, вы сможете подбирать промты для своих задач, а также отслеживать детализацию потребления и нагрузку на облачные ресурсы.
• В ходе текстового диалога YandexGPT API лучше учитывает контекст беседы, например, если пользователь задал вопрос, получил ответ и затем уточняет информацию по тому же вопросу.
• Добавили эмбеддинги — удобный способ представления текста в виде числовых векторов. Эмбеддинги позволяют предсказывать близкие по смыслу слова и лучше определять контекст запроса.
• Все генеративные модели теперь используют версию YandexGPT 2. По сравнению с предыдущей версией YandexGPT 2 в 67% случаев лучше отвечает на вопросы, успешнее справляется с генерацией идей, а также со стилизацией, пересказом, анализом и созданием текстов.
• Fine Tuning в сервисе Yandex DataSphere. Теперь компании могут использовать модель, дообученную на собственных данных. Это особенно полезно в областях, где используют специфические понятия и термины.

После выхода YandexGPT API в режиме Public Preview^** для сервиса начали действовать правила тарификации, а также квоты на запросы, которые можно увеличить, обратившись в техническую поддержку.

Как бизнес использует YandexGPT API. Как бизнес использует YandexGPT API

В процессе тестирования YandexGPT API мы получили более 20 тысяч заявок, больше всего от IT-компаний, представителей ритейла и банков. Сегодня испытать возможности YandexGPT API может любой пользователь Yandex Cloud. Получите грант до 1 миллиона рублей в рамках программы Yandex Cloud Boost AI и используйте YandexGPT API для создания чат-ботов и умных помощников, генерации и структурирования текстовой информации в бизнес-приложениях и веб-сервисах. Весь процесс от заявки до одобрения займёт до 10 рабочих дней. Важно, чтобы у вас был свой технологический продукт (на стадии MVP и выше) и идея использования в нём YandexGPT API. Узнать об условиях программы подробнее или подать заявку для участия можно на сайте.

Компании проверили возможности YandexGPT API в нескольких десятках сценариев применения больших языковых моделей. Основные из них:

• Написание и редактура текстов.
• Создание чат-ботов и виртуальных ассистентов.
• Ответы на вопросы пользователей по базе знаний.
• Обобщение и интерпретация данных из рабочих чатов и отзывов.
• Анализ и классификация запросов пользователей.

Например, онлайн-сервис для бизнеса Битрикс24 встроил YandexGPT API в своего ИИ-ассистента CoPilot. Технология помогала пользователям в десятках сценариев, расшифровывала записи разговора с покупателем, заполняла детали заказа, писала посты, ставила задачи и редактировала тексты. А сервис Dasha.AI тестирует YandexGPT API для автоматизации голосовых сценариев в колл-центрах. Нейросеть помогает размечать телефонные запросы клиентов и формировать для роботов наиболее релевантные ответы на вопросы.

Торговая сеть Ralf Ringer использует решение Smart-Reply.AI со встроенным YandexGPT API. С его помощью компания автоматически отвечает на вопросы клиентов на маркетплейсах и комментирует отзывы о товарах.

Другие компании оценили, что умеет YandexGPT API в роли ассистента юридической службы, консультанта по психологическим темам и SMM-менеджера.

Григорий Атрепьев, директор по продуктам Yandex Cloud

.

«Бизнес использует нейросеть не просто для автоматизации отдельных бизнес-процессов, а для разработки IT-продуктов. Новая программа Yandex Cloud Boost AI позволит компаниям создавать ещё более сложные и комплексные проекты с применением YandexGPT. Мы, в свою очередь, готовы делиться экспертизой, чтобы time-to-market таких проектов был максимально коротким, а применение — наиболее эффективным».

Мы продолжаем изучать самые популярные сценарии использования сервиса, а также изучаем результаты работы бизнеса с языковыми моделями. Дальше мы планируем добавить в YandexGPT API ещё больше возможностей и удобных инструментов.

---

^* Сервис предназначен для решения бизнес-задач с помощью генеративной модели. Все запросы логируются. Помните, модель может предоставить некорректную информацию. Её ответы не являются позицией Яндекса. Ознакомьтесь с правилами использования.

^**Сервисы на стадии Preview подойдут для разработчиков, которые готовы использовать их в разработке своих приложений или в тестовом окружении. Для Preview-сервисов не действует соглашение об уровне обслуживания (SLA), и их использование тарифицируется в случаях, предусмотренных специальными условиями, документацией или сайтом.

Источник: https://cloud.yandex.ru/blog/posts/2023/12/yandexgpt-api-and-yandex-cloud-boost-ai