ChatGPT в России: умная обработка корпоративного контента

Еще несколько лет назад существовали только языковые модели Generative Pretrained Transformer. У них были скромные возможности, которые тем не менее использовались в широких целях: в мобильных приложениях, чат-ботах, для написания музыки и стихов. А сегодня ChatGPT в России самая популярная нейросеть (по версии исследования Hi-Tech mail.ru, опубликованного в мае 2023 года).

О сверхспособностях чат-бота генерировать тексты и писать программный код многие наверняка уже слышали. В статье речь пойдет о том, как использовать чат GPT в работе с корпоративным контентом.

Эксперименты с корпоративным контентом

В компании Directum выделена команда по развитию генеративных моделей в составе системы Directum RX Intelligence. Расскажем о нескольких последних экспериментах, которые провели инженеры.

Кейс #1. Умная транскрипция записи конференции

В крупных компаниях ежедневно проходят десятки и сотни конф-коллов с участием двух и более сотрудников. От того, насколько оперативно и грамотно по итогам таких совещаний будут составлены протоколы, зависит скорость принятия дальнейших решений. Часто времени на качественное оформление итогов не хватает. Вот здесь на помощь и приходит ChatGPT AI.

Рассмотрим, как с помощью технологии Generative Pretrained Transformer подготовить протокол совещания на основе аудиозаписи конференции.

Механика простая:

1. Записываем созвон с коллегами.
2. Получаем транскрипцию совещания (в современных сервисах видеоконференций это встроенная функция).

Транскрипция видеоконференции до преобразвания нейросетью
 

Как видите, результат получается довольно «сырой».

3. Передаем расшифрованный текст в чат GPT — искусственный интеллект делает из транскрипции прототип протокола совещания. А если объем слишком большой, нейросеть сокращает текст с сохранением смысла.

Нейросети преобразовали транскрипцию в краткий протокол совещания
 

Важно проверять текст, сгенерированный нейросетью, и особенно — уделять внимание фактчекингу. На приведенном примере видно, что чат ГПТ неверно расшифровал аббревиатуру МЧД (машиночитаемая доверенность).

4. После того как проверим текст на правдивость и точность, при необходимости дополним и поправим формулировки, его можно использовать как основу для протокола совещания.

Кейс #2. Формирование ответа на основе исторических данных

Классика — использовать генеративный ИИ для того, чтобы он за человека подготовил ответ на входящий запрос. Этот вариант приглянется тем, кто работает с входящей корреспонденцией и физически уже не справляется с объемом поступающих писем, претензий, исков, обращений.

Рассмотрим, как искусственный интеллект чат GPT в составе системы Directum RX Intelligence готовит официальные ответы на запросы граждан:

Ответ, сгенерированный нейросетью на обращение гражданина

Ответ магазина, сгенерированный на запрос покупателя

Для того, чтобы обработать запрос, человеку понадобится не менее получаса. Чат-бот справится с этой задачей за 5-10 секунд.

Как ему удается так быстро выдавать результат? ChatGPT — генеративная языковая модель, которая изучила огромный массив текстов и нашла для себя определенные языковые закономерности, построила связи между словами, поняла контексты. Ответы, которые модель генерирует, формируются на основе исходных данных на основе вероятности. Плюс ко всему модель запоминает предыдущие запросы пользователя и использованную терминологию.

Кейс #3. Оптимизация больших объемов текста

В работе секретарей, делопроизводителей, юристов часто бывают ситуации, когда из многостраничного текста необходимо сделать краткое изложение, чтобы представить его руководителю или коллегам. Но, как вы понимаете, готовить выжимку вручную не обязательно.

Как пользоваться чатом GPT в случаях, когда из объемного контента нужно сделать мини-версию? Просто написать в телеграм-бот конкретное ТЗ и вставить исходник.

На примере видно, как нейросеть сократила текст новостного материала с 3000 знаков до одного абзаца:

Это далеко не все эксперименты, которые проводит компания Directum, используя технологии генеративного ИИ. Например, продолжается работа с локальными генеративными моделями.

Как пользоваться чатом GPT, не привлекая внимание киберпреступников

Прежде чем «подпускать» нейросети к корпоративному контенту, стоит проработать вопрос информационной безопасности.

 

«Корпоративные данные нередко бывают конфиденциальными. Передавая их в ChatGPT AI, сотрудники корпораций могут пробить брешь в структуре ИБ. Но есть выход — использовать локальные генеративные модели или сервисы обезличивания данных. Только имейте в виду, что локальные нейросети будут выдавать менее качественный результат».

Илья Петухов
руководитель проектов по развитию AI-продуктов компании Directum

Компания OpenAI (разработчик ChatGPT) предусмотрела возможные риски и приняла меры безопасности. Например, у чата есть встроенные фильтры, которые модерируют контент, — благодаря этому снижается вероятность использования инструмента мошенниками.

Прежде чем начать пользоваться интеллектуальным чат-ботом, рекомендуется ознакомиться с политикой конфиденциальности и при необходимости отключить сохранение истории чата в настройках.