ТелеПромпт — программная платформа для работы с большими языковыми и мультимодальными генеративными моделями, предназначенная для ведения интеллектуального диалога, обработки текста, изображений и документов.
Функциональные характеристики программного продукта:
- Создание текстов в соответствии с инструкциями;
- Выполнение суммаризации, корректировки и переформулирования текста;
- Извлечение сущностей и классификация информации из текстов и документов;
- Генерация и анализ программного кода;
- Поддержка диалога с пользователем в режиме реального времени;
- Анализ и описание изображений с помощью мультимодальных моделей;
- Генерация изображений по текстовым описаниям;
- Распознавание текста на изображениях и в документах;
- Распознавание речи;
- Синтез речи на основе текста;
- Формирование векторных представлений текста;
- Ролевое управление доступом пользователей;
- Поддержка разных языков интерфейса, включая, но не ограничиваясь, русским, английским, татарским.
Программный продукт поддерживает следующую модель распространения:
On-premise — модель предоставления прав использования на программный продукт, при которой передаётся дистрибутив программного продукта с возможностью развёртывания на инфраструктуре Лицензиата (Docker Compose, Kubernetes). Языковые, мультимодальные и вспомогательные модели развёртываются локально; для их инференса может использоваться специализированное ПО для высокопроизводительного инференса моделей.
Состав программного продукта:
1) Платформа, состоящая из следующих функциональных подсистем:
- Подсистема инференса языковых и мультимодальных моделей — подсистема для запуска (инференса) моделей генерации текста и обработки изображений;
- API-подсистема — подсистема, предоставляющая программный интерфейс (API) для взаимодействия с моделями;
- Подсистема фильтрации — подсистема для контроля запросов пользователей и ответов моделей на соответствие этическим и законодательным нормам;
- Подсистема эмбеддингов — подсистема для запуска (инференса) моделей векторного представления текста;
- Модуль тестирования и мониторинга моделей — модуль для тестирования и мониторинга моделей на основании данных и метрик из подсистем инференса и API.
2) Модели, применяемые в программном продукте:
- Языковые и мультимодальные модели для генерации и анализа текста и изображений;
- Модели фильтрации;
- Модели векторного представления текста (эмбеддинги);
- Модели оптического распознавания символов (OCR);
- Модели распознавания и синтеза речи.
Установка:
При развёртывании по модели on-premise продукт поставляется в виде Docker-образов и поддерживает оркестрацию через Docker Compose и/или Kubernetes.
Стоимость:
Стоимость услуг и платформы рассчитывается индивидуально. Для получения информации о стоимости вы можете связаться с нами по телефону +7 (843) 264-73-00, добавочный 2541.
Режим работы: с 9:00 до 18:00 в рабочие дни.
Адрес:
Инфраструктура разработки и служба поддержки размещены по адресу:
г. Казань, 420074,
ул. Петербургская, д. 52
АО «Центр информационных технологий РТ»
📞 +7(843) 264-72-63
режим работы: с 9:00 до 18:00 в рабочие дни