Поделиться
«ИТ-Экспертиза» выпустила новую версию «Когнитума» с инструментами контроля расходов на ИИ и развитием бизнес-сценариев
Группа компаний «ИТ-Экспертиза» выпустила версию 0.16 платформы «Когнитум» для корпоративного применения искусственного интеллекта (ИИ). В обновлении появились инструменты учета расходов, управления лимитами и распределения запросов между языковыми моделями. ИТ-службы могут видеть, кто и для каких задач использует ИИ, сколько это стоит и как загружены вычислительные ресурсы. Об этом CNews сообщили представители ГК «ИТ-Экспертиза».
Обновление адресовано организациям, которые переходят от отдельных экспериментов к регулярному эффективному применению ИИ. «Когнитум» объединяет локальные и внешние языковые модели, корпоративные базы знаний и ИИ-агентов в единой среде с общими правилами доступа и учета.
Управление расходами на ИИ
В версии 0.16 появилась система тарифов и лимитов. Для подразделений и сотрудников можно определить доступные модели и ограничения на объем их использования за день, неделю или месяц. Администратор также задает, что произойдет при исчерпании лимита: запрос будет отклонен либо направлен на другую модель в соответствии с настройками.
Платформа рассчитывает стоимость использования ИИ по установленным тарифным ставкам. Отчеты показывают расходы по подразделениям, сотрудникам, моделям и видам задач. Эти данные позволяют сопоставлять плановые и фактические затраты, контролировать бюджет и сравнивать расходы на разные модели. Каждый сотрудник видит остаток собственного лимита в рабочем интерфейсе.
Распределение запросов с учетом нагрузки и требований к данным
Несколько языковых моделей можно объединить в группу (пул), которую пользователь выбирает как одну модель. Платформа направляет запросы по заданным администратором правилам с учетом характера задачи, доступности и загрузки моделей. Если одна из них недоступна, запрос может быть передан другой модели из группы.
Компания может установить правило, по которому запросы с конфиденциальными сведениями обрабатываются только локальными моделями, внутри корпоративной инфраструктуры. Дополнительный механизм обезличивания позволяет заменять обнаруженные персональные данные и реквизиты условными метками перед передачей текста внешней модели. Таким образом, организация определяет, какие запросы разрешено обрабатывать за пределами ее инфраструктуры.
Новые возможности для корпоративных пользователей
Обновление расширяет работу с внутренними знаниями компании. ИИ-модель может находить документы по смыслу и точным фразам, читать их целиком и добавлять файлы в базы знаний, если у пользователя есть соответствующие права. При удалении документов запрашивается подтверждение. В длительных диалогах ранние сообщения можно автоматически сворачивать в краткий конспект, чтобы продолжать разговор без создания нового чата.
В предыдущих обновлениях также появились задания для моделей и ИИ-агентов по расписанию. Они позволяют готовить регулярные сводки, проверять изменения и отправлять результаты по электронной почте или в мессенджер. Для подключения к рабочим системам используется MCP (Model Context Protocol, протокол взаимодействия ИИ с внешними инструментами). ИИ-агенты могут обращаться к корпоративным сервисам от имени сотрудника и в пределах предоставленных ему прав.
Контроль ИИ в корпоративной ИТ-среде
«Когнитум» развертывается в инфраструктуре заказчика и при использовании локальных моделей может работать без подключения к интернету (on-premise). Администраторы управляют доступом к моделям, базам знаний и инструментам, отслеживают обращения к ИИ, состояние запросов и загрузку вычислительных ресурсов. Такие же правила учета действуют для корпоративных приложений, подключенных через API.
«Для широкого применения ИИ компаниям важно оценивать не только качество ответов, но и расходы: какие модели используются, какие ресурсы задействованы и сколько стоит выполнение задач. В новой версии мы объединили учет затрат с правилами распределения запросов, чтобы ИТ-службы могли управлять этим процессом. Кроме этого, немаловажную роль играют вопросы информационной безопасности и защиты критической информации организации и наш Когнитум полностью соответствует этим требованиям», – сказал Вячеслав Савлюк, генеральный директор компании «ИТ-Экспертиза».
Короткая ссылка
