На площадке АФТ завершен второй этап пилота по применению генеративного ИИ
Ассоциация ФинТех проводит пилотирование применения больших языковых моделей для повышения эффективности различных продуктов и процессов финансовых организаций. Первый этап пилотного проекта завершился летом 2024 г. Во втором этапе пилота состав участников заметно расширился: количество компаний, проверяющих гипотезы применения LLM, выросло с четырех до 10, количество ИИ-моделей – с двух до трех. Об этом CNews сообщили представители Ассоциации ФинТех.
Во время второго этапа пилотного проекта протестированы 17 гипотез применения генеративного ИИ, среди них: взаимодействие больших языковых моделей и внутренних баз финансовых организаций, эффективность применения ИИ для работы с документами (поиск контента в документах и их суммаризация), применение LLM для разработки трейдинговой стратегии на основе анализа тональности новостей, анализ программного кода бизнес-приложения с помощью ИИ для повышения качества кода. По результатам тестирования 85% гипотез подтвердились. На момент проведения пилота зафиксированы следующие метрики: точность распознавания темы в диалогах пользователей – более 75%; сгенерированные саммари из ответов клиентов и различных видов документов баз данных компании содержат всю необходимую информацию – более 80%; автоматизация поиска информации по базам данных с применением RAG подхода (подход, при котором генерация ответа LLM осуществляется на основе данных, полученных в результате поиска во внутренних источниках) – более 75%.

Тестирование показало, что большие языковые модели помогают улучшить клиентский опыт и снизить время разрешения вопросов, существенно оптимизировать внутренние процессы и создавать новые цифровые продукты и ценностные цепочки. В результате вышли или готовятся выходить в промышленную эксплуатацию с кейсами, проверенными в ходе пилотного проекта, три участника.
«Совместная работа заказчиков и вендоров на пилотных проектах Ассоциации ФинТех способствует быстрому обмену опытом и достижению максимальной эффективности внедрения технологий, а также выявлению зон роста, где нужно улучшить технологии или создать новые продукты. Для этого финансовым и технологическим организациям предоставляется доступ к инфраструктуре и сервисам на собственных мощностях технологической песочницы Ассоциации ФинТех. Но для перехода в промышленную эксплуатацию и повышения конверсии из пилота в успешные проекты требуется разработка типового процесса и референсной архитектуры внедрения ИИ-решений. Работа над ними ведется на площадке АФТ в рамках Центра компетенций по ИИ», — подчеркнул советник генерального директора по искусственному интеллекту Ассоциации ФинТех Алексей Сидорюк.