СалютДевайсы GigaChat ruGPT Russian Generative Pretrained Transformer нейросетевая модель генерации текста для русского языка
Дообученная версия нейросетевой модели генерации текста для русского языка ruGPT лежит в основе сервиса GigaChat - это современная модель генерации текста для русского языка на основе доработанной исследователями Сбера архитектуры GPT-3 от OpenAI.
- Модель ruGPT-3.5 13B содержит 13 миллиардов параметров и умеет продолжать тексты на русском и английском языках, а также на языках программирования. Длина контекста модели составляет 2048 токенов. Она обучена на текстовом корпусе размером около 1 Тб, в который, помимо уже использованной для обучения ruGPT-3 большой коллекции текстовых данных из открытых источников, вошли, например, часть открытого сета с кодом The Stack от коллаборации исследователей BigCode и корпусы новостных текстов. Финальный чекпоинт модели — это базовый претрейн для дальнейших экспериментов.
СалютДевайсы и организации, системы, технологии, персоны:
Ведяхин Александр 122 4 |
Рафаловский Давид 32 4 |
Марков Сергей 14 2 |
Филиппов Денис 54 2 |
Белевцев Андрей 56 2 |
Дробышевская Алена 9 1 |
Сандалов Феликс 2 1 |
Саркисов Артём 2 1 |
Вишневский Константин 3 1 |
Граденко Михаил 4 1 |
Ермилов Дмитрий 2 1 |
Шихалиев Фрэнк 2 1 |
Капустина Алена 4 1 |
Азбуханов Айрат 2 1 |
Лисовец Валерий 2 1 |
Симонова Анна 2 1 |
Гранкин Михаил 2 1 |
Mirzayanov Mike - Мирзаянов Майк 1 1 |
Ветроградов Владимир 1 1 |
Иронов Николай 1 1 |
Кристофари Николай 6 1 |
Мартынов Родион 3 1 |
Шевалдов Ярослав 1 1 |
Буланцев Дмитрий 7 1 |
Пепперштейн Павел 1 1 |
Пелевин Виктор 13 1 |
Алешкин Сергей 65 1 |
Бугаенко Андрей 13 1 |
Вертоградов Владимир 26 1 |
Щиров Илья 45 1 |
Галкин Николай 79 1 |
Лебедев Артемий 98 1 |
Musk Elon Reeve - Маск Илон Рив 310 1 |
Иванов Максим 10 1 |
Ткаченко Вадим 3 1 |
Круглов Константин 28 1 |
Коммерсантъ - Издательский дом 1763 1 |
Ведомости 930 1 |
The Verge - Издание 543 1 |
TIOBE programming community index - Индекс популярности языков программирования 62 1 |
Top500 Рейтинг суперкомпьютеров 137 1 |
Обработан архив публикаций портала CNews.ru c 11.1998 до 10.2024 годы.
Ключевых фраз выявлено - 1317445, в очереди разбора - 780728.
Создано именных указателей - 159830.
Редакция Индексной книги CNews - book@cnews.ru
Читатели CNews — это руководители и сотрудники одной из самых успешных отраслей российской экономики: индустрии информационных технологий. Ядро аудитории составляют топ-менеджеры и технические специалисты департаментов информатизации федеральных и региональных органов государственной власти, банков, промышленных компаний, розничных сетей, а также руководители и сотрудники компаний-поставщиков информационных технологий и услуг связи.