`

СПЕЦІАЛЬНІ
ПАРТНЕРИ
ПРОЕКТУ

Чи використовує ваша компанія ChatGPT в роботі?

BEST CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Крупнейшая в мире языковая модель создана для китайского языка

0 
 

Крупнейшая в мире языковая модель создана для китайского языка

Исследовательский институт искусственного интеллекта Inspur (Inspur AI Research) на крупномасштабном семинаре по моделям ИИ в Пекине 28 сентября представил Yuan 1.0 — самую большую языковую модель в мире. С 245,7 миллиардами параметров и 5 ТБ тренировочных данных она превосходит GPT-3 производства OpenAI, имеющую «всего» 175 млрд параметров.

Статья с подробным описанием разработки и оптимизации Yuan 1.0 опубликована на допечатном сервере arXiv.

Inspur построила Yuan 1.0 с нуля, поскольку китайский язык потребовал уникального подхода к разработке по сравнению с английским, включая создание высококачественного массива тренировочных данных.

Чтобы обеспечить необходимую вычислительную мощность, в фундаментальную архитектуру дизайна Yuan 1.0 была включена крупномасштабная обучающая система, которая распределяла нагрузку на 2128 графических процессоров — это намного меньше, чем 10 тысяч GPU, задействованных для обучения GPT-3.

Yuan 1.0 заняла первые места в двух эталонных тестах на понимание китайского языка (Chinese Language Understanding Evaluation, CLUE) — ZeroCLUE и FewCLUE. Она набрала на 18,3% больше баллов, чем предыдущий рекордсмен, и справилась лучше среднего человека с заданиями на понимание идиом.

Участники-люди могли отличать генерируемые системой Yuan 1.0 диалоги, продолжения романов, новостные статьи, стихи и куплеты от контента, созданного людьми, менее чем в 50% случаев.

Новость о том, что Inspur разработала самую мощную модель естественного языка, без сомнения будет тепло встречена правительством Китая, сделавшим более широкое использование ИИ своим экономическим приоритетом. Менее довольной должна быть Microsoft, так как она получила эксклюзивную лицензию на GPT-3 и планирует использовать её во всей своей линейке продуктов. Для англоязычной среды GPT-3 по-прежнему имеет превосходство, но Microsoft стремится добиться большего успех также в Китае.

Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365

0 
 

Напечатать Отправить другу

Читайте также

 

Ukraine

 

  •  Home  •  Ринок  •  IТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Мережі  •  Безпека  •  Наука  •  IoT