| 0 |
|
Великий текст у Wall Street Journal описує ситуацію з розробкою в OpenAI й, зокрема, повідомляє, що розробка GPT-5 під кодовою назвою Orion йде повільніше, ніж очікувалося. Це пов'язано з проблемами, основні з яких – брак даних для навчання і технічні складнощі з архітектурою моделі. Після 18 місяців роботи та щонайменше двох масштабних тренувальних прогонів, кожен з яких обійшовся приблизно в пів мільярда доларів, результати все ще не виправдовують величезних витрат.
Щоправда, за результатами тестового навчання отримана модель видавала результати кращі, ніж нинішні публічні моделі OpenAI. Але вони були все ще недостатньо хороші, щоб відповідати переходу від GPT-4 до GPT-5 за критеріями компанії.
OpenAI намагається розв'язати проблему даних, наймаючи фахівців для створення нового контенту (тобто буквально програмісти, наприклад, пишуть код для розв'язання тих чи інших завдань, щоб на цьому контенті навчати модель) і, використовуючи синтетичні дані від своєї моделі o1, але процес йде повільно.
Публічно компанія поки ніяк не коментує плани щодо Orion.
А я ось що думаю. Якщо показана днями o3 начебто вже перевершує людей, а там усередині ще навіть не Orion, то що ж ми побачимо, коли в умовній o5 з'єднаються Orion з іще більш просунутими роздумами?
Даних для навчання AI вже не вистачає
Стратегія охолодження ЦОД для епохи AI
| 0 |
|
