`

СПЕЦІАЛЬНІ
ПАРТНЕРИ
ПРОЕКТУ

Чи використовує ваша компанія ChatGPT в роботі?

BEST CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

OpenAI випустила нові відкриті AI-моделі gpt-oss для використання на споживчому обладнанні

0 
 
Компанія OpenAI представила дві нові мовні моделі з відкритою вагою — gpt-oss-120b і gpt-oss-20b, які демонструють високу продуктивність у завданнях, що вимагають міркування. Моделі доступні під гнучкою ліцензією Apache 2.0 і оптимізовані для ефективної роботи на споживчому обладнанні, що робить їх першим відкритим випуском OpenAI з часів GPT-2.
 
За словами співзасновника OpenAI Грега Брокмана (Greg Brockman), унікальність цих моделей полягає в тому, що їх можна запускати локально, за власними фаєрволами та на власній інфраструктурі. Це відкриває широкі можливості для розробників, яким потрібна повна кастомізація та контроль над даними.
 
Модель gpt-oss-120b досягає продуктивності, близької до фірмової моделі o4-mini, при цьому ефективно працюючи на одній відеокарті з 80 ГБ пам'яті. Модель gpt-oss-20b, зі схожими результатами як у o3-mini, може працювати навіть на персональному комп’ютері з 16 ГБ пам'яті, що робить її ідеальною для використання на периферійних пристроях. Як зазначається, обидві моделі особливо добре справляються з кодуванням, математичними задачами та запитами, пов'язаними зі здоров'ям.
 
Для забезпечення безпеки, моделі пройшли комплексне навчання, включно з фільтрацією даних, пов'язаних з CBRN (хімічною, біологічною, радіологічною та ядерною зброєю). OpenAI також перевірила ризики, створивши версії зі зловмисним налаштуванням, і дійшла висновку, що навіть такі моделі не досягають високого рівня небезпечних можливостей. Щоб залучити спільноту до підвищення безпеки, компанія запустила "Red Teaming Challenge" із призовим фондом у 500 000 дол.
 
Випуск моделей здійснюється у партнерстві з провідними платформами та виробниками обладнання, такими як NVIDIA, AMD та Microsoft, яка, зокрема, випустить оптимізовані версії gpt-oss-20b для пристроїв на Windows. Крім того, ці моде моделі вперше стали доступні на маркетплейсі AWS Bedrock.
 
OpenAI підкреслює, що ці відкриті моделі знижують бар’єри для нових ринків та невеликих організацій, дозволяючи їм розробляти іноваційні рішення на власній інфраструктурі.

Стратегія охолодження ЦОД для епохи AI

0 
 

Напечатать Отправить другу

Читайте также

 

Ukraine

 

  •  Home  •  Ринок  •  IТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Мережі  •  Безпека  •  Наука  •  IoT