`

СПЕЦІАЛЬНІ
ПАРТНЕРИ
ПРОЕКТУ

Чи використовує ваша компанія ChatGPT в роботі?

BEST CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Євген Куліков

Кожні 100 слів від GPT-4 потребують 0,5 л води та 140 Вт⋅год

+33
голоса

Популярні нині чат-боти зі штучним інтелектом доступні практично з будь-яких обчислювальних пристроїв – смартфонів, комп’ютерів тощо – які в цьому випадку використовуються лише як термінали. Через це більшість користувачів не усвідомлюють як багато ресурсів насправді споживають чат-боти.

Великі мовні моделі, що лежать в основі чат-ботів, потребують для роботи значних обчислювальних потужностей. Принаймні на поточному рівні розвитку технологій. Через це вони працюють у сучасних центрах обробки даних, на потужних серверах, часто на базі спеціалізованих прискорювачів. Все це обладнання споживає чимало електроенергії, а також води, яка використовується для охолодження обчислювальних систем. Суттєво підвищуючи навантаження на навколишнє середовище та екосистеми. Причому як і в разі криптовалют ще велике питання наскільки все це виправдано.

Звичайно точно вирахувати навантаження майже неможливо. Оскільки показник залежить від багатьох факторів, включно із доступністю та вартістю основних ресурсів в місці розташування кожного окремого ЦОДу. Втім дослідники з Каліфорнійського університету в Ріверсайді спільно з The Washington Post взялися оцінити хоча б приблизно скільки води та енергії споживає ChatGPT від OpenAI на базі мовної моделі GPT-4, випущеної в березні 2023 року, для написання середнього електронного листа зі 100 слів англійською мовою.

Виявилося, що для цього потрібно приблизно 0.5 літра води та 0,14 кВтгод електроенергії (що приблизно дорівнює живленню 14 світлодіодних лампочок протягом години). Один варіант невеликого листа.

За оцінками Pew Research Center, приблизно чверть американців хоча б раз використовували ChatGPT з моменту випуску чат-бота у 2022 році – понад 83 млн людей. І це тільки ChatGPT і тільки в США.

Не дивно, що ЦОДи часто є одними з найбільших споживачів води в містах, де вони розташовані, (часом до чверті), та виснажують запаси дорогоцінного природного ресурсу. А також значно обтяжують електромережу та сприяють підвищенню вартості електроенергії для мешканців.

Втім ще навіть до того, як чат-боти зможуть виконати запит, на їхнє навчання вже витрачається величезна кількість енергії. Великі мовні моделі, які дозволяють чат-ботам, таким як ChatGPT, генерувати реалістичні відповіді, вимагають від серверів аналізу величезних обсягів даних. За словами експертів зі штучного інтелекту та дослідників, на навчання сучасних просунутих комп'ютерних моделей потрібні місяці.

За приблизними оцінками, центр обробки даних Microsoft використав щонайменше 700 тис. літрів води під час навчання GPT-3. А компанії Meta знадобилося близько 22 млн літрів води для навчання моделі ШІ з відкритим вихідним кодом LLaMA-3.

Великі технологічні компанії беруть на себе численні зобов'язання зробити свої ЦОДи екологічнішими. Але ці кліматичні обіцянки часто не виконуються.

Так, у липні Google опублікував свій останній екологічний звіт, в якому показав, що його викиди вуглекислого газу зросли на 48%, в основному через ШІ та центри обробки даних. Компанія також відновила лише 18% спожитої води. Далеко від 120%, які вона поставила собі за мету до 2030 року.

Тож, мабуть, варто замислитися чи вартують насправді сучасні технологічні «іграшки» такого бездумного виснаження дорогоцінних ресурсів планети.

Про DCIM у забезпеченні успішної роботи ІТ-директора

+33
голоса

Напечатать Отправить другу

Читайте также

 

Ukraine

 

  •  Home  •  Ринок  •  IТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Мережі  •  Безпека  •  Наука  •  IoT