Anthropic, стартап у сфері штучного інтелекту, який займається створенням моделей штучного інтелекту оголосив про оновлення свого чат-бота Claude.
Нова версія Claude 2.1, яка є оновленням Claude 2, - це генеративний чат-бот зі штучним інтелектом, який може розуміти підказки природною мовою в розмовному режимі. Вони включають коментарі, запитання та відповіді, допомогу в дослідженнях, поезію, аналіз, узагальнення довгих документів у різних типах носіїв, таких як PDF, і навіть допомогу в кодуванні. У Anthropic кажуть, що користувачі можуть сприймати Claude як дружнього персонального асистента, який може працювати з користувачами за допомогою інструкцій природною мовою.
У першому вдосконаленні порівняно з Claude 2 подвоєне контекстне вікно до 200 000 токенів, що становить близько 150 000 слів, або понад 500 сторінок тексту. Тепер користувачі можуть завантажувати великі масиви документації, включаючи цілі кодові бази, фінансові звіти або навіть довгі літературні твори.
Після того, як матеріал проскановано, Claude можна використовувати для «розмови» з великими масивами контенту або даних і підбиття підсумків, проведення сесій запитань і відповідей, прогнозування тенденцій, порівняння і зіставлення кількох документів, а також для інших видів аналізу.
Обробка такого довгого повідомлення є «складним завданням і першою в індустрії», - йдеться в повідомленні компанії. У ньому сказано, що завдання, які зазвичай вимагають годин людських зусиль, тепер можуть зайняти лише кілька хвилин.
На сьогодні 100 000 токенів - це одне з найбільших контекстних вікон в індустрії для чат-ботів з великою мовною моделлю АІ. Це означає, що Claude 2.1 розширює межі того, що може зробити LLM. Anthropic додала, що хоча зараз для отримання результатів на основі надзвичайно великих наборів даних може знадобитися кілька хвилин, з розвитком технології час, необхідний для цього, стане більш керованим.
Компанія також заявила, що досягла значного прогресу в загальній безпеці моделі, мінімізувавши галюцинації або помилкові твердження, порівняно з Claude 2.0.
Anthropic перевірив чесність Claude 2.1, ставлячи надзвичайно складні запитання, які з великою ймовірністю можуть викликати відомі слабкі місця в нинішніх моделях, включаючи неправдиві твердження частіше, ніж визнання «я не знаю». У тестах нова версія показала, що набагато частіше відмовляється від відповіді, а кількість неправдивих тверджень зменшилася вдвічі. У внутрішніх оцінках Claude 2.1 також продемонстрував 30% зменшення кількості неправильних відповідей при читанні довгих, складних документів, таких як юридичні звіти та фінансові документи.
Після численних відгуків користувачів Anthropic додала нову функцію в режимі бета-тестування, яка дозволяє Claude отримувати доступ до сторонніх процесів, продуктів та АРІ. Тепер розробники можуть взаємодіяти з чат-ботом за допомогою користувацьких функцій, які бот може використовувати, коли це необхідно для виконання запитів.
Розробники тепер мають простіший доступ до підказок для тестування через Workbench, який доступний в консолі розробника. Функція дозволяє повторювати підказки в ігровому режимі для тестування нових налаштувань моделі, щоб випробувати поведінку Claude. Він також дозволяє зберігати різні спроби ревізії, що дає змогу повернутися до них у своїй історії. Згодом розробники можуть генерувати фрагменти коду для використання у власних додатках за допомогою наборів для розробки програмного забезпечення Anthropic.
Новий тип інструкцій під назвою «системні підказки для Claude» тепер дозволяє розробникам надавати користувацькі інструкції для чат-бота, щоб він набував певних рис чи ролей. Використовуючи системні підказки, розробники можуть налаштувати Claude діяти певним чином, наприклад, використовувати певний тон, обмежуватися певними темами та дотримуватися правил і обмежувачів. Використовуючи такі підказки, Claude з меншою ймовірністю виконає заборонені дії або видасть небажаний текст, і з більшою ймовірністю залишиться в тій ролі, яку їй було запропоновано.
Стратегія охолодження ЦОД для епохи AI