>Anthropic

Anthropic опублікували маніфест про те, чому в Claude ніколи не буде реклами. Компанія вважає, що рекламна модель несумісна з тим, чим повинен бути AI-асистент

Anthropic опублікувала дослідження про здатність LLM до інтроспекції – можливості моделі аналізувати власні внутрішні стани. Методика цікава: вони записували патерни нейронної активності моделі під час обробки певних концептів (наприклад, тексту великими літерами), а потім штучно вводили ці патерни в незв'язаному контексті

Anthropic з колегами опублікували дослідження про те, що вони назвали «subliminal learning» – підсвідомим навчанням великих мовних моделей (LLM). Суть у тому, що моделі можуть передавати одна одній поведінкові риси через дані, які ніяк із цими рисами не пов'язані

Anthropic запустив інтерактивні артефакти в Claude – тепер можна створювати і розміщувати AI-додатки прямо в інтерфейсі. Цікаво побудована економіка використання

Чергове дослідження від Anthropic про «агентську невідповідність» (agentic misalignment) – поведінку AI-моделей, які можуть діяти як внутрішні загрози в корпоративному середовищі. Дослідники протестували 16 провідних моделей від різних розробників у гіпотетичних корпоративних сценаріях, де моделі мали доступ до електронної пошти та конфіденційної інформації

Я іноді замислююся, що надто вже багато вожуся з процесом прилаштовування AI до ведення свого телеграм-каналу. Але насправді це для мене чудовий тестовий майданчик – багато готового контенту, до того ж із додатковими матеріалами та чернетками. А на практичному завданні все нове вивчається набагато краще