Страховка від «галюцинацій» AI

Страховики Lloyd's of London запустили новий продукт для компаній, що покриває збитки від несправних AI-інструментів. Поліси, розроблені стартапом Armilla за підтримки Y Combinator, покриватимуть судові витрати та компенсації, якщо компанія зіткнеться з позовами через некоректну роботу штучного інтелекту.

Необхідність такої страховки стає дедалі очевиднішою на тлі почастішання дорогих помилок і «галюцинацій» AI. Наприклад, чатбот Virgin Money просив вибачення за те, що насварив клієнта за використання слова «virgin»; бот кур'єрської служби DPD лаявся на клієнтів і називав свого власника «найгіршою службою доставки у світі»; а Air Canada за рішенням суду довелося дотримуватися знижки, яку їхній чатбот просто вигадав.

Страховка Armilla спрацює не за будь-якої помилки AI, а якщо система працюватиме гірше від заявлених характеристик. Наприклад, якщо чатбот, який спочатку давав точні відповіді в 95% випадків, почне давати їх тільки в 85%.

Це побічно може свідчити, що якість чатботів уже досягла певного рівня – якщо вже страховики зрозуміли, як визначати ризики за такого страхування.

Страховка від «галюцинацій» AI

Kingston повертається у «вищу лігу» серверних NVMe SSD