AI як загроза біобезпеці

Команда Microsoft під керівництвом головного наукового співробітника Еріка Хорвіца опублікувала в Science дослідження про «вразливість нульового дня» в системах біобезпеки. Використовуючи генеративні AI-моделі для дизайну білків (включаючи власну EvoDiff), вони показали, як можна змінити структуру токсину достатньо, щоб обійти screening комерційних виробників ДНК, але зберегти токсичність. Ці системи порівнюють вхідні замовлення з базою відомих токсинів і патогенів – близький збіг повинен викликати тривогу.

Якщо що, це та ж технологія, на якій будуються добре фінансовані стартапи з пошуку нових ліків на зразок Generate Biomedicines і Isomorphic Labs.

Microsoft особливо виділяє – дослідження було повністю цифровим, ніяких реальних токсичних білків не виробляли, щоб уникнути звинувачень у розробці біозброї. Код не розкривається і не називають конкретні протестовані білки. Компанія попередила уряд США і виробників софта до публікації, патчі випущені.

Але, в цілому, не дуже дивний результат, тому в статті цитуються висловлювання про початок гонки озброєнь і так далі.

AI як загроза біобезпеці