`

СПЕЦИАЛЬНЫЕ
ПАРТНЕРЫ
ПРОЕКТА

Архив номеров

Best CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

Intel и Georgia Tech возглавят программу борьбы с атаками на искусственный интеллект

0 
 

Intel и Georgia Tech возглавят программу борьбы с атаками на искусственный интеллект

Корпорация Intel и Технологический институт штата Джорджия (Georgia Tech) объявили, что возглавят группу, созданную агентством оборонных исследований DARPA для разработки методов защиты от атак и манипуляций, нацеленных на системы искусственного интеллекта.

«Intel и Georgia Tech работают вместе, чтобы улучшить коллективное понимание экосистемой уязвимостей ИИ и машинного обучения, а также её способность смягчать возможные последствия (их эксплуатации), — сказал Джейсон Мартин (Jason Martin), главный инженер Intel Labs. — Мы сообща занимаемся совершенствованием обнаружения объектов и улучшением устойчивости ИИ и машинного обучения к состязательным (adversarial) атакам».

Intel станет главным подрядчиком четырехлетнего совместного проекта с многомиллионным бюджетом, известного как «Гарантирование защищённости искусственного интеллекта от обмана» или GARD, который улучшит устойчивость моделей машинного обучения к атакам путём введения в заблуждение.

Хрестоматийным примером подобной атаки стал эксперимент сотрудников лаборатории Keen Security Lab компании Tencent. В марте прошлого года они показали, что с помощью наклеек на дороге можно заставить систему управления электромобилем Tesla Model S вывести его на полосу со встречным движением. Двумя годами раньше исследователи заставили интеллектуальный алгоритм компании Google принять за ружьё распечатанную на 3D-принтере черепашку.

Реальные состязательные атаки на обучаемые алгоритмы пока ещё большая редкость, однако быстрое и повсеместное распространение ИИ заставляет всё больше считаться с этим фактором риска.

Миссия GARD заключается в том, чтобы собрать предыдущие и текущие исследования недостатков и эксплойтов, влияющих на системы машинного интеллекта, и создать теоретическую основу, которая поможет обнаруживать уязвимости и определять граничные случаи для повышения устойчивости к ошибкам и атакам.

На первом этапе реализации проекта GARD, Intel и Georgia Tech будут улучшать распознавание объектов на изображениях и видео, используя пространственное, временнóе и семантическое согласование. Идея состоит в том, чтобы наделить ИИ повышенным «здравомыслием», увеличивая количество внешних факторов, учитываемых моделью при классификации изображения.


Вы можете подписаться на наш Telegram-канал для получения наиболее интересной информации

0 
 

Напечатать Отправить другу

Читайте также

 
 
Реклама

  •  Home  •  Рынок  •  ИТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Сети  •  Безопасность  •  Наука  •  IoT