Google переформулирует «законы робототехники» Азимова?

Сотрудничество Google c Министерством обороны США в рамках проекта Maven, вызвало экзистенциальный кризис среди сотрудников этой компании, выбравшей своим девизом пацифистский лозунг «не навреди» (Don’t be evil).

Горячие внутренние дебаты раскололи служащих Google на фракции сторонников высокодоходных оборонных контрактов и противников. Около десятка сотрудников уволились по этическим соображениям, а ещё 4 тысячи оставили подписи под петицией, требующей четкого политического заявления, что ни Google, ни ее подрядчики никогда не будут причастны к созданию технологий ведения военных действий.

Проект, известный как Maven, имеет и более полное название: Algorithmic Warfare Cross-Functional Team. Его цель — продемонстрировать как Пентагон может изменить военные операции с помощью технологий искусственного интеллекта (AI), уже прочно прописавшихся в частном секторе. На отставание военного ведомства в этой области от ведущих технологических компаний, таких как Amazon и Google, жаловался Министр обороны США, Джеймс Мэттис (James Mattis), в ходе прошлогоднего посещения им Кремниевой Долины.

Первым приложением проекта Maven стала обработка видео, генерируемого БПЛА. Имеющиеся аналитические инструменты Пентагона не могут справиться с потоками фото и видеоданных высокого разрешения с самолётов и спутников, захлёстывающими военные базы США.

В соответствии с намеченным графиком, в декабре 2017 г., была готова система, применяющая методы машинного обучения, чтобы автоматически отмечать на картах объекты, представляющие военный интерес — строения, люди, автомобили, корабли и т.д. Министерство обороны сообщило тогда, что алгоритмы AI, полученные от законтрактованных частных компаний, применялись на военных базах для борьбы с ИГИЛ. На майской пресс-конференции в Вашингтоне было объявлено о дальнейшем расширении географии применения технологий Maven с Африки и Ближнего Востока на ещё полдесятка локаций.

Развертываемое на базах ПО не только ускоряет идентификацию объектов и подозрительной групповой активности, но и может дополнительно обучаться для переориентации на новые объекты или устранения ошибок распознавания.

Каков вклад собственно Google вносит в проект Maven, в точности неизвестно. Сама компания утверждает, что она помогает Пентагону использовать её открытое ПО машинного обучения, TensorFlow, для тренировки алгоритмов на несекретных изображениях, получаемых дронами. Google также настаивает, что приложения её технологии ограничиваются неагрессивными сценариями.

Спикер Пентагона сообщил, что в проекте Maven задействованы многие ведущие технологические компании. Уильям Картер (William Carter) из Центра стратегических и международных исследований и ещё один человек, близкий к проекту Maven, заявляют, что Google не имеет отношения к технологии, применявшейся против ИГИЛ.

В этом году финансирование проекта выросло вдвое — до 131 млн долл. Пентагон хочет по подобию Maven организовать Объединенный центр искусственного интеллекта для обслуживания всех американских военных и разведывательных служб. «Он превосходит мои ожидания», — говорит Боб Уорк (Bob Work), который основал проект Maven в апреле 2017 г., будучи заместителем министра обороны.

Планы расширения проекта предусматривают адаптацию алгоритмов, первоначально разработанных для небольших низколетящих дронов ScanEagle, для моделей Global Hawk с потолком 18 км. Помимо этого, AI-алгоритмы будут использоваться для ускорения поиска важных материалов на захваченных в рейдах жёстких дисках, а также для оценки относительной значимости различных вражеских объектов.

На внутреннем собрании Google в прошлую среду, Сергей Брин объявил, что вопросы, связанные с вовлечённостью компании в проект Maven, были тщательно обсуждены им вместе с другим основателем Google, Ларри Пейджем и CEO, Сундаром Пичаем.

Их общее мнение заключается в том, что даже без Google Министерство обороны вряд ли откажется от внедрения искусственного интеллекта в условиях, когда Китай и другие развитые страны активно инвестируют в AI. Поэтому для мира во всем мире будет лучше если военные будут работать с международными организациями, такими как Google, а не с националистически настроенными оборонными подрядчиками.

Тогда же, Сундар Пичай сказал, что Google собирается разработать рекомендации, которые «выдержат испытание временем». Ожидается, что эти принципы будут объявлены внутри Google в следующие несколько недель.

И последняя информация, подоспевшая когда этот материал уже был сдан «в печать». Глава Google Cloud, Дайана Грин (Diane Greene), на встрече с сотрудниками объявила, что принято решение не возобновлять контракт с Пентагоном в конце 2019 г., когда истечёт действующее сейчас соглашение. Об этом первым информировал публику сайт Gizmodo, сама Google отказалась от комментариев.

Стратегія охолодження ЦОД для епохи AI