Объективность машинного интеллекта обеспечит AI OpenScale

IBM выпустила новую платформу искусственного интеллекта, которая, по заявлению компании, сможет информировать клиентов о том, каким образом ИИ-модели приходят к своим заключениям.

Необходимость в AI OpenScale возникла потому, что значительная часть бизнеса не доверяет ИИ, когда дело доходит до принятия ответственных решений. Клиенты хотят лучше понимать логику внутренних рассуждений искусственного интеллекта, чтобы убедиться в объективности его выводов.

Необъективность эта — следствие закрытой природы приложений ИИ. Они представляют собой «чёрный ящик» с непонятной и неконтролируемой логикой внутри. Необъективность может быть внесена как в тренировочных данных, так и в самой логике машинного обучения. Отслеживание и устранение таких искажений это мучительная процедура с негарантированным успехом.

В интервью, вице-президент IBM и директор лаборатории в Almaden Research Center, Джефф Вэлзер (Jeff Welser), также говорит о сложности выявления искажений: «Если у вас действительно большие наборы данных, вы можете даже не осознавать, что данные слегка смещены по половому признаку или любому другому, который вы анализируете».

Платформа AI OpenScale, благодаря встроенным в неё алгоритмам, выявляет и корректирует отклонения у широкого круга ИИ-приложений в ходе их выполнения.

Она осуществляет непрерывный мониторинг таких приложений и применяет к ним технологию «автоматического устранения предвзятости». Программа протоколирует каждый прогноз, версию модели и все тренировочные данные и описывает последовательность рассуждений ИИ обычным английским языком.

Кроме того AI OpenScale позволяет приложениям, построенным с использованием любой открытой модели машинного или глубокого обучения, работать в любой распространённой среде. В их числе собственные платформы IBM, Watson и PowerAI, фреймворк Seldon с открытым кодом, AWS SageMaker и Microsoft AzureML.

Платформа дополнена движком Neural Network Synthesis Engine, с помощью которого предприятия с гуля могут быстро и автоматически создавать нейронные сети. NeuNetS, пока доступный в составе AI OpenScale в бета-версии, предназначен для компаний, не имеющих собственных квалифицированных специалистов по разработке нейросетей.

Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365