| 0 |
|
Искусственные нейросети сегодня повсеместно используются для анализа сложных данных, однако никто не может сказать в точности, что заставляет их приходить к тем или иным выводам. Исследователи из Фраунгоферовского института (Fraunhofer HHI) в Берлине (Германия) покажут 20-24 марта на ганноверской выставке CeBIT разработанное ими ПО, которое позволяет заглянуть в эти «чёрные ящики».
Предложенный учеными метод принимает за отправную точку конечный результат работы нейросети и двигается в своём анализе вспять. «Мы можем в точности видеть какая группа нейронов принимает определённое решение, и как это решение влияет на результат», — пояснил доктор Войцех Самек (Wojciech Samek), возглавляющий в Fraunhofer HHI группу машинного обучения.
Эффективность метода подтверждена впечатляющими демонстрациями. Так, в одной из них анализировались две бесплатные программы, позволяющие находить изображения с лошадями. Как оказалось, первая из них действительно узнавала очертания лошади, но вторая демонстрировала высокую результативность, ориентируясь на изображения брендов и символики, связанные с форумами лошадиной тематики, производителями снаряжения для верховой езды, профильными организациями и ассоциациями.
Как подчеркнул Самек, это изобретение представляет интерес для многих других приложений, основанных на нейроанализе больших или сложных данных. На производстве оно позволило бы выяснить какие именно технологические параметры ответственны за ухудшение качества продукции, в банках — ограничило бы объём начальных данных для анализа кредитоспособности клиентов только несколькими релевантными параметрами.
Ready, set, buy! Посібник для початківців - як придбати Copilot для Microsoft 365
| 0 |
|
