Ключевые выводы
- Компании все чаще используют ИИ, который объясняет, как он получает результаты.
- LinkedIn недавно увеличила доход от подписки после использования искусственного интеллекта, который прогнозировал клиентов, которым грозит отмена, и описывал, как он пришел к своим выводам.
- Федеральная торговая комиссия заявила, что необъяснимый ИИ может быть расследован.
Одной из самых горячих новых тенденций в программном обеспечении может быть искусственный интеллект (ИИ), который объясняет, как он достигает своих результатов.
Объяснимый ИИ окупается, поскольку компании-разработчики программного обеспечения пытаются сделать ИИ более понятным. LinkedIn недавно увеличил свой доход от подписки после использования ИИ, который прогнозировал клиентов, которым грозит отмена, и описывал, как он пришел к своим выводам.
«Объяснимый ИИ - это возможность доверять результатам, а также понимать, как машина туда попала», - сказал Lifewire Трэвис Никсон, генеральный директор SynerAI и главный специалист по обработке и анализу данных финансовых служб Microsoft..
'Как?' - вопрос, который задают многим системам искусственного интеллекта, особенно когда принимаются решения или получаются не идеальные результаты», - добавил Никсон. «От несправедливого отношения к различным гонкам до ошибочного принятия лысины за футбольный мяч - нам нужно знать, почему системы ИИ дают такие результаты. Как только мы поймем «как», это позволит компаниям и частным лицам ответить на вопрос: «Что дальше?»».
Знакомство с ИИ
ИИ доказал свою точность и делает множество прогнозов. Но ИИ часто может объяснить, как он пришел к таким выводам.
И регуляторы обращают внимание на проблему объяснимости ИИ. Федеральная торговая комиссия заявила, что необъяснимый ИИ может быть расследован. ЕС рассматривает возможность принятия Закона об искусственном интеллекте, который включает требования о том, чтобы пользователи могли интерпретировать прогнозы ИИ.
Linkedin входит в число компаний, которые считают, что объяснимый ИИ может помочь увеличить прибыль. Раньше продавцы LinkedIn полагались на свои знания и тратили огромное количество времени на просеивание офлайн-данных, чтобы определить, какие учетные записи, скорее всего, продолжат вести бизнес и какие продукты могут их заинтересовать при следующем продлении контракта. Чтобы решить эту проблему, LinkedIn запустил программу под названием CrystalCandle, которая выявляет тенденции и помогает продавцам.
В другом примере Никсон сказал, что во время создания модели установления квоты для отдела продаж компании его компания смогла внедрить объяснимый ИИ, чтобы определить, какие характеристики указывают на успешного нового найма продавца.
«Благодаря этому результату руководство компании смогло распознать, каких продавцов нужно «ускорить», а каких нужно обучить, и все это до того, как возникнут какие-либо серьезные проблемы», - добавил он.
Много применений для объяснимого ИИ
По словам Никсона, Объяснимый ИИ в настоящее время используется для проверки интуиции для большинства ученых, занимающихся данными. Исследователи запускают свою модель с помощью простых методов, убеждаются, что все в порядке, а затем отправляют модель.
«Отчасти это связано с тем, что многие организации, занимающиеся наукой о данных, оптимизировали свои системы с учетом «время важнее ценности» в качестве ключевого показателя эффективности, что привело к ускоренным процессам и неполным моделям», - добавил Никсон.
Я беспокоюсь, что ответная реакция безответственных моделей может серьезно отбросить индустрию ИИ назад.
Людей часто не убеждают результаты, которые ИИ не может объяснить. Радж Гупта, главный технический директор Cogito, сообщил в электронном письме, что его компания провела опрос клиентов и обнаружила, что почти половина потребителей (43%) будут более позитивно относиться к компании и ИИ, если компании будут более четко указывать их использование. технологии.
Объяснимый ИИ помогает не только финансовым данным. «Одна область, в которой выигрывает новый подход, - это данные изображения, где легко указать, какие части изображения алгоритм считает важными, и где человеку легко понять, имеет ли смысл эта информация», - Саманта Клейнберг, доцент Стивенса. Технологический институт и эксперт в области объяснимого ИИ, сообщил Lifewire по электронной почте.
"Намного сложнее сделать это с помощью ЭКГ или данных непрерывного мониторинга уровня глюкозы", - добавил Клейнберг.
Никсон предсказал, что объяснимый ИИ станет основой любой системы ИИ в будущем. По его словам, без объяснимого ИИ результаты могут быть ужасными.
"Я надеюсь, что мы продвинемся на этом фронте достаточно далеко, чтобы воспринимать объяснимый ИИ как нечто само собой разумеющееся в ближайшие годы, и что сегодня мы оглядываемся назад и удивляемся тому, что кто-то был достаточно сумасшедшим, чтобы развертывать модели, которые они не понимали., " добавил он.«Если мы не встретим будущее таким образом, я беспокоюсь, что ответная реакция безответственных моделей может серьезно отбросить индустрию ИИ назад».
