Ключевые выводы
- Новое исследование ученых из Массачусетского технологического института указывает способ встраивания нейронных сетей в крошечные устройства.
- MCUNet позволяет выполнять глубокое обучение в системах с ограниченной вычислительной мощностью и памятью.
- Инновация также может позволить создавать более умные и гибкие медицинские устройства.
Умные колонки и другие устройства, из которых состоит Интернет вещей (IoT), могут однажды заставить нейронные сети делать больше с меньшими затратами, считают исследователи.
Новая система под названием MCUNet позволяет проектировать крошечные нейронные сети на устройствах IoT даже с ограниченными памятью и вычислительной мощностью. Согласно статье ученых Массачусетского технологического института, опубликованной на сервере препринтов Arxiv, эта технология может предоставить новые возможности интеллектуальным устройствам, одновременно экономя энергию и повышая безопасность данных.
Исследование «является одной из тех блестящих идей, которые кажутся очевидными, когда вы их слышите», - сказал в интервью по электронной почте Джон Суит, технический директор робототехнической компании KODA. «Это элегантный подход к проблеме. Это исследование настолько важно, потому что в конечном итоге оно позволит оптимизировать нейронные сети в реальном времени для любого устройства, где ресурсы могут быть известны алгоритму».
Это действительно показывает, что мощность не обязательно должна быть привязана к размеру..
Большие вычисления на маленьких устройствах
Устройства IoT обычно работают на компьютерных чипах без операционной системы, что затрудняет выполнение задач распознавания образов, таких как глубокое обучение. Для более тщательного анализа данные, собранные IoT, часто обрабатываются в облаке, хотя они уязвимы для взлома.
Нейронные сети могут многое сделать для улучшения растущего числа устройств IoT, но размер был проблемой.
«Чтобы перенести сети в само устройство, что оказалось трудным, вам нужно будет найти способ оптимизировать пространство поиска для различных микроконтроллеров», - объяснил Костюм. «Стандартная или универсальная система не будет работать из-за допусков ресурсов на устройствах IoT. Подумайте об очень малом энергопотреблении, очень маленьких процессорах с точки зрения вычислительной мощности».
Вот где в дело вступает работа исследователей Массачусетского технологического института.
"Как нам развернуть нейронные сети прямо на этих крошечных устройствах?" ведущий автор исследования Цзи Линь, доктор философии. студент факультета электротехники и компьютерных наук Массачусетского технологического института, говорится в пресс-релизе. «Это новая область исследований, которая становится очень популярной. Такие компании, как Google и ARM, работают в этом направлении."
TinyEngine спешит на помощь
Группа MIT разработала два компонента, необходимых для работы нейронных сетей на микроконтроллерах. Одна часть - это TinyEngine, которая похожа на операционную систему, но урезает код до самого необходимого. Другой - TinyNAS, алгоритм поиска нейронной архитектуры.
«У нас есть много микроконтроллеров с разной мощностью и разным объемом памяти», - сказал Лин. «Поэтому мы разработали алгоритм [TinyNAS] для оптимизации пространства поиска для различных микроконтроллеров. Индивидуальный характер TinyNAS означает, что он может генерировать компактные нейронные сети с максимально возможной производительностью для данного микроконтроллера - без лишних параметров. Затем мы доставляем окончательный вариант., эффективная модель микроконтроллера."
Это элегантный подход к проблеме.
Работа Лина может привести к созданию более умных и гибких медицинских устройств.
"Это действительно показывает, что мощность не обязательно должна быть привязана к размеру, а в больницах, где все движется быстро в ограниченном пространстве, это может буквально означать разницу между жизнью и смертью", Кевин Гудвин, Генеральный директор EchoNous, компании, производящей медицинские устройства с искусственным интеллектом, сказал в интервью по электронной почте.
Гудвин сказал, что его команда потратила годы на создание и обучение нейронной сети, которую затем можно было бы использовать для картирования сердечных структур при ультразвуковом сканировании в режиме реального времени – и все это в портативном устройстве под названием KOSMOS, которое весит менее двух фунтов.
«Теперь врачи могут легко перемещаться из комнаты в комнату, получая диагностическое качество сканирования под руководством ИИ», - добавил он. «Им не нужно отправлять пациентов куда-то еще для этих сканирований или терять критическое время на дезинфекцию оборудования на базе тележек».
MCUNet - это захватывающий взгляд на мир, в котором маленькие гаджеты могут быть умнее, чем когда-либо. Поскольку количество устройств IoT быстро растет, мы будем искать все, от интеллектуальных устройств до медицинских устройств, с собственными нейронными сетями.
