Мозга дрозофилы размером с маковое зерно хватает примерно на 140 тысяч нейронов, но этого достаточно, чтобы быстро различать запахи и надолго их запоминать. На этом фоне новый алгоритм Spi-Fly выглядит особенно любопытно: такой электронный нос в тестах выходил на рабочую точность всего после трёх показов каждого запаха и почти не забывал старые классы после обучения новым. Для разработчиков edge-AI и команд, которые строят сенсоры под производство, логистику или безопасность, это сигнал: иногда вместо ещё одного тяжёлого пайплайна с backpropagation полезнее посмотреть на насекомых.
О работе рассказывает Ars Technica со ссылкой на статью Кевина Макса и Ян Шэня из Okinawa Institute of Science and Technology, опубликованную в журнале Neuromorphic Computing and Engineering. Авторы предложили модель Spi-Fly, вдохновлённую тем, как устроено обоняние у насекомых. Идея не в том, чтобы изобрести новый датчик, а в том, чтобы иначе обрабатывать уже полученные сигналы: сенсорные данные переводятся в поток спайков, затем случайно и разреженно проецируются на скрытый слой, после чего сеть учится связывать получившийся «штрихкод» запаха с нужной меткой. Ключевой принцип здесь — sparse coding, то есть разреженное кодирование, при котором в ответ на конкретный запах активируется лишь небольшая часть нейронов.
Проблема, которую авторы пытаются решить, вполне земная. Коммерческий электронный нос давно не экзотика: такие системы применяют для контроля качества еды, мониторинга воздуха и задач безопасности. Но почти все они узкоспециализированы. Модель, натренированная искать признаки испорченного оливкового масла, не превращается автоматически в детектор взрывчатки или промышленной утечки. Обычно её приходится переучивать почти с нуля, а для этого нужны большие размеченные датасеты. Ещё хуже, что при добавлении новых запахов система часто теряет старые навыки — классический catastrophic forgetting, то есть катастрофическое забывание. Для продуктов, которые должны месяцами работать на объекте без постоянной перенастройки, это не академическая мелочь, а прямой эксплуатационный риск.
Spi-Fly пытается обойти обе проблемы сразу. Вместо привычного backpropagation сеть использует простое правило обучения: если нейрон в скрытом слое активировался одновременно с правильным ответом, связь между ними немного усиливается. Никаких проходов ошибки назад через все слои, никакой тяжёлой оптимизации. В тестах на наборе запахов, записанных обычными газовыми сенсорами, этого оказалось достаточно, чтобы выйти на пик качества после трёх предъявлений каждого класса, тогда как модели с backpropagation требовалось около 70. Ещё важнее было поведение при дообучении: когда системе постепенно подмешивали новые запахи по нескольку за раз, Spi-Fly почти не терял точность на старых, а обычная схема сваливалась почти к уровню случайного угадывания. Если результат воспроизводим, это очень сильный аргумент в пользу биоинспирированных архитектур там, где обучение идёт на лету.
Почему это вообще может работать? Авторы опираются на устройство обонятельной системы плодовой мушки. У дрозофилы за кодирование запахов отвечают примерно 2 тысячи клеток Кеньона. Они получают разреженные и частично случайные сигналы от рецепторов, после чего почти все подавляются глобальным торможением. В живой системе за это отвечает anterior paired lateral neuron, или APL; в Spi-Fly эту роль выполняет взаимное ингибирование нейронов скрытого слоя. На выходе остаётся маленький набор активных нейронов — своего рода баркод запаха. Такая схема даёт два практических бонуса. Во-первых, сеть может быстро учиться на малом числе примеров. Во-вторых, память о старых классах меньше конфликтует с новыми, потому что представления остаются разреженными и не размазываются по всей модели. Для нейроморфных чипов, где важны спайки, низкое энергопотребление и скромный объём памяти, это особенно удачное сочетание.
Но делать из этого готовый индустриальный прорыв пока рано. Сам Макс признаёт, что теоретическая ёмкость такой схемы на бумаге выглядит впечатляюще, но в реальности быстро съедается шумом. Он приводит пример: если в разреженном слое 100 нейронов и каждый запах кодируется пятью активными нейронами, комбинаций получается около 75 миллионов. Красиво, но бесполезно без поправки на физику процесса. Один и тот же запах почти никогда не даёт идентичный код в двух измерениях подряд из-за шума, турбулентности потока воздуха и других факторов. Поэтому практическая вместимость модели, по его оценке, ближе к нескольким сотням запахов, и то с оговорками: всё зависит от того, насколько эти запахи похожи друг на друга.
Есть и более приземлённое ограничение: вся работа пока живёт в симуляции. Spi-Fly не нюхал реальный мир, он работал с заранее записанными данными и с одиночными запахами, изолированными друг от друга. А настоящая среда редко бывает такой вежливой. На кухне, в лесу, на складе или в аэропорту запахи смешиваются, перекрываются и меняются во времени. Кроме того, спорным остаётся сравнение с EPL net, который в статье назван ближайшим конкурентом. Томас Клеланд, профессор психологии Корнеллского университета и один из создателей EPL net, прямо возражает: по его словам, системы изначально решают разные задачи. EPL net проектировался для борьбы с внезапными фоновыми запахами и использует другой шумовой режим, тогда как Spi-Fly обучают на повторяемых вариациях сигнала. В переводе с академического на обычный язык это значит простую вещь: сравнение красивое, но не окончательное.
Для отрасли здесь, впрочем, важен не только конкретный результат Spi-Fly, а более широкий тренд. На фоне гонки за всё более крупными моделями рынок параллельно ищет архитектуры, которые умеют учиться быстро, локально и без тонны памяти. Это актуально не только для обонятельных сенсоров, но и для любых edge-систем, где модель надо доучивать рядом с источником данных, а не гонять всё в облако. Если биоинспирированный электронный нос действительно можно будет встроить в железо, которое переживает добавление новых классов без катастрофического забывания, выиграют не только лаборатории, но и команды, которым нужно разворачивать компактные умные датчики в реальных процессах. Следующий тест для Spi-Fly очевиден: выдержит ли эта аккуратная теория грязный воздух реального мира. Подробности пересказа исследования можно посмотреть в .