feature map
1 feature map
2 feature map
3 feature map
4 feature map
См. также в других словарях:
Feature-oriented positioning — (FOP)[1][2] is a method of precise movement of the scanning microscope probe across the surface under investigation. With this method, surface features (objects) are used as reference points for microscope probe attachment. Actually, FOP is a… … Wikipedia
Map — /map/, n. Walter, c1140 1209?, Welsh ecclesiastic, poet, and satirist. Also, Mapes /mayps, may peez/. * * * I Graphic representation, drawn to scale and usually on a flat surface, of features usually geographic, geologic, or geopolitical of an… … Universalium
Feature Oriented Programming — (FOP) or Feature Oriented Software Development (FOSD) is a general paradigm for program synthesis in software product lines. FOSD arose out of layer based designs of network protocols and extensible database systems in the late 1980s cite web |… … Wikipedia
Map of the Problematique — The Map of the Problematique single cover. Single by Muse from the album Black Holes and Revelations … Wikipedia
Map Resources — is a private company located in Lambertville, NJ that produces Adobe Illustrator Format Maps.HistoryMap Resources was founded in 1986 by Robert Dahl, a cartography student at Penn State University, Geography Department. The company was originally … Wikipedia
Map puffer — Scientific classification Kingdom: Animalia Phylum: Chordata … Wikipedia
map — mappable, adj. mapper, n. /map/, n., v., mapped, mapping. n. 1. a representation, usually on a flat surface, as of the features of an area of the earth or a portion of the heavens, showing them in their respective forms, sizes, and relationships… … Universalium
MAP — See modified American plan. * * * I Graphic representation, drawn to scale and usually on a flat surface, of features usually geographic, geologic, or geopolitical of an area of the Earth or of any celestial body. Globes are maps represented on… … Universalium
Feature integration theory — The feature integration theory, developed by Treisman, a professor at Princeton University s Department of Psychology, and Gelade since the early 1980s has been one of the most influential psychological models of human visual attention. According … Wikipedia
Map-Server — Ein Web Map Service (WMS) ist eine Schnittstelle zum Abrufen von Auszügen aus Landkarten über das World Wide Web. Eine solche Schnittstelle kann allgemein auch als Web Service bezeichnet werden. Inhaltsverzeichnis 1 Die WMS Implementation… … Deutsch Wikipedia
Map Server — Ein Web Map Service (WMS) ist eine Schnittstelle zum Abrufen von Auszügen aus Landkarten über das World Wide Web. Eine solche Schnittstelle kann allgemein auch als Web Service bezeichnet werden. Inhaltsverzeichnis 1 Die WMS Implementation… … Deutsch Wikipedia
feature map
Смотреть что такое «feature map» в других словарях:
Feature-oriented positioning — (FOP)[1][2] is a method of precise movement of the scanning microscope probe across the surface under investigation. With this method, surface features (objects) are used as reference points for microscope probe attachment. Actually, FOP is a… … Wikipedia
Map — /map/, n. Walter, c1140 1209?, Welsh ecclesiastic, poet, and satirist. Also, Mapes /mayps, may peez/. * * * I Graphic representation, drawn to scale and usually on a flat surface, of features usually geographic, geologic, or geopolitical of an… … Universalium
Feature Oriented Programming — (FOP) or Feature Oriented Software Development (FOSD) is a general paradigm for program synthesis in software product lines. FOSD arose out of layer based designs of network protocols and extensible database systems in the late 1980s cite web |… … Wikipedia
Map of the Problematique — The Map of the Problematique single cover. Single by Muse from the album Black Holes and Revelations … Wikipedia
Map Resources — is a private company located in Lambertville, NJ that produces Adobe Illustrator Format Maps.HistoryMap Resources was founded in 1986 by Robert Dahl, a cartography student at Penn State University, Geography Department. The company was originally … Wikipedia
Map puffer — Scientific classification Kingdom: Animalia Phylum: Chordata … Wikipedia
map — mappable, adj. mapper, n. /map/, n., v., mapped, mapping. n. 1. a representation, usually on a flat surface, as of the features of an area of the earth or a portion of the heavens, showing them in their respective forms, sizes, and relationships… … Universalium
MAP — See modified American plan. * * * I Graphic representation, drawn to scale and usually on a flat surface, of features usually geographic, geologic, or geopolitical of an area of the Earth or of any celestial body. Globes are maps represented on… … Universalium
Feature integration theory — The feature integration theory, developed by Treisman, a professor at Princeton University s Department of Psychology, and Gelade since the early 1980s has been one of the most influential psychological models of human visual attention. According … Wikipedia
Map-Server — Ein Web Map Service (WMS) ist eine Schnittstelle zum Abrufen von Auszügen aus Landkarten über das World Wide Web. Eine solche Schnittstelle kann allgemein auch als Web Service bezeichnet werden. Inhaltsverzeichnis 1 Die WMS Implementation… … Deutsch Wikipedia
Map Server — Ein Web Map Service (WMS) ist eine Schnittstelle zum Abrufen von Auszügen aus Landkarten über das World Wide Web. Eine solche Schnittstelle kann allgemein auch als Web Service bezeichnet werden. Inhaltsverzeichnis 1 Die WMS Implementation… … Deutsch Wikipedia
Turn your Product Backlog
into a Story Map
When doing agile development, user story backlogs can be difficult to maintain.
Yet setting priorities, detecting duplicates and preparing the scope of the coming sprints is critical in order to deliver the right product.
So how do you manage this long list of ideas?
Forget lists, build a map instead.
It’s super easy!
. and it makes a huge difference.
A map gives you.
Structure
Organize your content in a meaningful way
Vision
Plan several steps ahead and evaluate costs
Scalability
Split large tasks into small stories
without being overwhelmed
Collaboration
Gather everyone around an up-to-date roadmap
By turning your backlog into a powerful asset,
you will engage all stakeholders, focus on what really matters,
get better estimates and deliver early and often.
feature map
Смотреть что такое «feature map» в других словарях:
Feature-oriented positioning — (FOP)[1][2] is a method of precise movement of the scanning microscope probe across the surface under investigation. With this method, surface features (objects) are used as reference points for microscope probe attachment. Actually, FOP is a… … Wikipedia
Map — /map/, n. Walter, c1140 1209?, Welsh ecclesiastic, poet, and satirist. Also, Mapes /mayps, may peez/. * * * I Graphic representation, drawn to scale and usually on a flat surface, of features usually geographic, geologic, or geopolitical of an… … Universalium
Feature Oriented Programming — (FOP) or Feature Oriented Software Development (FOSD) is a general paradigm for program synthesis in software product lines. FOSD arose out of layer based designs of network protocols and extensible database systems in the late 1980s cite web |… … Wikipedia
Map of the Problematique — The Map of the Problematique single cover. Single by Muse from the album Black Holes and Revelations … Wikipedia
Map Resources — is a private company located in Lambertville, NJ that produces Adobe Illustrator Format Maps.HistoryMap Resources was founded in 1986 by Robert Dahl, a cartography student at Penn State University, Geography Department. The company was originally … Wikipedia
Map puffer — Scientific classification Kingdom: Animalia Phylum: Chordata … Wikipedia
map — mappable, adj. mapper, n. /map/, n., v., mapped, mapping. n. 1. a representation, usually on a flat surface, as of the features of an area of the earth or a portion of the heavens, showing them in their respective forms, sizes, and relationships… … Universalium
MAP — See modified American plan. * * * I Graphic representation, drawn to scale and usually on a flat surface, of features usually geographic, geologic, or geopolitical of an area of the Earth or of any celestial body. Globes are maps represented on… … Universalium
Feature integration theory — The feature integration theory, developed by Treisman, a professor at Princeton University s Department of Psychology, and Gelade since the early 1980s has been one of the most influential psychological models of human visual attention. According … Wikipedia
Map-Server — Ein Web Map Service (WMS) ist eine Schnittstelle zum Abrufen von Auszügen aus Landkarten über das World Wide Web. Eine solche Schnittstelle kann allgemein auch als Web Service bezeichnet werden. Inhaltsverzeichnis 1 Die WMS Implementation… … Deutsch Wikipedia
Map Server — Ein Web Map Service (WMS) ist eine Schnittstelle zum Abrufen von Auszügen aus Landkarten über das World Wide Web. Eine solche Schnittstelle kann allgemein auch als Web Service bezeichnet werden. Inhaltsverzeichnis 1 Die WMS Implementation… … Deutsch Wikipedia
Обзор на статью Visual Transformers — новый подход к тренировке моделей компьютерного зрения на основе visual tokens
Эта работа интересна тем, что авторы в ней предлагают новый подход к тренировке моделей на изображениях — использовать не только пиксели и свертки, но ещё и представлять изображения в виде визуальных токенов и тренировать на них трансформеры. По сравнению с использованием просто архитектуры ResNet предложенный подход уменьшает MAC (multiply and accumulate operations) в 6,9 раз и увеличивает топ-1 точность на 4,53 пункта на задаче классификации ImageNet.
Мотивация подхода
Общепринятый подход к задачам компьютерного зрения — использовать картинки как 3D array (высота, ширина, количество каналов) и применять к ним свертки. У такого подхода есть ряд недостатков:
Visual transformer
Теперь рассмотрим работу модели подробнее.
Как уже говорилось выше, backbone извлекает feature maps, а они передаются в слои visual transformer.
Каждый visual transformer состоит из трёх частей: токенизатор, трансформер, проектор (projector).
Токенизатор
Токенизатор извлекает визуальные токены. По сути мы берем feature map, делаем reshape в (H * W, C) и из этого получаем токены
Визуализация коэффициентов при токенах выглядит вот так:
Position encoding
Как обычно, трансформерам нужны не только токены, но ещё и информация об их позиции.
Вначале мы делаем downsample, потом домножаем на тренируемые веса и конкатенируем с токенами. Для корректировки количества каналов можно добавить 1D свертку.
Transformer
Наконец, сам трансформер.
Объединение visual tokens и feature map
Это делает projector.
Динамическая токенизация
После первого слоя трансформеров мы можем не только извлекать новые visual tokens, но и использовать извлеченные с предыдущих шагов. Для их объединения используются тренируемые веса:
Использование visual transformers для построения моделей компьютерного зрения
Дальше авторы рассказывают как именно применяется модель к задачам компьютерного зрения. Блоки трансформера имеют три гиперпараметра: количество каналов в feature map C, количество каналов в visual token Ct, количество visual tokens L.
Если при переходе между блоками модели количество каналов оказывается неподходящим, то используются 1D и 2D свертки для получения необходимого количества каналов.
Для ускорения расчетов и уменьшения размера модели используют group convolutions.
Авторы в статье прикладывают **псевдокод** блоков. Полноценный код обещают выложить в будущем.
Классификация изображений
Берем ResNet и на его основе создаем visual-transformer-ResNets (VT-ResNet).
Оставляем stage 1-4, лишь вместо последней ставим visual transformers.
Выход из backbone — 14 x 14 feature map, количество каналов 512 или 1024 в зависимости от глубины VT-ResNet. Из feature map создаются 8 visual tokens на 1024 канала. Выход трансформера идёт в голову для классификации.
Семантическая сегментация
Для этой задачи в качестве базовой модели берут panoptic feature pyramid networks (FPN).
В FPN свертки работают на изображениях с высоким разрешением, поэтому модель тяжелая. Авторы заменяют эти операции на visual transformer. Опять же 8 токенов и 1024 канала.
Эксперименты
Классификация на ImageNet
Тренируют 400 эпох с RMSProp. Начинают с learning rate 0,01, в течение 5 эпох разогрева увеличивают до 0,16, а потом каждую эпоху домножают на 0,9875. Используют batch normalization и размер батча 2048. Label smoothing, AutoAugment, stochastic depth survival probability 0,9, dropout 0.2, EMA 0,99985.
Это ж сколько экспериментов пришлось прогнать, чтобы все это подобрать…
На этом графике можно увидеть, что подход даёт более высокое качество при уменьшенном количестве вычислений и размерах модели.
Названия статей для сравниваемых моделей:
ResNet + CBAM — Convolutional block attention module
ResNet + SE — Squeeze-and-excitation networks
LR-ResNet — Local relation networks for image recognition
StandAlone — Stand-alone self-attention in vision models
AA-ResNet — Attention augmented convolutional networks
SAN — Exploring self-attention for image recognition
Ablation study
Для ускорения экспериментов брали VT-ResNet- <18, 34>и тренировали 90 эпох.
Использование трансформеров вместо сверток даёт самый большой прирост. Динамическая токенизация вместо статической также дает большой прирост. Энкодинг позиции дает лишь небольшое улучшение.
Результаты сегментации
Как видим, метрика выросла лишь чуть-чуть, но модель потребляет в 6,5 раз меньше MAC.
Потенциальное будущее подхода
Эксперименты показали, что предложенный подход позволяет создавать более эффективные модели (в плане вычислительных затрат), которые при этом достигают лучшего качества. Предложенная архитектура успешно работает для разных задач computer vision, и можно надеяться, что её применение поможет улучшить системы, использующие comuter vision — AR/VR, автономные автомобили и другие.
Обзор подготовил ведущий разработчик МТС Андрей Лукьяненко.
