Потихоньку собралась небольшая статья про то где затерялась производительность у многих Computer Vision решений. В первую очередь статья скорее про Edge, но в реальности все это достаточно общее. Куда в первую очередь посмотреть чтобы найти потерянное;)
https://medium.com/@zlodeibaal/bottlenecks-in-embedded-computer-vision-f546737e0f
https://medium.com/@zlodeibaal/bottlenecks-in-embedded-computer-vision-f546737e0f