Edge Vision AI - AI를 현실 세계로 가져오는 기술

현업에서 Vision AI와 MLOps 플랫폼을 개발하며 배운 Edge Vision AI의 구조와 생태계, 그리고 AI를 실제 현실 세계에 배치하기 위해 어떤 기술들이 필요한지 정리한 글입니다. 아래 내용은 GeekNews 스타일에 맞게 GPT로 요약한 것으로 글의 내용을 완벽히 담지 못하니 직접 본문에서 확인하시는 것을 권장 드립니다. 왜 Vision AI는 Edge와 잘 맞는가 영상은 데이터가 크고 지속적으로 발생하기 때문에 모든 영상을 Cloud로 전송하면 네트워크 사용량과 비용이 커짐 지연이나 네트워크 장애, 개인정보·내부 영상의 외부 전송 문제도 존재 실제 필요한 것이 영상 자체보다 영상에서 추출한 정보인 경우가 많아, 데이터가 발생하는 현장에서 바로 추론하는 Edge AI와 특히 잘 맞음 Edge에서는 어떤 Vision AI를 사용하는가 Classification, Object Detection, Segmentation 등이 대표적인 Vision Task MobileNet·EfficientNet 같은 경량 CNN부터 YOLO, RT-DETR, RF-DETR 등 다양한 모델이 존재 같은 Object Detection이라도 모델마다 구조, 크기, 정확도와 요구 Hardware가 크게 다름 Edge에서는 가장 높은 Benchmark보다 제한된 자원과 목적에 맞는 모델을 선택하는 것이 중요함 현업에서 모델 선택은 Benchmark만의 문제가 아님 여러 Camera Stream을 동시에 처리해야 하는 Edge 환경에서는 모델 크기와 연산량이 직접적인 제약이 됨 YOLO는 Nano·Small처럼 10M Parameter 이하의 경량 Variant가 있고 다양한 Hardware에서 실행하기 쉬워 Edge에서 특히 유리함 하지만 실제로 더 중요한 차이는 ONNX, TensorRT, Core ML, LiteRT, Qualcomm QNN, Hailo 등 얼마나 다양한 Runtime과 Accelerator로 Export할 수 있는가 특정 NPU에서는 지원 Operator와 Quantization 방식까지 모델별로 다시 검증해야 하기 때문에, Benchmark가 좋은 모델이라고 실제 Device에 쉽게 올라가는 것은 아님 반대로 YOLO는 기술적으로 배포가 편하지만 Ultralytics의 AGPL-3.0 License 때문에 비공개 상용 제품에서는 별도 License 검토가 필요함 결국 현업의 모델 선택은 정확도뿐 아니라...