Benchmarking Model Compression Techniques Across Heterogeneous Edge Platforms: A Predictive Maintenance Use Case for Rotating Machinery

To enable Industry 5.0, where autonomous systems are widely adopted and integrated with people to promote sustainable development in industries, it is imperative to adapt complex deep learning models to operate efficiently on resource-constrained hardware for edge inference. However, adapting these models remains challenging due to the hardware heterogeneity of edge computing in industrial settings, performance degradation caused by model compression, and the lack of clear guidance on which compression techniques are practical and effective for applications such as predictive maintenance. To address these challenges, this paper presents a comprehensive comparative analysis of four state-of-the-art model compression techniques applied to a high-performance convolutional neural network for predictive maintenance using a real-world dataset of rotating machinery, equipment typically used in industry. The compressed models were evaluated across a heterogeneous set of nine computing platforms, ranging from highly constrained edge computing devices to general purpose and high-performance processors, reflecting the diversity and fragmentation typical of industrial edge environments. By jointly prioritizing classification performance, inference speed, and compression ratio, we found that compression using knowledge distillation emerged as the most effective approach. The model had more than 90% speedup across all devices while maintaining a 91.22% balanced F-score, with a very small drop in predictive performance relative to the uncompressed model, along with a 98.9% size reduction. Through successful deployment across multiple edge platforms and a systematic comparison of compression strategies, we demonstrated a clear path to achieving Industry 5.0 targets, drastically cutting computational costs and, consequently, energy consumption without sacrificing predictive performance.

한 줄 요약

지능형 엣지 환경에서 회전 기계 예측 정비를 위한 모델 압축 기법을 9개 플랫폼에서 비교한 연구.

핵심 기여도

D-PdMCNN 모델은 모든 장치에서 90% 이상의 추론 속도 향상과 98.9%의 사이즈 감소를 달성함.
지식 증류(KD) 기법이 91.22%의 균형 F-score를 유지하면서 예측 성능 저하가 3.79%에 불과함.
마이크로컨트롤러부터 고성능 프로세서까지 9개의 이질적 엣지 플랫폼에서 종합적인 벤치마킹 수행.
예측 정비 모델의 압축 전략에 따른 정확도, 효율성, 하드웨어 제약 간 트레이드오프를 실증적으로 분석함.

핵심 아이디어

이 연구는 예측 정비 분야에서 널리 사용되는 고성능 CNN 모델(PdM-CNN)을 대상으로, 지식 증류(KD), 양자화(QI8, QDRI8, QF16) 등 4가지 모델 압축 기법을 적용하여 엣지 환경에서의 성능과 효율성을 비교했다. 기존 연구는 주로 특정 하드웨어에서의 성능만을 평가했으나, 본 연구는 마이크로컨트롤러(예: STM32H7A3ZIT6Q, Arduino Nano BLE Sense 33)부터 고성능 프로세서(Jetson Orin Nano, 데스크탑)까지 이질적인 9개 플랫폼에서 평가를 수행함으로써 실제 산업 엣지 환경의 다양성을 반영했다. 핵심 통찰은 KD가 모델 구조 자체를 간소화함으로써 정확도를 유지하면서도 추론 속도를 90% 이상 향상시키며, 특히 저전력 장치에서도 실행 가능하다는 점이다.

기술적 접근법

**모델**: PdM-CNN 기반으로 개선된 D-PdMCNN 모델 사용.
**압축 기법**: 지식 증류(KD), 정밀도 기반 양자화(QI8, QDRI8, QF16) 4가지.
**데이터셋**: MaFaulDa 예측 정비 데이터셋 사용.
**평가 지표**: 정밀도, 재현율, F1-score, 특이도, 정확도, 추론 시간, 모델 사이즈.
**플랫폼**: STM32MP157F-DK2, Jetson Orin Nano, Jetson Nano, 데스크탑, 랩탑 등 9개 이질적 엣지 플랫폼.
**모델 포맷**: Flatbuffer 형식으로 모델 사이즈 평가.

주요 결과

**KD 기반 D-PdMCNN**: 91.22%의 균형 F-score를 유지하면서 98.9%의 사이즈 감소와 90% 이상의 추론 속도 향상을 달성.
**STM32H7A3ZIT6Q**: 52.13 ms의 추론 시간으로, Jetson Nano (CPU)의 148.52 ms보다 빠름.
**QF16**: 616.348 KB의 모델 크기로 QDRI8 (318.616 KB)보다 크지만, 일부 장치에서는 추론 시간이 개선됨.
**QDRI8**: HPC에서 69.49% 느려지지만 Jetson Orin Nano (CPU)에서는 64.22% 빨라짐.
**QI8**: Jetson Orin Nano (MCPU)에서 87.41% 느려지지만 STM32MP157F-DK2에서는 49.92% 빨라짐.

의의 및 한계

본 연구는 엣지 환경에서 예측 정비 모델의 압축 전략을 실증적으로 비교함으로써, 모델 성능과 하드웨어 효율성 간의 트레이드오프를 명확히 보여준다. 특히, KD 기법이 정확도를 유지하면서도 추론 속도와 모델 크기를 획기적으로 개선함으로써, 산업 엣지에서의 실용성을 입증했다. 이는 Industry 5.0의 목표인 지속가능한 자율 시스템 구현에 기여할 수 있다. 그러나 본 연구는 단일 CNN 아키텍처에만 적용되었으며, 다른 모델 구조(예: RNN, 트랜스포머)에 대한 일반화 가능성은 명시되지 않았다. 또한, 압축 모델의 장기적 신뢰성이나 에너지 소비에 대한 정량적 평가도 부재하다.

실용적 활용

이 연구는 제조, 에너지, 자동차 등 산업 분야에서 예측 정비 시스템을 저전력 엣지 장치에 배포할 수 있는 실용적 가이드를 제공한다. 특히, STM32 시리즈와 같은 저비용 마이크로컨트롤러에서도 실행 가능한 D-PdMCNN 모델은 IoT 기반의 실시간 모니터링 시스템 구축에 활용될 수 있다. 또한, 다양한 압축 기법의 성능 차이를 비교함으로써, 엣지 플랫폼별 최적화 전략 수립에 기초가 될 수 있다.