NVILA: Efficient Frontier Visual Language Models

Zhijian Liu, Ligeng Zhu, Baifeng Shi, Zhuoyang Zhang, Yuming Lou, Shang Yang, Haocheng Xi, Shiyi Cao, Yuxian Gu, Dacheng Li, Xiuyu Li, Yunhao Fang, Yukang Chen, Cheng-Yu Hsieh, De-An Huang, An-Chieh Cheng, Vishwesh Nath, Jinyi Hu, Sifei Liu, Ranjay Krishna, Daguang Xu, Xiaolong Wang, Pavlo Molchanov, Jan Kautz, Hongxu Yin, Song Han, Yao Lu

arXiv:2412.04468 · 2026-07-27 공개 · arXiv · PDF

vlm model-architecture high-resolution token-compression latency-reduction efficient-modeling visual-language training-cost

Abstract

Visual language models (VLMs) have made significant advances in accuracy in recent years. However, their efficiency has received much less attention. This paper introduces NVILA, a family of open VLMs designed to optimize both efficiency and accuracy. Building on top of VILA, we improve its model architecture by first scaling up the spatial and temporal resolutions, and then compressing visual tokens. This "scale-then-compress" approach enables NVILA to efficiently process high-resolution images and long videos. We also conduct a systematic investigation to enhance the efficiency of NVILA throughout its entire lifecycle, from training to deployment. NVILA matches or surpasses the accuracy of many leading open and proprietary VLMs across a wide range of image and video benchmarks. At the same time, it reduces training costs by 1.9-5.1×, prefilling latency by 1.6-2.2×, and decoding latency by 1.2-2.8×.

한국어 요약

한 줄 요약

NVILA는 "scale-then-compress" 전략을 통해 정확도와 효율성을 동시에 최적화한 오픈 소스 비주얼 언어 모델이다.

핵심 기여도

핵심 아이디어

NVILA는 기존 VLM이 정확도에 집중한 반면, 효율성 개선에 대한 연구가 부족하다는 점을 문제로 삼았다. 이에 "scale-then-compress"라는 새로운 접근법을 제안한다. 먼저, 공간 및 시간 해상도를 확장하여 입력 이미지와 동영상의 세부 정보를 보존하고, 이후 시각 토큰을 압축하여 계산 효율성을 높인다. 이는 정확도 상한선을 높이면서도 처리 속도를 개선하는 이중 목적을 달성한다. VILA 모델을 기반으로 설계되었으며, 이는 기존 연구에서 검증된 구조를 활용한 효율적인 확장 전략이다.

기술적 접근법

주요 결과

의의 및 한계

NVILA는 정확도와 효율성을 동시에 최적화한 첫 번째 오픈 소스 VLM으로, 연구자와 개발자들이 다양한 애플리케이션에 쉽게 접근할 수 있도록 지원한다. 특히, 훈련 및 추론 단계에서의 자원 소모 감소는 연구 및 산업 현장에서의 실용성을 높인다. 그러나, 특정 도메인(예: 의료)에서의 성능은 명시되지 않았으며, 모델 크기와 하이퍼파라미터 세부 사항도 공개되지 않았다. 이는 추가 연구의 필요성을 제시한다.

실용적 활용

NVILA는 로봇, 자율 주행, 의료 영상 분석 등 자원 제약이 있는 애플리케이션에 적합하다. 또한, 소규모 연구팀이나 개인 개발자에게도 높은 정확도와 낮은 비용으로 VLM을 활용할 수 있는 기회를 제공한다.