Qbcompiler 1.3.0 컴파일 이슈가 있어서 문의합니다

Product & Environment

  • Product: qbcompiler 1.3.0
  • OS: ubuntu 22.04

Description

안녕하세요. qbcompiler 1.2.0에서 문의드렸던 CLI의 target_device 인자 전달 오류와 관련해, 1.3.0으로 업데이트하여 재검증했습니다. 이전 인자 누락 오류는 재현되지 않았습니다. 다만 동일 ONNX 모델이 regulus-rb에서는 컴파일에 성공하하지만, regulus-ra에서는 아래 오류로 실패하여 문의드립니다.

환경

  • 검증일: 2026-09-14
  • 공식 Docker 이미지: mobilint/qbcompiler:1.3-cuda12.8.1-ubuntu22.04
  • 설치 wheel: qbcompiler-1.3.0-py3-none-any.whl (설치 후 버전 1.3.0 확인)
  • Python 3.10.12, PyTorch 2.7.1+cu128, ONNX 1.16.2
  • GPU: NVIDIA RTX A5000 24GB 한 장 사용, 드라이버 580.173.02
  • 모델: SeaDronesSee 데이터로 학습한 Ultralytics YOLO26m
  • ONNX: opset 17, IR 8, 입력 (1,3,640,640), 출력 (1,300,6)
  • ONNX export 옵션: format=onnx, imgsz=640, batch=1, dynamic=False, simplify=False, opset=17, device=cpu
  • ONNX SHA256: d9b5963b1d6202f905098d2b92bc8e5b463978824df4b35bce4d1b45e0e05a6a
  • wheel SHA256: b5d1b46cadd8189062e2e2a164a64a7582b5e5d0fce2b5ad2c04125b70f95015

재현 명령

설치된 컨테이너 내부에서 아래 최소 명령으로 실행했습니다.

python -m qbcompiler compile \
  --model /workspace/best.onnx \
  --backend onnx \
  --target-device regulus-ra \
  --output /workspace/model.mxq

보정 데이터 경로, cpu_offload, optimize_option 등 추가 컴파일 옵션은 지정하지 않았습니다. 모델 및 설치 패키지의 소스 코드는 수정하지 않았습니다.

regulus-ra 실제 오류 로그 발췌

[2026-09-14 11:13:27.133] Setting Quantizer Config (json)...
[2026-09-14 11:13:27.133] Setting Compile Config (typed)...
[2026-09-14 11:13:27.133] Performing Quantization (FB)...
[2026-09-14 11:13:27.137] Runtime error
ERROR [INTERNAL_ERROR]: Quantizer::Model header view revert is not supported on REGULUS

명령 종료 코드는 1이며, model.mxq는 생성되지 않았습니다.

오류 메시지를 구조화해서 확인하기 위해 같은 명령에 로그 환경변수 QBCOMPILER_JSONL=1만 추가하여 재실행했습니다.

QBCOMPILER_JSONL=1 python -m qbcompiler compile \
  --model /workspace/best.onnx \
  --backend onnx \
  --target-device regulus-ra \
  --output /workspace/model.mxq
{"type": "progress", "step": 92, "total": 100, "label": "[quantize] Running quantization", "ts": "2026-09-14T02:13:44Z", "v": 1}
{"type": "error", "code": "INTERNAL_ERROR", "message": "Quantizer::Model header view revert is not supported on REGULUS", "ts": "2026-09-14T02:13:44Z", "v": 1}
{"type": "status", "status": "failed", "ts": "2026-09-14T02:13:44Z", "v": 1}

regulus-rb 비교 결과

같은 ONNX와 같은 설치 환경에서 --target-device regulus-rb로 실행한 결과는 다음과 같습니다. 대상별 작업 디렉터리를 분리했습니다.

[2026-09-14 11:13:08.660] Build Finished.
[2026-09-14 11:13:08.665] Elaborating MXQ...
[2026-09-14 11:13:08.667] Exporting MXQ to /workspace/model.mxq...
[2026-09-14 11:13:08.684] Verifying exported MXQ...
[2026-09-14 11:13:08.708] Compilation was successful.
  • 종료 코드: 0
  • 생성 MXQ 크기: 21,267,973 bytes
  • 생성 MXQ SHA256: e1bc38e88459f453ce4000d27d3c9375238b600a20a5c66b81752a68f99371e4

위 성공은 컴파일 및 파일 생성 확인이며, 실제 보정 데이터 기반 정확도나 NPU 추론 검증 결과는 아닙니다.

질문

  1. qbcompiler 1.3.0에서 REGULUS-RA의 HeaderViewRevert 미지원은 알려진 제한인가요? 동일 모델이 REGULUS-RB에서 성공하는 차이가 하드웨어 제약인지, 컴파일러 지원 차이인지 확인 부탁드립니다.
  2. REGULUS-RA를 대상으로 이 모델을 컴파일할 수 있는 공식 옵션, 권장 ONNX export 방식 또는 우회 방법이 있나요?
  3. 현재 지원되지 않는 경우 지원 예정 버전이 있는지, 추가 진단에 어떤 로그나 중간 산출물이 필요한지 안내 부탁드립니다.

Logs & Attachments

안녕하세요~

모빌린트의 박상형입니다.

문의 주신 REGULUS-RA 오류 건 확인 드립니다.

regulus-ra에서 발생한 오류 내용이 아래와 같이 확인되었고,

“ERROR [INTERNAL_ERROR]: Quantizer::Model header view revert is not supported on REGULUS”

header view revert는 transformer 계열 모델의 연산인데, regulus-ra에서는 transformer 연산을 지원되지 않아 발생하는 정상적인 fail로 확인됩니다.

혹시 사용하시는 model이 transformer 계열이실까요?

사용하시는 모델이 transformer 계열이 아닌데, 이 에라 메시기가 나온 것이라면,

혹시 모델 파일을 공유해 주시면, 저희 내부에서 원인 분석이 가능할 것으로 보입니다.

그럼, 확인 부탁 드리겠습니다.

감사합니다.

박상형 드림

확인 감사합니다. 사용 모델은 임의 데이터로 학습한 Ultralytics YOLO26m입니다. 모델 전체는 CNN 기반 객체 탐지 구조이지만, 내부에 multi-head self-attention 블록이 포함되어 있습니다.

실제 ONNX의 /model.10/m/m.0/attn/와 /model.22/m.0/m.0.1/attn/에서 QKV 분리, MatMul, Softmax 연산을 확인했고, 기존 컴파일러 중간 표현 분석에서도 해당 영역의 HeaderView/HeaderViewRevert를 확인했습니다.

따라서 말씀하신 REGULUS-RA의 Transformer 연산 미지원 제한에 해당하는 것으로 이해했습니다. 이러한 attention을 포함한 YOLO26m도 RA 지원 대상에서 제외되는지 알고싶습니다

넵, 맞습니다.

YOLO26처럼 transformer나 attention 계열의 연산을 포함한 모델은 regulus-ra에서 지원되는 모델에서 앞으로도 배제될 예정입니다.

다른 문의 사항 있으시면 언제든 문의 부탁드리겠습니다.

감사합니다.