TAO Toolkit 관련 자료

TAO

1. TAO Toolkit Quick Start Guide
   • https://docs.nvidia.com/tao/tao-toolkit/text/tao_toolkit_quick_start_guide.html
2. NVIDIA NGC 관련 docs
   • https://ngc.nvidia.com/setup/installers/cli

 

user interaction diagram for the TAO Launcher

TAO 사용시 도커 환경 사용을 이해하는데 도움이 되었던 다이어그램

도커를 인터렉티브 모드로 들어가지 않아도 TAO 런처가 실행하고, 디렉토리가 연동되어 사용할 수 있다.

 

 

TAO Usage Instruction

TAO 설치 후 있는 기본 파일에 있는 튜토리얼 쥬피터 노트북에 있는 사용법 순서 목차이다.

TAO 뿐만 아니라 모든 인공지능 모델 개발의 프로세스라고 봐도 무방할 듯하다.

 

This notebook shows an example usecase of Object Detection using DetectNet_v2 in the Train Adapt Optimize (TAO) Toolkit.

1. Set up env variables and map drives
2. Install the TAO Launcher
3. Prepare dataset and pre-trained model
   1. Download the dataset
   2. Verify downloaded dataset
   3. Prepare tfrecords from kitti format dataset
   4. Download pre-trained model
4. Provide training specification
5. Run TAO training
6. Evaluate trained models
7. Prune trained models
8. Retrain pruned models
9. Evaluate retrained model
10. Visualize inferences
11. Model Export
    1. Int8 Optimization
    2. Generate TensorRT engine
12. Verify Deployed Model
    1. Inference using TensorRT engine
13. QAT workflow
    1. Convert pruned model to QAT and retrain
    2. Evaluate QAT converted model
    3. Export QAT trained model to int8
    4. Evaluate a QAT trained model using the exported TensorRT engine
    5. Inference using QAT engine

1.