안녕하세요, RNGD 를 통해 LLM Model performance 및 최적화에 대한 연구를 진행중인 학생입니다. RNGD 에서 다양한 model 들을 돌려보며 Hardware의 성능 profile 및 최적화 연구를 진행중에 있는데, 제가 현재까지 찾은 방법은 ‘furiosa_smi API’ 를 사용하는것입니다. 이에 아래 사항을 문의드리려 합니다.
Need help?
Contact us안녕하세요, RNGD 를 통해 LLM Model performance 및 최적화에 대한 연구를 진행중인 학생입니다. RNGD 에서 다양한 model 들을 돌려보며 Hardware의 성능 profile 및 최적화 연구를 진행중에 있는데, 제가 현재까지 찾은 방법은 ‘furiosa_smi API’ 를 사용하는것입니다. 이에 아래 사항을 문의드리려 합니다.