태그: AI
해당 태그가 달린 모든 글 "AI".
Sentis에서 텐서 데이터에 직접 접근하기: 리드백을 피하는 이유와 방법
온디바이스 추론의 병목은 대개 추론 자체가 아니라 GPU와 CPU 사이의 데이터 이동이다. Sentis가 그걸 줄이려고 제공하는 API를 정리했다.
해당 태그가 달린 모든 글 "AI".
온디바이스 추론의 병목은 대개 추론 자체가 아니라 GPU와 CPU 사이의 데이터 이동이다. Sentis가 그걸 줄이려고 제공하는 API를 정리했다.