TorchServe, tf serving 같이 프레임워크에서 지원하는 서빙 라이브러리도 있고 tensorRT 에서는 triton 추론 서버를 지원하는데요. 최적화를 한다면 triton이나 자바나 c++ 이용해 자체로 서빙서버를 만들기도 하는데 여러분은 어떤 방식으로 프로덕션 서빙하시나요??
AI/빅데이터
프로덕션에 들어갈 모델은 어떤 프레임워크로 올리시나요?
20년 06월 07일 | 조회수 335
주
주소
댓글 1개
공감순
최신순
빵
빵빵
억대연봉
20년 08월 09일
BentoML 이요
BentoML 이요
답글 쓰기
0
지금 바로 리멤버 회원이 되어
모든 댓글을 확인하세요
모든 댓글을 확인하세요
리
리멤버
@멘션된 회사에서 재직했었음
19년 05월 28일
회사에서 풀지 못한 고민, 여기서
회사에서 업무를 하다가 풀지 못한 실무적인 어려움, 사업적인 도움이 필요한 적이 있으셨나요? <리멤버 커뮤니티>는 회원님과 같은 일을 하는 사람들과 이러한 고민을 해결할 수 있는 온라인 공간입니다.
회원 가입 하고 보다 쉽게 같은 일 하는 사람들과 소통하세요
회사에서 풀지 못한 고민, 여기서
회사에서 업무를 하다가 풀지 못한 실무적인 어려움, 사업적인 도움이 필요한 적이 있으셨나요? <리멤버 커뮤니티>는 회원님과 같은 일을 하는 사람들과 이러한 고민을 해결할 수 있는 온라인 공간입니다.
회원 가입 하고 보다 쉽게 같은 일 하는 사람들과 소통하세요
답글 쓰기
0
리
리멤버
@멘션된 회사에서 재직했었음
19년 05월 28일
일하는 사람과 기회를 연결하여 성공으로 이끈다
일하는 사람과 기회를 연결하여 성공으로 이끈다
답글 쓰기
0
추천글
