ai 쪽이 생기면 gpu 서버들에 대흔 수요가 커지는데요. 여러분들 회사는 어떤 형태로 서버를 사용하시나요? 저희는 온프레미스로 16대 정도있고 이걸 클러스터로 묶어 paas 처럼 사용할 계획인데요. 생각보다 많이 불편한 점이 있습니다. 개인적으론 iaas 형태로 필요한 자원을 그때그때 받아 쓰는게 ai팀에 가장 맞지 않나 생각하고요. 다른 곳은 어떻기 사용하나 궁금합니다.
AI/빅데이터
회사내에 서버 환경 어떻게 되시나요?
20년 08월 24일 | 조회수 617
주
주소
댓글 7개
공감순
최신순
일
일하기싫어
20년 08월 31일
제 개인적으로는 GPU 가상화까지 되어야 PaaS라고 볼 수 있고 그냥 쿠버네티스 환경은 IaaS라고 생각을 합니다. 그렇지만 이건 그냥 제 의견일 뿐이고 GPU 가상화는 아직 쉽지 않은 기술이라고 하더군요. 일단은 GPU 스케줄링만 잘 되어도 좋겠다는 생각을 하는데 NVIDIA 영업 담당자 말로도 자기네들이 분석해 본 결과 개발자가 혼자서 GPU 자원을 사용하는 환경에서도 평균 GPU 가동률이 30%밖에 안 되기 때문에 많은 회사들이 스케줄링응 고민하고 있지만 아직 기술적으로 명확한 해결방법이 없어서 고민중이라고 합니다.
제 개인적으로는 GPU 가상화까지 되어야 PaaS라고 볼 수 있고 그냥 쿠버네티스 환경은 IaaS라고 생각을 합니다. 그렇지만 이건 그냥 제 의견일 뿐이고 GPU 가상화는 아직 쉽지 않은 기술이라고 하더군요. 일단은 GPU 스케줄링만 잘 되어도 좋겠다는 생각을 하는데 NVIDIA 영업 담당자 말로도 자기네들이 분석해 본 결과 개발자가 혼자서 GPU 자원을 사용하는 환경에서도 평균 GPU 가동률이 30%밖에 안 되기 때문에 많은 회사들이 스케줄링응 고민하고 있지만 아직 기술적으로 명확한 해결방법이 없어서 고민중이라고 합니다.
답글 쓰기
0
주
주소
작성자
20년 09월 03일
요즘 나오는 그래픽 카드는 이런 문제들을 풀러고 하는거 같더라고요
요즘 나오는 그래픽 카드는 이런 문제들을 풀러고 하는거 같더라고요
0
지금 바로 리멤버 회원이 되어
모든 댓글을 확인하세요
모든 댓글을 확인하세요
리
리멤버
@멘션된 회사에서 재직했었음
19년 05월 28일
회사에서 풀지 못한 고민, 여기서
회사에서 업무를 하다가 풀지 못한 실무적인 어려움, 사업적인 도움이 필요한 적이 있으셨나요? <리멤버 커뮤니티>는 회원님과 같은 일을 하는 사람들과 이러한 고민을 해결할 수 있는 온라인 공간입니다.
회원 가입 하고 보다 쉽게 같은 일 하는 사람들과 소통하세요
회사에서 풀지 못한 고민, 여기서
회사에서 업무를 하다가 풀지 못한 실무적인 어려움, 사업적인 도움이 필요한 적이 있으셨나요? <리멤버 커뮤니티>는 회원님과 같은 일을 하는 사람들과 이러한 고민을 해결할 수 있는 온라인 공간입니다.
회원 가입 하고 보다 쉽게 같은 일 하는 사람들과 소통하세요
답글 쓰기
0
리
리멤버
@멘션된 회사에서 재직했었음
19년 05월 28일
일하는 사람과 기회를 연결하여 성공으로 이끈다
일하는 사람과 기회를 연결하여 성공으로 이끈다
답글 쓰기
0
추천글
