안녕하세요.
AI업체들이 개발하는 솔루션(SW) 서비스를 하는데 있어 각 AI업체별로 인프라(서버, 리소스 등)를 직접 구축하기에는 어려움이 있으니 클라우드 서비스화(SaaS) 하고 있는 추세인 걸로 알고 있습니다.
물리적으로 직접 서버, GPU 등을 구축하지 않고 KT, NHN, 네이버, 카카오 등의 클라우드 서비스를 이용한다고 하는데, 전체적인 메카니즘의 이해를 얻기 위해 질문드립니다.
1. 과거에는 웹 상에서 서비스를 하기 위해선 각 업체가 직접 네트워크, 서버, 스토리지 등 인프라 관련 부분을 다 구축했었나요?
2. 이제는 IaaS업체(앞서 언급한 kt, nhn, 네이버, 카카오 등)이 구축한 인프라를 이용하여 그 위에 AI업체가 자체 개발한 솔루션을 탑재해 서비스하는 것이 보편적인가요?
3. 2번이 맞다면, 각 AI업체에서 인프라를 이용하는데 비용이 만만치 않을 것으로 보이는데, 어떻게 하면 비용을 줄일 수 있나요? 솔루션을 개발할때 리소스를 적게 먹는 기술이 있나요? 빅데이터와 ai모델을 다루려면 굉장히 큰 스토리지와 gpu 등이 필요한 것으로 알고 있는데 이걸 줄일 수가 있나요?
4. 3번에 의하면, 현재 경쟁력 있는 가격으로 클라우드 서비스를 하고 있는 AI업체들은 자체 개발한 ai모델이 있다든지, IaaS 업체와의 관계가 있다든지 그런 경우일까요?
전문가님들의 답변 기다리고 있겠습니다.
감사합니다! :)
클라우드 서비스 비용 질문
2023.05.02 | 조회수 1,287
약하디약한멘탈
닉네임으로 등록
등록
권고사직
BEST1. 과거에는 호스팅 업체를 이용하거나 idc에 서버임대를 통해 직간접 운영 및 구축을 했습니다.
2. 보편적인지 않지만, 처음부터 대규모 인프라를 구축하는 것보다 IaaS업체를 이용하는 것이 처음에 시작하기에 유리합니다. 또한 갑자기 대규모 머닝러닝등에 학습이 필요한 경유 잠깐 쓰기에 좋기때문에 기존 CSP업체를 이용하기도 합니다.
3. IaaS도 결국 사용한 만큼 비용이 발생합니다. 어찌보면 많이 사용한 만큼 비지니스가 잘되고 있다 생각할 수있습니다. 다만 클라우드 이용 비용이 처음에 비지니스 시작에 진입 장벽을 낮춰 주기는 했지만, 결코 가격이 싸지는 않습니다. 그래서 FinOps라는 엔지니어링이라는 분야가 있고, 이런한 가격최적화를 시스템 엔지니어, 개발자등이 협력해서 구성해야 효과적으로 작동합니다.
4.인프라 비용은 ai모델을 통해서 가격이 내려가지는 않습니다. 사용한 만큼 비용이 발생하는 근본적이 장치가 있어, 아마도 개발과 서비스를 위해 ai엔진을 개발과 운영하고 그에 따른 인프라 사용비가 발생합니다. IaaS업체등은 직접투자 받은 회사 조차도 인프라 비용을 따로 받습니다. 일 예로 openAI가 마소에 투자받고 마소 소유에 애저에 인프라 비용을 별도로 청구받습니다. 관계가 있다고 전체하고 혜택이 있다해도, 할인된서 인프라 비용을 내는 것은 동일합니다.
2023.05.02
16
리멤버 회원이 되면 모든 댓글을 보실 수 있습니다
로그인
회원가입
김커뮤니티
@멘션된 회사에서 재직했었음
BEST회사에서 풀지 못한 고민, 여기서
회사에서 업무를 하다가 풀지 못한 실무적인 어려움, 사업적인 도움이 필요한 적이 있으셨나요? <리멤버 커뮤니티>는 회원님과 같은 일을 하는 사람들과 이러한 고민을 해결할 수 있는 온라인 공간입니다.
회원 가입 하고 보다 쉽게 같은 일 하는 사람들과 소통하세요
2020.07.01
154
김커리어
@멘션된 회사에서 재직 중
BEST리멤버 회원을 위한 경력 관리 서비스, 리멤버 커리어를 소개합니다.
당장 이직 생각이 없어도, 좋은 커리어 제안은 받아보고 싶지 않으신가요? <리멤버 커리어>는 리멤버에서 새롭게 출시한 회원님들을 위한 경력 관리 서비스 입니다. 능력있는 경력직 분들이 <리멤버 커리어>에 간단한 프로필만 등록해두면, 좋은 커리어 제안을 받아 볼 수 있습니다. 단 1분의 투자로 프로필을 등록해두기만 하면, 기업인사팀이나 헤드헌터가 회원님께 꼭 맞는 제안을 직접 보내드립니다.
지금 바로 <리멤버 커리어>에 프로필을 등록하고, 새로운 기회를 만나보세요!
2020.07.01
21
