transformer 이후 자연어처리 분야는 발전이 엄청나네요

20년 07월 21일 | 조회수 545
주소

예전에 cnn 이용한 이미지 분류 모델이 한창 나올땐 자연어처리쪽은 아직 멀었구나 했는데 요즘은 파라미터 수도 어마어마하고 성능이 엄청나네요. bert 처음 나올때도 우와 했는데 이젠 여기서 뭐가 더 나올까봐 무섭군요. 논문도 다 공개되는거 보면 결국 이 모델에 넣을 데이터와 그걸 학습할 자원, 결과를 써먹을 환경이 갖춰진 곳이 살아남을 거 같고요.

댓글 7개
공감순
최신순
    f
    floyd
    20년 08월 03일
    버트는 모델 사이즈가 굉장히 큽니다. 실생활에 사용하는 수준으로 서빙할려면 결국 GPU 인퍼런스를 해야하는데 이걸 퍼블릭으로 서비스 하려면 비용이 만만치 않죠. 그래서 요즘은 모델 경량화 연구도 활발히 이뤄지고 있습니다.
    버트는 모델 사이즈가 굉장히 큽니다. 실생활에 사용하는 수준으로 서빙할려면 결국 GPU 인퍼런스를 해야하는데 이걸 퍼블릭으로 서비스 하려면 비용이 만만치 않죠. 그래서 요즘은 모델 경량화 연구도 활발히 이뤄지고 있습니다.
    답글 쓰기
    0
    리멤버
    @멘션된 회사에서 재직했었음
    19년 05월 28일
    회사에서 풀지 못한 고민, 여기서 회사에서 업무를 하다가 풀지 못한 실무적인 어려움, 사업적인 도움이 필요한 적이 있으셨나요? <리멤버 커뮤니티>는 회원님과 같은 일을 하는 사람들과 이러한 고민을 해결할 수 있는 온라인 공간입니다. 회원 가입 하고 보다 쉽게 같은 일 하는 사람들과 소통하세요
    회사에서 풀지 못한 고민, 여기서 회사에서 업무를 하다가 풀지 못한 실무적인 어려움, 사업적인 도움이 필요한 적이 있으셨나요? <리멤버 커뮤니티>는 회원님과 같은 일을 하는 사람들과 이러한 고민을 해결할 수 있는 온라인 공간입니다. 회원 가입 하고 보다 쉽게 같은 일 하는 사람들과 소통하세요
    답글 쓰기
    0
    리멤버
    @멘션된 회사에서 재직했었음
    19년 05월 28일
    일하는 사람과 기회를 연결하여 성공으로 이끈다
    일하는 사람과 기회를 연결하여 성공으로 이끈다
    답글 쓰기
    0
추천글
대표전화 : 02-556-4202
06235 서울시 강남구 테헤란로 134, 5,6,9층
(역삼동, 포스코타워 역삼) (대표자:최재호)
사업자등록번호 : 211-88-81111
통신판매업 신고번호: 2016-서울강남-03104호
| 직업정보제공사업 신고번호: 서울강남 제2019-11호
| 유료직업소개사업 신고번호: 2020-3220237-14-5-00003
Copyright Remember & Company All rights reserved.