AI/빅데이터

데이터 분석을 위한 인프라는 어떻게 구성이 되어야 하나

20년 08월 28일 | 조회수 169
d
datad

데이터 분석을 하면서 느낀 것은 데이터를 읽는 사람이 역량도 중요하지만 분석을 할 수 있는 데이터가 잘 설계되어 인프라에 적재되어 있는 것도 중요하다는 것을 알게 되었습니다. 하지만 데이터를 설계하는 것부터 그 데이터가 적재를 할 수 있는 인프라를 만드는 것은 쉽지 않은 일인데요, 여러분은 데이터를 어떤 구조로 설계하고 또 어떤 인프라를 자주 활용하시나요

댓글 1
공감순
최신순
    데이터과학자
    20년 08월 28일
    데이터품질과 데이터베이스 관리를 해본 경험에 비추자면, 업무시스템에 맞게 최적의 데이터베이스 설계가 되는게 기본입니다. 즉 데이터분석 설계단계에서부터 ERD를 잘 만들고, 그걸 이행해서 데이터 적재를 하구요. 그런다음에야 데이터 활용이 쉬워집니다. 데이터의 설계가 중구 난방이면, 중복데이터와 여러 테이블에 관계를 다 끌어와서 데이터를 만들어야 하기도 하구요. 쉽지 않은 어려운 문제입니다. 처음부터 하는 프로젝트라면 데이터분석 설계 단계부터 나중에 어떻게 데이터를 활용할지를 고민해서 같이 설계한다면 가장 좋지 않을까 생각해봅니다. 잘 설계된 데이터베이스도 응용(AP)단의 프로그램 문제나 사용자 오류등의 문제로 데이터 정합성이 훼손될 가능성도 높은데 결국 이런 부분의 데이터품질 관리 시스템같은것을 운용하면서 정합성을 높이고 오류데이터를 줄여주고 발생율도 낮춰주는게 필요하기도 합니다. 이러한 데이터품질의 관리비용을 줄이기 위해서 역시 데이터베이스 설계 단계에서 제약조건과 관계설정등을 엄격히 해야 하구요.(근데 이런부분이 조금 이상에 가까워서 현실에서는 아주 힘듭니다.). 너무 길었네요.
    데이터품질과 데이터베이스 관리를 해본 경험에 비추자면, 업무시스템에 맞게 최적의 데이터베이스 설계가 되는게 기본입니다. 즉 데이터분석 설계단계에서부터 ERD를 잘 만들고, 그걸 이행해서 데이터 적재를 하구요. 그런다음에야 데이터 활용이 쉬워집니다. 데이터의 설계가 중구 난방이면, 중복데이터와 여러 테이블에 관계를 다 끌어와서 데이터를 만들어야 하기도 하구요. 쉽지 않은 어려운 문제입니다. 처음부터 하는 프로젝트라면 데이터분석 설계 단계부터 나중에 어떻게 데이터를 활용할지를 고민해서 같이 설계한다면 가장 좋지 않을까 생각해봅니다. 잘 설계된 데이터베이스도 응용(AP)단의 프로그램 문제나 사용자 오류등의 문제로 데이터 정합성이 훼손될 가능성도 높은데 결국 이런 부분의 데이터품질 관리 시스템같은것을 운용하면서 정합성을 높이고 오류데이터를 줄여주고 발생율도 낮춰주는게 필요하기도 합니다. 이러한 데이터품질의 관리비용을 줄이기 위해서 역시 데이터베이스 설계 단계에서 제약조건과 관계설정등을 엄격히 해야 하구요.(근데 이런부분이 조금 이상에 가까워서 현실에서는 아주 힘듭니다.). 너무 길었네요.
    답글 쓰기
    0
    지금 바로 리멤버 회원이 되어
    모든 댓글을 확인하세요
    리멤버
    @멘션된 회사에서 재직했었음
    19년 05월 28일
    회사에서 풀지 못한 고민, 여기서 회사에서 업무를 하다가 풀지 못한 실무적인 어려움, 사업적인 도움이 필요한 적이 있으셨나요? <리멤버 커뮤니티>는 회원님과 같은 일을 하는 사람들과 이러한 고민을 해결할 수 있는 온라인 공간입니다. 회원 가입 하고 보다 쉽게 같은 일 하는 사람들과 소통하세요
    회사에서 풀지 못한 고민, 여기서 회사에서 업무를 하다가 풀지 못한 실무적인 어려움, 사업적인 도움이 필요한 적이 있으셨나요? <리멤버 커뮤니티>는 회원님과 같은 일을 하는 사람들과 이러한 고민을 해결할 수 있는 온라인 공간입니다. 회원 가입 하고 보다 쉽게 같은 일 하는 사람들과 소통하세요
    답글 쓰기
    0
    리멤버
    @멘션된 회사에서 재직했었음
    19년 05월 28일
    일하는 사람과 기회를 연결하여 성공으로 이끈다
    일하는 사람과 기회를 연결하여 성공으로 이끈다
    답글 쓰기
    0
추천글
대표전화 : 02-556-4202
06235 서울시 강남구 테헤란로 134, 5,6,9층
(역삼동, 포스코타워 역삼) (대표자:최재호, 송기홍)
사업자등록번호 : 211-88-81111
통신판매업 신고번호: 2016-서울강남-03104호
| 직업정보제공사업 신고번호: 서울강남 제2019-11호
| 유료직업소개사업 신고번호: 2020-3220237-14-5-00003
| 국외 유료직업소개사업 신고번호: F1200020240004
Copyright Remember & Company All rights reserved.