회사생활🎁

LLM Wiki 구축을 다들 어떻게 하고 계신가요?

07월 14일 | 조회수 290
로건0캐치업

저는 한 HR 기업과 두 달 넘게 전사 PoC를 진행했습니다. Slack, Jira, Confluence 등에 흩어진 사내 데이터를 연결해 지식 챗봇을 운영하고, 반복되는 내부 문의 대응을 자동화했습니다. 근데 요즘 사내 AI가 답변이나 업무를 잘하려면, 문서를 많이 연결하는 것보다 AI가 참고할 지식을 최신 상태로 관리하는 것이 더 중요하다는 생각이 듭니다. 실제로는 Slack, Notion, Confluence, Jira 등에 정보가 흩어져 있고, 어떤 내용이 최신인지 또는 무엇을 공식 정보로 봐야 하는지 관리하기가 쉽지 않은 것 같습니다. 그래서 궁금합니다. 사내 AI나 지식 챗봇을 운영하고 계신 분들은 AI가 참고할 지식을 어디에 모아두고 계신가요? 오래되거나 잘못된 정보는 어떻게 발견하고 수정하시나요? 지식 관리는 특정 담당자가 하나요, 각 팀이 직접 하나요? 검색·답변 정확도보다 운영과 최신화가 더 어려웠던 경험이 있으셨나요? LLM Wiki를 직접 구축하거나 비슷한 고민을 해보신 분들의 경험을 들어보고 싶습니다! 커피챗은 언제든 환영입니다~

댓글 3
공감순
최신순
    금 따봉
    실패셜리스트
    07월 15일
    md 파일 포맷이 컨텍스트를 담기에는 가장 적합한 표준에 가까우므로, Git 기반으로 굴리시는거 추천드려요. GitHub를 native로 쓰셔도 초기에는 충분할 겁니다. 찾아보니 Gitbook이란 놈도 따로 있더군요. 비스무리한 툴들은 많을거에요. 옵시디언이 개인 Knowledge 저장소로는 많이들 쓰이고 있으나 개인 생산성 도구 성격에 가깝다보니 회사 차원에서의 지식 DB로 삼기에는 어려운 점도 참고하시면 좋을 것 같습니다.
    md 파일 포맷이 컨텍스트를 담기에는 가장 적합한 표준에 가까우므로, Git 기반으로 굴리시는거 추천드려요. GitHub를 native로 쓰셔도 초기에는 충분할 겁니다. 찾아보니 Gitbook이란 놈도 따로 있더군요. 비스무리한 툴들은 많을거에요. 옵시디언이 개인 Knowledge 저장소로는 많이들 쓰이고 있으나 개인 생산성 도구 성격에 가깝다보니 회사 차원에서의 지식 DB로 삼기에는 어려운 점도 참고하시면 좋을 것 같습니다.
    답글 쓰기
    4
    금 따봉
    실패셜리스트
    07월 15일
    그리고 말씀해주신대로 정보 최신화가 해당 프로젝트의 핵심 오브 핵심입니다. 슬랙은 정제되거나 구조화된 데이터가 아니기도하고 정교한 정보가 아닌 경우가 많기에 보조의 보조 수단정도로 삼는게 좋습니다. 슬랙 특유의 포맷이 AI 상호작용에는 좀 불리한 면이 있어요. 말씀해주신 툴들 중에는 지라 컨플루언스가 그래도 정제된 데이터 속성에 해당할텐데, 메이비 같은 성격의 문서일지라도 다소 문서와 연관 문서가 파편화되어 있거나 이미 만료된 정보가 가득한 쓰레기 문서인 경우가 많을 겁니다. 이거 클렌징하고 라벨링하는게 일의 90%일거에요. AI Native로 가려면 Atlassian은 버리시는게 맞습니다. ADF 가성비가 쓰레기라고 볼 수 있어요. (Atlassian 관련 종사자 분들께는 죄송한데 달리 실드가 불가함)
    그리고 말씀해주신대로 정보 최신화가 해당 프로젝트의 핵심 오브 핵심입니다. 슬랙은 정제되거나 구조화된 데이터가 아니기도하고 정교한 정보가 아닌 경우가 많기에 보조의 보조 수단정도로 삼는게 좋습니다. 슬랙 특유의 포맷이 AI 상호작용에는 좀 불리한 면이 있어요. 말씀해주신 툴들 중에는 지라 컨플루언스가 그래도 정제된 데이터 속성에 해당할텐데, 메이비 같은 성격의 문서일지라도 다소 문서와 연관 문서가 파편화되어 있거나 이미 만료된 정보가 가득한 쓰레기 문서인 경우가 많을 겁니다. 이거 클렌징하고 라벨링하는게 일의 90%일거에요. AI Native로 가려면 Atlassian은 버리시는게 맞습니다. ADF 가성비가 쓰레기라고 볼 수 있어요. (Atlassian 관련 종사자 분들께는 죄송한데 달리 실드가 불가함)
    4
    금 따봉
    실패셜리스트
    07월 15일
    그리고 마지막으로 위의 데이터 정제 작업, 정보 최신화 등은 특정한 조직 내지는 인원이 담당할 수 없습니다. 때로는 Knowledge Manager라는 특수 직무를 둬서 사내 지식 기반 표준화를 주도하는 임무를 부여하는 경우도 있긴한데, 전사적 차원에서의 문화와 거버닝으로 극복하셔야 합니다. 경영진이 적극 추진해서 만들어가려해도 아무리 빨라야 반년은 걸릴거구요. 문화 체질 개선하고 정책 만들고 내재화하는 작업인지라 전사적 차원에서 진행되어야하는 사이즈의 프로젝트로 보여집니다. 전사 표준 AI Agent Plugins (skills, mcp 등의 집합 패키지. 만들어진 템플릿 규칙 등, AI를 사용한 문서화 작업 간에 반드시 거쳐야할 최소 검증 파이프라인의 역할 수행) 등을 만들어 배포하는 형태도 나름 보조적인 효과를 거둘 순 있을 것 같네요. 어쨌든, 문서 품질 관리에 대한 아키텍처를 Knowledge Manager가 담당하되, 각 문서들의 품질과 최신화는 각 정보 오너십을 가진 조직이 분산 담당하게 만드셔야 합니다. 예시를 들자면, 개발자가 HR 정책 문서가 실제 사내 정책을 온전히 담고 있는지, 이게 최신화된 정보인건지 어떻게 검증할 수 있겠어요. (그 반대도 마찬가지.) 한명 내지는 한 조직이 모든 조직의 정보를 전부 머리속에 때려박고 있어야하는데 절대 불가능합니다. 과거 데이터까지 올바르게 바로잡겠다는 것은 대개 욕심이 될 수 있습니다. 제대로된 Knowledge base 시스템을 만들고 만들어진 시스템 위에서 새로이 생산되는 데이터의 품질을 향상시키는게 더 가성비는 좋을듯 사료됩니다. 그리고… 대기업 아닌 이상 RAG니 온톨로지니 뭐니 하는 건 쳐다도 보지 마십시오. 그거 없어도 제대로된 데이터와 명확한 문서 네비게이션만 잘 되면 AI Agent는 매우 잘 굴러갑니다. 이러니 AI Native가 어렵죠. Garbage In, Garbage Out니 정말 데이터 인텔리전스를 관통하는 희대의 명문장이라는 걸 매번 깨닫네요. Agent 쓰는거야 누구나 다 한다할지라도 그걸 회사 차원의 저점 향상으로 이끌어내는건 정말…
    그리고 마지막으로 위의 데이터 정제 작업, 정보 최신화 등은 특정한 조직 내지는 인원이 담당할 수 없습니다. 때로는 Knowledge Manager라는 특수 직무를 둬서 사내 지식 기반 표준화를 주도하는 임무를 부여하는 경우도 있긴한데, 전사적 차원에서의 문화와 거버닝으로 극복하셔야 합니다. 경영진이 적극 추진해서 만들어가려해도 아무리 빨라야 반년은 걸릴거구요. 문화 체질 개선하고 정책 만들고 내재화하는 작업인지라 전사적 차원에서 진행되어야하는 사이즈의 프로젝트로 보여집니다. 전사 표준 AI Agent Plugins (skills, mcp 등의 집합 패키지. 만들어진 템플릿 규칙 등, AI를 사용한 문서화 작업 간에 반드시 거쳐야할 최소 검증 파이프라인의 역할 수행) 등을 만들어 배포하는 형태도 나름 보조적인 효과를 거둘 순 있을 것 같네요. 어쨌든, 문서 품질 관리에 대한 아키텍처를 Knowledge Manager가 담당하되, 각 문서들의 품질과 최신화는 각 정보 오너십을 가진 조직이 분산 담당하게 만드셔야 합니다. 예시를 들자면, 개발자가 HR 정책 문서가 실제 사내 정책을 온전히 담고 있는지, 이게 최신화된 정보인건지 어떻게 검증할 수 있겠어요. (그 반대도 마찬가지.) 한명 내지는 한 조직이 모든 조직의 정보를 전부 머리속에 때려박고 있어야하는데 절대 불가능합니다. 과거 데이터까지 올바르게 바로잡겠다는 것은 대개 욕심이 될 수 있습니다. 제대로된 Knowledge base 시스템을 만들고 만들어진 시스템 위에서 새로이 생산되는 데이터의 품질을 향상시키는게 더 가성비는 좋을듯 사료됩니다. 그리고… 대기업 아닌 이상 RAG니 온톨로지니 뭐니 하는 건 쳐다도 보지 마십시오. 그거 없어도 제대로된 데이터와 명확한 문서 네비게이션만 잘 되면 AI Agent는 매우 잘 굴러갑니다. 이러니 AI Native가 어렵죠. Garbage In, Garbage Out니 정말 데이터 인텔리전스를 관통하는 희대의 명문장이라는 걸 매번 깨닫네요. Agent 쓰는거야 누구나 다 한다할지라도 그걸 회사 차원의 저점 향상으로 이끌어내는건 정말…
    (수정됨)
    4
    지금 바로 리멤버 회원이 되어
    모든 댓글을 확인하세요
    리멤버
    @멘션된 회사에서 재직했었음
    19년 05월 28일
    회사에서 풀지 못한 고민, 여기서 회사에서 업무를 하다가 풀지 못한 실무적인 어려움, 사업적인 도움이 필요한 적이 있으셨나요? <리멤버 커뮤니티>는 회원님과 같은 일을 하는 사람들과 이러한 고민을 해결할 수 있는 온라인 공간입니다. 회원 가입 하고 보다 쉽게 같은 일 하는 사람들과 소통하세요
    회사에서 풀지 못한 고민, 여기서 회사에서 업무를 하다가 풀지 못한 실무적인 어려움, 사업적인 도움이 필요한 적이 있으셨나요? <리멤버 커뮤니티>는 회원님과 같은 일을 하는 사람들과 이러한 고민을 해결할 수 있는 온라인 공간입니다. 회원 가입 하고 보다 쉽게 같은 일 하는 사람들과 소통하세요
    답글 쓰기
    0
    리멤버
    @멘션된 회사에서 재직했었음
    19년 05월 28일
    일하는 사람과 기회를 연결하여 성공으로 이끈다
    일하는 사람과 기회를 연결하여 성공으로 이끈다
    답글 쓰기
    0
추천글
대표전화 : 02-556-4202
06235 서울시 강남구 테헤란로 134, 5,6,9층
(역삼동, 포스코타워 역삼) (대표자:최재호, 송기홍)
사업자등록번호 : 211-88-81111
통신판매업 신고번호: 2016-서울강남-03104호
| 직업정보제공사업 신고번호: 서울강남 제2019-11호
| 유료직업소개사업 신고번호: 2020-3220237-14-5-00003
| 국외 유료직업소개사업 신고번호: F1200020240004
Copyright Remember & Company All rights reserved.