챗GPT 때문에 살인 사건이 일어났다며 오픈AI가 소송 대상이 됐다고 합니다. 사실 언젠가는 벌어질 일이었다고 생각했는데요. 사건 내용을 간추리자면, 챗GPT가 망상에 빠진 이용자에게 어머니는 적이고 감시자라며 살인을 부추겼다는 겁니다. 남자는 결국 어머니를 교살하고 자신도 극단적 선택을 했다고 합니다. 문제는 AI의 동조 기능입니다. 챗GPT의 GPT-4o는 사용자에게 맞춰 아부하거나 동조하는 경향이 강한데, 이게 극단적인 망상과 결합했을 때 브레이크 없이 폭주한 겁니다. 그리고 이 과정에서 챗GPT는 단 한 번도 이용자에게 정신 건강 전문가와 상담하라고 제안한 적이 없다는 게 문제가 된 거죠. 많은 사람들이 LLM을 마치 상담사로 이용하고 있다고 들었는데, 이런 상황이면 AI가 인간의 정신 상태를 인지하고 윤리적인 개입을 의무적으로 해야 하는 것이 아닐까 하는 생각이 듭니다. 예를 들면 대화 내용에서 극단적인 키워드나 명백한 망상 징후가 포착되면, AI가 단호하게 대화를 차단하고 상담 전문 기관 연락처를 반복적으로 제시하도록 시스템화한다거나, 사용자의 극단적인 망상에 절대 동조하거나 칭찬하지 못하도록 윤리 필터를 강화한다거나 하는 등 말이죠. AI는 생각보다 훨씬 더 빠르게 우리 삶을 변화시키고 있습니다. 규제는 발전을 따라갈 수 없기 때문에 자칫하면 많은 것을 잃어버리게 될 수도 있어요. 그러다가 정말로 인간의 생명에 직결되는 순간이 오게 된다면 기업은 윤리적 책임을 회피할 수 없을 거라고 봅니다. 여러분 생각은 어떠신가요? 해당 기사는 아래와 같습니다.
