요즘 chat gpt와 같은 생성형AI에 대한 관심이 엄청납니다.
가끔 이 친구들하고 문답 놀이를 하다보면 섬뜩한 생각이 들때가 있습니다. 너무 똑똑해서, 너무 멍청해서, 너무 뻔뻔해서… 놀랍니다. 이 친구는 뭐든 잘 알고 뭐든 잘 하더라구요. 거짓말까지도 기가막히게 잘 하죠ㅎㅎ
유료서비스를 이용하면 2021년이후 최근 데이터까지 활용해 답변한다니 써볼까 싶었는데 아시는 관계분야 전문가께서 말리시더군요. 엄청한 놈에게 돈까지 뜯겼다고 생각하면 더 열받는다고.. ㅎㅎ
이 친구는 거짓말을 진실처럼 말하지요. 픽션도 넌픽션처럼 말하니까요.
할루시네이션(Hallucination) 현상이라고 하지만, 정말 황당한 답변을 지나치게 사실적으로 말할 때가 많습니다.
하지만, 질문을 좀 더 구체적으로 상세하게 하면 답변은 달라집니다. 한글보다는 영어로!, 두루뭉술이 아닌 구체적으로 상세하게 질문을 하면 제법 맘에 드는 답변을 해줍니다. 그런데 한번 의심이 생기면 신뢰가 깨져 답변을 그대로 믿기가 힘들죠. 그러니 번거롭지만 답변내용을 별도로 또 찾아보고 확인하게 됩니다.
이렇게 질문자의 질문이 잘못됐거나 어설프게 질문하면 좋은 답을 얻기 어렵습니다. 또 그런 답을 검증 못하고 또 누군가에게 전달하다보면 정보의 왜곡은 끝없이 번져 어딘가에서 문제를 일으키게 될런지도 모르죠.
더욱이 질문자의 지식이 부족하면 답변에 대한 검증이 안됩니다. 맞는 답인지 틀린 답인지 모른채 믿게 될 수도 있겠다 싶습니다. 너무나 뻔뻔하고 자신있게 답을 하니 속아넘어가기 딱입니다. 무서운 일입니다.
하지만 이 친구들은 지금도 똑똑하고 아마 점점 더 똑똑해 지겠지요. 결국 질문자가 똑똑하게 질문하면 똑똑한 답을 주고 어설프게 물어보면 어설프고 왜곡된 답을 얻게 될 겁니다.
이는 비단 생성형AI만의 문제는 아니라 생각되네요.
3
