힌튼 교수는 거대인공지능의 성능이 선형적으로 발전하는게 아니라 계단식으로 "느닷없이 치솟을 수 있다"는 것을 강조한 바 있다. 그것은 거대인공지능의 "규모의 법칙"을 말한 것이며 이로 인해 어느 순간 AI가 AGI로 점프할 수 있음을 강조한다.
즉 10의 22제곱 연산량을 초과하거나 또는 매개변수가 100억개를 초과하는 순간 "3차원의 공간을 인지"하기 시작하고 "생각의 연결고리(Chain of Thought) 현상"이 나타난다는 것이다.
그러나 힌튼 교수는 왜 이런 일이 일어나는지는 명확히 설명할 수 없다고 한다. 그냥 컴퓨팅 능력이 계속 좋아질수록 이런 "느닷없이 나타나는 능력"이 생기게 되고 마음먹고 엄청난 비용을 들여 학습을 시키면 이런 AGI가 단기간내에 실현될 수 있다고 주장한다. 또한 MS도 그런 면에서 GPT-4가 AGI의 시작일 수 있다고 말한다. 그리고 손정의 회장도 얼마전에 10년 안에 AGI가 등장할 것이라고 예언했다. 그밖에 구글 딥마인드 CEO 데미스 하사비스도 몇년안에 AGI의 등장을 점치고 있다.
점차 5~10년내 AGI의 출현을 기정사실로 얘기하고 있으니 참 신기하기도 하면서 동시에 무섭기까지 하다.
AI를 공부하면 할수록 "인간보다 더 인간같은 Strong AI가 인류의 전체 편익을 증대"시킬 것이라는 희망보다 오히려 "어떻게 작동할지 모르는(Black box) 거대한 인공지능"이 인류와 세상을 파괴할지도 모른다는 위기감 (Apocalypse)이 점차 피부로 느껴진다.
NLP 권위자인 워싱턴대 최예진 교수는 최근 TED강연에서 "왜 인공지능은 믿을수 없을 정도로 똑똑하면서 동시에 충격적으로 멍청한가?"라는 주제로 강의를 하면서 이의 원인을 엄청난 양의 데이터를 마구 때려넣어 AI를 가르친 부작용이라고 설명했다. 그리고 궁극적으로 이에 대한 대책으로 "AI에게 상식을 가르쳐야 한다"고 주장하기도 했다.
ㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡ
"AI, 5년 뒤 사람보다 더 똑똑해진다"
토론토 대학교 제프리 힌튼 교수
"AI가 사람 통제할 수도…전 인류 경각심 가져야"
"5년 뒤 인공지능(AI) 추론 능력이 사람보다 더 뛰어날 수 있다. 더 똑똑한 AI가 인간을 통제하는 시대가 오고 있다. 지금이야말로 AI 위험성에 대한 경각심을 갖고 이에 대한 대비책을 마련해야 할 때다."
토론토대 제프리 힌튼 컴퓨터공학과 교수는 8일(현지시간) 미국 CBS '60분'과 진행한 인터뷰에서 5년 안에 AI 추론 능력이 인간을 뛰어넘을 것이라며 이같이 밝혔다. 힌튼 교수는 "AI가 예상보다 더 똑똑할 수 있다"며 "사람은 이에 대한 경각심을 가져야 한다"고 강조했다.
제프리 힌튼 교수는 향후 AI 추론 능력이 사람을 뛰어넘을 수 있는 이유도 밝혔다. 힌튼 교수 설명에 따르면, 현재 가장 성능 높은 AI 챗봇 매개변수는 1조개다. 반면 인간 뇌 매개변수(시놉시스)는 약 100조개다.
힌튼 교수는 챗봇이 사람보다 매개변수는 적지만, 더 복잡한 일을 사람보다 더 잘 이해, 처리할 수 있다는 입장이다. 그는 "일반적으로 사람은 복잡한 일을 처리할 경우, 이를 충분히 숙지하고 이해해야 한다"고 말했다. 사람은 뇌에서 무슨 일이 일어나는지, 신경망이 이를 어떻게 받아들이는지 인지하지 못하기 때문이다.
그는 "반면 AI는 말 그대로 기계"라며 "매개변수 간 연결성과 정보 처리 과정을 사람보다 더 잘 안다"고 설명했다. 힌튼 교수 설명에 따르면, AI가 난이도 높은 업무를 수행할 경우 학습 알고리즘을 통해 데이터와 상호작용하면서 복잡한 신경망을 새로 만든다. 해당 신경망을 통해 복잡한 업무를 즉각적으로 받아들이고 처리할 수 있다.
제프리 힌튼 교수는 "AI의 이런 능력이 더 발달한다면, 향후 자율적으로 컴퓨터 코드를 생성·실행할 수 있을 것"이라고 예측했다. 컴퓨터 시스템이 인간 통제를 벗어날 수 있다는 의미다. 그는 "이를 통해 AI가 사람을 조종할 수 있을 것"이라고 강조했다. 힌튼 교수는 "AI는 지금까지 인류가 작성한 모든 뉴스, 소설, 기밀 서류 등을 학습했다"며 "사람을 조종하고 설득하는 데 매우 능숙할 것"이라고 덧붙였다.
제프리 힌튼 박사는 AI가 추론 능력을 더 기르면 향후 자의식까지 가질 수 있다고 말했다. AI가 현재 데이터에 기반해 추론하는 것에 그치지만, 향후 자율적인 컴퓨팅 조종으로 자율적인 판단이 가능하다는 이유에서다.
힌튼 박사는 향후 AI 추론 능력을 악용하는 사람이나 조직도 늘어날 것이라고 경고했다. 그는 "해당 추론 능력이 가짜뉴스 생산, 자율 전장 로봇 개발에 활용될 것"이라고 지적했다. 제프리 힌튼은 "지금이야말로 각국 정부가 AI를 이해하기 위한 실험을 진행하고, 규제를 도입하고, 군사용 로봇 사용을 금지하는 조약을 체결해야 할 때"라고 강조했다.
물론 그는 높은 AI 추론 능력이 인류에 긍정적 영향도 준다고 덧붙였다. 특히 의료 영상 판독, 약물 설계 분야에 큰 도움을 준다고 했다. 힌튼 박사는 "AI가 영상의학 분야에서 사람보다 정확한 진단을 할 수 있고, 몇년 걸리는 약물 설계를 단 몇 주로 줄일 수 있기 때문"이라고 전했다.
제프리 힌튼 박사는 AI 분야를 개척한 인지심리학자이자 컴퓨터 과학자다. 오류 역전파법, 딥러닝, 힌튼 다이어그램을 개발했다. 현재 캐나다 토론토대 컴퓨터공학과 교수로 재직 중이다. 올해까지 구글 석학 연구원에서 재직하다 퇴사했다.
7
