 |
논문 한편이 최근 미국의 전문가 사이에서 화제가 됐습니다. 스타트업 창립자 수하일 도시는 이를 “최근 2년간 AI 분야에서 읽은 것 중 가장 고무적인 글”이라고 평했고, 잭 클라크 앤트로픽 공동 창립자도 자신의 뉴스레터에서 이를 다뤘습니다. 구글 연구원 데이비드 실버와 캐나다의 컴퓨터 과학자 리처드 서튼이 쓴 논문의 제목은 ‘경험의 시대로 온 것을 환영합니다 (Welcome to the Era of Experience)’입니다. 논문이라기보다 11페이지짜리의 긴 칼럼에 가깝습니다. 이들은 인공지능(AI) 시대를 3단계로 구분하고, 각 시대를 상징하는 AI로 각각 ‘알파고’와 ‘챗GPT’를 내세웠습니다. 우선 저자들은 첫번째를 ‘시뮬레이션 시대(Simulation Era)’라고 불렀습니다. 2010년대 중반 연구자들은 시뮬레이션을 사용해 AI 모델이 인간처럼 게임을 반복적으로 플레이하도록 했습니다. 체스와 포커, 아타리 등 게임을 반복 플레이하며 좋은 결과에 대한 보상을 제공했습니다. 이를 통해 기계는 무엇이 좋고 나쁜지 학습하고 더 나은 전략을 추구하도록 유도했습니다. 이런 강화 학습(RL) 방식은 딥마인드의 알파고를 탄생시켰습니다. 또 알파제로라는 또 다른 모델을 만드는 데에도 기여했는데, 이 모델은 체스와 바둑에서 새로운 전략을 발견하고 인간의 게임 플레이 방식을 변화시켰습니다. 하지만 저자들은 이렇게 훈련된 기계가 정확하게 정의된 보상이 있는 특정 문제에서는 좋은 성과를 보였지만, 모호한 보상이 있는 일반적이고 개방적인 문제는 처리할 수 없었다고 썼습니다. 따라서 완전한 AI는 아니라는 것입니다. 두번째인 ‘인간 데이터 시대(Human Data Era)’를 연 것은 2017년 발표된 구글의 ‘어텐션(Attention Is All You Need)’ 논문입니다. 이를 통해 가능한 한 많은 고품질의 인간 생성 데이터를 축적하고, 이를 컴퓨팅 집약적 훈련에 사용해 AI 모델에 세상에 대한 이해를 심어주는 것이 일반화됐습니다. 그러나 두번째 시대를 연 구글은 핵심 멤버들이 뿔뿔이 흩어지고 비교적 소극적인 자세로 연구에만 매달리다 보니, 결국 주도권은 오픈AI나 앤트로픽 등 외부에 내줬습니다. 그리고 챗GPT가 이 시대를 대표하는 키워드가 됐습니다. 하지만 데이터의 시대도 한계를 맞았다는 것은 잘 알려진 사실입니다. 특히 저자들은 “인간 중심의 강화 학습은 전례 없는 폭넓은 행동을 가능하게 했지만, 동시에 에이전트의 성능에 새로운 한계를 부여했다. 에이전트는 기존 인간 지식을 넘어설 수 없다”라고 강조했습니다. 이 글의 핵심인 ‘경험의 시대’는 이런 한계를 넘는 것을 말합니다. |