이 보고서는 카렌 하오(Karen Hao) 저자의 책 **『AI 제국: 샘 올트먼의 오픈AI가 꾸는 꿈과 악몽 (Empire of AI: Dreams and Nightmares in Sam Altman’s Open AI)』**에 대한 유튜브 동영상(https://www.youtube.com/watch?v=1NzW3o8zFEc) 인터뷰 내용을 바탕으로, AI 산업의 복잡한 면모와 숨겨진 진실을 상세히 분석합니다.
1. AI 제국의 기원과 “선한 의도”의 변질
이 책과 인터뷰의 핵심은 AI 산업이 단순히 기술을 발전시키는 것을 넘어, 새로운 형태의 권력과 통제력을 구축하는 **’제국’**으로 변모하고 있다는 비판적 관점입니다.
1.1. 이상주의적 비전의 시작
2015년, 오픈AI는 샘 올트먼(Sam Altman)과 일론 머스크(Elon Musk)를 비롯한 여러 창립자들이 “인류 전체의 이익을 위한” 인공 일반 지능(AGI)을 개발하겠다는 숭고한 목표 아래 비영리 단체로 설립되었습니다. 당시 그들의 목표는 구글이나 다른 상업적 기업들이 AGI를 독점하는 것을 막는 것이었습니다. 그들은 인류가 ‘선한’ AI 기술을 공평하게 누릴 수 있도록 투명하고 개방적인 연구를 약속했습니다.
1.2. 막대한 자본의 요구와 영리 추구로의 전환
하지만 AI 기술, 특히 대규모 언어 모델(LLM)을 개발하는 데 필요한 자원의 규모는 상상을 초월했습니다. AI 모델의 성능은 주로 ‘규모’에 비례한다는 이른바 **’스케일링 법칙(scaling laws)’**이 지배하면서, 연구를 지속하기 위해서는 천문학적인 자금이 필요해졌습니다. 처음 약속된 10억 달러의 기부금으로는 감당할 수 없는 규모였습니다. 이로 인해 오픈AI는 2019년, 영리 부문을 신설하는 결정적인 전환점을 맞게 됩니다.
이러한 구조 변화는 단순한 재정적 문제 해결을 넘어, 기업의 정체성과 목표를 근본적으로 바꾸어 놓았습니다. 비록 오픈AI는 여전히 비영리 단체의 통제 아래 있다고 주장하지만, 영리 부문은 마이크로소프트와 같은 투자자들로부터 수십억 달러를 유치하며 막대한 영향력을 얻게 되었습니다. 이 과정에서 초기 약속했던 투명성은 비밀주의로 대체되었고, 협력보다는 치열한 경쟁이 우선시되었습니다.
1.3. 샘 올트먼의 리더십과 논란
동영상과 책은 오픈AI의 변모 과정에서 CEO 샘 올트먼의 역할을 비중 있게 다룹니다. 그는 카리스마 넘치는 리더이자 비전가로 묘사되지만, 한편으로는 논쟁적인 인물이기도 합니다. 2023년 그의 갑작스러운 해임과 극적인 복귀 사건은 오픈AI 내부의 이상과 현실, 안전과 상업화 사이의 갈등을 극명하게 보여주었습니다. 이는 단순한 내부 권력 다툼을 넘어, AI 기술의 미래를 놓고 벌어지는 이념적, 경제적 싸움의 단면을 드러냈습니다.
2. AI 제국의 숨겨진 비용: 착취와 환경 파괴
AI 제국의 성장은 눈에 보이지 않는 곳에서 막대한 비용을 치르고 있습니다. 카렌 하오 작가는 이러한 비용을 세 가지 측면에서 상세히 파헤칩니다.
2.1. 데이터 착취: 지적 재산권의 무단 사용
대규모 언어 모델은 인터넷에 존재하는 방대한 양의 텍스트와 이미지를 학습합니다. 여기에는 작가, 예술가, 프로그래머, 그리고 일반 사용자들이 창작한 모든 지적 재산이 포함됩니다. AI 기업들은 이러한 데이터를 무단으로 ‘수확(scraping)’하여 모델을 훈련시키고 있지만, 원저작자에게는 정당한 보상이 이루어지지 않고 있습니다. 이는 AI가 창작의 새로운 도구가 되는 동시에, 기존 창작자들의 권리를 침해하고 경제적 기반을 약화시키는 결과를 초래합니다.
2.2. 노동 착취: 유령 노동자들의 희생
AI 모델이 유해하거나 부적절한 콘텐츠를 생성하는 것을 막기 위해, AI 기업들은 ‘콘텐츠 조정’과 ‘데이터 레이블링’이라는 작업을 수행하는 숨겨진 노동력을 활용합니다. 이들은 주로 개발도상국, 특히 케냐와 같은 나라의 노동자들로, 시간당 2달러와 같은 헐값에 정신적으로 고통스러운 작업에 내몰립니다. 이들은 AI의 ‘뒷골목(back alley)’에서 유해한 이미지와 텍스트를 분류하며, AI 모델의 안전성과 유용성을 보장하는 보이지 않는 희생양 역할을 합니다.
2.3. 환경적 착취: 막대한 전력과 물 소비
AI 시스템은 엄청난 양의 컴퓨팅 자원을 필요로 합니다. 이를 위해 거대한 데이터 센터가 건설되는데, 이 시설들은 도시 하나에 맞먹는 전력과 막대한 양의 물을 소비합니다. 특히, 칩을 냉각하는 데 필요한 깨끗한 물은 지역 사회의 수자원을 고갈시키는 심각한 환경 문제를 야기합니다. 하오 작가는 AI 산업의 폭발적인 성장이 지구 환경에 미치는 부정적인 영향을 지적하며, 이는 지속 가능성이라는 가치와 충돌한다고 강조합니다.
3. 스케일링 법칙과 권력의 집중
AI 산업의 ‘스케일링 법칙’은 기술적 경향을 넘어 경제적, 사회적 현상을 설명하는 핵심 개념이 되었습니다.
3.1. 스케일링 법칙의 작동 원리
스케일링 법칙은 AI 모델의 크기를 키우고, 학습 데이터를 늘리고, 컴퓨팅 자원을 더 투입할수록 성능이 향상된다는 경험적 관찰을 기반으로 합니다. 이 법칙은 AI 연구자들에게 간단하고 명확한 로드맵을 제시했습니다: “더 크게 만들라. 그러면 더 좋아질 것이다.” 이 때문에 오픈AI와 같은 기업들은 모델의 성능을 향상시키기 위해 무한 경쟁에 돌입했습니다.
3.2. 자원 독점과 진입 장벽
하지만 이러한 ‘규모 경쟁’은 엄청난 자본을 요구합니다. 수십억 달러 규모의 투자를 유치할 수 있는 소수의 기술 거대 기업만이 이 경쟁에 참여할 수 있습니다. 이는 AI 기술 발전의 주도권을 소수의 기업에 집중시키고, 혁신을 외부로 확산시키는 것을 어렵게 만듭니다. 하오 작가는 이 현상을 “소수의 권력 집중”이라고 표현하며, 이는 마치 제국주의 시대에 소수 국가가 전 세계의 자원을 독점했던 것과 유사하다고 지적합니다.
4. AI의 군사화와 민주적 통제의 부재
AI는 민간 영역의 혁신을 넘어 국가 안보와 군사 분야에서도 중요한 역할을 차지하게 되었습니다. AI 기업들은 막대한 개발 비용을 회수하고 새로운 시장을 개척하기 위해 국방 부문과의 협력을 강화하고 있습니다.
4.1. 기술의 이중 용도 문제
AI 기술은 본래 민간 목적으로 개발되었지만, 감시, 자율 무기, 정보전 등 군사적 용도로 전용될 위험이 큽니다. 하오 작가는 AI 기업들이 이러한 잠재적 위험에도 불구하고 이익을 위해 국방 계약을 적극적으로 모색하는 상황을 경고합니다.
4.2. 규제 부재와 정부의 역할
동영상 인터뷰에서 하오 작가는 AI 기술에 대한 정부 규제가 미흡하다는 점을 지적합니다. 그녀는 미국에서 AI 규제를 10년간 금지하려는 움직임에 대해 강한 우려를 표명하며, 이는 소수 기업이 독점적인 권력을 행사할 수 있는 환경을 조성한다고 주장합니다.
4.3. 시민 사회의 역할
하오 작가는 민주주의적 통제력을 회복하기 위해서는 대중의 인식이 필수적이라고 강조합니다. AI 기술이 어떻게 개발되고, 어떤 비용을 치르는지 대중이 알아야 하며, 연구자들은 상업적 이익을 넘어 인류의 이익을 위한 다른 AI 개발 경로를 탐색해야 한다고 역설합니다. 뉴질랜드 마오리족이 멸종 위기에 놓인 그들의 언어를 보존하기 위해 소규모 AI를 활용하는 사례는 AI의 대안적이고 민주적인 미래가 가능하다는 것을 보여주는 좋은 예시로 언급됩니다.
5. 결론: AI의 미래는 누구의 손에 달렸는가?
『AI 제국』은 AI가 단순히 기술적 혁신을 넘어, 사회의 근본적인 구조와 가치를 재편하고 있다고 주장합니다. 하오 작가는 AI가 인류를 위한 도구가 될지, 아니면 소수의 권력만을 강화하는 수단이 될지는 결국 우리가 어떤 선택을 하느냐에 달려 있다고 말합니다.