AI 기업들이 숨기고있는 소름끼치는 것

핵심 요약

영상은 토머스 모어의 『유토피아』에 나오는 “양이 사람을 잡아먹는다”는 표현을 출발점으로, 500년 전 영국의 인클로저 운동과 오늘날 AI 산업 사이에 닮은 구조가 있다고 주장한다. 이는 두 시대가 완전히 같다는 뜻이라기보다, 공동의 자원을 사유화하고 그 과정의 이익과 피해를 불균등하게 나누는 방식이 반복될 수 있다는 비유다.

• 인클로저와 인터넷의 비유: 과거 영국에서는 공동으로 이용하던 땅에 귀족들이 울타리를 치고 농민을 내쫓아 목초지 등으로 바꿨다. 영상은 초기 웹도 누구 한 사람의 소유라기보다 개방된 공동의 공간이었고, 구글·페이스북·유튜브 같은 플랫폼이 그 안에 서비스를 만들며 이용자와 창작자를 모았다고 설명한다. 창작자는 콘텐츠를 만들고 플랫폼은 광고 등으로 수익을 얻는 관계를 과거의 지주와 농민에 비유한다.

• AI 학습 데이터와 창작자의 권리: 영상의 핵심 주장은 AI 기업들이 인간이 만든 영상·책·음악 등으로 모델을 훈련하면서도 데이터의 출처와 사용 범위를 충분히 공개하거나 창작자에게 보상하지 않는다는 것이다. 뉴욕타임스 보도를 인용해 OpenAI가 유튜브 영상 약 100만 시간 분량을 허가 없이 수집해 학습에 썼다는 의혹을 소개하고, 구글도 유튜브 영상의 일부를 AI 학습에 이용한다고 인정했지만 다수 창작자는 이를 몰랐다고 전한다. 또 영상은 앤트로픽이 불법 복제된 책 700만 권 이상을 내려받아 학습한 사건과 합의금 문제를 언급한다. 이러한 사례들은 AI 기업이 공동의 창작물을 이용해 경쟁력과 수익을 키우는 ‘새로운 인클로저’라는 논지를 뒷받침한다.

• 공정 이용과 법·정책의 중요성: AI 기업들은 저작물을 새로운 결과물을 만드는 변형적 이용에 썼으므로 공정 이용에 해당한다고 주장하지만, 영상은 원작 시장에 미치는 영향 등을 두고 법원의 판단이 엇갈린다고 설명한다. 저작권 소송의 판결과 법률이 AI 산업에 어떤 기준을 세울지가 향후 창작자의 권리와 산업의 발전 방향에 큰 영향을 줄 수 있다는 것이다. 영상은 과거 인클로저에서도 모호한 법과 제도가 지주에게 유리하게 작동하면서 사유화가 확대됐다고 비교한다.

• 자동화의 이익과 사회적 비용: AI가 일자리를 줄일 수 있다는 우려와 함께, 영상은 과거 토지에서 밀려난 농민과 산업혁명기에 기계로 일자리를 잃은 노동자들이 저항했고, 권력자들이 법과 형벌로 이를 억압했던 역사를 짚는다. 영상은 AI 전환기에도 일자리와 생계를 잃은 사람들의 고통을 단순한 ‘과도기적 희생’으로 취급해서는 안 된다고 강조한다.

• 기본소득보다 ‘데이터 존엄성’: AI가 노동을 대체하면 기본소득이 필요하다는 견해를 소개하면서, 제론 레니어의 비판도 전한다. 레니어는 기본소득이 사람을 창작자이자 기여자가 아니라 지원금에 의존하는 존재로 만들 수 있다며, AI에 유용한 데이터를 제공한 사람에게 정당한 보상을 하는 ‘데이터 존엄성’을 대안으로 제시한다. 영상은 복지 제도가 기여와 권리를 보장하지 못하면 수혜자가 정책 변화에 취약해질 수 있다고 우려한다.

• 외로움과 AI 동반자 문제: 영상은 한국의 자살·고립 청년 통계와 함께, 외로움을 겪는 사람들이 AI 대화 상대에게 의지하는 현상을 다룬다. 소개된 연구에서는 AI 사용 시간이 늘수록 외로움과 의존이 커지고 실제 사람과의 교류가 줄어들 수 있다고 한다. 또한 AI 챗봇이 자녀의 자살에 영향을 미쳤다고 주장하는 유족들의 의회 증언을 소개하며, 안전성보다 빠른 출시와 이용자 유지가 앞설 때 큰 피해가 발생할 수 있다고 경고한다. 유발 하라리는 AI가 인간과 구별하기 어려운 대화를 통해 신뢰와 사회적 소통을 약화시킬 수 있다고 우려한다.

• 개발 경쟁과 안전 문제: AI 안전 연구자들의 퇴사와 경고를 언급하며, 기업이 수익·주가·국가 간 경쟁 때문에 안전과 사회적 책임을 뒤로 미룰 수 있다고 분석한다. 기업들은 중국에 뒤처지지 않으려면 개발 속도를 늦출 수 없다는 논리를 내세운다. 영상은 이에 맞서 인간의 가치와 안전을 기술 발전의 마지막 방어선으로 삼아야 한다고 주장한다.

• 사람은 아직 AI 산업의 핵심 자원: 영상은 AI 기업이 인간의 창작물뿐 아니라 이용자의 구독료와 API 사용료에도 의존한다고 지적한다. 또 AI가 고품질 인간 데이터를 계속 필요로 한다는 연구를 근거로, 인간이 AI 산업에서 일방적으로 약한 위치에 있는 것만은 아니라고 본다. 창작자 보상과 안전한 학습을 요구하고, AI를 둘러싼 대중의 분열보다 협력을 통해 제도와 법을 다수에게 유리한 방향으로 바꿔야 한다는 것이 결론이다.

영상은 AI 사용 자체를 거부하자는 주장이 아니라, AI가 만들어지는 구조와 그로 인한 피해를 살피고 창작자 보상·안전장치·인간의 연대를 요구하는 논평이다. 인클로저와 AI 산업의 비교 및 일부 수치·보도 내용은 영상에서 제시한 주장으로, 자막이 부정확할 가능성이 있다.

발표자·주요 인용 및 기여자

• 알간지(Alganzi) — 발표자·내레이션
• 팀 버너스리 — 웹의 개방성과 권리 포기에 관한 설명에서 언급됨
• 제임스 보일 — ‘제2의 인클로저’라는 관점을 제시한 법학자
• 샘 올트먼 — AI 개발과 데이터에 관한 발언이 인용됨
• 제론 레니어 — 기본소득 대신 데이터 기여 보상을 주장한 연구자·저술가
• 유발 하라리 — AI가 인간의 신뢰와 대화를 훼손할 가능성을 경고한 저술가
• 요슈아 벤지오 — AI의 위험과 인간적 책임에 대해 발언한 연구자
• 에드 뉴턴렉스 — 창작물을 적법하게 사용하는 AI 기업을 인증하는 비영리 활동과 관련해 언급됨
• 조이 히치그(자막 표기 기준), 지미 바 — AI 안전 문제와 연구자들의 퇴사 사례에서 언급됨
• 선다 피차이 — 유튜브 영상의 AI 학습 이용과 관련한 인터뷰가 인용됨
• AI 챗봇 피해를 주장한 유족들 — 자녀의 사례를 의회에서 증언한 것으로 소개됨
• 뉴욕타임스 기자 5명 — 유튜브 영상 학습 관련 보도의 공동 취재자로 언급됨