AI 시대에 인간이 중심되어야

전쟁이나 폭력 불확실성 통제 가능한 지침

향후 AI 경쟁이나 업계 방향 전환 뒤따를 듯

교황 레오 14세는 AI를 산업혁명에 비유하며, 대형 AI 기업에 대한 새로운 대안들이 형성되고 있다. 레오 14세는 첫 번째 회칙 『안간 존엄』을 발표하면서, 인공지능(AI)을 우리 시대의 가장 중요한 도덕적 과제 중 하나로 선언했다. 이 회칙은 도덕, 사회, 신학적 사고를 이끌기 위한 공식 서한으로, '존중되야 할 인류(Magnifica Humanitas,)'라는 제목이 붙어 있다. 기술이 권력을 집중시키거나 인간의 존엄성을 약화시키는 것이 아니라 인류에 봉사해야 한다고 선언한다.

AI 관련 사상 첫 공식적인 기술 윤리를 강조한 것이다.

이 회칙에는 기술은 단순한 도구가 아니며, 기술이 모든 것을 판단하는 기준이 될 때, 무엇이 중요하고 무엇을 버릴 수 있는지를 결정하게 되며, 창조물을 착취의 대상으로, 인간을 더 큰 효율성을 추구하는 시스템의 단순한 부품으로 전락시킨다고 지적했다. 교황은 AI 개발사인 앤트로픽(Anthropic)의 공동 창립자 크리스토퍼 올라와 함께 바티칸에서 회칙을 발표했다.

올라는 앤트로픽 같은 기업들이 때때로 옳은 일을 하는 것과 충돌할 수 있는 달콤한 금전적 유인과 제약에 맞서기 위해 도덕적 지침이 필요하다고 인정한 것으로 알려졌다. 이 회칙은 인공지능(AI)이 결코 진정으로 중립적이지 않으며, 개발, 자금 조달, 규제 및 사용 주체의 특성을 띠게 된다고 경고한다. 또한 윤리적 감독, 사회 정의, 노동자 보호, 책임 있는 거버넌스 및 평화를 촉구하고 있다.

인간과 AI의 조화를 강조한 회칙

무엇보다도 인공지능(AI)과 같이 논란이 많고 까다로운 주제를 다루면서도 전반적으로 희망적인 어조를 유지하고 있다. 하지만 끊임없는 전쟁으로 점철된 세계 정세를 묘사하는 데 있어서는 현실적인 시각을 보여준다. 이는 암울하고 비관적인 묘사가 아니라 필요한 비판이다.

민간인을 향한 폭격, 병원, 학교, 주요 기반 시설에 대한 공격, 아동에게 영향을 미치는 폭력… 인류 자체에 상처를 입히는 스캔들을 단호하게 언급하고 질책한다. 그러나 인공지능(AI)을 다루는 긍정적인 측면에서도 AI를 본래 인공적인 것이며 결코 자연을 대체할 수 없다고 단언한다.

하지만 AI는 신성한 창조 행위에 참여하는 한 형태를 나타낼 수 있다. 이 사실은 AI가 각각의 설계 선택이 인류에 대한 비전을 표현하기 때문에 특별한 윤리적, 영적 책임을 져야 한다는 것을 의미한다. 더 나아가, 이 점은 기술과 AI가 선한 지 악한 지, 그리고 그 목적이 선한 지를 따지는 것만으로는 충분하지 않다. 오히려 그것의 근본적인 비전, 즉 인간을 완성하거나 초월해야 할 대상으로 여기는지 아니면 도덕적, 사회적 진보를 추구하는지를 명확히 해야 한다는 것이다.

인공지능은 도덕적으로 중립적이지 않다. 모든 기술적 산물은 측정하는 것, 무시하는 것, 최적화하는 것, 사람과 상황을 분류하는 방식 등 여러 가지 결정과 우선순위를 내포하고 있기 때문이다. 무엇을 설계했고, 어떤 인간과 사회에 대한 관념이 그것을 이끄는 데이터와 모델에 담겨 있는가?'라는 질문을 던져야 한다.

또한 인공지능은 본질적으로 모호하며, 방어할 수도 있고 공격할 수도 있으며, 방어와 공격의 경계가 모호해지는 경향이 있다. 바로 이 지점에서 교황 레오 14세는 트랜스휴머니즘과 포스트휴머니즘이라는 두 가지 이념을 강하게 비판한다. 이 두 이념은 기술과 인간 한계 극복이라는 꿈에 절대적인 중심을 부여한다. 트랜스휴머니즘은 (생의학, 신체 공학, 알고리즘 등을 통해) 인간의 능력을 기하급수적으로 향상시켜 효율성을 높이고 수익성을 얻고자 하는 것이다.

그리고 포스트휴머니즘은 인간을 초월해 기계와 환경에 연결하는 것을 목표로 한다. 새로운 진화 단계를 열어줄 환경인 셈이다. 여기서는 인간의 자연적 한계가 무시되고, 순전히 기술적인 구원만 약속된다. 오늘날 여러 분석가들이 지적했듯이, 기술에 대한 우상숭배, 즉 진정한 종교가 만연해 있다고 할 수 있다. 실질적으로 이 회칙은 삶의 철학에서부터 정치(다양한 급진주의), 경제(금융화와 암호화폐), 마음의 구원, 교육, 사회적 상상력의 중요성, 노동과 생태 문제, 디지털, 기술, 사이버 문화에 기반한 유토피아, 그리고 궁극적으로 사랑의 문명에 이르기까지 광범위한 영역을 아우른다. 그래서 이것은 순진한 유토피아가 아니라, 만만치 않은 실천 과제다.

현재 일어나고 있는 일들을 통해 이런 변증법을 새롭게 조명한다. 일부 디지털 플랫폼, 특히 그 중에서도 가장 악랄한 팔란티어(미국의 모든 사람을 통제하고 인공지능을 전쟁에 이용하려는 플랫폼)가 제안하는 인구 감시 및 통제 시스템과, 인간을 돌보고 자연과 존중하는 관계를 맺으며 인간 사이, 그리고 인간과 전체 사이의 보편적 형제애를 중시하는 시스템 사이의 대립을 다룬다.

모든 성찰은 이런 현재의 대립을 전제로 하고 있다. 회칙은 분명히 돌봄, 이타적인 사랑, 희생자, 가난한 자, 억압받는 자의 관점을 옹호한다. 그는 우리 시대의 언어를 사용해 누구나 이해할 수 있고, 고민하고 해결해야 할 문제의 심각성과 깊이를 잃지 않고, 자연에 우호적이고 무한에 열려 있는 다른 세상의 가능성에 대한 희망을 제시하는, 현대적이고 매우 중요한 내용을 시대에 선사한다.

결론적으로, 교황은 성 아우구스티누스의 발자취와 사회 문제에 대한 교리적 전통을 따라 ‘사랑의 문명’(바오로 6세 교황이 만든 용어)이라는 주제를 다시 제시하고 있음을 확인할 수 있다. 사랑의 문명이란 자선을 정의의 구조로 구현하고, 형제애에 제도적 형태를 부여하며, 개인이든 공동체든 타인을 공동선 건설에 필요한 동반자로 여기는 것이다. 오직 이런 사랑만이 안정적인 국제 질서를 만들어내고, 단순한 무력 공존을 운명 공동체로 변화시킬 수 있다.

다른 종류의 AI를 위한 건설 현장

신흥 AI 산업을 바벨탑처럼 쉽게 볼 수 있다. 몇몇 거대 기술 기업들이 모델을 만들고 자신들의 조건에 따라 접근을 제공한다. 산업혁명 시기와 마찬가지로, 더 정의로운 미래는 현재의 학대에 저항하는 노동자들로부터 시작된다. 할리우드에서 나이로비에 이르기까지, AI가 노동자들의 직업을 변화시키는 가운데 노동자들은 존엄성을 위해 싸워왔다. 회칙은 건강한 사회에 있어 양질의 일자리가 중요하다고 강조한다. 노동자들의 요구는 미래의 일자리가 어떻게 되어야 하는지 파악하는 데 도움이 될 수 있다.

다른 접근법들은 AI 개발자들 사이에서 시작된다. 스위스에서는 정부와 학계가 협력해 기초 모델이 탄생했다. 이는 완전히 문서화된 설계와 데이터 소스를 기반으로 한 모델로, 선도 AI 기업들의 불투명하거나 불법적인 관행과는 거리가 멀다. 일부 개발자들은 소비자 협동조합을 만들어 사용자가 모델과 인터페이스를 공동 소유할 수 있도록 했다.

이런 협력적 소유 방식은 사용자가 AI 경험을 자신의 필요에 맞게 더 의도적으로 조정할 수 있게 해준다. 예를 들어, 미국의 대형 농업협동조합인 랜드 오레이크스(Land O'Lakes)는 회원들이 공동 소유한 데이터를 바탕으로 분석과 지침을 제공하는 AI 기반 도구를 만들었다.

유럽의 초기 트랜스크리부스(Transkribus)는 연구 기관들이 공동 소유하며, AI 소프트웨어를 함께 훈련시켜 역사 연구를 위해 텍스트를 전사한다. 이런 시스템들은 레오 14세의 "데이터를 공통 또는 공유된 상태로 관리하라"는 촉구를 따른다. OpenAI와 Anthropic 같은 선도 AI 기업들 사이에서도 창업자들이 이윤 동기로부터 제품을 보호하기 위해 독특한 기업 지배구조를 구축하려 시도했다.

정부는 AI와 같은 고위험 산업에 대해 더 적절한 소유 설계를 장려하거나 아예 의무화할 수도 있다. 『노동헌장』이 노동의 어떤 기준이라면, “존엄한 인간”의 영향력은 창의적 기업가 정신과 정책 실험을 실천하는 데 달려 있고, 이 작업은 이미 시작되었다. 이 회칙은 전쟁에서의 AI 사용을 비판하며, AI를 이용해 개발된 무기에 가장 엄격한 윤리적 제약을 가할 것을 요구한다.

정부가 자율 군사 기술과 AI 기반 방어 시스템에 막대한 투자를 함에 따라, 이런 기술의 점점 더 쉬워지는 배치 용이성은 전쟁 가능성을 높이고 인간의 통제에서 벗어나게 만든다고 경고한다. 이는 무력은 정당방위의 경우에만 최후의 수단으로 사용되어야 한다는 원칙을 위반하는 것이다. 또한 기술력의 집중화와 인간을 데이터나 경제적 기능으로 전락시키는 시스템을 비판한다. 인간의 존엄성, 연대, 진실, 연민, 그리고 공동선을 중심으로 하는 "사랑의 문명"을 장려한다.

산업혁명에서 AI 혁명으로

바티칸은 AI를 규제할 수 없다. 안전 기준을 정하거나, 데이터 센터를 감독하거나, 기업이 시스템 작동 방식을 공개하도록 강제할 수도 없다. 하지만 AI 혁명에 대한 도덕적 방향을 제시하는 데는 기여할 수 있다. 1세기 이상 동안 가톨릭 사회 교리는 노동, 불평등, 빈곤, 인간 존엄성, 그리고 경제 권력의 윤리적 한계에 대한 공론에 영향을 미쳐 왔다.

교황들이 근대 이전부터 회칙을 발표해 왔지만, 《노동 헌장》은 사회 회칙을 전 세계적으로 영향력 있게 만든 계기가 되었다. 이 회칙은 착취적인 노동 조건, 심화되는 불평등, 그리고 노동자와 고용주 간의 갈등에 맞섰다. 레오 13세 교황은 노동자의 권리를 옹호하고 부에는 사회적 책임이 따른다고 주장했다.

그리고 무제한 자본주의와 혁명적 사회주의 모두를 비판했다. 이 문서는 교회를 넘어 노동권과 경제 정의에 대한 논쟁에 영향을 미쳤다. 《노동 헌장》이 산업 시대에 인간이 존중되는 방향을 제시했다면, “존엄한 인간”은 인공지능 시대에 노동, 권력, 그리고 인간관계를 재편하는 기술적 변혁에 대한 도덕적 틀을 제공한다. 인권은 정부나 기업이 부여하는 것이 아니라 모든 인간에게 내재된 존엄성에서 비롯된다.

기술은 인간을 데이터, 경제 단위 또는 최적화 문제로 전락시키는 것이 아니라 인류에 봉사해야 한다. 이는 효율성, 통제, 이윤이라는 논리만이 개인적, 사회적, 경제적 결정을 좌우하도록 내버려 두는 경향을 비판한 데서 비롯된다. 기술이 아무리 정교해져도 도덕적 책임을 자동화 시스템에 전가할 수 없다고 주장한다.

또한 인간의 한계를 기술적으로 극복해야 한다는 트랜스휴머니즘적 사상을 거부하며, 취약성, 의존성, 불완전이야말로 인간 본연의 모습이라고 역설한다. 인간 관계, 보살핌, 연대, 연민은 약점이 아니다. 인류는 한계에도 불구하고 번영하는 것이 아니라, 오히려 한계를 통해 번영하는 경우가 많다.

회칙은 “권력의 문화”와 “사랑의 문명”이라는 대조적인 두 가지 문화를 대비한다. 전자는 기술을 주로 지배와 통제의 도구로 여기는 반면, 후자는 인간의 존엄성, 정의, 그리고 배려를 사회생활의 중심에 둔다. 무엇보다 AI 선두 기업인 앤트로픽이 참여한 것은 일각에서는 이런 문제에 대해 기술 업계와 진지하게 소통하려는 바티칸의 의지로 환영했다. 그러나 다른 이들은 바티칸이 기업에 의해 장악되어 있다는 사실을 순진하게 받아들이거나, 자본의 목소리에 귀 기울이는 것으로 비춰질 위험이 있다고 우려했다.

소수의 사람들이 신기술의 도덕성과 이윤을 결정하는 사적인 이사회 회의실에서 벗어나, 투명성, 참여, 공동의 이익, 그리고 권력 공유를 기반으로 하는 공적인 공간으로의 이동을 촉구한다.

중요한 것은 이 회칙이 기술이나 산업에 반대하는 것이 아니라는 점이다. 오히려 인간 중심적이고 사회적인 가치를 중시하며, 인공지능이 그 자체로 인류를 구원할 것이라는 잘못된 종교적 주장에 저항한다. 인간의 한계를 경멸하고 완벽하거나 영원한 육체나 정신의 모델로 극복해야 한다는 생각에도 반대한다.

회칙은 인공지능이 유한하고 구체적인 관계를 맺고, 존엄한 삶의 일부로서 의미 있는 일을 하며, 인간 본연의 존재를 효용이나 권력, 이윤의 도구가 아닌 그 자체로 인정받을 수 있도록 인간의 역량을 강화해야 한다고 강조한다. 기술은 인류만큼 오래되었다. 기술은 세상을 만들어가고 관리하는 방식의 일부다. 중요한 것은 이런 새로운 인공지능 기술의 목적과 지구의 천연자원과의 관계다.

인간 존재에 대한 개념 재정립

사회 회칙에서 새롭게 부각되는 차원은 기술이 인간 존재의 근본적인 개념, 즉 노동, 교육, 정치, 전쟁의 방식을 어떻게 재구성하고 있는지, 그리고 지배 권력의 새로운 문화 속에 어떻게 스며들어 있는지에 대한 질문이다. 이 회칙은 계몽주의 사상의 핵심 개념인 자유와 번영에 대해 탐구한다. 새로운 의존성, 배제, 조작, 불평등의 위험성을 지적하면서 이런 신기술에 대한 긍정적이고 희망적인 전망은 현실에 직면하고 이에 대응할 수 있어야 한다고 권고한다.

무엇보다 이 문서는 교황청이 인공지능 기술에 대한 논의에 비공개가 아닌 공개적으로 참여하는 새로운 국면을 보여준다. 이는 다양한 집단, 분야, 이해관계자를 아우르는 다층적인 사회적 대화를 촉구하는 것이다. 새로운 인공지능 무장 해제 촉구는 인공지능 개발을 중단하라는 요구가 아니라, 인공지능이 오직 공익에만 기여하도록 강력하게 규제하라는 것이다.

이 자리에서 핵 군축 운동과 비유하며, 핵 기술과 인공지능 기술 모두 인류의 이익을 위해서만 개발되어야 하며, 결코 무기로 사용되어서는 안된다고 강조했다. 인공지능 기업 앤트로픽(Anthropic)의 공동 창립자인 크리스토퍼 올라가 회칙 발표에 함께 했다. 앤트로픽은 현재 자사의 인공지능 시스템의 군사적 활용을 둘러싸고 미국 정부와 법적 분쟁을 벌이고 있다. 회칙은 전 세계적으로 확산되는 전쟁에 대한 우려를 표명하며, 너무나 빈번하게 모든 종류의 전쟁을 정당화하는 데 사용한 '정의로운 전쟁' 이론은 이제 시대에 뒤떨어졌다는 점을 재확인하는 것이 중요하다고 강조했다.

앤트로픽의 공동창업자 올라는 컴퓨터 과학 분야 외부의 사람들이 AI 거버넌스와 윤리에 기여해야 한다고 촉구하며, 금융 시장의 유인책에서 벗어난 사람들이 내부자인 우리가 볼 수 없는 것을 볼 수 있어야 한다고 말했다. 도덕적 틀은 중요하다. 사회가 무엇을 두려워하고, 무엇을 용인하고, 무엇을 옹호하며, 무엇을 희생하기를 거부하는지에 영향을 미친다. 정부는 인공지능(AI) 역량에 투자하는 동시에 투명성, 책임성, 그리고 안전한 도입을 위한 틀을 마련하고 있다. 기업들은 AI 도구를 빠르게 도입하고 있다.

학교와 대학은 평가, 저작권, 그리고 학습 방식을 재고하고 있다. 노동자들은 자신이 설계하지 않았고, 종종 이의를 제기할 수도 없는 시스템에 적응하도록 요구받고 있다. 그리고 시민들은 자신이 결코 볼 수 없는 자동화 시스템에 의해 점점 더 통제되고, 평가받고, 표적이 되고 있다.

회칙은 AI가 강력해질 것인가가 아니라, 그 힘이 인간의 존엄성에 책임을 지도록 할 것인가라는 핵심 질문을 일깨워준다. AI는 이미 강력하다. 인공지능의 미래는 연구실이나 회의실, 의회에서만 결정되는 것이 아니다. 사회가 기꺼이 설정할 도덕적 한계에 의해서도 결정된다. 회칙은 바로 그런 한계를 설정하려는 시도라는 점에서 의미가 있다.