인공지능의 실제적 위협은 무엇인가?
인공지능이라는 새로운 기술의 확산에 대해 오늘날 많은 사람들은 우려의 시...



    • 인공지능의 실제적 위협은 무엇인가?

    공장, 철도, 전기, 조립 라인과 마찬가지로 인공지능은 기존 직업과 생활 방식, 투자, 지정학적 현실을 위협하는 변혁적인 범용 기술이라 할 수 있다.
     
    새로운 기술의 확산에 대해 오늘날 많은 사람들은 우려의 시선을 던지고, 심지어 두려워하기까지 한다. 하지만 이러한 두려움은 올바른 것일까?

    인공지능이 던지는 실제적 위협에 대한 두려움일까?

    노동자, 소비자, 유권자로서 우리는 이러한 문제를 어떻게 생각해야 할까?
     
    수공업에서 대량생산이 가능한 공장의 탄생, 교통시스템에 일대 혁신을 가져 온 철도, 삶의 질과 세상을 완전히 뒤바꾼 전기의 등장, 효율과 현대적 대량생산 및 규모의 경제를 가능하게 만든 조립 라인의 등장은 모두 당시 사회와 문화, 일자리와 직업 구조 등을 모두 뒤바꾸는 엄청난 혁명이었다.

    마찬가지로 오늘날 우리 앞에 또 다른 혁명이 시작되고 있다.

    바로 인공지능이다.

    인공지능은 앞의 혁명과 마찬가지로 우리의 직업과 생활 방식, 자본 투자, 지정학적 현실을 잠재적으로 위협하는 변혁적인 범용 기술이 될 것이다.

    다만 공장, 철도, 전기, 조립 라인과 같은 모든 범용 기술이 당시에 살던 이들에게 그러했던 것처럼, 인공지능 또한 이를 접하고 있는 현 시대의 사람들에게 두려움을 안겨주고 있다.

    하지만 사람들이 두려워하는 이유는 현재의 ‘화려한’ 생성형 인공지능의 영향을 과대평가하고 있기 때문이다.

    무언가 잘못 알고 있다.

    인공지능의 영향 중 최대의 잠재력은 내장형 비생성형 인공지능에 있기 때문이다.

    그럼에도 불구하고 사람들은 이 비생성형 인공지능의 혁신적인 잠재력을 과소평가하고 있다.

    아무튼 오늘날 인공지능은 수많은 사람들이 수행하는 사무직 일자리를 변화시키거나 심지어 제거하는 수준에 이제 놀라울 정도로 근접한 것으로 보인다.

    이를 통해 기업은 수많은 저숙련 업무에 대한 정의를 다시 수립하여, 사람들을 다른 곳에 배치할 수 있다.

    혹은 일자리를 잃은 사람들은 경제 구조상 유효한 다른 일자리로 이동할 수도 있다.

    지난 인류의 역사가 보여 주듯이, 이것이 반드시 부정적인 측면만 갖고 있는 것은 아니다. 

    21세기 인류는 현재 인구감소라는 심각한 위기에 직면해 있다.

    출산율은 매년 낮아지고 있으며, 의료 기술 발전으로 인해 인간의 생존 기간이 늘면서 대부분의 세계가 가장 생산적이고 혁신적인 시기를 넘어 급속도로 쇠퇴하고 노령화되고 있다.

    현 세대의 정치 경제 문화 수준과 삶의 질을 유지하려면, 더 적은 수의 노동 인력으로 더 많은 것을 생산해야 한다.

    이 빈 틈을 메울 수 있는 것이 바로 인공지능이다.

    생성형 인공지능과 비생성형 인공지능의 조합은 이 세계적인 문제를 해결할 준비가 되어 있다.

    즉, 인공지능을 활용하면, 더 적은 노동 인력으로 더 새롭고 더 나은 제품과 서비스를 더 저렴한 가격으로 제공할 수 있다.

    또한, 수억 명의 사람들이 더욱 안전하고 즐겁게 일할 수 있도록 하는 것도 가능하다.

    현 시점에서 어떤 종류의 일자리가 언제 사라질지 정확하게 말할 수는 없다.

    동시에 어떤 일자리가 창출될 것인지도 불명확하다.

    각종 연구기관이나 미래 컨설팅 기관의 예측을 고려하면, 향후 20년 동안 창출될 일자리의 상당 부분은 오늘날에는 존재하지 않는다고 한다.

    이러한 일자리 상실에 대해 사람들은 막연한 두려움을 갖고 있다.

    이러한 대량 실업 외에 대중 매체들이 자주 논의하는 무서운 시나리오도 존재한다.

    그 중 몇 가지를 살펴 보자.

    첫 번째이자 가장 지속적으로 등장하는 시나리오는 네트워크를 통해 ‘세계를 장악’하는 ‘생성형 인공지능’과 관련된다.

    생성형 인공지능은 점점 더 효과적으로 인간의 반응을 모방하는 작업을 수행하고 있다.

    하지만 이 인공지능은 생각하지 않는다!

    그럼에도 불구하고 특정 방식으로 훈련된 일부 생성형 인공지능이 사람들에게 쉽게 잘못된 정보를 제공하고 사회에 큰 혼란을 가져올 수 있다.

    그렇기 때문에 생성형 인공지능이 투명하고 광범위한 검증과 경쟁을 거쳐야 하는 것이 중요하다.

    한편, 비생성형 인공지능은 상업적으로 사용되기 전에 편향, 악성 코드, 결함이 감지되고 수정되도록 보장해야 한다.

    이를 위해, 미 글로벌 안전환경기관(Underwriter’s Laboratory)과 같은 검증기관을 출범시켜 이들의 검증과 인증을 받도록 해야 할 것이다.

    오늘날 학문의 영역에서도 광범위한 사기 사건이 일어나고 있다.

    이러한 사기는 당연히 인공지능의 영역에서도 발생할 수 있다.

    이를 바로잡을 수 있도록 사전에 조치를 취하는 것이 중요하다.

    두 번째로 유명한(?) 재난 시나리오는 국가가 인공지능 기반 군사 자원에 대한 통제력을 상실하여 재래식 혹은 핵무기로 인한 재앙적 피해를 입는다는 것이다.

    물론 잘못된 인공지능 기반의 공격탐지, 혹은 자율 작동 무기의 결함으로 인해 사고가 발생할 가능성은 분명 존재한다.

    하지만 전 세계 국가들은 이미 이러한 문제에 주목하여 이 문제를 근본적으로 해결하는 데 주력하고 있다.

    실제로 핵전력은 다른 네트워크와 격리시키고, 여러 위협 탐지 시스템 또한 서로 격리되어 상호 견제하도록 추진되고 있다.

    따라서 인공지능으로 인한 전면적 핵전쟁 혹은 인류에 대한 공격은 공상 과학 소설에 불과한 것으로 봐야 한다.

    세 번째 시나리오는 ‘최후의 날 시나리오’이다.

    인공지능 기반 연구가 치명적인 유기체를 생성하고 이를 방출하여 세계적인 유행병을 초래하는 것도 이 시나리오에 포함된다.

    인공지능은 현재도 생명공학 연구자의 역량을 강화해주고 있다.

    이것이 테러리스트나 불량 국가들에게 또 다른 혼란을 일으킬 수 있는 수단을 제공할 수도 있다.

    하지만 이에 대한 신속하고 강력한 대응 능력을 함께 제공하기도 한다. 

    양날의 검일 수도 있지만 이를 저지할 완벽한 수단은 없다.

    이 경우 인공지능은 좋게 혹은 나쁘게 사용될 수 있는 도구가 된다.

    핵심은 잠재적인 위협을 탐지하고 대응하기 위한 대응책을 사전에 구축하는 것이다.

    이러한 일반적인 시나리오가 타당성이 있든 없든 사전 준비와 개선, 대응을 통해 극복할 수 있다.

    그럼에도 이러한 시나리오의 현실화는 매우 극단적인 공상 과학 소설과 같다.

    우리가 주목해야 하는 것은 ‘인공지능이 현재 우리 삶의 방식에 가할 수 있는 크고 매우 심각한 실제적 위협 두 가지’이다.

    첫째는, 사회적 통제 강화 수단으로서의 인공지능이다.

    이는 인공지능으로 인해 국가나 기업이 사회적 통제를 강화할 수 있다는 가능인데, 특정한 이익을 위해 행동하는 강력한 세력에 의한 기술의 오용도 이에 포함된다.

    그렇다면 인공지능을 활용하여 어떻게 사회적 통제를 촉진할 수 있다는 말일까?

    이를 이해하려면 현대 중국에서 일어나는 일을 고려하면 된다.

    중국은 인공지능을 활용하여 온라인에서 자신들에게 불리한 정보가 확산되는 것을 통제하고 있다.

    데이터의 양에 있어 중국은 인공지능의 기계학습 부문에 있어 매우 유리한 국가이다.

    이들이 의도적으로 자신들의 이해에 맞는 인공지능을 개발하여 이를 세계에 공개할 때 언론과 정보에 대한 왜곡으로 여러 가지 악영향이 발생할 수 있다.

    또한 중국은 이미 인공지능 기반 감시 국가의 선두 주자이다.

    이는 특히 안면 인식 기술의 발전과도 관계가 깊다.

    중국의 안면 인식 기술은 세계 최고 수준이라 할 수 있는데, 이는 중국 정부의 니즈와 밀접한 관계가 있다.

    중국을 비롯하여 전 세계적으로 이 기술은 더 성장할 준비를 마쳤다.

    ‘얼라이드 마켓 리서치(Allied Market Research)’에 따르면 2020년 38억 달러 규모였던 안면 인식 산업은 2030년까지 연간 167억 달러 규모로 성장할 것으로 예상된다.

    수십 년 동안 시민을 대상으로 기록된 데이터가 있지만 오늘날은 그 양과 규모가 과거와는 데이터의 품질 차원이 다르다.

    일례로, 미국에 소재한 ‘클리어뷰 AI(Clearview AI)’라는 기업은 미국의 사법 기관, 민간 기업 등에 얼굴 인식 소프트웨어를 제공하고 있다.

    이들의 소프트웨어는 인공지능 알고리즘을 사용하여 얼굴 이미지를 분석하고 이를 사용자의 허가 없이 페이스북(Facebook), 인스타그램(Instagram), 트위터(Twitter)와 같은 소셜 미디어 플랫폼을 포함한 다양한 소스에서 스크랩한 30억 개가 넘는 사진 데이터베이스와 비교한다.

    음성 인식과 전화 위치 정보 기능이 결합된 이 안면 인식 기술은 언제 어디서나 모든 사람의 활동을 모니터링하는 것이 얼마나 쉬워지는지를 잘 보여준다.

    인공지능이 삶의 질에 미칠 두 번째 실제적 위협은 기존 기술이 이미 초래한 문제를 인공지능이 잠재적으로 더 악화시킬 수 있고 우리는 이를 확인하기 어렵다는 데 있다.

    즉, 인공지능이 인간을 더 외롭고 힘들게 만들 수 있다.

    디지털 시대, 스마트폰이 널리 보급된 이후 외로움, 사회적 고립, 우울증, 불안감, 성숙 지연 등의 사회적 수준이 모두 급증한 것이 사실이다.

    인공지능은 이러한 상황을 더 악화시킬 수 있다.

    어떻게?

    인공지능이 우리의 삶이 잘못된 측면을 지적하고 이를 올바르게 인도할 능력은 없기 때문이다.

    이들은 인간이 현재 누리고 있는 것들을 좀 더 효율적으로 편리하게 만들어줄 뿐이다.

    이러한 편리함이 인공지능으로 인해 극단적인 단계까지 충분히 나아갈 수 있다. 

    메타버스와 같은 가상 세계에서 인간은 더 깊은 고립감과 맞닥뜨릴 수 있고, 일체의 물리적 소통없는 삶이 무한히 제공될 수도 있다.

    인공지능은 이러한 상황을 더욱 고도화하는 데 큰 역할을 수행할 것이다.

    이에 Z세대와 그 이후의 미래 세대들의 정신 건강에 어떤 영향이 발생할지, 우리는 여전히 불분명한 세상에 살고 있다.

    이제 우리는 인공지능이 가져올, 근거가 부족하고 실현성이 거의 없는 위협에 두려움을 느끼기보다는, 인공지능이 실제적으로 우리 삶에 끼칠 수 있는 혹은 이미 끼치고 있는 위협에 대처해야 한다.

    이러한 추세를 고려할 때, 우리는 다음과 같은 예측을 내려 본다.

    첫째, 인공지능 규제는 정치적 좌우를 가르는 또 하나의 논쟁거리가 될 것이다.

    현재까지의 테스트에서 챗GPT의 정치적 성향이 중립적이지 않다는 것은 확실하다.

    이는 인공지능 자체가 어떤 오류나 편견에 이미 노출되었다는 의미이다.

    특히 비생성형 인공지능의 경우, 이미 여러 매체를 통해 엉뚱한 답을 한다든지, 상식에 맞지 않는 결과물을 내놓는 일이 보도된 바 있다.

    특히 정치, 문화, 인종, 차별 등 사회적 화두에 민감한 주제일수록 인공지능의 정치적 성향은 중요한 사회적 문제가 될 것이다.

    엘론 머스크는 이에 트루스GPT(TruthGPT)라는 대안을 준비하고 있는 것으로 알려져 있다.

    궁극적으로 규제는 인공지능이 모든 사용자에게 경험적으로 검증 가능한 결과를 제공하도록 보장해야 한다.

    이러한 플랫폼이 객관적 검증을 보장할 수 없는 경우 답변을 하지 않거나, 페널티를 부가하는 방식이 고려되어야 할 것이다.

    둘째, 감시 국가에 대한 우려를 다룰 규제가 큰 논쟁거리가 될 것이다.

    감시에 대한 사회적 합의가 선행되지 않는 경우, 감시 국가를 제한하는 규제에 대한 논쟁은 더욱 격화될 것이고, 이는 사회적 분열을 초래할 것이다.

    그렇다고 이를 방관한다면, 감시당하지 않는 감시 사회가 되어 우리 삶에 지대한 악영향을 끼치거나, 사생활이 보장되지 않거나, 누군가가 누군가를 조종하는 것이 가능한 환경이 조성될 것이다.

    셋째, 인공지능과 그 세대별 영향에 대한 더 많은 연구가 진행될 것이다.

    젊은 세대, 특히 미성년 세대에 대한 연구가 더 많이 진행되어야 한다.

    각종 조사는 이러한 젊은 세대들이 기성세대보다 인공지능, 디지털, 소셜 미디어 등에 훨씬 더 큰 영향을 받고 있음을 보여주기 때문이다.

    젊은 세대, 즉 Z세대의 우울증, 고립감, 소통문제 등은 이미 사회적으로 논의해야 할 심각한 문제가 되고 있다.

    부정적인 영향에 관한 증거가 늘어나고 있다는 것은 이제 우리가 이 문제를 무시할 여유가 없다는 것을 보여준다.

    넷째, 인공지능이 세계에 미칠 강력한 영향력을 고려할 때, 서구 세계는 중국에 대한 경계와 고삐를 더욱 단단히 조이게 될 것이다.

    세계에 대한 중국의 패권 정책이 유효한 이상, 서구 세계는 인공지능과 관련된 중국의 발전을 경계하고, 중국 내에서 벌어지고 있는 통제, 감시, 폐쇄에 인공지능이 어떻게 적용·활용되고 있는지를 계속적으로 예의 주시할 것이다.

    Resource List
    1. Spiked. Apr 2023. Joel Kotkin. The Depopulation Bomb.

    2. National Affairs. Summer 2023. Nicholas Eberstadt & Peter Van Ness. The Geography of Work.

    3. Wall Street Journal. March 9, 2023. Nicholas Eberstadt and Ashton Verdery. A Revolution Is Coming for China’s Families.

    4.The USA Today. News. December 20, 2022. Wendell Cox. WASHINGTON,  COLORADO, AND OREGON: THE NEXT DOMESTIC OUTMIGRATION WAVE?
    %>