박재천의 디지털경제 이야기 <2> 딥페이크, 가짜뉴스, 그리고 기술 진보 > News Insight

 조 바이든 미국 대통령의 목소리로 자동녹음전화가 유권자들에게 걸려왔다. 23일 뉴햄프셔주 민주당 프라이머리(예비선거)를 앞둔 시점이었다. 바이든 대통령을 꼭 닮은 목소리가 “여러분의 투표는 이번 화요일이 아니라, 11월에 해야된다”라며, 프라이머리에 참여하지 말라고 요구해서 한바탕 소동이 일어났다. 인공지능을 활용한 딥페이크 음성 기술이 선거에 사용된 것이다.    

딥페이크는  딥러닝(인공지능기술)과 페이크(가짜)의 합성어이다. 특정 인물의 얼굴, 목소리 등을 모방하여 인위적으로 만들어내는 기술을 말한다.  광고, 뉴스, 방송 프로그램에 특별한 매력을 가진 인물을 만들어 내기도 한다.  챗지피티 같은 생성인공지능이 발전하면서 색다른 효과를 만들어 내기 위한 기술이지만, 인공지능 시대의 검은 그림자를 만들기도 한다.  기술적인 난이도도 낮고 비용도 적게 들어, 악용될 경우 다양한 문제를 야기할 수 있다.  유명한 여배우들의 얼굴이 꼭 닮게 합성되고, 음란 광고에 악용되어 피해를 입은 사례가 발생하고 있다.  정치적 인물이나 연예인들을 합성 재현하여 가짜 뉴스를 퍼뜨릴 수 있다. 이러한 부정한 의도로 이용되지 않도록 사회적 안전망을 강화하여야 하는 것이 인공지능 시대의 한 과제이다.  

‘CES2024’ 에서 각종 딥페이크 콘텐트들을 판별해 내는 인공지능 모델이 선보였다 한다. 각종 가짜들을 만들어 내고 있는 부정적 사회현상 때문에  골머리를 싸매고 있는 출판사, 신문사, 방송사 등과 각종 콘텐츠 제작사들에게 시원한 해결책을 제시할 수 있다고 찬사를 받았다 한다. 가짜 컨텐츠를 박멸해 낼 수 있다면 사이버 스페이스를 사람 냄새 나는 공간으로 온전히 보존할 수 있다는 기대감이 들게 한다.  그러나 다른 한편으로는, 진짜와 가짜의 쫓고 쫓​기는 게임을 관전하게 되겠구나 하는 흥미를 기대하게 된다. 

인공지능은 학습하면서 능력이 상승된다. 학습 방법이 매우 중요하다. 이 중에서 적대적 생성망(generative adversarial network)이라는 게임 설정이 있다. 이안 굳펠로우(Ian Goodfellow)라는 개발자가 2014년에 고안했다. 당시, 인공지능의 능력을 향상 시키기 위한 획기적 학습방법으로 제시되어 개발자들 사이에서 각광을 받았다.  

이 게임 설정의 유용성을 쉽게 설명하기 위한 재미나는 에피소드가 있다.  위조지폐범의 능력을 향상시키는데 도움이 된다는 것이다. 위조지폐를 만들어 내는 위조범 역할을 하는 생성형 인공지능 모델과 범인을 잡아야 하는 경찰의 역할을 하는 판별모델을 고안하여 상호 쫓고 쫓​기는 상황을 설정한다. 두 모델의 관계는 위조를 하고 위조범을 잡아내는 적대적 관계를 형성한다. 위조범이 위조지폐를 만들면 경찰은 위조인지 아닌 지를 판별한다. 위조라고 판별하면 위조범은 다시 질 높은 위조 지폐를 만든다. 또 위조라고 판별되면 또 다시 더 그럴둣한 위조지폐를 만들어 낸다 이렇게 위조-판별을 반복하다 보면 결국에는 위조 지폐가 진짜 지폐와 같은 상태에 도달하게 된다. 인공지능은 생성과 판별이라는 반복적 적대적 구조로 설정된 환경에서 학습을 반복하여 능력을 획기적으로 향상시키게 된다. 인공지능 기술개발에 아주 유용하다.  

유명인사들의 음성이나 모습을 합성하여 사회를 속이고 금품을 갈취하기도 하는 부정을 막을 수 있다고 맥카피는 자신하고 있다. 필자도 사이버 스페이스가 이 해결책으로 정화 되기를 바란다. 그러나 거짓과 도둑이 없었던 때는 한순간도 없었다는 역사적 사실을 생각할 때 그리 쉬운 일은 아니지 않는가.  그보다는 가짜를  판별하기 위한 인공지능 학습과 유사한  뎁페이크를 대상으로 한 적대적 반복 게임이 사회적인 차원에서 본격적으로  시작되는구나 하는 생각이 든다.  ‘가짜’를 생성하고 판별하는 능력은 병행하여 향상되고, 또 끝없이 진행될 것이다.  그래도 실소를 금치 못하면서도 긍정적으로 생각하게 되는 것은, 인공지능 기술적 진보만은 더욱 획기적으로 이루어지는 계기가 되지 않을까 생각하기 때문이다. 

<ifsPOST>​