AI의 붓질은 어디로 향할까

급속도로 발전한 생성형 AI 
무분별 사용에 권리 침해 우려돼 
규제와 발전 사이 균형 찾아야

이미지 생성형 AI(생성형 AI)가 사회 전반에 큰 파란을 일으키고 있다. 광고와 예술 등 다양한 분야에서 적극적으로 활용되는가 하면, 유튜브에는 사람과 흡사하게 생긴 '가상인간'을 활용한 선정적 룩북(Look book) 콘텐츠가 등장해 논란이 되기도 한다. 전 세계에 방점을 찍으며 나아가고 있는 생성형 AI를 들여다봤다.

  생성형 AI가 걸어온 길

  기본적으로 AI는 대규모 이미지 데이터를 사용하여 잘못된 이미지를 완성된 형태로 만드는 과정을 끊임없이 반복 학습해 이미지를 생성한다. 생성형 AI는 대표적으로 ‘적대적 생성 신경망(Generative Adversarial Network, GAN) 모델’과 ‘확산(Diffusion) 모델’로 나누어진다. GAN 모델은 생성자(generator)와 판별자(discriminator) 두 개의 신경망으로 구성된다. 생성자는 무작위 노이즈(이미지가 가지고 있던 신호나 성분 이외의 것들)를 입력받은 후, 실제와 유사한 이미지를 생성하는 역할을 맡는다. 판별자는 생성된 이미지와 실제 이미지를 구별한다. 생성자는 판별자를 속이려고 노력하고 판별자는 더 나은 성능으로 생성자를 견제한다. 이 과정을 반복하며 경쟁을 유도해 생성형 AI가 점진적으로 높은 품질의 이미지 생성 능력을 얻도록 만든다.

  확산 모델의 경우, 처음에는 노이즈가 가득한 희미한 이미지를 생성한 후 점차 뚜렷한 형태를 띠도록 단계적인 과정을 거쳐 이미지를 개선한다. 챗GPT(Chat GPT)의 개발사이기도 한 ‘오픈AI’에서 개발된 ‘Dall-E’나 동명의 연구소에서 개발된 ‘미드저니(Midjourney)’와 같은 이미지 생성 툴은 모두 확산 모델을 사용한다. 그동안 여러 종류의 알고리즘이 개발됐지만 최근 상용화된 생성형 AI의 대부분은 확산 모델을 기반으로 한다.

  생성형 AI는 지금도 빠르게 발전하고 있다. 이용태 IT LAB 대표는 “미래의 생성형 AI는 더욱 세밀하고 현실적이며 높은 해상도의 이미지를 생성하는 능력을 갖추게 될 것”이라며 “많은 데이터로 계속 발전하는 딥러닝 모델과 GAN 기술은 다양한 분야에서 활용할 수 있는 유용한 응용 프로그램의 개발로 이어질 것”이라고 전망했다.

  생성형 AI는 에드먼드 드 벨라미(Edmond De Belamy)라는 인공지능이 생성한 초상화가 2018년 미국 뉴욕에서 열린 크리스티 미술 경매에서 43만 2500달러(당시 환율로 한화 약 4억 5000만 원)에 낙찰되면서 본격적으로 세상에 등장했다. 최초로 주요 경매에 출품된 AI 작품이라는 점에서 파장을 일으켰으며, AI가 반복 학습을 통해 예술적으로 인정받는 고가의 작품을 창조해 낼 수 있음을 시사했다. 지난해 9월엔 미국 콜로라도주 박람회의 연례 미술대회에서 미드저니로 만든 작품 <스페이스 오페라 극장>이 디지털아트 부문에서 1등 상을 받았다. 프로그래밍 명령어가 아닌 텍스트의 입력만을 통해 생성된 작품이기에 더욱 의의를 지닌다. 

  국내에서도 생성형 AI는 영역을 넓혀가고 있다. LG유플러스는 자체 생성형 AI 기술을 이용해 시나리오·이미지·음성·영상 등을 제작해 자사 광고에 활용하는 등 생성형 AI를 적극적으로 활용하고 있다. 비슷한 시기 제작된 삼성생명의 광고 역시 미드저니로 생성한 1만 장의 이미지를 사용해 만들어졌다.

  발전 곁에 드리운 그림자

  생성형 AI가 다양한 분야에서 적극적으로 활용되고 있지만, 부적절하게 활용될 우려 또한 존재한다. 생성형 AI는 인간이 창작한 원저작물을 수집해 학습하고 이를 기반으로 이미지를 생성한다. 이 과정에서 저작권이 있는 이미지를 무단 수집해 학습할 가능성이 있다. 주재연 교수(경상국립대 지식재산융합학과)는 “저작권이 인정되는 이미지를 생성형 AI가 재가공할 경우 원저작물의 이차적 저작물에 해당할 수 있다”며 “이차적 저작물에 원저작물과 실질적으로 유사한 부분이 포함돼 있을 경우 원저작권자의 동의를 얻지 않고 상업적으로 이용한다면 저작권 침해에 해당할 수 있다”고 말했다. 신서혜 석사(충남대 일반대학원 법학 박사과정)는 “원저작물의 저작권자의 동의 없이 데이터를 수집·학습·활용하는 행위가 저작권 침해에 해당하는지에 대한 분쟁이 계속해서 발생하고 있는 상황”이라고 밝혔다.

  실제로 미국에선 생성형 AI에 대한 저작권 소송이 한창 진행 중이다. 최대 이미지 제공 업체인 ‘게티이미지’는 당사의 이미지를 무단 복제해 AI를 학습시켰다는 이유로 생성형 AI 개발사에 저작권 침해 소송을 제기했다. 저작물과 예술적 스타일을 무단으로 사용한 것에 대한 예술가들의 고발도 속속 이어지고 있다.

  생성형 AI로 제작한 선정적인 이미지 역시 문제다. 생성형 AI에 대한 접근성이 높아지면서 유튜브 등지에는 ‘AI 룩북’이 우후죽순 업로드되고 있다. ‘AI 룩북’은 생성형 AI로 생성한 가상 인간에게 노출 의상을 입히고 선정적인 포즈를 취하게 하는 영상이다. 실제로 유튜브에 ‘AI 룩북’을 검색해 보면 별다른 제재 없이 다수의 영상이 그대로 노출되고 있는 것을 확인할 수 있다. 

  AI 룩북 외에도 생성형 AI 등장 이후 음란물은 새로운 방식으로 더 빠르고 더 많이 등장하기 시작했다. 9월 23일엔 생성형 AI로 아동 성 착취물을 제작한 사람에게 징역형이 선고됐다. 생성형 AI로 제작된 음란물이 한국에서 처음 처벌받은 사례다. 한국콘텐츠진흥원이 주관한 ‘2023 콘텐츠산업포럼’에서는 AI를 활용한 콘텐츠의 80%가 성 산업이나 범죄에 활용되고 있다는 결과가 보고되기도 했다. 전혜정 교수(청강문화산업대 만화콘텐츠스쿨)는 “생성형 AI는 쉽고 대량으로 피해자를 양산할 수 있다”며 “특히 여성과 아이와 같은 약자에 대한 착취가 더욱 광범위하고 빠르게 일어나게 된다”고 지적했다. 

  인간과 공생하는 생성형 AI를 위해

  생성형 AI의 부작용에 대한 우려가 커지며 최근 EU에서는 세계 최초로 구속력 있는 AI 규제법 초안을 통과시켰다. 10월 30일 조 바이든 미국 대통령은 안전하고 신뢰할 수 있는 AI 개발과 사용에 관한 행정명령에 서명했다. 한국에서는 ‘인공지능산업 육성 및 신뢰 기반 조성에 관한 법률 제정안’이 국회에서 발의돼 논의 중이다.

  전문가들은 규제를 향한 움직임에 다양한 의견을 내놓았다. 노영균 교수(한양대 인공지능대학원)는 “사용자가 생성형 AI를 학습시키기 위한 데이터를 입력할 때 규제에 따라야 할 필요성이 있다”고 전했다. 박진호 교수(고려대·문화유산디지털복원가)는 “생성형 AI가 등장하며 패러다임의 전환이 이뤄졌다”며 “이해관계자가 모여 합의하는 것이 필요하다“고 말했다. 이어 ”공학 교육 시 윤리 교육도 함께 실시하면 좋을 것“이라고 제시했다.

  현재 논의 중인 법안에 대한 우려도 존재했다. 이성엽 교수(고려대 기술경영전문대학원)는 “현재 한국에서 논의되는 법안에는 아직 생성형 AI에 대한 규제 원칙이 포함돼 있지 않다”며 “규제 논의가 진행되고 있는 미국 등의 선례를 참고하며 충분한 시간을 두고 한국의 규제 모델을 고민해야 한다”고 제언했다. 주재연 교수는 “AI 관련 법안은 규제와 육성이라는 두 가지 관점에서 균형을 유지해야 한다”며 “궁극적으로 AI 기술이 인류의 안전하고 풍요로운 미래에 부합된 방향으로 개발될 수 있도록 법안이 마련되어야 할 것”이라고 덧붙였다. 

  생성형 AI가 인류에 가져올 이점은 명확하다. 하지만 부작용 또한 사회 곳곳에서 드러나고 있다. 위태롭게 쌓아 올린 풍요로움은 언젠가 무너져 버리기 마련이다. 더 견고한 사회를 이뤄나갈 수 있도록 생성형 AI에 대한 심도 있는 논의가 필요한 시점이다.