AI 데이터 우물에 ‘독’ 푸는 교수…“저작물 도둑질, 창작자 삶 뺏어”

 

생성형 AI에 ‘독’ 퍼뜨리는 교수…“데이터 도둑질, 창작자 삶 뺏어”

[AI의 습격 인간의 반격]
벤 자오 시카고대 교수 인터뷰

생성형 인공지능(AI) 기업을 상대로 소송에 나선 화가 카를라 오르티스가 제출한 증거 자료 중 하나. 이미지 생성 인공지능 ‘미드저니’에 ‘아프간 소녀’를 요구하면 스티븐 매커리의 사진(맨 왼쪽)과 흡사한 이미지가 끝도 없이 생성된다.

 

<스타워커 핵심 발췌>

벤 자오 시카고대 교수는 ‘돈 몰리는’ 인공지능 분야의 석학인데다 타임지 선정 ‘2023년 최고의 발명품’으로 선정된 연구를 진행하고 있지만, 그를 지원하고 싶어 하는 인공지능 기업은 없다. 미국 예일대와 버클리대에서 컴퓨터과학 학위를 받던 20년 전, 구글이 제프 딘(현 구글 인공지능 총괄)과 함께 일해달라며 제안했던 주식은 현재 가치로 치면 2천만달러(267억원) 수준에 이른다. “학계를 선택했고 후회한 적 없다”는 그는 최근 생성형 인공지능의 ‘데이터 도둑질’을 막는 도구를 개발했다.

지난 1월19일 자오 교수 연구팀이 정식으로 발표한 ‘나이트셰이드(Nightshade) 1.0’은 한마디로 ‘생성형 인공지능을 파괴하는 독극물’이다. 특별한 홍보가 없었는데도 출시 5일 만에 25만명이 내려받은 이 소프트웨어의 규칙은 “이것을 사용한다는 사실을 세상에 알리지 말라”이다. 이 프로그램은 제작자 동의 없이 창작물을 긁어가 인공지능 모델을 학습시키는 행태에 문제의식을 가진 자오 교수가 자신의 작품을 지키려는 창작자들의 편에 서서 만든 것이다. 이 소프트웨어가 적용된 창작물을 생성형 인공지능이 함부로 학습하면 이미지가 엉망으로 변해버려, 개를 고양이로, 자동차를 소로 인식하게 된다.

자오 교수는 지난달 14일 한겨레와의 화상 인터뷰를 통해 “현재와 같은 거대 생성형 인공지능 모델은 붉은 청어(Red Herring)”라고 비판했다. 사냥개의 주의를 돌리기 위해 강한 냄새가 나는 훈제 청어를 쓰듯 “거대한 데이터를 학습한 생성형 인공지능이 인류를 위한 것이라는 말은 과대광고와 마케팅의 탐욕을 숨기기 위한 속임수일 뿐”이라는 취지다.

―기업들은 생성형 인공지능으로 수익이 발생하면 창작자 등에게 분배할 수도 있다고 한다.
“일단 너의 것을 훔쳐가서 너를 노숙자로 만든 뒤 내가 돈을 벌게 되면 나중에 줄지도 모른다는 이상한 논리다. 시간이 지나 현재의 논쟁을 돌아보면 웃을 것이다. 하지만 당장 오늘과 내일, 올해와 내년에 일자리를 잃는 사람들이 발생할 것이니 소송이나 규제 결과를 기다리기에는 시간이 없다. 나는 창작자들의 고통을 줄이고, 자신의 삶과 작업이 도난당해 불안과 우울을 느끼는 이들을 돕고 싶다.”

―왜 생성형 인공지능을 과도한 마케팅일 뿐이라고 하나?
“현재와 같은 거대한 생성형 인공지능 모델은 ‘붉은 청어’와 같다. 인류가 더 중요한 질문에 집중하지 못하도록 우리의 주의를 산만하게 하기 때문이다. 엄청난 투자가 몰리고 주가가 뛰고 있지만, 인공지능 기업들은 오히려 돈을 잃고 있다. 과대광고와 마케팅 문구에 휘둘려 모두들 ‘생성형 인공지능이 국가 경제를 일으킬 것’이라고 말하지만, 수백만개의 일자리를 없애는 방법으로 경제 상황을 개선하는 나라는 없다.”

―어떤 직업이 먼저 타격받나?
“생성형 인공지능으로 대부분의 일자리가 사라질 텐데, 첫번째로 타격을 받을 이들은 예술가, 작가, 기자, 배우, 성우 등 창작 그룹과 콘텐츠를 생성하는 그룹이 될 것이다.”

―생성형 인공지능 대표 주자 챗지피티(ChatGPT)를 만든 오픈에이아이(OpenAI)는 인공지능에 대한 우려에서 탄생한 연구소다.
“이제 샘 올트먼 오픈에이아이 대표는 ‘인간의 능력을 넘어서는 ‘범용 인공지능’(AGI, Artificial General Intelligence)이 우리를 파멸시킬 끔찍한 문제’라고 말하면서 올바른 결과를 가져올 수 있도록 자신들에게 투자해달라고 말한다. 그런데 에이지아이가 인류를 사라지게 할 거라면 이것을 시도하는 것 자체가 말이 안 된다. 오픈에이아이는 일단 에이지아이를 도입한 뒤 다시 이를 제어하겠다는 것인데, 이것은 매우 산만한 논리이며, 이 역시 ‘붉은 청어’라 생각한다.”

―인공지능 기업마다 윤리 기준을 세운다고 말한다.
“현재 생성형 인공지능 발전은 기업이 주도한다. 기업은 이윤을 추구하고, 윤리적으로 올바르게 행동해야 할 인센티브는 없다. 생성형 인공지능 업계에는 마케팅이 과도하고, 돈이 너무 많이 몰리고, 주식 시장과 크게 연관돼 있다. 이 모든 과도함이 기업들로 하여금 나쁜 일을 하게 하고 있다. 얼마 전 메타에 내 개인정보를 인공지능 모델 훈련에서 빼달라는 요청을 해봤는데, 메타로부터 그 사실을 내가 입증하지 않는 한 요청을 처리할 수 없다는 답변을 받았다. 개인이 기업을 막기란 어렵다.”

―어떻게 대응해야 할까?
“국제 규제로 대응할 수밖에 없다. 얼마 전 생성형 인공지능 통제를 위한 법률 마련을 위해 일리노이주 정부에 가서 증언했다. 전세계적으로 이러한 규제 움직임이 있고, 뉴욕타임스처럼 생성형 인공지능 기업을 향한 소송도 이어지고 있다. 변화가 올 것이라 생각한다. 하지만 법률시스템 변화는 느리다. 그렇기 때문에 나는 내 자리에서 할 수 있는 연구를 한 것이다.”

출처 : 한겨레21