AI, AI, AI
우리는 드디어 AI시대의 개막을 눈앞에 두고 있습니다.

만화 '공각기동대'의 배경이 고작 2029년인데, 세상은 과거의 창작물에서 예상한 것보다 발전이 더뎠습니다.
스마트폰이 출시된 이후, 꽤나 오랜 기간동안 기술에 의한 생활 환경의 변화는 드라마틱한 퀀텀점프를 만들어내진 못한 것 같습니다.
(아이폰 국내 출시년인 2009년과 2024년의 기술 격차는 어마어마하겠지만, 삶의 모습이 엄청나게 달라지진 않은 것 같아요)

하지만, 우리는 2022년 11월 ChatGPT의 출시 이후 새로운 시대를 맞이하고 있는 것 같습니다.
그간 다양한 '연구레벨'의 인공지능은 개발되어 오고 있었으나 일반적인 소비자가 사용할 수 있는 서비스로 만들어낸 GPT는
AI 기술이 어떤식으로 소비자에게 이용될 수 있는지에 대한 이정표를 제시한 격이라고 생각합니다.

또한 함께 이슈가 됐던 미드저니, Novel AI, Stable Diffusion은 많은 논란과 함께 엄청난 수준으로 발전하고 있습니다.
어색한 딥페이크를 넘어 표정을 재현하고 완전히 없던 영상을 만들어내는 기술도 꽤나 빠르게 빠르게 발전하고 있습니다.


[Stable diffusion으로 만든 현실적인 이미지]


[짧은 애니메이션 영상을 만들어주는 Pika labs]


비문학 지문에서 많이 만나보셨을 장 보드리야의 저서에서 나오는 '시뮬라크르' 현실과 구분할 수 없는 복제의 세계를 만들어내는
개념이지만 요즘은 시뮬라크르들이 현실의 세계를 침범하는 혼돈의 세계를 마주하고 있습니다.

이런 고민이 더 커진것은 한 만화책 때문이었습니다.



두개 아래 게시글에도 마침 이 책에 대한 추천이 있었는데, 특히 최근 발매된 7권의 내용이 참 좋습니다.
간단히 설명드리면 "특정 민족에 대한 불건전한 사상의 책이 유통되는 상황에서 그 책을 금서로 지정해야 할 것인지에 대한 논쟁"이 있고,
이 논쟁은 표현과 창작의 제한에 대한 담론을 넘어 무엇이 사실이고, 사실을 속이고자 하는 책을 막을 수 있는지에 대한
심도있는 고민을 하게 합니다.

이 때 많은 학생들이 '공부를 통해' 사실을 구분하는 능력을 길러야 한다고 합니다.
하지만 우리가 어떤 글을 읽을 때, 아니 분명한 목적을 가지고 노력해서 속이고자 하는 글을 만들었을 때
우리는 그것을 분간해 낼 수 있을까요?

흔히 먹물 좀 먹은 사람들은 "인용된 논문", "다른 지식인의 증언", "학회의 인정" 등의 사실을 바탕으로 진실성에 대한 판별을 합니다.
이런 노력들을 이 만화에서는 [권위에 의존한다] 라고 합니다.
심지어 잘못된 지식임을 판단하게 되더라도 그 판단의 근거 역시 그 동안 자신이 배운 또 다른 종류의 [권위에 의존]한 판단인 것이죠
이 상황에서 주인공의 대답은 [주어진 지식과 모르는 세계에 대한 겸허]를 주장합니다.


[아인슈타인의 상대성 이론 앞에서 많은 과학자들은 겸허하지 못했죠]

정론적인 대답입니다. 모든 가능성을 열어두고 신중하게 접근하면 우리는 위험에 대해 충분히 대응할 수 있겠죠.
하지만 작가는 여기서 작은 첨언을 하나 합니다.

"지나치게 낙관적이야. 위서(*조작된 책)를 너무 만만하게 봐."
혼란한 세상이 펼쳐졌을 때 과연 진실을 구분할 수 있는 목소리가 사람들에게 닿을 것인가.
그리고 규제없이 해방된 의사표현의 세상이 과연 서로에게 불쾌한 목소리까지 수긍할만한 도량을 갖출 수 있을까 하는 이야기 입니다.





자, 다시 AI로 넘어 오겠습니다.
AI 기술의 위험성에 대해서는 이미 많은 지식인들도, 그것을 개발하고 있는 개발자들도 경고하고 있습니다.
한 차례 폭풍과 같았던 OpenAI 의 샘 알트만 해임 건도 명목상으로는 "AI기술의 안전성을 확보하고 개발 속도를 조절하자" 였죠.
이미 Stable diffusion 해외 커뮤니티에서는 특정 유명인(한국 포함)의 LORA 모델(이미지학습모델)을 너무 쉽게 구할 수 있습니다.
심지어 지인 사진을 쉽게 조작할 수도 있습니다 (옷을 제거하는 전문 AI도 판을 치고 있습니다)

다분히 악용의 소지가 큰데 우리는 이 기술을 제한할 수 있을까요?
아닙니다. 이미 쏟아진 물을 주워 담을 수 없듯, 풀려있는 기술을 회수할 수 있는 방법도 없습니다.
(물론 그 서비스를 지나치게 쉽게 이용하는 방법들을 제한할 수는 있겠죠- ex. 검색 제한, 차단 등)

이제 OpenAI에서는 DALL.E 로 제작한 이미지에 자동으로 메타데이터를 삽입하겠다고 했으며
(https://help.openai.com/en/articles/8912793-c2pa-in-dall-e-3)
메타(페이스북, 인스타그램 등)에서는 AI로 생성된 이미지에 대해 직접 표기하는 기술을 마련했습니다.
(https://www.aitimes.kr/news/articleView.html?idxno=30281)
하지만 이런 기술들도 결국 헛점이 있을 것이고 그 헛점을 악용하는 사람들은 언제고 있을 것입니다.

그때 우리는 의연하게 이 사진, 영상, 목소리, 더 나아가 내가 경험한 것에 대한 진실성을 판단할 수 있게 될까요?
우리는 어떤 [권위에 의존]하여 시뮬라크르의 공습을 이겨낼 수 있을까요?
혹은, 그것이 더 이상 중요하지 않은 시대가 올까요?

저도 정답은 모르겠습니다.
그나마 유추를 해본다면, 기성 언론이 신뢰성을 위한 충분한 쇄신을 다한다면 그나마 다시 부흥할 수 있는 기회가 있을 것이라는 점
그리고 뉴미디어는 점점 더 개인화되어 사람들이 각자 믿고 싶은 것만 믿고 사는 세상이 올지도 모르겠다는 점이 저의 생각입니다.

여러분들의 생각은 어떠신가요?
우리는 앞으로의 삶에서 사실을 올바로 인지하고 이를 사실이라 믿을 수 있을까요?


[현실과 가상의 벽은 이미 무너지고 있습니다]