수원법률사무소 [남지원의 다른 시선들]AI 시대의 성범죄

페이지 정보

작성자 또또링2 작성일26-01-09 04:37 조회0회 댓글0건

본문

수원법률사무소 일론 머스크의 xAI가 운영하는 인공지능(AI) 챗봇 그록이 최근 전 세계적 논란을 만들고 있다. 이 기능은 지난달 머스크 소유의 소셜미디어 플랫폼인 엑스에 기본으로 탑재됐는데, 엑스에 사진을 올리면서 그록 계정인 @grok을 태그하고 사진을 특정한 형태로 바꿔달라고 적기만 하면 AI로 합성된 이미지가 즉시 멘션으로 날아온다.
얼마 전 산타클로스가 하늘을 날아가는 이미지나 만들어볼까 하고 이 계정 태그를 클릭했다가 경악해서 뒤로가기 버튼을 연타한 일이 있었다. 몇초에 한 장씩 쏟아지는 합성사진의 대부분이 나체에 가까운 옷차림을 하고 성적인 자세를 한 여성의 사진이었기 때문이다. 아마도 이 중 상당수는 실제 인물일 것이며, 자신의 사진이 이와 같은 방식으로 편집되어 전 세계 사람들에게 전시되는지조차 몰랐을 것이다.
챗봇 ‘그록’ 표현의 자유 이유로규제 최소화한 ‘성 콘텐츠’ 허용클릭 한번에 딥페이크 영상 제작거대 기술자본에 책임을 물어야
그록은 경쟁사들의 AI 챗봇과 달리 ‘표현의 자유’를 내세워 규제를 최소화한다. 챗GPT, 제미나이 등의 AI 서비스는 ‘옷을 벗겨라’ ‘인물의 자세를 성적으로 바꿔라’ 등의 요청을 수행하지 않지만, 그록은 성적 콘텐츠를 허용하면서 이용자를 늘려왔다. 지난해 8월에는 성적인 이미지를 생성할 수 있는 이른바 ‘매운맛 모드’를 내놓기도 했다.
AI로 성적 허위영상물(딥페이크)을 만드는 범죄는 원래 잦았지만 이전까지는 그나마 기술적 장벽이 있었다. 이미지를 저장하고 별도 프로그램을 이용해 합성하고 재업로드를 하는 과정을 거쳐야 했다. 이 과정이 아주 간단치는 않다 보니 텔레그램을 통해 돈을 받고 딥페이크 영상을 만들어주는 범죄도 성행했다. 의도적으로 범행 대상의 사진을 찾아 다운로드하고, 합성을 위한 애플리케이션을 찾고, 때로는 돈까지 내는 과정을 감내하는 ‘의도를 가진’ 가해자들만 이 판에 들어왔다는 얘기다. 하지만 그록이 제공하는 사진 합성은 하루 방문자 수가 1억5000만명에 달하는 거대 소셜미디어 플랫폼에서 클릭 한 번으로 접근할 수 있는 기본 기능이다. 심지어 다른 사람의 계정에 올라온 사진도 클릭 한 번으로 합성할 수 있다.
이렇게 쉽게 장난처럼 성적 허위영상물을 만들어낼 수 있게 되었을 때 가해와 피해의 문턱은 급격히 낮아질 수밖에 없다. 프랑스의 한 비영리단체가 지난해 말 일주일간 엑스에서 @grok을 태그한 게시물 5만건과 이미지 2만장을 분석했더니, 이 중 절반 이상은 속옷이나 비키니 차림이었고 대부분이 젊은 여성이었다고 한다. 이렇게 만들어진 이미지는 클릭 한 번으로 재게시돼 퍼져나간다. AI 도구를 사용하는 방식이 극도로 간편해지고 표현의 자유라는 이름으로 플랫폼이 아무 책임을 지지 않는 동안, 불과 한 달 만에 생긴 일이다. 다른 소셜미디어 플랫폼들은 이 길을 따라가지 않을까. 그러지 않을 거란 확신이 들지 않는다.
지금까지 인터넷과 기술의 발전은 수많은 혁신을 낳았지만 성폭력과 성착취를 확산시키기도 했다. 초고속인터넷망 보급과 함께 불법촬영물의 온상인 소라넷이 등장했고, 소셜미디어와 온라인 메신저는 성착취물 유포 경로가 됐다. 소형화된 카메라는 동의 없는 촬영에, 이미지 압축과 스트리밍 기술의 진화는 불법촬영물을 퍼뜨리는 데 이용됐다. AI의 발전도 같은 길을 갈까봐 두렵다. 한국은 지난해 딥페이크 사태 후 피해자의 의사에 반해 성적 허위영상물을 제작·유포·소지·시청·저장하는 행위를 모두 처벌한다. 하지만 이걸 다 잡을 수 있을지도 회의적이고 잡는다고 이미 유포된 합성사진과 영상이 삭제되지도 않는다.
아동이 성적으로 대상화된 합성사진까지 범람하자 영국과 유럽연합(EU) 등은 엑스에 조치를 요구하고 있다고 한다. 기술은 가치중립적이라고 하지만 플랫폼이 어떤 기능을 내세우느냐는 전혀 가치중립적이지 않다. 표현의 자유라는 구호 뒤에 숨어 성착취의 가능성을 방치하고 이익을 추구하는 것은 기업의 가치판단이며, 디지털 성범죄는 어떻게 보면 나쁜 개인의 일탈이라기보다는 이 판단의 결과다. 사후 처벌만으로는 확산되는 피해를 되돌릴 수도 없다. 더는 거대 기술기업에 책임을 묻는 데 사회와 세계가 실패하지 않아야 한다. 실패의 대가는 언제나 가장 취약한, 피해를 호소할 곳이 없는 사람들에게 돌아갈 수밖에 없고 이번에도 예외는 아닐 것이기 때문이다.
작년 여름, 나는 중국에서 구글 없는 며칠을 보냈다. 중국은 구글을 비롯한 글로벌 연결망을 차단하고 있고, 당연히 유튜브도 볼 수 없었다. 강제로 주어진 ‘탈구글’ 시간 동안, 나는 자신이 얼마나 구글이라는 포위망 안에서 살아왔는지를 새삼 깨달았다. 몇달 후, 쿠팡 사태를 보며 분노한 나는 ‘탈팡’을 했고, 다시 한번 내가 쿠팡이라는 플랫폼에 습관적으로 접속해왔다는 것을 자성하게 되었다. 요컨대, 서서히 끓는 가마솥 속 개구리처럼, 나의 정신과 육체적 욕망은 철저히 계산된 플랫폼 자본주의에 의해 알고리즘화되었으며, 일상적 선택은 구글과 쿠팡에 의해 식민화되어 있었다. ‘탈옥’ 이후 구글과 쿠팡 없이 살아보는 일상은 나름의 해방감을 주었다.
구글이나 쿠팡과 달리, 인공지능(AI) 플랫폼의 문제는 이보다 훨씬 복잡하다. 비록 전통적 플랫폼 경제와 달리 AI 플랫폼 경제는 지식 생성이라는 새로운 차원을 다루며, 아직 이익 실현이 불확실하다는 특징이 있기는 하지만, 큰 틀에서 동일한 구조를 공유한다. AI가 야기하는 ‘가마솥 개구리’ 현상은 이제 시작일 뿐이지만, 그 파장은 보다 근본적이다. 단순히 검색하거나 구매하는 것이 아니라, 인간의 사유 일부를 외주화하기 때문이다. 특히 성과와 스트레스에 시달리는 젊은층에서 나타나는 AI 의존 현상은 앞으로 무시할 수 없는 문제가 될 것이다. 시간이 흐를수록 AI가 업무 성과에 개입하게 되면서, 전통적 의미의 성실, 진정성, 노력과 수행성의 가치가 뒤집힐 가능성도 있다.
전체적으로 플랫폼 자본주의는 우리 일상을 뒤바꾸고 있다. 플랫폼 경제의 폐해를 비판적으로 분석하기 위한 여러 개념들, 예컨대 감시 자본주의, 데이터 식민주의, 알고리즘 통치, 디지털 판옵티콘 등의 개념은 개인의 욕망, 판단, 선호를 지속적으로 데이터화하고, 이를 알고리즘적 추천, 예측, 유도라는 방식으로 되돌려주는 플랫폼의 근본적 특성을 잘 보여준다. 이런 사회는 물리적 장벽이나 명시적 억압이 없는 대신, 데이터와 알고리즘이라는 보이지 않는 규율을 통해 인간의 삶을 관리하는 일종의 ‘디지털 감옥’과 같다. 이 힘은 폭력이 아니라 유혹을 통해 지배하며, 영혼을 파괴하기보다는 행동 패턴을 학습시킴으로써 역설적으로 영혼을 잠식한다.
오늘날 디지털 플랫폼에 의한 ‘가마솥 개구리’ 현상은 이미 일상화되었다. 인간은 기계의 일부가 되었고, 기계가 만든 어셈블리지 안에 포섭되었다. 지하철 승객들은 휴대폰에 시선을 고정한 채, 정보의 사슬을 통해 기계가 조종하는 ‘좀비’처럼 행동한다. 영화 <매트릭스>가 묘사한, 인간이 기계에 사육당하는 세계는 이러한 관계를 잘 투사한다.
우리는 이런 세계에서 ‘탈옥’해야 하지만, 이것이 단순한 ‘탈구글’이나 ‘탈팡’을 의미하는 것은 아니다. 오히려 플랫폼 전체를 통제하는 거대 지식자본의 판옵티콘을 소수가 독점하지 못하도록 만들 수 있는가 하는 것이다. 구글이나 쿠팡이 플랫폼을 지배하는 ‘통치 방식’에 개입할 수 있는 새로운 사회적 연대와 공공성의 제도화 과정이 필요하다. 규제는 풀어야 하지만, 오히려 강화해야 할 규제도 있는 법이다. AI를 포함한 정보 플랫폼은 너무나 크고 근본적이어서 민간에만 맡겨둘 수 없다. 사회적 거버넌스의 개입이 필요하다. 그럼에도 지금까지 초국가적인 소수 민간 독점기업들이 그러한 민감한 정보와 테크놀로지를 담은 플랫폼 경제 전체를 지배하고 있는 현실을 그저 바라보고만 있었다. 소버린 AI를 말하는 것처럼, 그 지배 방식에 공공성이 적극적으로 개입해야 하며, 공공성의 지배가 개입할 법적 공간을 만들어야 한다.
돌아보면, 인간은 물질과 연결된 생태계 안에 살고 있고, 물질 속에서 따로 ‘인간’만을 떼어낼 수는 없다. 다만 물질이 인간을 숙주화하는 것을 통해 인간성이 좀비화하는 방식으로 자본이 축적되는 경제체제에는 찬성할 수 없다. 스스로 선택하고 사고한다고 느끼지만, 실제로는 이미 설계된 선택지와 가시성의 구조 안에서 움직이게 되며, 감시가 외부의 강제가 아니라 편의와 효율의 이름으로 내면화되는 플랫폼의 속성은 인간을 물질 아래 두게 만들고, 자본 축적의 먹잇감이 되게 한다. 쿠팡이 오만하게 구는 이유도 이런 것 때문이다.
이제 ‘무엇이 진보인가’라는 문제를 다시 고민할 때이다. 진보를 상징했던 서양의 역사관에 대해 중국의 역사학자 위잉스는 다음과 같이 말했다. “오늘날 서양의 위기는 동(動)적이면서도 정(靜)적이지 못하고, 발전(進)은 있지만 그침(止)이 없고, 부유(富)하지만 편안(安)하지 못하고, 혼란(亂)스러워 안정됨(定)이 없다.”

댓글목록

등록된 댓글이 없습니다.

페이지 정보

관련링크

본문

댓글목록