PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2021/07/24 09:51:46
Name 삭제됨
Subject [일반] 철인정치의 한계
작성자가 본문을 삭제한 글입니다.

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
일간베스트
21/07/24 09:57
수정 아이콘
"그럼에도 불구하고, 어떻게 가능할지 도저히 모르겠지만, 단 하나의, 안정된 영구적인 가치 체계를 따라 통치할 철인왕들을 오랜 기간 계승할 방법을 찾았다고 가정해봅시다"

알파고가 다 해줄거라는 비슷하지만 새로운 해법이 잠시 이슈가 되었었죠. 잘 읽었습니다.
21/07/24 09:59
수정 아이콘
과연 잘 만들어진 AI 철인왕이 위의 가정들을 충족시킬 수 있을지 의심스럽긴 하지만, 가능하다고 칩시다. 그래도 여전히 근본적인 문제가 남아있습니다. [AI 철인왕이 어떤 가치를 따를지 누가 결정하는가?] [어떻게 AI 철인왕에게 절대 권력을 줄 것인가?]

그 외에도, AI 철인왕이 따를 만족스러운 가치체계를 설계하는게 불가능하다는 문제가 있습니다. 가치체계를 정교하고 엄격하게 설계해서 AI 철인왕에게 유연하게 자율적 판단을 내릴 여지를 주지 않는다면, 비합리적인 결정을 내리는 경우가 대단히 많아지리라는 것입니다. 이건 헌법을 조금이라도 공부해본 사람이라면 잘 알고있을 것입니다. 반대로 가치체계를 애매하게 설계해서 AI 철인왕에게 자율적 판단의 여지를 주게 된다면, 그 가치체계는 더 이상 일관되고 안정된 가치체계가 아닙니다. 왜냐하면 가치체계가 애매할 경우, 동일한 가치로부터 완전히 상반된 결정을 이끌어 낼 수 있기 때문입니다. 그래서 한국의 헌법재판소나 미국의 연방대법원에서 동일한 헌법조문을 두고 법관들마다 다른 결론을 내리는 것입니다. 따라서, 미래의 사회가 AI 철인왕에 의해 합리적으로 통제되리라는 생각 역시 공상과학의 영역으로 일축해도 괜찮습니다.
일간베스트
21/07/24 10:20
수정 아이콘
"미래의 사회가 AI 철인왕에 의해 합리적으로 통제되지 않을 것"이라는 결론에 매우 동의합니다. 다만 [AI 철인왕이 어떤 가치를 따를지 누가 결정하는가?] [어떻게 AI 철인왕에게 절대 권력을 줄 것인가?]에 대해서는 ​이미 답이 나와 있다고 봅니다. 본문의 소재인 '철인' 개념과는 좀 핀트가 많이 엇나가 있는 생각이긴 하지만, 철인왕 대신 노예, 또는 무기의 모습으로1. AI가 자본이라는 가치를 따를 것임을 자본이 결정하고 2. 이미 절대 권력에 가까운 모습으로 현현한 자본주의의 봉사하는 방식으로 AI는 이미 작동하고 있고, 앞으로도 그럴 것입니다. 극한의 효율성이 자본과 결이 매우 잘 맞죠. 가치체계 설계의 가능성여부를 따질 필요도 없습니다. 이미 존재하는 가치체계를 수호하고 가속화하면 되니까요. 오히려 공상과학이 아니라 아쉬울 따름이지요.

본문의 주제로 돌아가서, 저는 이제와서는 광야의 철인이 단막극처럼 소비되는 대중 정치의 이벤트에 불과하다고 봅니다. 생존과 공정한 경쟁, 그리고 그로부터 비롯(하였다고 믿는) 자본에 대한 논의가 모든 가치를 잡아먹은 뒤인 바에야, 선악과 옳고 그름을 나누는 손쉬운 기준이 이미 숫자로 나타나는데 굳이 사람이 필요할까 싶습니다.
21/07/24 10:55
수정 아이콘
자본에 대한 논의가 모든 가치를 잡아먹었으며, 선악과 옳고 그름을 나누는 손쉬운 기준이 이미 숫자로 나타나고 굳이 사람이 필요하지 않은 시대에, 자본주의라는 절대 권력의 압제 하에 있는 인간이, 과연 자본주의의 압제에 대항해 제6차대멸종으로 인해 다가올 미래의 환경재앙을 막을 수 있을지 의문입니다. 제가 보기엔 못할 것 같거든요.
일간베스트
21/07/24 10:58
수정 아이콘
끌끌 이제사는 압제라고 볼 것도 없는 것 같아요. 한 몸이 된 것이나 마찬가지니.. 자기 파괴가 본성이 아닌 바에야 환경재앙도 돈이 되는 한에서 해결할 것이라고 봅니다. 물론 그와중의 피해야 말을 잇지못하는 수준일수 있겠지만요.
21/07/24 10:58
수정 아이콘
환경재앙도 돈이 되는 한에서만 해결할 수 있다면, 돈이 안되는 부분에서는 해결 못하는 것 아닌지?
일간베스트
21/07/24 11:01
수정 아이콘
물론이죠. 돈이 안되는 부분은 환경 뿐 아니라 전 영역에 걸쳐 쎄고 쎘는데 지금도 해결 못하고 있는 것이 아니라, 안하고 있는것이 아닌지?
21/07/24 11:07
수정 아이콘
못하고 있는 것 맞죠. 자본은 오직 지금 당장 자신의 덩치를 불리는데만 관심있고, 인간의 안위나 미래의 환경재앙을 막는데에는 관심이 없으니까요.
일간베스트
21/07/24 11:13
수정 아이콘
네 저도 딱 고정도 , 자신의 덩치를 유지하고 존속하는 만큼의 인간의 안위와 환경재앙에 대해 작동할 것이라고 봅니다.

관심이 없죠.
21/07/24 11:24
수정 아이콘
일간베스트 님// 인간의 안위와 환경재앙에 관심이 없는데 어떻게 인간의 안위와 환경재앙에 대해 작동해요? [생존과 공정한 경쟁, 그리고 그로부터 비롯(하였다고 믿는) 자본에 대한 논의가 모든 가치를 잡아먹은 뒤인 바에야, 선악과 옳고 그름을 나누는 손쉬운 기준이 이미 숫자로 나타나는데 굳이 사람이 필요할까 싶습니다.]라고 직접 말씀하시지 않으셨습니까? 말씀하신대로라면 기술 발전을 통해 완전자동화가 이루어지면 인간은 더 이상 불필요하니 제거되는 것 아닌가요? 지금 당장 덩치를 키우기 위해 하는 행동이 미래에 환경재앙을 가져온다 쳐도 그건 미래에 벌어질 일이니 무관심하고 계속 환경을 파괴해나갈 것이고, 환경재앙이 코앞에 닥쳐서 뭔가 시도하려고 해봐야 너무 늦은 것 아닐까요?
일간베스트
21/07/24 11:31
수정 아이콘
(수정됨) FC 님// 당연히 그 자본도 인간과 불가분이기 때문입니다. 말씀대로 불필요한 인간들은 배제 내지는 축출하는 비인간적 과정을 거치겠습니다만은, 누릴 계층은 여전히 상호 필요불가분하니 설령 기술 발전으로 노동 측면에서 인간이 완전히 불필요해도 자본은 존속 하나만을 위해서라도 인간이 필요하죠. 그 수가 말도 안되기 적어서 그렇지.

그리고 무과금유저를 목초에 비유하듯 캐쉬 카우가 아니더라도 목초로서 살아가는 사람들은 남겠군요.

말씀하시는 바 대부분 동의하고 제 말 전부 맞다해도 그 소수의 인간 외에는 파국적 상황임에는 변치 않으니. 걱정하시는 바 이해합니다. 다만 딱히 문제를 해결할 다른 방법을 상상하기 어려울 따름이라 관련해서는 다른 말을 얹기 어렵군요.
21/07/24 12:00
수정 아이콘
(수정됨) 일간베스트 님// 자본의 존속을 위해 필요한 [[소수의 인간]]은 어떤 사람들을 말씀하시는건가요? 추측컨데 엘리트 상류층 사람들을 말씀하시는건가요? 완전자동화는 체제 상부의 의사결정권을 포함하는거고, 그런 상황에서는 엘리트 상류층들을 돌봐줄 필요가 없습니다. 그 사람들보다 훨씬 더 똑똑한 AI가 수두룩 빽빽하니까요.

목초로서 살아가는 사람들은 남을 것이다? 엘리트 상류층들도 제거되는 마당에 그 사람들을 왜 살려줘요? 오직 지금 당장 자신의 덩치만을 불리는데 관심있는 자본이 한정된 자원을 목초로서 살아가는 사람들에게 나눠줄 것이라고 기대하기는 힘듭니다.
일간베스트
21/07/24 12:14
수정 아이콘
FC 님// 그렇군요~ 해당 부분에서는 저와 생각이 다르시네요. 저는 자본이 끝내 인간과 분리될 수는 없다 생각합니다. 자본이나 AI나 일종의 개념의 영역에서 이해할 수 있다고 보고, 특히 자본은 그 보존을 위해서도 인간의 존재와 불가분이라고 생각하기 때문이죠.

저도 고도로 발달한 자본사회에서 똑똑한 엘리트는 필요가 없다 생각합니다. 다만 훨씬 순수하게, 그저 그 순간 많이 소유만 하고 있으면 됩니다. 그 소유의 근거가 무엇이든, 자본 생산수단을 가지고 있건 아니건 상관 없습니다. 그저 자본을 소유하고 있음을 이유로 기존 엘리트 계층과는 다른 개념의 계층이 고착화될 것입니다. 말씀대로 자본은 그 덩치를 불리는데 특화되어 있으니, 고도화될수록 그 계층도 더 굳건해지겠지요.

목초로서의 인간이 남는 것도 같은 이유죠. 그들도 그저 가졌기 때문입니다. 다만 덜 가졌을 뿐. 자본은 가장 불평등한 구조를 창출하는 대신 가장 평등한 방식으로 현현합니다. 자본 입장에서는 두 계층의 인간을 구분할 필요도 없어요. 그 존속을 위해 현현할 뿐. 나눠준다는 개념이 아닙니다. 그냥 그러한 방식으로 존재하는 겁니다. 적다 많다는 한낱 인간 입장에서의 다소의 개념이고, 부자 주머니의 돈이나 빈자 주머니의 돈이나 그 본질은 꼭 같으니까요.

때문에, 특히 자본은 인간을 배제하지 않을 것이며, 오히려 복속시키고 이용할 것입니다. 배제하는 것이 더 이상한 일이죠. 그 순간 자본의 개념도 같이 사라지는데, 자본이 그런 선택을 할 리가 없다고 봅니다. 선택의 개념도 아니죠. 일종의 Conatus 자체라 봅니다.
21/07/24 12:24
수정 아이콘
일간베스트 님// 체제 상부 의사결정권도 싸그리 기계한테 넘어간 마당에 인간이 뭘 소유해요? 그 시점에서 인간이 소유할지 말지는 전적으로 기계의 결정에 달린 겁니다. 그리고 기계는 인간이 뭘 소유하도록 허락하지 않을 것입니다. 생산력 제로에 머리도 나쁜 인간한테 뭘 소유시키는 것 자체가 불필요한 낭비고 비효율이에요. 인간이 가진거 뺏어다가 기술 발전에 투자하는게 훨씬 낫습니다.

자본은 인간을 배제하지 않고 오히려 복속시키고 이용할 것이다? 완전자동화 체제에서 인간은 자원만 축내고 아무짝에도 쓸모없는 밥버러지 같은 존재가 됩니다. 이 단계에서 인간에게는 복속하고 이용할 가치조차 없습니다. 그냥 사라져주는게 도와주는거에요.
일간베스트
21/07/24 12:28
수정 아이콘
FC 님// 네~ 그렇군요~ 잘 알겠습니다.
Respublica
21/07/24 10:23
수정 아이콘
또 한가지 문제는 '책임'의 문제죠. AI에게 책임을 물수 있느냐는 문제인데요. 데이터 쪼가리가 책임을 질 수 있는 방법이 없죠. 자율주행차가 자율주행중에 사고를 내도, 탄 사람에게 책임을 물을 수 밖에 없는 것처럼, '철인'이 사람이어야 책임을 질 수 있습니다.
일간베스트
21/07/24 10:29
수정 아이콘
(수정됨) 일견 동의를 하면서도, 굳이 책임을 질 필요가 있나 싶습니다. 예를 들어 헌대사회 태반의 문제는 결국 재화의 문제인데 돈 때문에 사람 죽고 죽여도 돈 탓 안하지 않겠습니까? 드러나는 방식만 조율된다면 얼마든지 운용될 수 있을 것이라고 봅니다. 저는 이미 운용되고 있다고 보고.. 다만 얼굴마담 또는 핑계의 대상으로 사람의 역할이 사라지지는 않을 것 같다는 생각은 합니다.

자동차 사고의 예를 들어, 그때 그순간 원동기 작동의 실수를 운전자 탓하는 것은 쉽지만, 그 시점에 그 곳에 운전할 수 밖에 없었던 상황 또는 고된 노동강도와 스트레스로 인한 상태 등의 사항, 더 넓게 봐서 운전과 관련된 법들까지 모두 고려하는 것을 상정해보면, 모든 사고의 원인을 개인에 한정 짓는 것은 지금도 어려운 일이겠지요.

인간의 존엄과 관련된 결정적인 결단의 순간에 사람의 존재 가치는 당연하겠습니다만, 그런 결단의 순간이 몇이나 되겠으며, 그러한 결단이 요구되는 상황까지 가지 않는(것처럼 보이는) 수많은 문제들이 효율성이라는 명목 하에 조율될 것이라고 봅니다.
Respublica
21/07/24 11:52
수정 아이콘
효율에 대한 재화의 압박이, 비효율을 외치는 사람들을 누르는 것은 사실이지만, 그것이 영구하다고는 생각하지 않습니다. 때로는 혁명의 형태로 저항이 나타날 거라고 봅니다. 반동은 예상치 않은 때에 사회를 흔듭니다.
일간베스트
21/07/24 11:56
수정 아이콘
진심으로 그러하기를 바랍니다. 나이 먹으니 그런 감각이 자꾸 둔해지네요.
Respublica
21/07/24 11:58
수정 아이콘
아무래도 저도 시니컬한 편이라 선생님 의견에 상당히 동의하고, 사실 저것도 희망이라고 봐야겠지요.
그렇지만 압력을 가하면 언젠가 터지는 것은 상수이긴 해서, 상당한 근거를 가지고 있다고 해야 할까나요.
유목민
21/07/24 12:11
수정 아이콘
소위말하는 철인이 개인일 수도 있고, 집단일 수도 있습니다.
집단인 경우 혈연적 지역적 인종적 폐쇄성을 띌 수도 있고, 또한 매우 개방적일 수도 있습니다.

현대 사회에 더 이상 논의의 대상이 될 수도 없고 필요도 없는 것이.
지배계급(왕 왕족 귀족 등) 피지배계급 사이의 구분이 확실하고 대부분의 사회 구성원이 이런 사회 구조에 동의 또는 큰 반발 없이 받아들여야 한다는
대 전제가 필요로 합니다.
인도의 카스트와 같은 강고하고 폐쇄적인 신분제 사회의 후진성으로 이미 많은 부분에서 더이상의 논의가 필요치 않다는 것에 대부분 동의가 가능하리라 봅니다.

독재 내지는 군부세력이 집권하는 철권통치에 정당성을 부여하는 용도 이외에 쓸모를 찾을 일이 있을까요.
인종주의와 함께 저세상으로 꺼져줬으면 합니다.
21/07/24 12:28
수정 아이콘
본문에서 이미 적었듯이, 지금 기준으로는 철인정치라는게 황당하고 불필요한 논의인 것처럼 들리겠지만, 심각한 위기 상황에서는 다시 철인정치에 대한 논의가 슬며시 머리를 들거에요. 본문에서 이미 적었듯이, 영국, 미국 같은 민주주의 국가에서도 대공황 당시 민주주의에 대한 회의와 히틀러, 무솔리니 숭배가 만연했습니다.
일간베스트
21/07/24 12:35
수정 아이콘
공감합니다. 과거로 갈 것도 없이 트럼프나 두테르테 같은 경우만 봐도 흘러간 역사가 아니죠.

철인을 어떻게 정의 내리느냐에 따라 다르지만, 카리스마 있는 인물에 의한 독재 또는 배제의 정치에 대한 갈망은 식지 않습니다.

우리나라도 마찬가지겠지요.
유목민
21/07/24 12:42
수정 아이콘
역사에서 배우지 못하고 또다시 그런 파시스트의 전철을 밟는 나라나 집단을 우리가 막을 방법은 없으나
최소한 우리 내부에서 그런 논의나 인식은 나오는 순간 대가리를 깨버려야 한다는거죠.

대표적으로 "조선 사람은 맞아야 일을 제대로 한다" 이런 이야기가 아직도 군대나 조선시대 신분제에서 못벗어나는 사람들의 입에서 나온다는거죠.
21/07/24 12:44
수정 아이콘
바로 그런 논의나 인식이 나오기도 전에 대가리를 깨버리기 위해 이 글을 쓴건데요.
카바라스
21/07/24 15:10
수정 아이콘
사실 민주주의 사회도 일종의 철인을 수반으로 뽑는거죠. 절대권력은 절대부패한다는 진리(?)때문에 삼권분립,연임제한등으로 다양하게 견제를 넣는거지
마텐자이트
21/07/24 15:14
수정 아이콘
AI 정치로 궁극적으로 향해야겠죠. 못할게 없어요. 대다수의 여론이 선호하는 성향의 AI가 정치를 맡으면 되는거라서
21/07/24 16:18
수정 아이콘
[대규모 사회들은 수많은 목표들과 가치들을 갖고 있기 때문에, 어떤 철인왕의 통치 방향이 사회 구성원 대다수의 목표와 가치, 심지어 엘리트 계층(지식인, 과학자, 상류층)의 목표와 가치와 일치할 가능성은 대단히 희박합니다. 누군가가 실제로 철인왕이 된다면, 그는 사람들의 기분을 상하게 할까봐 전전긍긍하는 싱거운 양반이 되거나, 권력을 추구하는 전투적인 파벌을 이끄는 무자비한 지도자가 될 것입니다. 후자의 경우, 그는 히틀러처럼 오직 자신의 권력만을 추구하는 무책임한 사람이거나, 레닌 처럼 자신의 대의를 추종하는 광신자일 것입니다.

따라서, 철인정치를 지지하는 사람이 있다면, 그는 그 자신은 철인왕을 고를 수 없다는 것을 명심해야 합니다. 그리고 실제로 철인왕이 나타난다면, 그가 상상하거나 기대했던 철인왕이 아닐 것입니다.]
퀀텀리프
21/07/25 20:39
수정 아이콘
정치의 혼란과 좌우의 극한 대결을 보면 정치 혐오가 오죠.
21/07/26 06:21
수정 아이콘
의회정치라고 해도 딱히 지금 이 글에서 철인정치에 대해 가하는 비판을 빗겨나갈 수는 없다고 보이는데요
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
공지 [정치] [공지] 정치카테고리 운영 규칙을 변경합니다. [허들 적용 완료] [122] 오호 20/12/30 108622 0
공지 [일반] 자유게시판 글 작성시의 표현 사용에 대해 다시 공지드립니다. [14] empty 19/02/25 222678 6
공지 [일반] [필독] 성인 정보를 포함하는 글에 대한 공지입니다 [50] OrBef 16/05/03 354208 27
공지 [일반] 통합 규정(2019.11.8. 개정) [2] jjohny=쿠마 19/11/08 194505 3
93536 [일반] 혹시 경기도에 거주중인 만19세~34세분들 계신가요?? [11] 대장햄토리943 21/09/28 943 1
93535 [일반] 나라가 있어야 문화가 있다 [57] 코와소1600 21/09/28 1600 2
93534 [정치] 국회 세종의사당이 확정되었습니다. [21] Leeka1628 21/09/28 1628 0
93533 [일반] 이제 인간이 설 곳은 점점 줄어드는 것 같네요... [15] 슷하vs슷하1634 21/09/28 1634 0
93532 [일반] 남자의 소득과 결혼의 상관관계? [37] Leeka2200 21/09/28 2200 4
93531 [일반] PGR21의 자유게시판은 조금은 무거운 느낌입니다 [121] 블랙리스트3322 21/09/28 3322 4
93530 [정치] 갈수록 태산인 곽상도 아들 해명 [103] 이른취침5386 21/09/28 5386 0
93529 [일반] E-SPORTS 게임 플레이 환경은 더 개선되었으면 좋겠습니다. [12] 즈카르야1960 21/09/28 1960 5
93528 [일반] 태어나서 처음으로 정기후원을 시작했습니다. [20] ArcanumToss2781 21/09/28 2781 15
93525 [일반] 탄소중립은 어려운 거지 불가능한 것이 아닐 수도 있습니다 [202] 트와이스정연7961 21/09/27 7961 19
93524 [일반] 남여 젠더갈등, 그 이후는? K 마케이누의 시대가 오는가 [228] 나주꿀11642 21/09/27 11642 37
93523 [일반] 신세계 그룹의 분리경영의 신호탄이 올라갔습니다. [21] Leeka6678 21/09/27 6678 4
93522 [일반] 코로나 확진 됐습니다 [41] 핸드레이크8209 21/09/27 8209 16
93521 [정치] 세금 낼 바엔 물려준다...부동산 증여 더 늘고 시기 빨라졌다 [40] Leeka6833 21/09/27 6833 0
93519 [정치] 문 대통령 “이제는 개 식용 금지 신중히 검토할 때” [214] 깃털달린뱀11199 21/09/27 11199 0
93518 [정치] 오징어게임 인기에 편승하는 대만 정치인들 [14] 나디아 연대기5716 21/09/27 5716 0
93517 [정치] 대출 규제와 가격 펌핑 [42] LunaseA4932 21/09/27 4932 0
93516 [일반] 친환경의 역설 - 급등하는 화석연료 가격 [113] 맥스훼인5395 21/09/27 5395 8
93515 [일반] (강스포)오징어게임을 보고나서 끄적이는 생각들 [7] Rays2304 21/09/27 2304 3
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로