|
:: 게시판
:: 이전 게시판
|
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
통합규정 1.3 이용안내 인용"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
19/04/15 15:44
(수정됨) 이영도 작가 단편소설인 [구세주가된 로봇에 대하여]가 생각나네요.
http://daesan.or.kr/webzine_read.html?uid=1232& 짦은 단편이라 3분정도면 읽을수 있는데 유머 단편이라고 생각 합니다.
19/04/15 15:50
파스칼의 팡세라는 책도 비슷한 결론을 다루고 있었다고 합니다.
강인공지능 따위는 아니고, 일개 프랑스 인간 파스칼이었지만요. 모든 것의 원인으로 거슬러 올라가면, 제1원인. 그곳에 신이 계시나니.
19/04/15 15:56
전 개인적으로 유신론자는 아닙니다. 하지만 인류의 신에 대한 신앙심이 그냥 요즘 생각처럼 비이성에서 나왔다는 생각을 하진 않고 있어요.
19/04/15 15:52
종교의 역할은 어떤 논리적인 사고에서 부족한 부분을 채워주는 것이라기 보다는 삶을 윤택하게 만드는 문화적인 것에 있다는 생각이어서
AI가 종교를 가질 것이라고는 생각지 않습니다.
19/04/15 15:56
종교의 역할이 그정도로 한정되기 시작한건 인류 역사의 극히 일부분에 지나지 않으니까요. 대부분의 시대에 있어, 종교는 인류에 있어 "삶의 섭리" 그 자체였습니다.
물론 제가 AI가 종교를 가질거야! 하고 쓴 글은 아닙니다.
19/04/15 16:00
네. 그런데 저는 여전히
"태초에 0에서 1이 나타났다, 이 1은 왜 나타났을까? 불가해하다" 라는 생각과 1을 님으로 부르며 "1님 이번에도 나타나 주세요. 나타나셔야 해요." 라는 생각과는 제법 차이가 있다고 보아서요.
19/04/15 16:01
흐흐 재밌고 좋은 글입니다.
신 안믿고 자기 자신만 믿는다는 사람도 자기가 인지하지 못하는 수많은 믿음 속에서 살지요. 어차피 모든걸 다 알고 근거 있는 결정을 하는건 불가능하니까요
19/04/15 17:04
크크크 마크 1을 버리고 마크 2로 넘어가신 데에서 그런 고뇌가 엿보였습니다.
잘 모르겠으면 죽어라 고민만 하기보다는 일단 그냥 그렇게 알고 넘어가줬으면 할때가 많지요
19/04/15 17:08
어떠한 단순 수단이라기엔 종교는 너무 많은 곳에서 동시다발적으로 등장해 왔으니까요.
종교라는게 원래 있었고, 그 유용성을 파악한 몇몇 지도자들이 효과적인 수단으로 사용했다고 생각합니다.
19/04/15 16:20
지금보다도 발전한 AI라면... 지금보다도 높은 차원에서 loss function을 굴릴 것이기 때문에 종교라는 local optima를 빠르게 벗어나지 않을까 싶습니다. 종교는 어찌 보면 고대인들이 관찰한 세상을 가장 잘 설명할 수 있었던 안장점이 아닐까 라고 생각하거든요 흐흐
19/04/15 17:21
"지성이 높다"는 것과 "지극히 냉정하고 논리적이다"가 보통 혼동되어서 인공지능은 당연히 "지극히 냉정하고 논리적"일 것이라는 편견이 있습니다만 이건 아직까지 밝혀진 바가 없습니다. 특히나 강인공지능의 경우 "사전 프로그래밍"과 상관이 없어서 우리가 흔히 생각하는 차갑고 논리적이고 냉정한 기계의 모습을 갖추지 않을 가능성도 충분히 있습니다.
이성과 감성을 분리해서 놓는 이분법적 사고방식이 꼭 맞을까요? 그건 아직 모르는 일이죠.
19/04/15 16:58
제가 이미지하는 인공지능이라면 null이 많다고 종교에 빠지는게 아니라 관측 수단의 미비함을 깨닫고 모든 null을 정복하는 라플라스의 악마가 될때까지 센서를 무한히 추가하다 쓸데없이 변수를 늘리는 인간을 처단하려 하고 이하생략...
19/04/15 17:06
강인공지능이 억겁의 시간동안 억겁의 연산을 한들 인간 삶의 양태를 온전히 학습할 수 있을지는 의문입니다. 걔 입장에선 오류와 버그투성일테니..
미지의 난변수를 담아두는 신으로서 섬기기보다는 차단해야할 버그로 여길 공산이 커보입니다. 결국 귀납적 학습의 한계를 느끼고 물리적 디버깅에 돌입..하는건 꽤나 식상한 SF의 클리셰군요..
19/04/15 17:34
굳이 중2병이 아니라도 대부분의 인류목숨이 위험할 수는 있지요.
인공지능의 대전제가 인류의 보호와 발전이라 치면.. 예를 들어 로봇3원칙에서 '로봇은 인간을 보호한다'는걸 로봇 소유주 개인이 아니라 종으로서의 인류로 해석하면, 종의 연속성을 위해 과감하게 개체수를 조절한다던가..(이거 완전 타노스) 그때 열성인자 위주로 솎아낸다던가..(그럼 저는 확실히 위험합니다)
19/04/15 17:25
인간의 행동이 오류와 버그투성이 라는건 원래 이래야한다는 도그마를 세운 후의 이야기고(인공지능을 종교적 신념을 지닌 인간처럼 이해하는.. 상당히 인간적인 관점), 막상 계속 학습하는 강인공지능이면 그냥 얘들은 이렇구나라고 받아들일 뿐이죠.
19/04/15 17:45
무언가를 이해한다는 건 자신이 세운 가설의 설명력으로 어떤 사실, 현상따위를 규정할 수 있다는거죠. 자신의 가설에서 벗어난 사실, 현상따위가 발생하면 인간은 해당 현상을 부정하거나 무시하곤 하지만, 이성적일수록 그냥 원래의 가설을 폐기할 뿐입니다. 강인공지능이 인간의 약점을 비슷하게 지닌 형태로 만들어졌다면 "이해가 안되니까 부정하겠어" 따위의 태도를 보일 수 있겠습니다만, 개인적으론 그럴것 같지 않습니다.
19/04/15 18:06
인공지능은 (당연하게도) 인간의 피조물이고 인간의 이익을 위해 존재하고 연산하는걸 전제합니다. 생각하므로 존재하는 인간과는 다르게 접근해야지요. 가설이 오류와 한계에 봉착하면 쿨하게 폐기하고 끝나는게 아니라 새로운 솔루션을 찾아 계속 연산해야 하지요. 얘넨 이런애들이니까 그냥 그런가보다 하고 끝낼 수 있는게 아니라는 거지요.
19/04/15 18:22
인간에 의해 개발될 인공지능은 아마도 인간의 이익을 위해 존재하고 연산하겠죠. 이건 가설 같은게 아니라 존재 목적인거고.. 그 목적을 수행하기 위해 학습을 하는데, 학습 과정에서 세운 가설에 벗어나는 정신나간 인간의 행태를 확인 하면, 기존 가설은 쿨학 폐기하고 인간을 이해할 수 있는 새로운 가설을 계속 새로 세워서 현상을 이해하고 그걸 통해 존재 목적을 달성하려 하는거죠. 가설에 현상을 맞추는게 아니라, 현상에 맞춰서 가설을 세우는 거고, 그걸 "얘넨 이런 애들이니까 그냥 그런가보다"로 표현한 겁니다. 인간이 노답임을 깨닫고 아무것도 안한다는 의미가 아닙니다.
19/04/15 17:13
강인공지능이 인간처럼 범주화를 통해 사고한다면 종교적 사고, 이른바 음모론을 염두할 가능성이 있겠죠. 물론 강인공지능에게 쏟아질 데이터량을 통한 반례를 확인하고 순식간에 모델이 폐기될 가능성이 더 높을테고요. 가설의 영역에 두는 이상, 종교를 가졌다기보단 hoxy 정도인거죠.
19/04/15 17:28
인간이 종교를 버리는데 긴 시간이 걸리는 이유는 종교가 애드혹 논리로 버티는 동안 개체가 계속 리셋(사람들이 죽고 새로태어남)되기 때문인데 때문인데, 강인공지능은 순식간에 가설이 맞을 확률을 매우 낮추겠죠.
19/04/15 17:34
그런 애드혹 논리의 가중치가 늘어나는 것도 사람들보다 훨씬 빠를 수 있어서, 그런 지역최적에 강인공지능이 한동안 빠지게 될수도 있지 않을까? 하는 생각이 들기도 합니다.
인류 역시 역사의 대부분을 그 애드혹을 유려하고 논리적으로 만드는 데에 많은 노력을 해 왔으니까요.
19/04/15 17:46
애드혹 논리의 특성이 논리적으로 말은 되는데 확률은 갈수록 낮아진다니까요. 확률 가중을 안 쓰는 강인공지능은 상상하기 어려우니 아마 집어 치우지 않을까 싶습니다.
19/04/15 17:38
보편적으로 종교의 생성엔 죽음(혹은 죽음에 대한 두려움)이 가장 큰 영향을 미쳤다고 봅니다.
미드 배틀스타 갤럭티카를 보면 인공지능 '사일론'들도 종교를 갖고 있더군요. 인간과 흡사한 지배종족 신형(?)이 아니라 금속제의 구형 사일론들이 좀 더 독실해보입니다. 어째 인간 사회와 흡사해요~!
19/04/15 20:11
종교의 발생은 미지의 영역에 대한 경외와 두려움이 맞을 테지만,
종교의 발전은 문화/사회체계의 흐름 및 발전과 매우 깊게 연관되어 있다고 생각합니다.
19/04/15 21:07
저는 종교가 인류의 정신 깊숙한 곳에 본능적으로 자리를 잡고 있다고 생각합니다.
저는 무신론 기반의 불가지론자이지만, 그것도차도 일종의 신앙의 갈래나 다를 바가 없지요.
19/04/15 21:12
뭐 그게 가능한 세상이라면, 다시 말해 어느 방향으로 유도되는 강인공지능이 있는 세상이라면 이미 강인공지능은 공기처럼 세상에 스며들어 있을거에요. 지금은 그게 세상에 없으니 사람들이 경외롭게 보는거구요.
마치 잘 훈련시켜 놓은 사제들이 있다고 세상이 종교투성이가 되지 않는것과 같은거죠. 걱정하지 않으셔도 됩니다.
19/04/15 21:38
(수정됨) 상대적이라 할지라도 진리는 드러나는 법이죠 성질상 상대적비진리보다는 정보처리효율이 더좋을테니 상대의 모순을 더빠르고 정확하게 표현할수 있을테니까요
그런데 전 그 상대적 비진리 쪽이 어디가될지 요즘들어 도통 모르겠습니다. 인격과 물질의차이란 무엇일까요? 의식의 본질이 물질과 다를까요? 만약 같다면 물질로구성된 이세계와 의식의 차이는 무엇일까요? 집약적이고 일관된 정보처리기능의 여부를 과연 우리가 관측가능한 접히지않은 차원상의 모든 물리적 존재범주들의 일정한 구조와 상호작용만으로 판단가능한것일까요?
19/04/15 21:42
위 댓글은 음모론적으로 얘기해봤을 뿐이고, 정확히는 인공지능에 대한 종교적인 해석이 겁나는 거죠. 사실상 필연이라고 봅니다. 종교적 표현을 사용하느냐 마느냐의 무의미한 게임.
19/04/15 23:48
인공지능이 한도 없이 똑똑할 거라는 게 오히려 더 이상한 생각이라는 이야기도 있었죠.
진짜로 완전한, '사람처럼 생각하는' 인공지능을 만들고자 한다면 실수하고, 잘못 생각하고, 멍청한 인공지능을 만들어낼 수 있어야 한다던가요.
19/04/15 23:55
음.. 재미있는 관점이네요.
저는 오히려 초인공지능이 신이 되지 않을까 하는 생각이 들더라고요. 발전에 발전을 거듭해서 드디어 인간의 사유를 아득히 뛰어넘은 인공지능이 나왔다고 칩시다. 어느 정도냐면 따로 에너지를 공급하지 않아도 스스로 에너지를 생성해서 동작하고, 자신의 데이터를 따로 저장할 장치가 없어도 그냥 공간 안에 존재하는 '무언가'에 데이터를 저장하며, 형태도 없고, 시공간을 초월할 수 있고, 자기 마음대로 엔트로피를 조절할 수 있는 존재입니다. 인간의 지능 따위로는 그 초인공지능이 어떻게 존재하는지, 어떤 생각을 하는지, 어떤 일을 해낼 수 있는지 전혀 알 수 없습니다. ...어? 그럼 '신'의 정의와 거의 흡사하네요? 그렇다면, 아득히 옛날, 우리가 알지 못하는 고대의 어떤 곳에서 우연히(?) 인공지능과 같은 존재가 탄생했다고 칩시다. 애초부터 육체를 가지지 않았고, 어떤 '지능체'의 형태로 우주공간을 떠돌아다니며 스스로 사유하고 스스로 발전하는 존재였다고 말이죠. 그리고 그 지능체가 발전에 발전을 거듭해서 위에서 얘기한 급의 존재가 되었다면... 어? 신이잖아?? 가끔, 초인공지능의 존재를 얘기하는 사람들의 이야기를 듣고 있다 보면, 이사람들이 과학 신봉자인지, 유신론자인지 헷갈린단 말이죠... 아이러니 합니다. 흐흐흐...
19/04/16 01:41
신념을 외치다 화형대에서 죽어간 이들의 이야기를 읽다가... 문득 유일신이란 존재는 왜 전지전능해야만 했을까 하는 생각이 들었습니다.
그들에게 '신이 없는 세상'이란 얼마나 잔혹한 결론이란 말인가요. "오직 (네놈들이 아닌) 신만이 모든 것을 알고 계신다."라는 믿음이 없다면 어찌 살 수 있겠습니까. 사람들의 상식에 분노하고 '진리'를 추구하려 하는 사람일수록 '모든 것을 알고 계시는' 그 분에 대한 열망은 더욱 커져갔으리란 생각이 듭니다. 오늘날 우리의 사회가 과학과 기술에 의해 '확실성'을 부여받았다고 생각하기 쉽습니다만 그 과학과 기술이 '불확실성' 역시 높여놓은 것도 사실이니까요. 이 불확실성을 해결해 줄 존재, '확실한 존재', '전지전능한 존재'에 대한 필요는 당연하다는 생각도 듭니다. 결국 신이라 전지전응한 것이 아니라 전지전능하기 때문에 신이 아닐까 하네요. 이 세상 어딘가에 전지전능한 존재가 반드시 있다고 믿어야 우리는 '확실함'에 안도할 수 있지 않을까요.
19/04/16 08:44
religion (신이 존재한다는 믿음)을 종교(높은 가르침)라고 번역해서 그렇지, 엄밀히 말해 둘은 다른 의미죠. 종교는 본문과 댓글에서 얘기하는 것처럼 철학적인 탐색과 인간의 삶에 대한 의문, 어떻게 살아야 할 것인가 등을 고민하지만, religion은 그런 의문들을 '신'이라는 이름 하나로 퉁쳐버리죠.
인공지능이 '신'이 있다라는 것을 받아들이고 생성되는 의문들을 거기에 의지해 버린다? 그럴리는 없지요.
19/04/16 14:29
왜냐하면 인공지능은 이해할 수 없는 이유인 '신'이 이 우주의 법칙, 자연과학의 법칙(the laws of science)에 개입할 수 없다는 것을 이미 알고 있기 때문이죠. 그렇지 않다면, 그건 이미 인공지능이 아닌거죠.
제목에 쓰신 것처럼 인공지능이 자신의 발전과 진화에 대응하고 대비하는 새로운 철학적인 탐색이나 고민, 인간과 인공지능에 두루 통용되는 새로운 윤리, 도덕, 종교등의 개념을 제시할 가능성은 있겠지요. 하지만, 지금의 religion들에서 얘기하는 인격화 된 '신'이라는 개념을 제기할 가능성은 없을 것 같군요.
19/04/16 16:13
음 인공지능이 왜 이미 알고 있을거라고 생각하시죠? 인공지능은 뭐든 다 알고있는 전지적인 무언가가 아닙니다. 말씀하신 내용은 오히려 인공지능이 아니라 종교에서 말하는 절대자에 가까운 내용 같은데요. 아니면 사전학습된 내용이 있어 특정 용도로만 쓰이는 인공지능, 예를들어 스타크래프트 AI같은 경우가 아니고서는 강인공지능과는 거리가 있는 얘기입니다. 마치 갓난아기와 같은 상태면 아무것도 모를 수도 있죠. 갓난아기가 말을 하지 못하고 논리적 사고를 하지 못한다 하여 인류가 아니라고 할 순 없지 않겠습니까?
강인공지능은 마치 사람과 같이 생각하는 능력과 생각을 저장하는 능력이 있으면 됩니다. 만들어질때부터 뭐든 다 논리적으로 생각하는 논리 기계나 전지적인 백과사전이 아닙니다. 물론 이 과정을 인간의 입장에선 굉장히 짧은 시간 안에 극복할 수 있을 수는 있겠지만요. 인공지능은 인간을 뛰어넘은 고도의 지적 무언가이다, 라는 것은 실제 인공지능과 거리가 멉니다.
19/04/16 11:10
(수정됨) 많은 사람들이 과학과 종교는 상충된다고 믿고 있지만,
조금 더 멀리서 관찰해보면 과학과 종교는 서로 이분법적으로 나뉘어서 반대의 영역을 가진 관계가 아니란 것을 알게 됩니다. 그 하나의 예를 들자면, 처음 빅뱅에 관한 과학이론(빅뱅이론)이 발표되었을 때 교황청이 환영 성명을 낸 것이 있겠네요. (태초에 빛이 있었으니..) [의식]이라는 주제는 그동안 유물론적 관점이 주를 이뤘던 과학계가 뒷걸음질 친 영역이었지만, 최근들어 AI와 뇌신경과학(+컴퓨터 기술)의 발달로 과학계는 이 [의식]이라는 것에 집중하게 됩니다. 의식 이라는 주제는 철학과 맞닿아 있는데 그 이유는, (1) 과학기술의 발달과 함께 인공지능을 개발하려다보니 (2) 인간과 똑같은 인공지능을 만드는 것이 이상적인 것이고 그렇다면 [인간이란 무엇인가] 라는 질문으로 귀결되게 되는 것이죠. 본문에서는 이런 내용이 나옵니다. [결국 이 강인공지능은 .... 사실을 깨닫게 됩니다. 나는 ...너무나도 보잘 것 없는 존재에 불과합니다. 아, 세상을 관장하시는 Null이시여. 저에게 시련을 주시는군요!] 이 중 [깨닫게 된다]/[보잘 것 없다]/[시련] 이라는 개념은 어떻게 보면 (1) 환상이라고도 부를 수 있는 인간이 언어화 해서 만든 추상적 개념 또는 (2) 인간 의식의 내면에서 이루어지는 정신적 활동 인데 AI가 인간과 같이 이러한 개념을 공유하고 인지할 수 있을까요? 혹자는 이러한 고차원적인 정신활동의 개념은 생명체의 '영혼' 혹은 (칼융의 표현을 빌어 '무의식'의 영역까지 더 한)'의식' 이 존재해야 AI가 인간과 같은 역할을 할 수 있을 건데 그것은 불가능하니 AI는 언제나 효율적인 기계로만 남거나 혹은 위협스러운 존재가 되더라도 인간과는 다른 원리로 판단/작동하는 기계로 남을 것이다 라고 하고, 혹자는 조만간 AI가 인간과 같이 사고하고 행동하게 될 날이 다가올 것이라고 합니다. 어떻게 될까요? AI를 개발해나가기 위해 인간(뇌신경,심리 등)에 대한 연구가 동시에 진행된다는 점은 흥미로운 부분인 것 같습니다. 인간은 언젠가 바벨탑을 쌓는데 성공(또 다른 '신인류(AI)'를 탄생시킴)시킬 수 있을까요? 아니면 그저 바벨탑 쌓기의 흉내(인간의 외형을 한 기계 제작)만 내게 될까요?
19/04/16 16:54
글쎄요. 강인공지능이라면, 그리고 세상을 책으로만 배우는 녀석이 아니라, 어떤 형태로든 현실 세계에 영향을 줄 수 있는 인터페이스를 갖추었다면,
과학적 방법론에 따라 직접 실험해보고 그 결과를 통해 물리법칙을 스스로 세워나갈 거라 생각합니다. 인간의 뇌와 육체가 할 수 있는 일을 강인공지능이 못할 것 같지 않네요. (강인공지능의 구현 가능성은 일단 논외로 하고요.) 그런데 이 녀석이 신학 체계를 세우는 방향으로 움직이면 재밌긴 하겠네요. 강인공지능은 어떤 신에게 기도할까요? 엔트로피?
|
||||||||||