:: 게시판
:: 이전 게시판
|
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
통합규정 1.3 이용안내 인용"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
25/02/12 02:42
저도 AI모델을 연구하거나 만드는 사람은 아니지만, AI를 업무에 정말 많이 활용하는 입장입니다.
Copilot이나 ChatGPT도 그렇고, OpenAI 등의 API 를 이용해서 서비스를 운영하고 있기도 하고요. 실제로 모델 사용하는 사용자의 입장에서는, 지금 속도라면 2030년쯤엔 디지털세계 기준으로 아주아주 좋은 툴이 되는 정도에 그칠것이라고 생각합니다. 뭐 몇년 뒤 AGI를 달성하고, 첫번째로 AGI를 달성한 기업이 ASI 를 달성하고, ASI를 이용해 그 즉시 모든 경쟁을 끝내버릴 것이라는 예측도 있는데, 그렇게 되려면 발전속도가 지금보다는 훨씬 빨라야 할것 같네요. LLM은 그냥 흉내죠. 누군가는 그 흉내가 사람이 한것과 차이를 못느끼면 그게 지능이나 마찬가지 아니냐 라고 하는데, 이 주제에 대해서만큼은 많은 ChatGPT 유저들이 그렇게 단순하게 결론내리진 않는것 같습니다. 애초에 흉내를 잘 못내요. 인터넷상에 자료가 크게 없는 분야에 대해서는, 전혀 그럴듯하지 못한 답변이 나오는데, 그게 너무나도 불만족스럽죠. 사람처럼 고민하면서 이 부분에 대한 갈증까지 풀어주면 좋겠습니다. 그러면 아 이게 지능 흉내를 잘 내고 있구나. 하고 생각할 수 있을것 같아요. 일단 2025년 2월 현재의 느낌은 이렇습니다. GPT야 안드로이드 개발 도와줘서 고맙다! 그리고 실수좀 그만하고! 많이 알려진 문제들에 대해서만 잘 알려주지 말고! 네가 정말 추론이라는걸 한다면, 자료가 크게 없는것들도 좀더 그럴듯한 답안을 내놓길 바란다! 딱 요정도입니다 크크..
25/02/12 10:52
(수정됨) 음 너무 기대를 크게 하시는거 아닌지....
벌써 님이 원하는 수준으로 해주면 지금도 개발자 절반은 필요 없어지지 않을까요?
25/02/12 15:10
1. 10년뒤라도 AGI ASI 가려면 지금쯤 개발업무 정도는 경력 2년차 정도는 해줘야 할것같다는게 제 생각입니다. 물론 저의 기준입니다만 흐...
2. 개발자 절반이 필요 없어지지 않다기 보단, 수많은 창업이 일어날 것 같습니다. 내 기술 스택이 모자라서 도전 못했던 것을 할 수 있게 되는거니까요. 그건 사업가들이 어떤 시각을 가지느냐가 관건이라고 봅니다. 팩트는 1인당 생산성이 확 올라간다는 것인데, 이걸 가지고 더 채용할지, 덜 채용할지는 그들의 사업적 결정이죠. 누군가는 더 채용할수 있을겁니다.
+ 25/02/12 18:37
1. 기준이 AGI, ASI이시군요.... 전 아직은 AGI, ASI를 논하기 시기 상조라고 봅니다. 이미 지금까지 나온 결과물로도 지식 노동쪽은 대격변이 일어날 수준이라서 AGI, ASI까지는 우리사회가 받아 들일 준비도 전혀 안되있어요.
그리고 AGI, ASI까지 가기에는 아직까지 장애물도 많다 봅니다. 2. 저도 1인기업(마이크로 컴퍼니) 의 시대가 도래할거라고 보고 있습니다. 그것만으로도 대 변혁이죠.
25/02/12 04:48
미중유럽 등 국가 간 패권싸움의 상징으로 점점 대두하는 ai기술이 되어 버려서 개발 속도에 매몰되어 방향에 대한 고찰이 제대로 이루어질지 걱정이 되긴합니다.
25/02/12 05:41
뭐 사람마다 다 다르고, 저는 AI에 좀더 호감적인 입장이긴 합니다만, 예를들어 ‘판사는 AI로 대체가 가능하다‘ 라는 제 주장에 아주 재밌는 주장인데, 그 AI를 학습시키는 방향을 정하는것도 인간, 그것이 공부할 주제도 인간이 내린 결론들을 학습하는 것 뿐이며, 법이란 수많은 상황들을 가정하여 해석이 모호할 수 있도록 적힌 것이기에 실제적으로 판사를 AI가 대체한다거나 초지능 같은 실체가 명혹하지 않은 이야기는 지금은 너무 이르고 이야기 해봤자 우리같은 사람들에겐 비웃음만 살 뿐이다, 라고 실제 분야 종사자에게 핀잔 아닌 핀잔을 막 어제 저녁먹으며 토론중에 들은 바 있습니다.
25/02/12 10:02
그게 진짜 현실화되는 시기가 오면 AI 공화국 같은게 생겨도 큰 무리가 없지 않을까 싶군요. 그런 시기는 정말 아직 멀었죠. 개인적으로는 다른 전문직 라이센스 직업들보다도 약사쪽에 자동화 가능성을 언급하는게 더 흥미롭긴 합니다. 물론 그것도 생각만큼 수월하지 않을 것 같지만..
25/02/12 12:48
AI는 심지어 AGI라도 판사를 절대로 대체하지 못합니다. "절대로"인 이유는 우리 사회가 판사에게 요구하는 진짜 역할은 기계적인 판결이 아니라, 해당 업무분야에 대한 일정 수준의 신의성실과 사회적 책임이라서 그렇습니다. 좀 다르게 말해 비난이 가능한 주체여야 책임을 질 수 있습니다.
그렇지 않음에도 AI가 판사를 대체한다고 하면, 그건 지금까지 인류가 만들어 온 사회가 근본적으로 뒤집어지든가, 아니면 AI가 자아가 있어서 어떠한 신의성실과 책임에 대해 근본적으로 인류와 유사하게 작동한다는 믿음이 생기거나, 판사조차도 책임이 필요없는 단순노무가 되거나 둘중 하나입니다. 그때 되면 솔직히 AI가 판결한다 "따위"는 일도 아니게 되겠죠.
25/02/12 13:02
저는 그렇게 생각 안하지만 기술이 발전해서 AI가 뭔가 "공정한 판결"을 할 줄 안다고 치겠습니다.
1심 판결 일부를 AI가 하고 4심제 하면, 결국 인간이 3심 하는건 똑같고 AI판결은 아무 책임소재가 없으니 불리해지면 누구나 항소할 거고, 그냥 소요되는 시간과 비용만 한 번 증가하는 건데요. 아예 AI가 한 번을 담당하는것도 아니고, 그걸 왜 해야할까요?
25/02/12 16:18
재판의 종류에 따라 달리 할 수 있을 것입니다. 이를테면 민사소송은 1심을 AI가 하고, 형사소송은 AI가 안 하는 거죠. 경미한 사건은 AI가 1심을 하는데도 불구하고, 3심제로 하는 수도 있을 것입니다.
25/02/12 13:00
제가 어제 토론을 다 적을 수 없기에 간략히 적었지만 저도 판사대체가능! 뭐 이렇게 익스트림한 주장한건 아니긴 합니다. 저는 밑에서 부터 조금씩 침식되는 식으로 진행될것이다 주장하는 쪽에 가깝구요,
개인적으로 생각해볼만 했던 주제는 만약 인공지능 A가 인공지능 B를 개발하는게 가능한 그 특이점이 온다 한들, 그 인공지능 B에는 인공지능 A를 개발한 제작자의 bias를 없다고 하는게 가능한가, 아니라면 결국 AI와 기계적 공정은 가장 먼 이야기가 아닌가 라는 조금은 철학적인 질문이었었네요.
25/02/12 13:07
(수정됨) bias가 있냐 없냐는 일단 인간이 판별하는게 어렵습니다만, 그런 걸 모두 포함해서 우리는 AI를 사회의 일원으로 받아들이지 않지요 보통. 우리가 판사의 판결이 그 판사의 성향에 따라 bias가 존재하는건 누구나 알고 있지만, 받아들이거든요. 만약 AI가 판결을 한다면 그걸 받아들이는 것은 그 뒤에 있는 어떠한 "책임자"가 있어야만 합니다. 결국 그 "책임자"가 판사랑 다를 바가 없는 것이죠.
그래서 AI가 최후까지 침범 못 하는 직업이 도장찍는 부류의 직업이고, 판사는 여기에서 거의 끝판에 있습니다. 그래서 제가 드린 말씀이 판사가 AI를 일부라도 대체하는 사회가 왔다면, 그 사회는 지금과 아예 다른 사회일 것이라고 말씀드리는 겁니다. 책임자도 없이 법리적 판단을 받아들이는 세상은 지금까지 인류 사회엔 없었으니 말입니다. 말씀하신 내용과도 꽤 밀접한 이야기입니다.
25/02/12 13:20
(수정됨) 뭐 법률에는 법과 판사의 양심이란걸로 판결하도록 되어있는데 AI에겐 양심이란걸 요구할 순 없긴하죠...
즉 AI를 인간과 같이 하나의 동등한 개체이자 사회의 구성원으로 받기전에야 판결까진 못갈겁니다 뭐 쟁점정리 등이야 잘 해줄진 몰라도...
25/02/12 07:02
노벨 경제학상 수상자의 예측이라면 폴 크루그먼의 1998년 예측이 떠오르지 않을 수 없네요 크크
“2005년이 되면 인터넷이 경제에 미친 영향이 팩스 기기보다 대단하지 않다는 사실이 분명해질 것” 참고로 노벨 경제학상은 노벨 사후 70년이 지나서 스웨덴의 중앙은행이 자의적으로 만든 상입니다. 노벨상의 권위에 기대 경제학의 위상을 높이려고 한 사기라고 봐야죠. 상당히 잘 작동한 프로파간다입니다.
25/02/12 11:24
학자면 쉽사리 자신이 미래를 예측할 수 있다 쉽게 말하지 않죠. 일어난 현상을 심도있게 탐구하고 최대한 인과관계의 매커니즘을 밝히는데 집중할뿐
25/02/12 12:41
뭐 원래 그런거죠 현재까지의 분석으로 미래를 예측하지만 결국 경험에 의한 귀납적 추측이라 그 분석이 언제 틀려도 이상하지 않죠...
25/02/12 13:18
기술은 지수함수적으로 발전하는데 예측은 과거에 미루어 선형적으로 하니 자꾸 빗나간다고 봅니다
실증적인 학문이라 지수함수적인 추정을 잘 안하려하더군요....
25/02/12 16:53
참고삼아 말을 덧붙이자면, 경제학의 대가들 중 주식이나 금융으로 돈 번 사람은 거의 없습니다. 어빙 피셔가 대표적인 데 1929년 대공황 직전 주식에 전재산을 몰빵해서 완전히 말아먹었죠. 맑스도 주식으로 말아 먹었고요.
그 예외가 데이비드 리카도와 메이너드 케인즈인데 리카도는 워털루 전쟁에서 영국의 승리소식을 그 누구보다도 먼저 알고서는 영국이 패전했다고 헛소문을 퍼뜨린 다음 가격폭락한 영국국채를 대거 매입해서 큰 이득을 보고 그 돈으로 부동산을 사서 지주가 되었죠. 케인즈는 주식시장에서 번번이 물먹다가 어떤 전주가 나중에 자금지원을 해줘서 크게 재미를 보게 되었고요.
25/02/12 16:32
사실이 그렇죠. 노벨 경제학상을 만들려고 할 때 노벨상의 권위와 위세를 등에 업기 위해서 노벨 유족들의 동의가 반드시 필요했는데, 유족들 중에는 매우 강력하게 이에 반대한 사람들도 있었다고 하죠.
경제학이란 건 자연과학처럼 진리를 향한 지속적인 접근이 아니라 지항하는 가치와 이념의 차이에 따라 지속적으로 공적논쟁과 민주적 토론에 열려있어야 하는 정치의제의 성격이 강하다고 보았기 때문인 것으로 알고 있습니다. 여기에 부당한 과학적 권위같은 것을 부여해서는 안된다고 보았을 겁니다. 사실 폴 크루그먼보다는, 선물시장에 대한 블랙숄츠공식으로 노벨상을 수상한 숄츠가 롱텀캐피털 매니지먼트 투자사 이사로 참가해서 그 회사 부도낸 일이 가장 황당한 일이 아닐까 합니다.
25/02/12 11:12
(수정됨) 솔직히 초지능,AGI는 지금시점에서 언급하기에 좀 급발진이라는 생각은 듭니다만 현 AI가 지식노동자한테 미치는 파급력은 어마어마 할겁니다
지금부터 AI발전이 아예 멈추더라두요... 다만 일반인이 눈에 띄게 AI로 인한 변화 체감하려면 지금의 언어모델만으로는 무리고 결국은 로봇과의 결합을 통해 큰 발전이 있어야하긴 할겁니다
25/02/12 12:10
3. AI는 지속될 것이며, 매우 큰 영향을 미칠 것이다.
AI는 미래 사회를 결정짓는 핵심 기술이 될 것이라고 본다. AI는 생산성 향상을 가져올 수 있지만, 그것이 실제로 얼마나 이루어질지는 우리가 AI를 어떻게 개발하느냐에 달려 있다. 그리고 그 영향이 온전히 나타나기까지는 시간이 걸릴 것이다. AI의 영향에 대한 불확실성은 매우 크며, 특히 범용 인공지능(AGI)이 무엇을 의미하는지, 그리고 그것이 언제 도래할지 예측하기 어렵다는 점이 이러한 불확실성을 더욱 키우고 있다. 따라서, 노동과 공유 번영의 미래를 논의할 때 AI의 영향을 이해하는 것이 필수적이다. 4. AI는 노동 친화적일 수도, 반(反)노동적일 수도 있다. 나는 모든 기술이 유연하며, 다양한 방식으로 개발될 수 있다고 본다. AI도 마찬가지다. AI는 예측을 수행하는 도구로 개발될 수도 있고, 텍스트와 이미지를 생성하는 용도로 사용될 수도 있으며, 정보 제공 도구로 활용될 수도 있다. 이러한 모든 경우에서 AI는 반노동적인 방향(즉, 자동화를 통해 노동자를 대체하고 권한을 약화하는 방향)으로 발전할 수도 있고, 노동 친화적인 방향(즉, 노동자가 더 나은 업무 수행을 할 수 있도록 돕고 새로운 복잡한 업무로 확장할 수 있도록 지원하는 방향)으로 발전할 수도 있다. AI가 어떤 방향으로 개발될지는 선택의 문제다. https://x.com/dacemoglumit/status/1879223735250768136?s=46&t=K3ScZAfnFpjp2I2iwpUFhg
25/02/12 12:17
‘노벨 경제학상 수상자인 다론 아제모글루는 강력한 AI를 통제하는 사람들이 대중의 선택에 영향을 미쳐 독재자가 될 수 있으며, 이는 AI 기술의 존재론적 위험보다 더 우려할 만한 문제라고 말한다.’ - Tsarathustra
이건 최근 BBC 인터뷰인 듯합니다. https://x.com/tsarnick/status/1889504385715368271?s=46&t=K3ScZAfnFpjp2I2iwpUFhg
25/02/12 12:44
"19세기 영국에서 기술 혜택이 확산되기까지 수십 년에 걸친 사회적 투쟁과 노동자들의 활동이 있었다고 강조한다." 라는 부분에 대해 실제 역사적 상황을 chatGPT에게 물어봤습니다.
아세모글루와 존슨(Daron Acemoglu & Simon Johnson)이 주장하는 바는, 기술적 발전이 저절로 사회 전반에 확산되는 것이 아니라, 정치적·사회적 갈등과 투쟁을 거쳐야 한다는 점이다. 이를 설명하는 대표적인 역사적 사례로 19세기 영국의 산업혁명과 노동운동을 들 수 있다. 1. 기술 발전과 초기의 불평등 (18세기 말 ~ 19세기 초) 영국은 18세기 말부터 산업혁명을 주도하면서 기계화된 생산 방식이 확산되었다. 방직 기계(예: 스피닝 제니, 파워 룸)와 증기 기관 같은 혁신적인 기술이 등장했지만, 이 기술의 혜택은 처음에는 극소수의 자본가들에게 집중되었다. 그러나 노동자들은 새로운 기술이 일자리를 위협한다고 여겼다. 특히 **러다이트 운동(Luddite Movement, 1811~1813년)**은 기계가 노동자의 생계를 위협한다는 불만에서 시작된 저항 운동이었다. 이들은 방직 기계를 부수는 등 폭력적인 방식으로 저항했지만, 정부는 강경하게 탄압했고, 기술 확산이 노동자들에게 직접적인 이익으로 연결되지는 않았다. 2. 노동조합의 성장과 정치적 투쟁 (19세기 중반) 산업혁명 초기의 노동 조건은 극도로 열악했다. 장시간 노동, 저임금, 어린이 노동, 안전하지 않은 작업 환경 등이 만연했고, 이런 문제들은 기계화로 인해 더욱 심화되었다. 이에 따라 19세기 중반부터 노동자들은 **노동조합(Trade Unions)**을 조직하기 시작했다. 대표적인 사례로 **차티스트 운동(Chartist Movement, 1838~1850년대)**이 있다. 이 운동은 보통선거권 확대를 요구하며 정치적 개혁을 시도했지만, 초기에는 강한 저항에 부딪혔다. 그러나 장기적인 투쟁의 결과, **공장법(Factory Acts, 1833년 이후)**이 제정되어 노동시간이 제한되었고, **1871년 노동조합법(Trade Union Act)**이 통과되어 노동조합이 합법화되었다. 이러한 법적 변화는 노동자들에게 기술 발전의 혜택이 돌아가는 기초가 되었다. 3. 기술 혜택의 확산과 사회적 변화 (19세기 후반) 19세기 후반에는 기술 발전의 혜택이 점차적으로 더 넓은 계층으로 확산되었다. 철도, 통신(전신), 대량 생산 기술의 발전과 함께, 노동자의 임금과 생활 수준도 향상되기 시작했다. 이는 노동운동과 정치 개혁이 맞물려 일어난 결과였다. 특히 **초등 교육의 확대(Education Act of 1870)**는 기술이 노동자 계층으로 확산될 수 있는 중요한 전환점이었다. 문맹률이 줄어들고, 교육을 받은 노동자가 증가하면서 더 나은 직업을 가질 기회가 생겼고, 기술을 활용하는 능력도 향상되었다. 결론 19세기 영국에서 기술 혜택이 확산되는 과정은 자동적이지 않았으며, 오랜 사회적 투쟁과 노동자의 정치적·경제적 조직화가 필요했다는 것이 핵심이다. 아세모글루와 존슨이 강조하는 바와 같이, 기술적 혁신이 단순히 도입된다고 해서 모두가 곧바로 그 혜택을 받는 것은 아니며, 사회적 구조와 제도적 변화가 뒷받침되어야 기술의 이점이 더 널리 퍼질 수 있었다.
25/02/12 13:39
제가 느끼는 AI의 진짜 무서움은 AGI가 아닙니다
사람이 프롬프트에 입력하는 대로, 미리 학습한 대로 움직일 수 있다는 점입니다. 이미 드론과 로봇 개는 전투용으로 사용되고 있고 이들에 AI를 접목해 군사용으로 사용하게 되었을 때, 그 통제권을 지닌 사람을 과연 막을 수 있을까요?
25/02/12 14:56
다른 부분은 동의하거나 반대하기도 하지만, AI의 경제적 효과에 대해 투자자문 회사들이나 증권사 등에서 과대포장하고 있다는 점에 있어서는 확실히 동의합니다. 사실 이전에 블록체인이나 메타버스 등이 처음 등장했을 때도 마케팅적으로 너무 부풀려진 면이 많았죠. 닷컴버블때는 유비쿼터스라는게 있었고요. 하지만, 그렇다고 해서 그런 기술적 개념들이 완전히 무가치했던 건 아닙니다. 투자가 이뤄졌기에 다양한 방법으로 발전되어갔고, 그것이 이후 모바일 기기나 IoT 등에 도입돼면서 일상에서도 널리 사용되고 있긴 하거든요. 그 때 사람들이 상상했던 방향과는 다소 차이가 있긴 하지만요.
엑셀이 나왔다고 해서 부기법에 능통한 경리직원들이 완전히 대체된 것이 아니고, 로봇팔이 나왔다고 해서 단순노동직이 완전히 대체된 것이 아니라, 그 사람들이 일하는 부하는 줄이면서 생산성을 더 높이는 방향으로 발전해 갔던 것처럼, AI도 그런 식으로 발전해가지 않을까 하는 전망을 해봅니다.
|