|
:: 게시판
:: 이전 게시판
|
- 모두가 건전하게 즐길 수 있는 유머글을 올려주세요.
- 유게에서는 정치/종교 관련 등 논란성 글 및 개인 비방은 금지되어 있습니다.
통합규정 1.3 이용안내 인용"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
24/11/27 10:39
아직 좀 부족하긴 한데 23년 초 생각하면 미친 속도로 개선중이긴 합니다. 몇년 걸린다는 말은 맞겠지만, 인간 수준은 곧일것 같습니다.
24/11/27 10:51
인간의 뇌를 시뮬레이션 하는 방식이니 인간이 [착각]하는 이상은
환각 개선이 쉽지는 않죠. 비슷한 현상이니 머리 좋고 기억력 좋은 사람일수록 착각 확률이 낮아지지만 0%가 안되는거 처럼 지금의 뉴런네트워크 방식의 AI로는 환각이 0%가 되는 경우는 없다고 보는데 그걸 사회적으로 인정 하고 받아드리느냐 못 받아드리느냐의 문제라고 봅니다
24/11/27 11:00
동의합니다.
또 환각이랑은 조금 다른데 AI를 효율적으로 사용하기 위해서 프롬프트 튜닝을 정말 많이들 하시게 되는데, 이 과정에서 내가 원하는 결과를 얻기 위해서 과도한 욕심을 부리는 경우에 또 성능의 저하가 정말 많이 일어나게 되는 것 같습니다. 저도 관련 일을 하면서 꽤나 많은 튜닝을 해봤다고 생각이 드는데, 최근에 얻은 깨달음은 불완전하고 헷갈리는 입력은 헷갈리게 놔두는 게 제일 낫다 였습니다. 뭔가 이래저래 내 입맛대로 바꿔보려다가 편향이 바로 생겨버리더라구요. 이걸 받아들이고 넘어가야 하는데 회사에서 의사결정권이 있는 높은 분들은 잘 이해를 못하시더라구요
24/11/27 18:07
동의합니다. 인간 자체가 환각 현상을 일으키는 실험들은 충격적이더군요.
분리뇌인 사람에게 한쪽 눈으로 글자로 할 일 알려주면 그 내용을 실행하는데 왜 그렇게 했는지 설명하라니까 눈에서 본 정보를 받지 못한 분리된 언어뇌에서는 왜 그랬는지 모르니까 이유를 가짜로 만들어서 대답한 실험 같은 건 정말 충격 받았습니다. 인간뇌의 원래 기능에 환각이 들어있다고 봐요.
24/11/27 10:58
(수정됨) 그냥 신경망알고리즘 자체의 한계입니다.
표현이 너무 자유롭다보니 체계적사고를 피하는 우회루트를 너무 잘찾아요 마치 별도의 접착제나 도구없이 맨손과 바닷물 만으로 모래를 적셔 모래성을 쌓는듯한 느낌입니다. 그나마 찾은 돌파구가 오픈AI에서 논문을 낸적있는 과정감독과 챗GPT이후 LLM계에서 화두가 되었었던 CoT의 개념을 결합한듯?한 o1이었고 일단 에이전트라는 형태를 안정적으로 굴릴수 있을정도는 됩니다만 그런 방식만으로는 여기서 더 발전하려면 정말로 천문학적인 금전적,시간적비용으로도 힘들겁니다. 그래서 일리야가 오픈AI에서 나갈떄 들고나온 프로젝트인 automated interpretability의 성과가 너무나도 중요한것이겠구요
24/11/27 13:10
신경망, 딥러닝 분야야말로 "왠지는 잘 모르겠는데, 해보니까 되더라"의 영역이라서요. 마치 비행기가 뜨는 원리를 정확하게 설명할 순 없지만 어케어케 하니까 되더라는 것과 비슷하달까요..
의외로 공학 분야에는 저런 종류의 일들이 꽤 많지요.
|
||||||||||||||||||
