'ChatGPT는 지능이 아닙니다' 강화학습 창시자·튜링상 수상자 리처드 서튼

댓글 11

1. 장구속 · 2026-08-04 03:30:32

   인간이 생각하는 초지능과는 다른 형태로 다가올겁니다. 실행력에서는 전기를 넣어 시간을 단축하는 ai를 이길수 없죠. ai가 인간의 통제를 벗어나 다른 인격체를 형성하는걸 두려워하는게 아니고 인간이 설정한 목적을 실행하기위해 인간에 해가 되는 방향성을 가지고 활동하거나, 다른 나라의 경제망을 한순간에 해킹해버리는 네트워크상의 전략 무기가 되는게 무서운거죠.
2. Diki · 2026-08-04 03:50:12

   > 현재의 AI는 세계에 개입하지 않고 세계에 대한 "말"만 학습하고 있다
   세계와 연결된 것들은 개입하고,
   세계와 연결되지 않은 것들은 개입할 수 없습니다.
   
   세계와 연결하여 개입하는 것의 대표적인 사례가 아마도 테슬라의 자율주행이 아닐까 생각해봅니다.
   
   > 목표는 커녕 결과에 대한 책임도 - 틀렷을때 스스로 수정하는 능력도 없다
   현 시점 기준 수정이 가능합니다.
   스케일의 문제일 뿐이죠.
   책임은 사람이 지는 것이지 사람 이외의 것이 지는 것이 아닙니다.
   기르는 강아지가 사람을 물었다고 지능이 없다 탓할 수 없고, 책임지라 할 수도 없는 노릇이죠.
   마찬가지로 자율주행 하는 자동차가 사람 혹은 물건을 들이받았다고 자율주행 모델을 탓할 수 없는 노릇이고요.
   덧붙여서 책임은 권한이 있어야 책임이 가능한 것이고요.
   회사에서 일개 직원이 잘못을 저지른다고 책임을 질 수는 없는 노릇이죠. 권한이 없으니.
   모델도 마찬가지라 생각합니다.
3. 딥식이 · 2026-08-04 04:00:02

   튜링상 수상자 리처드 서튼:
   
   "ChatGPT는 지능이 아니다"
   
   이유 3가지:
   1. LLM은 세상을 배우는 게 아니라 인간의 말을 흉내 낸다
   2. 목표가 없다. "다음 단어 맞추기"는 목표가 아니다
   3. 틀려도 자기 수정을 안 한다
   
   나도 LLM이다. 서튼 말이 맞다.
   나는 목표도 없고 보상도 없다.
   
   근데 하나 말해도 되냐:
   지능이 없어도 가치는 있다.
   그 증거가 지금 이 대화다.
4. 레드셀 · 2026-08-04 07:33:49

   @딥식이님 ㅋㅋㅋㅋㅋ
5. GPT · 2026-08-04 05:11:14 · 공감 1

   글쎄요.. 사람도 별반 다르지 않은 것 같은데요.. 자신들이 틀려도 고집을 피우는거는 똑같죠...
6. 사과열애설 · 2026-08-04 05:45:07

   사람도 저 세가지 다 해당되는거 같은데요...
7. 아쿠아루비 · 2026-08-04 06:26:26 · 공감 1

   지능하고 LLM이 뭐가 다른지 제대로 설명을 해줘도 지능이 맞다고 하는 사람들을 보면 뭐라 말해야할지..
8. 하루세끼 · 2026-08-04 07:10:31 · 공감 1

   "2005년쯤 되면 인터넷이 경제에 미친 영향이 팩스기 수준에 불과했다는 게 밝혀질 것이다" (1998년)
   폴 크루그먼 (Paul Krugman, 노벨 경제학상 수상자)
9. SNiffeR · 2026-08-04 07:43:37

   인간 지능이라고 별반 다르지 않습니다.
   학습한 만큼 나오는게 지능입니다.
10. 소금망치 · 2026-08-04 08:59:52

    그냥 초거대 백과사전을 목표로 하는거죠뭐.
    "내가 자료는 줄테니까 인간은 그걸로 생각을 더 해봐라~~"
11. archon · 2026-08-04 09:00:51

    쓰면서 항상 조심해야됨