Terrence Tao의 Jacobian 추측 반례에 관한 ChatGPT 대화

Hacker News 의견들 오늘 본 것만 해도 정말 흥미로운 ChatGPT 공유 대화가 두 번째임 첫 번째는 ChatGPT에 계속 “계속해”라고 말해 또 다른 추측의 반례를 찾아낸 사례였음: https://x.com/DmitryRybin1/status/2079904005652893709 에이전트가 포기할 만한 문제에는 실제로 “계속해”가 대체로 통함. LLM은 어떤 일이 불가능한지 본질적으로 알지 못함 어려운 프롬프트에는 정상적인 종료 조건을 겸해 “수렴하고 더 이상 최적화 아이디어가 없을 때까지 이 과정을 반복하라. 계속 반복해도 된다”라고 쓰는 편임 특히 GPT는 다른 모델보다 작업 도중 멈추는 경향이 강해 보였고, 최근 사용한 버전은 아마 4.X였음 “여기까지 했고 다음 단계도 명확하지만, 계속하려면 의미 없는 메시지를 보내 달라”는 응답이 반복돼 상당히 번거로웠음 맥락 없이 “계속해”만 입력하는 건 LLM이 미묘한 논리 오류를 피하고 올바른 접근법을 고르리라 크게 신뢰하는 셈임 최신 모델도 간단한 DevOps 작업에서 배포된 패키지를 미배포 상태라고 단정했다가 사용자가 반박하면 곧바로 뒤집곤 함. 이런 일이 흔하다면 복잡한 수학 증명에서 결과 검증 없이 “계속해”만 반복해 타당한 결론을 얻을 수 있을지 의문임 과거에도 많은 수학자가 성공한 방법은 정확히 계속하는 것이었음 “부분적인 결과는 충분하니 완전하고 무조건적인 반례로 끝내자”라고 하자 88분 24초 작업한 뒤 완전한 유한 반례를 내놓은 장면이 인상적임 핵심을 정확히 찌르는 전문가의 AI 대화 기록은 끝없이 흥미로우며, 모델에서 얼마나 많은 것을 끌어낼 수 있는지 보여줌 Terence Tao도 내 전문 분야에서 내가 LLM을 쓰는 과정과 비슷하게, 전문 용어와 이론적 도구를 총동원한 짧고 날카로운 질문으로 강하게 방향을 잡음. LLM은 사용자의 수준에 맞춰 말투와 답변 수준을 바꾸는 듯함 결국 “AI를 배우는 법”은 먼저 문제 영역을 숙달하는 것임 수십 년간 개발했기에 코딩에는 AI를 쓸 수 있지만, 답을 평가할 수 없는 이론물리에는 쓰기 어려움 수학 내용은 이해하지 못했지만 Tao의 메시지는 내가 LLM과 나누는 대화와 놀라울 만큼 비슷했음 한 번에 결과를 얻으려 하기보다 단계별 탐색을 거치면 방향을 계속 교정할 수 있어 더 효과적이고 만족스러움. 한 번에 요청하는 방식은 성공하면 마법 같지만 실패하면 프롬프트부터 다시 만들어야 함 며칠 전 Cl...