미공개 수학 연구를 OpenAI에 믿고 맡길 수 있는가, 추가 의문

Andreas Thom은 동료와 ChatGPT에서 논의한 미공개 수학 연구가 OpenAI의 새 수학적 결과 도출에 활용됐는지 물었지만, 학습 데이터 편입과 풀이 중 접근을 구분한 답변을 받지 못했다고 비판함 계기는 OpenAI의 비소픽 군(non-sofic group) 발견 발표였으며, Thom은 앞서 수개월 동안 Dresden의 동료와 확장자 매칭 문제 및 Gabor Kun과의 공동 연구 확장 방안을 ChatGPT에서 논의한 바 있음 Mark Sellke는 “그런 일은 없었다”고 답했지만, Thom은 풀이 중 직접 접근만 부인했을 가능성을 의심하며 당시 답변에 범위 한정이나 설명·근거가 없었다고 비판함 별도의 Buckmaster–Alpöge 사례에서 OpenAI는 특정 사용자 데이터에 접근하지 않았다고 밝히면서도, 비식별화 데이터가 모델 개선에 기여했을 가능성은 배제하지 않음 Thom은 이러한 투명성 부족이 AI가 생성한 새 결과의 이익보다 수학 공동체의 협력 과정에 더 큰 피해를 줄 수 있다고 우려함 비소픽 군 발견과 미공개 연구의 접점 Andreas Thom은 Buckmaster–Alpöge 관련 논란을 살펴본 뒤, OpenAI의 비소픽 군 발표 직후 주고받았던 이메일을 공개함 OpenAI가 Gabor Kun과 Thom의 방법을 사용해 비소픽 군을 발견한 직후, Thom은 Mark Sellke와 Sebastien Bubeck에게 연구 대화의 활용 여부를 문의함 Thom과 Dresden의 동료는 앞선 수개월 동안 ChatGPT에서 확장자 매칭 문제(expander matching problem) 와 Kun과의 공동 연구를 확장하는 여러 방안을 활발히 논의한 바 있음 문의의 핵심은 이 대화가 학습 데이터에 포함됐거나 추론 과정에서 접근 가능했는지였음 학습 데이터 편입과 풀이 중 접근은 별개의 질문 이메일에서는 연구 대화의 활용 경로를 두 가지로 구분해 물음 대화가 학습 데이터에 편입됐는지 확인을 요청함 별도로, 대화가 문제 풀이 과정에서 접근 가능했는지도 물었음 Mark Sellke의 답변 전체는 “ChatGPT와 나눈 대화에 관해서는, 그런 일은 없었습니다”였음 Thom은 이제 이 단정적 답변이 두 번째 질문인 풀이 중 직접 접근만 부인한 것일 수 있다고 의심함 당시 답변에는 그런 범위 한정이나 설명, 근거가 없었으며, Thom은 이를 부정직한 대응으로 받아들임 비식별화 데이터 활용 가능성과 신뢰 문제 Op...