AI 탐지기 효과 있나? 학생들, 부당한 부정행위 혐의 직면

Hacker News 의견

• 30년간 고등 교육에서 수학을 가르친 경험을 바탕으로, 비대면 시험에서는 부정행위가 만연함. 기술을 사용하지 못하게 하고 대면 시험을 요구하는 것이 해결책이지만, 학생들이 수업에 등록하지 않을 것임. 고등 교육 위원회가 모든 수업에 대해 이를 의무화해야 한다고 생각함. 그러나 대면 시험만으로는 충분하지 않음. 학생들이 학습보다는 통과를 위한 작업에 익숙해져 있으며, 부정행위가 증가하고 있음. K-12 교육도 변화가 필요함.

• AI가 지속될 것이므로 학생 성과를 평가하는 새로운 방법이 필요함. 과거에는 계산기를 사용할 수 없다는 이유로 시험에서 금지되었지만, 이제는 24/7 계산기를 사용할 수 있는 시대임. 변화에 적응하고 사회가 함께 대응 방법을 결정해야 함.

• AI가 작업을 플래그한 이유를 학생에게 설명하지 않는 것이 문제임. 알고리즘이 정확히 왜 특정 작업을 플래그했는지 설명할 수 있어야 함. 현재 AI 기반 솔루션은 이를 설명할 수 없기 때문에 적절하지 않음.

• 한 학생의 선생님이 모든 에세이를 AI 탐지 소프트웨어로 검사할 것이라고 경고했지만, 그 경고문 자체가 AI 생성물로 판명됨.

• 대형 대학 병원에서 일하는 컨설턴트로서, ChatGPT를 사용해 영어를 더 간결하고 비즈니스적으로 수정함. AI 탐지기가 작동할 수 있지만, 철자 검사기만큼 유용하지 않음. AI는 대형 언어 모델일 뿐이며, 사실 모델이 아님. 교사는 좋은 허위 탐지자가 되어야 함.

• AI 탐지가 100% 정확하지 않다면, 수백만 명의 학생과 젊은이의 미래를 판단하는 데 적절하지 않다고 믿음. 기술이나 에세이 형식에서 벗어나야 함. 주제에 대한 숙달 기준을 변경해야 함.

• AI 생성 작업을 식별하는 것은 인간에게는 쉬울 수 있지만, 컴퓨터에 프로그래밍하는 것은 어려움. 이전 직장에서 표절 탐지기를 다루면서 그들이 얼마나 쉽게 속을 수 있는지 깨달음.

• 교사가 LLM 탐지기를 사용하여 학생을 실패시키는 것은 모순적임. 교사는 학생이 과제를 이해하지 못했다고 비난하지만, 교사 자신도 도구의 결정을 이해하지 못하고 책임을 회피함.

• 아이들의 학교에서 AI로 구동되는 무기 스캐너를 도입했지만, 학교에서 지급한 Lenovo 노트북을 무기로 인식함. AI 제품을 구매하고 신뢰하지만, 제대로 작동하지 않음.

• 사람들이 알고리즘을 신뢰하게 된 것이 놀라움. 작동 원리를 모르고 설명할 수 없지만, 그냥 작동한다고 믿음. 부정행위로 판명되면, 아무것도 할 수 없음. 책임을 지지 않는 사람들이 많음. 과거에는 부정행위로 의심받았지만, 증명할 수 없으면 상관없었음. 그러나 이제는 증명할 필요가 없고, 시스템이 있다고 믿음.