컴퓨터는 결정을 내릴 수 없다

Hacker News 의견들 컴퓨터도 결정을 내릴 수 있음. if-else 같은 제어 흐름도 실행 중 받은 데이터를 바탕으로 컴퓨터가 내리는 결정임. 이런 로직은 이해할 수 있지만 LLM은 블랙박스에 가깝다고 반박할 수는 있음. 하지만 Turing이 관찰했듯, 직접 만든 복잡한 알고리즘의 출력에도 자주 놀라게 됨. 과제가 어려워질수록 알고리즘도 복잡해지고 예상 밖의 동작이 나타날 수 있으며, LLM은 이런 능력과 복잡성의 상승 곡선에서 가장 최근의 정점에 해당함. AI 안전성과 정렬은 개선해야 하지만, AI만의 능력을 유지하면서 완벽한 안전성을 확보하기는 아마 불가능할 것임. 어떤 상황에서든 AI가 잘못한 모든 일에 개발자나 사용자가 책임져야 한다는 흑백논리도 비현실적임. 범용 기술 공급자가 모든 후속 용도를 예견하고 제한할 수는 없다는 점은 늘 받아들여 왔음. 자동차 제조사도 모든 기계적 고장이나 차량을 이용한 범죄를 막지는 못함. 동의하지 않음. 컴퓨터는 행동 방향에 대해 판단을 내리는 게 아니라 미리 정해진 행동을 실행할 뿐임. 일련의 결정은 소프트웨어 개발자가 내렸고, 컴퓨터는 이를 수행했을 뿐임. 핵심은 컴퓨터가 결정할 수 있느냐가 아니라 결정하도록 맡겨서는 안 된다는 것임. 컴퓨터에는 잘못을 묻거나 책임을 지울 수 없기 때문임. 결정을 내릴 수 없다는 것보다는 결정을 허용한 사람이 최종 책임자라는 게 핵심임. 의사결정 세탁이라는 표현이 아주 적절함. 프로그램에 자유재량을 준 인간이 결국 존재함. “내 차가 당신을 치긴 했지만 내 잘못은 아니다”라고 할 수는 없으며, 운전자가 자동차 제조사 직원이기도 하다면 더더욱 그러함. 법적 분쟁에서 다뤄지는 쟁점임. 핵심은 누가 또는 무엇이 결정했느냐 자체가 아니라 결과에 누가 책임지는가임. 결정을 내린 주체가 실제 원인일 수는 있어도, 피해에 대한 법적 책임과 가장 밀접하게 연결되는 근접 원인(proximate cause) 은 아닐 수 있음. 동전을 던져 행동 여부를 정했다면 동전 탓을 할 수는 없음. 우연에 위임하는 행위 자체가 결정임. 관련해서 Dan Davies의 The Unaccountability Machine을 추천함. 금융 사기를 다룬 Lying for Money도 같은 저자의 책임. https://en.wikipedia.org/wiki/The_Unaccountability_Machine 컴퓨터는 수십 년 전부터 늘 결정을 내려 왔지만, 그래도 그 ...