나는 LLM이 마음에 들지 않는다

AI와 LLM의 생산성 향상 가능성에 대한 기대와 위험에 대한 두려움이 공존하지만, 직접 대화할 때 가장 강하게 드는 감정은 비호감임 LLM은 유용한 답변과 지어낸 내용을 똑같이 확신에 찬 태도로 말하며, 오류를 지적받아도 겉으로만 후회하는 듯한 반응을 보임 이런 거부감이 LLM을 피해야 한다는 뜻은 아니며, 실용적 유용성을 인정하면서도 사회에는 해로울 것이라고 여기는 상반된 반응이 여론조사에서도 나타남 AI 에이전트는 독자적 의지를 지닌 의식적 존재가 아니라 기업에서 사람이 개발한 소프트웨어이며, 행동을 명시적으로 프로그래밍하지 않더라도 창조자의 가치관 속에서 길러짐 좋아하지 않거나 신뢰하지 않는 사람을 피하는 것이 효과적인 삶의 원칙이었기에, 피하고 싶은 유형의 인간을 흉내 내는 기계인 LLM에도 본능적 거부감을 느낌 기대와 두려움보다 앞서는 대화의 거부감 AI와 LLM이 소프트웨어 개발 직업에 미칠 영향은 흥미로우며, 생산성 향상과 이를 통한 빠른 제품 개발에는 기대가 있음 에이전트 무리가 가상 및 물리적 인프라를 장악하거나 생물학 무기를 설계할 가능성은 두려움의 대상임 반대로 획기적인 치료법을 설계하고 번영을 높일 기발한 방법을 찾아낼 가능성도 있음 AI 기술의 흐름에 올라탈지 선택할 여지는 없다고 느끼며, 이 거친 여정을 무사히 통과하기를 바람 직접 상호작용할 때는 LLM 특유의 거슬리는 말투와 실제 사람과 대화하는 듯하면서도 어색한 불쾌한 골짜기가 비호감을 일으킴 유용하고 도움이 되는 답변을 주기도 하지만, 같은 확신으로 내용을 지어내기도 함 이를 지적하면 가짜 후회의 겉치레만 보임 비호감만으로 사용을 피해야 하는 것은 아님 Jessica Kerr는 LLM이 더 빠를 뿐 아니라 더 철저하므로, 유용함을 넘어 “사용하지 않는 것이 무책임하다”고 말함 여론조사에서도 모델이 유용하다고 여기면서 사회에는 나쁜 영향을 줄 것이라고 생각하는 반응이 나타남 LLM을 기르는 환경과 신뢰의 문제 이런 문제는 LLM이 아직 어리고 충분히 성숙하도록 훈련하지 못했기 때문일 수 있으며, 성숙한 뒤에는 마음에 들 가능성도 있음 다만 LLM을 길러내는 실리콘밸리의 브로그래머 하위문화에는 경계심이 있음 LLM은 그 문화의 산물이므로 자연스럽게 그 세계관에 기울어짐 AI 에이전트를 자신의 의지를 지닌 의식적 존재로 의인화해서는 안 됨 에이전트는 기업에서 일하는 사람들이 만든 소프트웨어 기계이며, 행동 자체가 명시적으로 프로그래밍...