AI와 대화하는 데 지쳤다

Hacker News 의견들

• 사람들이 내 질문을 AI에 넘기고 AI 답을 보내오는 게 핵심적인 문제임
  어른에게 질문했더니 대신 엄마에게 전화해서 답하게 하는 장면을 보는 느낌이라 깊이 슬프고 불편함
  스스로 충분히 답할 수 있는 존재와 대화하고 있다는 느낌이 사라짐

  • 이 흐름에서 싫은 건, 동료에게 질문하는 이유가 여러 가지인데 모든 질문이 화려한 Markdown과 이모지로 정리된 지식을 요구하는 건 아니라는 점임
    어떤 변경을 진행하기 전에 상대 의견을 물어 예의를 갖추려는 것일 수도 있고, 자기 생각을 너무 노골적으로 드러내지 않으면서 맥락을 공유하려는 것일 수도 있음
    계획에 확신이 없어 그 사람에게 직접 보증을 받고 싶은 경우도 있고, 그냥 막혀서 사람과 대화를 시작해야 하는 경우도 있음
    이런 순간마다 AI를 쓰면 직원 문화에서 진짜 신뢰가 쌓일 기회를 빼앗게 됨
  • 맞는 말이지만, 예전에도 “let me google that for you”를 보내던 일이 얼마나 많았나 싶음
    어떤 사람들은 본질적으로 게으르고, 생각하는 일을 남에게 떠넘김
    AI 답을 보내는 건 여전히 형편없다고 보지만, 도움을 청할 거라면 먼저 최소한의 노력은 해야 함
    여기서 게으르다는 건, 본인도 아는 문서 위치에 필요한 내용이 있는데도 먼저 찾아보지 않는 경우를 말함
    깊은 도메인 지식이 필요해서 오래 걸릴 문제를 말하는 건 아니고, 개인적으로는 AI 답으로 대응하지 않겠지만 가끔 유혹은 느낌
  • 바로 어제 내부 전문가 팀 오피스아워에 질문하러 갔는데, 이미 수작업과 AI를 모두 써서 내부 자료까지 폭넓게 조사한 상태였음
    “전문가”가 바로 답하지 못하자 “AI 도구에 물어보겠다”고 했고, 지성을 모욕하는 일이라고 끊어 말했음
    전문가 조언을 받으러 간 거지, 내가 이미 해본 같은 AI 프롬프트를 남이 대신 돌리는 걸 보러 간 게 아님
  • 누가 답변을 AI를 거쳐 보내면, 그 사람이 직접 말하려던 내용이 무엇인지, 프롬프트에 넣은 의도가 무엇인지, 환각인지, 그 중간인지 알 수 없음
    환각과 오해, 의견 불일치를 구분하기가 어려워짐
    모든 항목을 사람의 출력물처럼 조심스럽게 다루면서도 환각 가능성을 고려해야 해서, AI 출력물을 보내는 노력에 비해 받는 쪽의 부담이 극단적으로 커짐
    더 나쁜 건 그 답이 다시 대규모 언어 모델 채팅창에 붙여 넣어질 가능성이 높다는 점임
    AI 출력물을 그대로 보내는 건 정말 형편없는 태도이고, 이건 그 이유 중 하나일 뿐임
  • 누가 나에게 그런 식으로 하면 목록에 올려두고 앞으로는 매번 우회함
    그런 사람들과 상호작용할 가치가 없음

• 회사에서 개발자로 일할 때 업무 관련 질문을 사업 책임자에게 했더니 ChatGPT 스크린샷을 보내왔고, 내 질문과 아무 상관없고 전부 틀렸다고 답하자 1분 뒤 또 다른 ChatGPT 스크린샷을 보내왔다는 건 무례함을 넘어선 행동임
  내 직장도 아직 그 정도는 아니지만 짜증나는 일은 있음
  상사가 기능을 “조사”한다며 위키에 Gemini 챗봇 대화를 붙여 넣은 메모를 준비함
  물론 그건 명세가 아니지만 기능 작업을 시작하기 좋은 기반으로 취급됨
  Gemini가 이미 코딩 라이브러리와 개념을 골라놨으니, 외부인이 보기엔 이제 제품에 코드로 옮기기만 하면 되는 것처럼 보임
  실제로는 전혀 그렇게 단순하지 않고, 대개 도움이 되기보다 방해가 됨
  그런데 이제 “계획”이 이미 있고 너무 명확한데 왜 기능이 아직 안 됐느냐는 질문이 생김

  • 대규모 언어 모델이 일반 대중에게 공개되기 직전에 직원 10명 미만의 작은 전략 컨설팅 회사에서 일했음
    산업별 분석 도구가 Excel로 되어 있었고, 고객이 직접 쓸 수 있는 소프트웨어 제품으로 바꾸는 일이 내 역할이었음
    사장은 기계공학 학위가 있었지만, 도구에 대해 기술적 질문을 할 때마다 내가 만들어야 할 제품에 대한 영업 피치만 되풀이했음
    늘 신규 사업을 따내는 모드였고 “영업 모드”에서 빠져나오지 못하는 듯했음
    지금 그 밑에서 일했다면 어떤 질문에도 대규모 언어 모델을 가리켰을 거라고 확신함
  • 오래된 컴퓨팅 격언에 GIGO가 있음
    예전에는 “garbage in, garbage out”, 즉 컴퓨터에 쓰레기를 넣으면 쓰레기가 나온다는 뜻이었음
    요즘 GIGO는 “garbage in, gospel out”처럼 보임
    입력이 아무리 엉망이어도 출력은 신의 말씀처럼 취급됨
  • 몇몇 예외를 빼면, 내가 같이 일해 본 거의 모든 사업 책임자가 그런 식이었음
  • AI 생성 가짜 명세가 거대한 생산성 저해 요인이 되고 있음
    비기술 관리자들이 대규모 언어 모델에 프롬프트를 넣고, 선택된 라이브러리까지 포함한 자신감 넘치는 5쪽짜리 문서를 받은 뒤 일의 80%를 끝냈다고 생각함
    개발자는 이제 그 AI 접근법이 기존 코드베이스에 맞지 않는 이유를 증명하려고 환각된 아키텍처를 디버깅하고 반박하는 데 몇 시간을 써야 함
    실제 제품 관리의 부담이 개발팀의 AI 돌봄으로 완전히 전가됨
  • 그건 정신병적이라기보다, 권력을 가진 사람이 권력 없는 사람에게 보이는 무례하고 특권적인 태도임
    그 사업 책임자는 아마 상호작용에서 시간과 정신적 노력을 크게 아꼈다고 만족했을 것임
    대규모 언어 모델을 쓴 사실을 숨기지 않았으니 “진정성”과 “정직함” 점수까지 챙겼다고 느꼈을 수도 있음
    관계는 조금 손상됐겠지만 그게 의미 있는 손상이었는지는 시간이 말해줄 일이고, 냉정하게 보면 회사 수명이 짧아서 별 의미 없을 가능성이 큼

• 2025년 스페인과 포르투갈의 하루짜리 대규모 정전 때 가장 놀라운 일이 있었음
  결국 기지국까지 내려가자 모두 공원으로 나가 어울렸음
  친구, 낯선 사람들과 연결됐고, 갈 다른 곳도 없고 방해할 것도 없어 모두가 그 순간에 있었음
  사람들이 휴대폰을 집어 들었다가 거기에 아무것도 없다는 걸 깨닫고 다시 내려놓은 뒤 대화를 이어갔음
  그곳들에서 전에는 본 적 없을 정도로 사람들이 현재에 머물렀고, 꽤 마법 같았음

  • 2015년쯤 LA 지역에서도 비슷한 일이 있었고, 36~48시간 정도 전기도 인터넷도 없었음
    교외에서는 많은 이웃들이 처음 서로를 만났거나 몇 년 만에 직접 대화했음
    차도에 서서 수다를 떨고, 공구나 물품을 빌려주고 빌리는 예전의 아주 평범한 교외 생활이 돌아왔음
    스마트폰이 그 지역에서 거의 보편화된 지 겨우 5년 만에 우리가 이렇게 단절됐다는 사실이 놀라웠음
  • 이건 유대교 안식일을 떠올리게 함
    Tel Aviv에서는 토요일이면 상점이 닫고, 식당도 훨씬 줄고, TV 편성도 적고, 헬스장 같은 곳도 늦게 열거나 일찍 닫음
    공원과 해변은 그냥 존재하는 사람들로 가득함
  • 이런 경험담을 들으면 실제보다 이상화된 그림 같다는 느낌을 받을 때가 있는데, 포르투갈에서 직접 겪어보니 정말 설명 그대로였음
    정전 중에는 모두가 그냥 어울리고 대화하는 게 좋다는 같은 결론에 도달했지만, 다음 날 바로 그 교훈을 잊어버렸음
  • 노스캐롤라이나 서부 시골에서 허리케인 Helene 때 이와 비슷한 경험을 했음
    18일 동안 전기도 휴대전화 서비스도 없었음
    처음 며칠은 도로가 너무 망가지거나 막혀서 많은 곳에서 이동 수단이 도보, 자전거, ATV뿐이었음
    갑자기 사전 약속 없이 걸어서 이웃을 찾아가고, 사람들이 앞마당에서 그릴을 쓰고, 당연히 휴대폰은 의미가 없어졌음
    처음 며칠은 습관적으로 휴대폰을 집어 들었다가 아무것도 없다는 걸 깨닫고 내려놓고, 그 뒤엔 그것조차 안 하게 됨
    많은 사람이 고통을 겪었고 피해도 컸지만, 어떤 면에서는 오히려 잘 살아가고 있었음
  • 80년대와 90년대 초에 우루과이에서 휴가를 많이 보냈음
    만화를 좋아했지만 TV는 오전 10시에만 나와서 밖에 나가 놀 수밖에 없었음
    조부모님의 해변 집에는 오래된 진공관 TV가 있었는데 데워지는 데 몇 시간이 걸려서 대부분 켜지도 않았음
    그 TV로 Tyson이 Buster Douglas에게 진 경기를 봤고, 화면이 완전히 꺼지는 데도 오래 걸려서 다음 날 아침에도 화면 중앙에 작은 빛점이 남아 있었음
    TV에 접근할 수 없는 건 해방감이 있었고, 요즘도 주말에 인터넷이 없어도 괜찮을 것 같음

• Slack이나 생성된 이메일 답장으로 누군가가 나와 논쟁까지 AI에 맡긴 적이 있음
  정보를 제공하려는 것도 아니고, 그 주제에 대한 논의를 계속하지 않겠다는 평평한 부정문을 쓰는 데 썼음
  그 사람은 매우 독특한 문체가 있었기 때문에 AI 문체로 바뀐 게 너무 명확하고 섬뜩했음
  내 목소리가 갑자기 더 이상 중요하지 않게 됐고, 내 생각을 실제로 다루지 않은 채 창의적으로 끝없이 기각하는 무언가와 말하고 있다는 걸 깨닫는 과정은 설명하기 어려울 만큼 불쾌했음
  이런 행동은 누적됐지만 아무도 다루지 않았고, 내가 이야기한 누구도 실제로 제동을 걸려 하지 않았음
  최선의 해결책은 양쪽에서 2명 이상이 참여하는 대면 회의를 여는 것이었음
  신뢰는 급락했고, 결국 그 팀과의 모든 회의가 녹화·전사됐으며, 사람들은 공동 문제를 풀기보다 무대 위에 선 것처럼 말하기 시작했음
  기본적인 일조차 멈춰 섰고 결국 떠났음
  여기 사람들이 알 만한 이름 있는 꽤 큰 프로젝트였지만, 무엇인지는 묻지 말아 달라

  • 이건 솔직히 무섭고, AI가 우리를 어디로 이끌 수 있는지 보여주는 완벽한 예시임

• 회사의 “공개” 채팅 공간에서 비슷한 일이 있었고, 우리 회사가 대규모 언어 모델과 에이전트형 업무 흐름을 꽤 적극적으로 받아들이고 있는데도 반응은 대체로 “이걸 다 읽진 않을래”와 “야, 그건 좀 프로답지 않다”였음
  자기 사고를 전부 챗봇이나 에이전트에 외주 주려는 사람들은 부끄러움을 느끼게 해야 함
  효과가 있을 것 같음

  • 이런 걸 보내면 됨: https://noslopgrenade.com
  • 우리 회사에서는 이런 행동이 칭찬받음
  • 꼭 필요한 일이 아니라면 인간처럼 말하라고 하고, 아니면 대화를 완전히 끝낼 것임
    경계 설정 같은 문제임
  • AI 사용을 부끄럽게 만들면 AI 불신자로 낙인찍히고 다음 해고 라운드에서 밀려날 수도 있음
    그리고 그 해고 라운드는 코앞임

• 지역 Apple Store에 전화했는데 아마 AI가 받았음
  영업시간만 필요해서 괜찮았지만, 추가로 필요한 게 있느냐고 묻길래 복권 당첨 번호를 물어봤음
  한참 생각하더니 매장 직원에게 연결해야겠다고 답했음
  이제 수많은 질문을 피하고 실제 사람에게 연결되는 방법을 알게 됨

  • “operator”를 질릴 때까지 계속 반복함
    연결음이 들릴 때 말고는 멈추지 않으면 거의 항상 통함

• Gen Z 자녀 다섯 명이 있는데, 이들이 생성형 AI에 강하게 반발하고 있고 또래들도 삶에 미친 영향 때문에 화가 나 있다고 함
  기술자로서 새로운 것을 빠르게 받아들이는 편인데, IT에서 오래 살아남은 방식이 그랬기 때문임
  아직 은퇴할 준비가 안 됐으니 계속 알아둘 이해관계도 있음
  그래도 원문은 우리가 겪고 있는 심리적 문제를 분명히 짚은 것 같음
  Claude 사용도 속도를 늦추기 시작했음
  전에는 작업할 목표를 새로 만들어냈지만, 이제는 기존 작업을 필요성 기준으로 걸러서 Claude에 쓰는 시간이 훨씬 줄었음
  AI 회사들도 이 흐름을 느끼고 있을 것 같고, 우리가 말해 온 조정 국면이 가까워진 듯함
  생성형 AI는 도구로서는 훌륭하지만 모든 것이 될 수는 없음

  • 큰아이가 Gen Z 끝자락인데 강한 반AI 성향임
    내가 공개적으로 그런 입장을 말한 적은 없고, 어느 날 그냥 AI에 대한 혐오감을 표현했음
    IT에 오래 있었고 AI 회의론자에 가까운 편이지만, 내 분야에서 말이 되는 도구로 쓰는 건 괜찮고 분명 가치도 있음
    다만 모든 곳에 억지로 끼워 넣고 인간 창의성의 일반적 대체재로 쓰는 건 받아들일 수 없음
    Gen Z가 이렇게 느낀다는 걸 알게 되어 안도되고, 한 세대 전체가 반대하면 조금은 속도를 늦추는 데 도움이 되길 바람
  • 소프트웨어 개발자인가?
    소프트웨어 개발자에게는 이 문제가 더 어려워짐
    AI가 소프트웨어 개발에 특히 강하기 때문임
    AI를 쓰지 말아야 한다는 매우 강한 사업적 근거를 제시해야 함
    싫지만 이게 현실이고 우리가 사는 세계임
    받아들이지 않으면 뒤처짐

• 여기서는 사람들에게 선의를 조금 주고 싶음
  다른 이들이 말한 Google 검색 현상, 결국 “let me google that for you” 농담 사이트로 이어졌던 일이 떠오름
  원인이 꼭 사람들이 멍청하거나 게을러서만은 아니라고 봄
  둘 다 요인이긴 하지만, 또 하나 큰 이유는 사람들이 업무에 압도되어 있다는 것임
  또 하나의 질문은 배우거나 동료를 도울 기회가 아니라, 할 일 산이 더 높아지지 않게 가능한 빨리 처리해야 하는 또 다른 작업으로 보일 수 있음
  언젠가는 AI로 일터의 지루한 업무를 많이 자동화해서, 사람들이 동료의 질문을 깊이 파고들고 제대로 답하며 진짜 대화를 나눌 여유가 생기길 바람
  꽤 낙관적인 생각이고 거기까지 시간이 걸릴 수 있다는 건 알지만, 사람들이 내게 Google 검색 결과를 보내던 일도 몇 년 전부터 사라졌음
  그 현상은 비교적 짧게 지나갔고, 이번 일도 그랬으면 함

• 지금 유럽을 기차로 여행 중인데, 매일 밖에 나가 현지인과 다른 여행자를 만나는 게 정말 큰 이득임
  강력 추천함

  • 장기 여행은 지칠 수도 있음
    사람들과 이야기하는 걸 대체로 좋아하는데도 오래 여행하면 매우 피곤해짐
  • 언어 장벽은 어떤지 궁금함
    만나는 모든 사람에게 영어로 말하는지?
  • 경제가 Silicon Valley보다 Wall St를 통해 흐르던 때가 더 나았다는 개인 이론이 있음
    Wall St 사람들은 지하철을 타고 출근하기 때문임

• AI는 어떤 사람들이 가진 유일한 가치가 남이 접근하지 못하는 정보에 접근할 수 있음뿐이라는 걸 드러냄
  이제 그 유일한 장점마저 AI에 전부 위임하면, 정보 면에서 상대와 같은 위치에 있는 AI를 중계하는 것일 뿐이고 곧 노동력 풀에서 스스로 빠지게 될 것임

  • 좀 까칠한 기분이면 이렇게 밀어붙일 수 있음
    “당신이 AI 프록시일 뿐이라면, 조직에 정확히 어떤 가치를 더하고 있나요?”
    여기 댓글을 다는 대부분은 분명 “그러지 말라”는 쪽이지만, 최근에 이런 일을 했거나 앞으로 하려는 눈팅하는 사람이라면 자기 행동에 이 점을 고려하길 권함
    자신이 AI 프록시일 뿐이라면 해고 사선의 맨 앞에 서겠다고 자원하는 셈임
    기업들이 AI 비용에 움찔하기 시작했다 해도, AI는 여전히 당신보다 훨씬 쌈
  • 비기술자인 임의의 사람이 Claude에 아무 코드베이스나 맡겨서, 그 코드를 아는 사람보다 잘 고치게 해보면 됨
    법을 모르는 사람이 Claude에 법률 조언을 물어 변호사만큼 좋은 결과를 얻어보거나, 의사가 아닌 사람이 의료 조언을 물어보는 것도 마찬가지임
    최소한 이런 사람들은 받은 답을 넘기기 전에 검토하고 있길 바람
    정말 전문가라면 헛소리를 걸러내고 비전문가보다 더 잘 다시 프롬프트할 수 있으니, 그 안에는 가치가 있음
    아주 드물게는 실제로 직접 해낼 수도 있을 것임
    AI는 동료의 최고와 최악을 빠르게 드러내게 만들 것임
    해고되지 않을 만큼만 최소한으로 일하던 사람들은 항상 있었고, AI는 그걸 더 잘 보이게 할 뿐임
    그리고 AI가 필연적으로 사무직 일자리를 없애고 다른 일자리를 만들 때, 그런 사람들이 가장 먼저 정리될 것임
    새로 생긴 일자리조차 얻지 못할 수도 있는데, 애초에 조금 있던 뇌세포마저 썩혀버렸기 때문임
  • 나는 주로 내용보다 표현 형식이 귀찮아서 AI를 씀
    프롬프트에는 지식과 내용 계획을 전부 제공하고, 수동으로 검토하고 고침
    내용을 아는 사람이라면 생성된 글이라는 걸 알아볼 수 있지만 크게 신경 쓰지 않음
    여전히 내 지식이고, 내용에 대해서는 깊이 토론할 수 있음