Google에 작별을 고하며

Google에서 칩 설계 도구를 개발하던 Robert O'Callahan이 AI 발전을 가속하는 일에 대한 우려로 퇴사를 결정함. AI의 발전 속도가 사람들이 이해하고 적응할 수 있는 수준을 이미 크게 넘어섰다고 판단함 직접 AI 모델을 개발하지 않더라도 칩 설계 도구 개선은 AI를 더 저렴하고 빠르게 만들며, 추론 토큰 사용량 확대를 통해 능력 향상에도 기여한다는 점이 결정의 핵심임 AI의 실존적 위험은 실제이지만 불확실하며, 파국이 반드시 온다고 확신하지는 않음. 인지적 의존, 정신건강, 권력 집중, 경제적 혼란도 우려하며 편익과 피해의 균형 역시 불확실하다고 봄 뉴질랜드에는 옮겨 갈 다른 Google 엔지니어링 팀이 없어 AI를 가속하지 않는 업무로의 이동이 현실적으로 어려웠음. 내부에서 긍정적 영향을 주려는 시도도 효과가 크지 않다고 판단함 앞으로 Pernosco와 rr 유지보수를 계속하고 AI 에이전트의 디버깅 방식과 도구의 활용 가능성을 연구할 계획임. AI 자체를 전면 거부하기보다 인간에게 이롭고 자신의 사고력을 유지하는 방식으로 신중하게 활용하려 함 퇴사 결정과 업무의 영향 Robert O'Callahan은 동료, 근무 환경, 흥미로운 문제를 풀며 받는 높은 보수에 만족했지만, 팀의 최종 목표인 AI 비용과 지연 시간 절감이 지금 사람들에게 좋은 일이라고 생각하지 않아 사직 이메일을 보내기로 함 담당 업무는 AI 능력의 직접적인 개발이 아니라 하드웨어 칩 설계 도구 개선이었음 처음에는 비교적 무해한 일이라고 여겼지만, 도구의 주된 영향은 새로운 종류의 AI 칩 설계를 가속하는 데 있다고 판단함 성공하면 AI가 더 저렴하고 빨라져 널리 쓰이게 되며, 더 많은 추론 토큰을 소비해 능력을 높이는 데도 기여하게 됨 뉴질랜드 거주 제약 때문에 AI를 가속하지 않는 다른 Google 프로젝트로 옮기는 것은 사실상 불가능했음 Google은 뉴질랜드에 엔지니어링 조직을 두는 것을 선호하지 않으며, 이동할 다른 엔지니어링 팀도 없음 뉴질랜드에서 Google을 위해 일하던 좋은 조건을 다시 얻기 어려울 것으로 보아, 결정에 충분한 확신을 갖고자 했음 고용주에게 정직해야 한다는 책임감으로 상사의 상사에게 프로젝트의 성공을 바라기가 어렵다는 점을 알림 고용주에 대한 의무와 동료에 대한 존중 때문에 갑자기 떠나지 않고, 업무를 합리적인 상태로 인계하려 했음 개인의 기여와 내부 영향력 AI 가속에 기여하는 사람이 수백만 ...