모두가 제정신을 잃었다

AI 대응이 하루 업무의 75% 이상을 차지하면서 일의 즐거움까지 잃은 경험에서 출발해, 윤리와 실제 효과를 따지지 않는 조직의 AI 도입 열풍을 비판함 보안의 병목은 취약점을 찾는 것이 아니라 실제 시스템에 패치를 적용하는 일인데, 조직들은 AI로 수천 건의 취약점을 더 찾아내는 데 막대한 인력을 투입하고 있음 같은 인력을 자산 목록 정비와 자동 업데이트, 공격 표면 파악에 썼다면 더 나은 투자였을 것이며, 에이전트로 개인이 바빠지는 것만으로 부서 간 협업 문제는 풀리지 않음 AI가 인류를 멸망시킬 가능성을 논하는 동안, 데이터센터의 물 소비와 대기 오염, 화석연료 사용처럼 이미 발생하는 피해는 뒷전으로 밀림 취약점 발견부터 패치 작성과 리뷰까지 AI에 맡기면 코드를 이해하는 사람은 줄고 승인은 형식적으로 남아, 장애가 났을 때 조직 전체가 원인을 파악하지 못할 수 있음 AI가 잠식한 업무 경험 엔지니어링 배경이 없는 사람들이 에이전트로 가득한 홈랩에서 만든 해결책을 “업계를 바꿀 것”이라 내세우고, 이메일과 온라인 글은 획일적인 AI식 문체로 수렴함 사람과 직접 소통하기보다 AI 출력을 전달하는 인간 대리인(meat proxy)을 상대하는 듯한 경험이 늘어남 매일 업무 시간의 75% 이상을 직간접적으로 AI 대응에 쓰면서 업무의 즐거움을 대부분 잃었으며, 자신만 그대로이고 주변 사람들은 모두 달라진 듯한 소외감을 겪음 “윤리는 제쳐두고” 진행되는 도입 AI 기업들의 범죄적 행태를 용인하고, 언론은 기업의 의인화 언어를 그대로 받아들이는 분위기임 그 결과 프로그램을 안전하게 만들지 못한 기업의 책임이 의인화된 AI 쪽으로 옮겨감 AI 모델은 지식재산 착취와 소수 미국 기업 및 부호에게 집중되는 권력을 기반으로 하며, 지속적인 이용은 유해한 활용도 뒷받침한다는 비판을 받음 아동 성착취물 생성과 로그인 사용자에게 남아 있는 관련 기능이 대표적인 사례임 모델을 계속 사용하는 행위는 Minab 초등학교 공격과 같은 군사 표적 선정에서의 역할도 뒷받침한다는 비판임 기업들은 윤리 문제를 제쳐두고 막대한 토큰 비용을 지출하면서도, 바이브 코딩으로 만든 지원 챗봇의 투자 수익률(ROI) 은 확인하지 않음 토큰은 카지노 칩 같은 가상 화폐에 비유할 수 있으며, 현금보다 칩을 사용할 때 도박 지출이 유의하게 늘었다는 연구가 있음 부실한 문서를 넣은 LLM은 쓸모없는 결과를 다듬어 내놓을 뿐인 Garbage-In/Garbage-...