AI의 에너지 발자국에 숨겨진 이야기

• AI 쿼리 하나당 에너지 사용량은 미미해 보이지만, 전 세계적으로 수십억 건의 요청이 쌓이며 에너지망에 실질적인 영향을 미치는 수준임
• 주요 AI 회사들은 수십조 원 규모의 데이터 센터와 전력 인프라 투자를 가속화하고 있으며, 일부는 원자력 발전소 건설까지 계획 중임
• AI 쿼리의 에너지 소비량은 모델 크기와 복잡도에 따라 수백 배 이상 차이가 나며, 비공개 모델의 경우 정확한 소비량은 거의 알려지지 않음
• AI가 사용하는 전력은 대부분 화석 연료 기반 전력망에 의존하고 있으며, 이로 인해 탄소 배출 강도는 평균보다 48% 높음
• 향후 AI의 사용이 지속적으로 확대될 경우, 2028년에는 미국 데이터 센터 전력의 절반 이상이 AI에 사용될 전망임

Making the Model: AI 모델 훈련의 시작점

• AI 모델은 수개월간 데이터 센터에서 수십 기가와트시의 전력을 소모하며 훈련됨
• GPT-4 훈련에만 5천만 달러 이상, 50GWh의 전력이 필요했으며 이는 샌프란시스코 전체를 3일간 가동할 수 있는 수준임
• 추론(inference)이 전체 AI 전력 사용의 80~90% 를 차지하며, GPU를 중심으로 한 데이터 센터의 역할이 핵심적임
• NVIDIA의 H100 GPU가 AI 추론 작업의 중심을 차지하며, 수천 개가 연결된 클러스터 형태로 작동함

A Query: 하나의 질문이 소비하는 에너지

• 같은 AI 모델이라도 질문 종류나 위치, 시간대에 따라 에너지 소비량과 탄소 배출량이 천차만별임
• Llama 3.1 8B 모델은 평균 114줄(J) 소모, Llama 3.1 405B는 6,706줄을 소모
• Stable Diffusion 3 Medium으로 이미지 하나 생성 시 2,282줄, 고화질 이미지 또는 동영상일 경우 수십만~수백만 줄 소모
• 영상 생성은 이미지보다 700배 이상 에너지 사용, 향후 AI 영상 생성이 대중화되면 전력 소비 급증 가능성 있음

Fuel and Emissions: AI가 사용하는 전력의 출처

• AI 데이터 센터는 태양광·풍력 같은 간헐적 에너지로 운영이 어려워, 평균적으로 더 높은 탄소 집약도의 전력을 사용
• 예: 2024년 미국 전체 전력의 60%가 화석 연료, 원자력은 20%, 재생에너지는 나머지 20% 차지
• 캘리포니아 vs. 웨스트버지니아처럼 지역에 따라 2배 가까운 탄소 배출 차이가 존재
• 향후 메타, 구글, 아마존 등은 원자력 발전소 확충을 위한 공동 투자를 발표했지만, 완공까지 수십 년 소요

AI around the corner: 다가오는 AI 대중화와 에너지 급증

• ChatGPT는 현재 전 세계에서 5번째로 많이 방문되는 사이트, 하루 10억 건 이상의 쿼리가 발생함
• 추정치에 따르면, GPT 쿼리 1건당 1,080줄의 에너지, 연간 1,090GWh = 미국 가정 10,400곳을 1년간 가동할 전력
• 영상·이미지 포함 시 연간 35GWh 이상 추가, 이는 AI 에이전트, 음성 모드, 영상 인식 기반 AI가 본격화될 경우 더욱 증가 예상
• AI가 스스로 작업을 수행하고 사용자 데이터로 개인화되는 미래는 단일 쿼리 단위 예측으로는 에너지 수요를 설명 불가

The Future Ahead: 2028년까지의 에너지 수요 예측

• 미국 AI용 데이터 센터는 2024년 76TWh 사용, 이는 720만 가구 규모
• 2028년까지 165~326TWh 사용 예상, 이는 미국 전체 가정의 22% 전력 사용량과 맞먹음
• 이는 3000억 마일 운전 시의 탄소 배출량과 동일하며, 데이터 센터의 전력 사용 비중은 4.4% → 12%로 세 배 증가 전망
• 소프트뱅크, 오픈AI 등은 500조 원 규모의 데이터 센터 및 전력 인프라 투자, 세계 곳곳에 축구장 규모의 인프라 건설 중

Transparency Gap: 수치 공개의 부재와 시민 부담

• 대부분의 AI 회사는 모델 추론 시 에너지 소비량을 공개하지 않음, 이는 공공 예측 불가능성으로 이어짐
• 미국 정부 에너지기관(EIA)도 AI를 별도 산업군으로 취급하지 않아 통계 미흡
• 버지니아 주 보고서에 따르면, 데이터 센터 에너지 비용으로 인해 일반 가정의 전기료가 월 37.5달러 인상될 가능성 존재
• AI 인프라의 비용을 시민들이 떠안게 될 수 있으며, 이에 대한 사회적 논의가 필요함