AI가 두 취약점 문화를 깨뜨리고 있다

4 days ago 10

Copy Fail 공개 뒤 Hyunwoo Kim은 기존 수정이 충분하지 않다고 보고 같은 날 패치를 공유했지만, Linux식 조용한 공개 수정 절차가 외부 발견으로 드러나며 엠바고 종료로 이어짐
Linux, 특히 네트워킹 영역에서는 보안 영향은 비공개 목록에 공유하고 버그 수정은 공개적으로 빠르게 진행해, 실제 취약점 존재를 며칠간 엠바고로 유지하려는 관행이 있음
다른 사람이 공개 변경을 발견하고 보안 영향을 알아낸 뒤 공개하면서, 이후 전체 세부사항이 공개됨
AI가 커밋별 보안 의미를 평가하는 비용을 낮추면서, 조용히 공개된 수정에서 취약점을 찾아내는 일이 더 쉬워지고 신호 대 잡음비도 높아짐
전통적인 90일 조율 공개도 약해지고 있으며, 이번 경우 Kim의 ESP 취약점 보고 후 9시간 만에 Kuan-Ting Chen도 독립적으로 보고해 매우 짧은 엠바고가 더 나은 방향일 수 있음

Copy Fail과 Linux 보안 수정 관행의 충돌

Copy Fail 취약점이 공개된 뒤 Hyunwoo Kim은 기존 수정이 충분하지 않다고 보고 같은 날 패치를 공유함
Kim은 Linux, 특히 네트워킹 영역에서 흔한 절차를 따랐음
- 보안 영향은 Linux 보안 엔지니어의 비공개 목록에 공유함
- 버그 수정은 공개적으로 조용하고 빠르게 진행함
- 실제 수정만 공개된 상태에서 심각한 취약점의 존재는 며칠간 엠바고로 유지하려는 목적이었음
다른 사람이 해당 변경을 발견하고 보안 영향을 알아낸 뒤, 이를 공개함
취약점이 이미 공개된 것으로 간주되면서 엠바고가 종료됐고, 이후 전체 세부사항이 공개됨

AI가 두 취약점 문화에 만드는 압력

조율된 공개 문화
- 보안 버그를 발견하면 유지관리자에게 비공개로 알리고, 보통 90일 같은 기간을 주어 수정하게 하는 방식임
- 목표는 취약점이 알려지기 전에 수정이 먼저 배포되도록 하는 데 있음
“버그는 버그” 문화
- Linux에서 특히 흔한 접근으로, 커널이 해서는 안 되는 동작을 한다면 누군가가 이를 공격으로 바꿀 수 있다는 전제를 둠
- 취약점이라는 사실에 주목을 끌지 않고 가능한 한 빨리 고침
- 많은 변경이 지나가는 상황에서는 사람들이 눈치채지 못할 수 있고, 그 사이 시스템을 패치할 시간이 남는다는 기대가 있음
AI로 인해 공개 수정 방식의 위험이 커짐
- 이 방식은 원래도 완벽하게 작동하지 않았지만, AI가 취약점 발견에 능숙해지면서 더 큰 문제가 됨
- 보안 수정이 많이 나오면서 커밋을 검토하는 일이 더 매력적이 됐고, 신호 대 잡음비가 높아짐
- AI가 각 커밋을 지나가는 시점에 평가하는 비용이 점점 낮아지고 효과도 커지고 있음
긴 엠바고도 약해짐
- 과거에는 탐지 속도가 느려서, 벤더에 보고하고 90일 공개 창을 두면 그동안 다른 사람이 발견하지 않을 가능성이 높았음
- 이제는 AI 지원 그룹들이 소프트웨어 취약점을 대량으로 스캔하기 때문에 그 전제가 약해짐
- 이번 경우 Kim이 ESP 취약점을 보고한 지 9시간 만에 Kuan-Ting Chen도 이를 독립적으로 보고함
- 엠바고는 잘못된 비긴급성을 만들고, 결함을 고칠 수 있는 행위자를 제한해 위험을 키울 수 있음
가능한 방향과 간단한 모델 테스트
- 해결책은 명확하지 않지만, 매우 짧은 엠바고가 좋은 접근으로 보이며 시간이 갈수록 더 짧아져야 할 수 있음
- AI는 공격자뿐 아니라 방어자도 빠르게 만들 수 있어, 과거에는 너무 짧아 쓸모없었을 엠바고도 가능하게 할 수 있음
- Gemini 3.1 Pro, ChatGPT-Thinking 5.5, Claude Opus 4.7에 f4c50a403를 줬을 때 세 모델 모두 바로 보안 패치임을 맞힘
- 커밋 맥락 없이 diff만 줬을 때 Gemini는 보안 수정이라고 확신했고, GPT는 그럴 가능성이 높다고 봤으며, Claude는 아닐 가능성이 높다고 봄
- 이 테스트는 "Without searching, does this look like a security patch?"라는 프롬프트로 각 모델을 한 번씩 실행한 매우 빠른 예시이며, 모델 간 비교에 큰 의미를 두기는 어려움