[마켓칼럼] 코스피 과민반응…알고리즘 매매와 ETF의 역설

홍성관 라이프자산운용 부사장

코스피, 변동성 세계 1위

한국 주식시장의 변동성이 심상치 않다. 최근 글로벌 주요 주가지수의 역사적변동성을 살펴보면 코스피의 변동성이 압도적으로 높다.

현대 포트폴리오 이론에서 투자자는 구조적으로 변동성이 높은 경우 리스크에 대한 보상 차원에서 더 높은 기대수익률을 요구하고 이는 주가의 만성적인 저평가로 이어질 수 있다. 즉, 변동성 자체가 밸류에이션 디스카운트 요인이다. 올해 서킷브레이커가 벌써 두 차례나 발동됐다. 서킷브레이커는 지수가 전일 대비 8% 이상 하락한 상태가 1분간 지속될 경우 20분간 거래가 중단되는 제도다. 1987년 10월 블랙먼데이 이후 미국에서 처음 도입되었고, 지금은 전세계 여러 주식시장들이 급격한 가격 붕괴를 완화하기 위한 안전장치로 활용하고 있다. 사이드카 역시 2008년 글로벌 금융위기 이후 가장 잦은 수준이다. 사이드카는 코스피200 최근월물 선물이 5% 이상 상승 또는 하락을 1분간 지속할 때 프로그램 호가가 일시적으로 효력 정지되는 장치다. 잦은 사이드카 발동에 시장 참여자들은 이제 무덤덤하게 받아들이기도 한다. ‘일상화된 사이드카’라는 자조 섞인 농담도 나온다.

아래 표는 올해 코스피지수가 5% 이상 상승하거나 하락한 날에 미국을 비롯한 주요국가들의 지수 움직임을 보여준다. 올들어 첫 사이드카가 발동된 2월 2일은 미국 케빈 워시 미국 연준의장 후보 지명에 따른 ‘워시쇼크’의 영향으로 하락했고, 이후 3월 들어 이란 전쟁으로 인해 빈번하게 사이드카가 발동됐다.

물론 지정학적 리스크로 인해 글로벌 금융시장의 변동성이 확대된 것은 이해할 수 있다. 그러나 최근 한국 시장의 움직임은 단순한 '변동성 확대'라는 말로 설명하기 어렵다. 3월 4일만 보더라도 코스피는 지수 발표 이래 역대 최대하락폭인 -12.06%를 기록한 반면, 일본이나 대만의 하락폭은 3분의 1 수준에 그쳤다. 반대로 지정학적 리스크 경감에 대한 기대감으로 지수가 폭등했던 4월 1일의 경우에도 일본이 5.24%, 대만이 4.58% 상승하는데 그친 반면, 한국은 무려 8.44%나 상승했다. 이런 현상이 반복되는 것은 마치 한국 시장이 미국 시장의 레버리지 상품 같은 착시로도 보인다. 2008년 글로벌 금융위기나 코로나19 당시에도 시장의 변동성은 컸지만, 현재와 같은 구조적 과민반응은 상대적으로 덜했다.

구조적 과민반응의 원인: 알고리즘 매매와 ETF

한국 주식시장의 과민반응에는 복합적인 요인들이 작용했을 것이다. 그 중에서도 대표적으로 거론되는 것이 알고리즘 트레이딩과 ETF다. 알고리즘 매매는 시장 가격, 거래량, 변동성, 경제 지표 등 방대한 데이터를 실시간으로 분석해 사전에 설정한 조건과 규칙에 따라 인간의 개입 없이 자동으로 주문을 실행하는 방식이다. 짧은 시간 내에 수많은 종목에 대량 주문을 넣을 수 있다는 점도 특징이다. 오늘날 많은 기관들이 활용하는 변동성 타겟팅(Volatility Targeting) 전략과 리스크 패리티(Risk Parity) 전략이 대표적이다. 변동성 타겟팅은 포트폴리오의 실현변동성이 목표치를 초과하는 순간 주식 비중을 자동으로 줄이고, 목표치 아래로 내려오면 반대로 비중을 늘리도록 설계돼 있다. 리스크 패리티도 변동성이 높아진 자산의 비중을 기계적으로 축소하고, 변동성이 낮아지면 확대한다. 이 전략들은 시장 상황을 주관적으로 판단하지 않는다. 일정 조건이 충족되면 자동으로 실행할 뿐이다.

결정적인 문제는 여기서 발생한다. 유사한 데이터를 참조하는 기관들의 트리거 조건이 비슷하면, 한 기관의 매도가 시장 가격을 떨어뜨리고 변동성을 높여 다른 기관들의 트리거 조건을 연쇄적으로 충족시킨다. 이는 매수에 있어서도 마찬가지다. 매도가 매도를 부르고, 매수가 매수를 부르는 증폭 메커니즘이 내재되어 있는 셈이다. 이런 알고리즘 매매는 대부분 개별 종목이 아니라 여러 종목을 묶은 바스켓 단위로 집행되기 때문에, 알고리즘 매매의 시장 비중이 높을수록 개별 종목의 지수 동조화가 심화된다.

현재 한국 주식시장에서 알고리즘 매매가 차지하는 비중을 정확히 파악하기는 어렵다. 다만 그 영향이 커지고 있다는 것은 현장에서도 감지된다. 최근 만난 글로벌IB의 한 임원은 펀더멘털로 설명하기 어려운 가격 움직임이 잦아지면서 데스크의 중개인들조차 당황하는 일이 늘고 있다고 토로했다. 알고리즘이 원인이라고 단정할 수는 없지만, 적어도 전통적인 가격 발견 메커니즘이 제대로 작동하지 못하고 있음은 확인할 수 있다.

ETF도 코스피 구조적 과민반응의 한 축을 형성한다. 한국의 ETF 순자산은 현재 393조원 수준으로 2025년 초 대비 2.3배 증가했고, 일 거래대금도 2025년 초 3.7조원에서 4월 13일 10.8조원으로 3배 가까이 늘었다. ETF 시장이 커질수록 ETF발 가격 충격이 전체 시장에 미치는 영향도 함께 커진다는 의미다.

ETF는 수동적(passive)인 금융상품으로 분류되지만, 실제 시장에서는 모멘텀을 강화하는 메커니즘으로 작동한다. 구조를 살펴보면 이렇다. ETF에 자금이 유입되면 자산운용사는 편입 종목을 기계적으로 매수하고, 환매로 자금이 빠져나가면 동일한 방식으로 매도한다. 이 과정에서 유동성공급자(LP) 역할을 하는 증권사는 선물·현물·바스켓을 활용해 자신의 포지션이 갖는 리스크를 즉각적으로 헤지하며, 이는 시장 가격 움직임을 추가로 따라가는 거래를 유발한다. 예를 들어, 증권사는 ETF를 매수하면 가격 변동 리스크가 생기기 때문에, ETF의 기초자산에 흡사한 포지션을 매도해 헤지한다. ETF 가격이 하락할 때는 매도세가 강해 증권사의 ETF 매수 포지션이 커지고, 이를 헤지하기 위해 기초자산을 추가로 매도하면서 하락을 더 가속한다. 반대로 ETF 가격이 상승할 때는 매수세가 강해 증권사가 보유한 ETF를 매도하고 기초자산의 매도 포지션을 줄이는데, 이는 기초자산을 매수하는 효과로 이어져 추가 상승을 유발한다.

레버리지 ETF에서 이 효과는 더욱 증폭된다. 레버리지 ETF는 목표 배율을 유지하기 위해 매일 장 마감 직전 강제 리밸런싱을 실행한다. 시장이 하락하는 날에는 하락분의 배수만큼 추가 매도를 해야 하기 때문에, 장 마감 전후 변동성이 집중적으로 확대된다. 이란 전쟁으로 시장 충격이 있었던 3월4일 KODEX 레버리지의 거래대금은 4조2200억 원으로, 당일 전체 ETF 거래대금 43조 원의 약 10%를 차지하며 사상 최고 수준을 기록했다. 단일 상품의 리밸런싱 수요만으로도 시장 수급에 의미 있는 영향을 끼칠 수 있음을 보여주는 수치다.

알고리즘 매매와 ETF 외에도 한국 시장 고유의 구조적 취약성이 과민반응을 심화시킨다. 외국인 투자자들이 선물을 통해 운용하던 레버리지 포지션을 리스크 오프(risk-off) 국면에서 일제히 청산할 때 현-선물 간 연쇄 하락이 발생하는 경우도 있고, 삼성전자와 SK하이닉스가 지수 내 약 43%를 차지하는 높은 집중도로 인해 특정 업종 충격이 지수 전체로 확대되는 구조적 특징도 그렇다.

과민반응 완화를 위한 접근: 투자주체의 다양성 제고

코스피의 구조적 과민반응을 완화하려면 시장 생태계의 다양성을 회복하는 방향의 접근이 필요하다. 즉, 알고리즘 매매나 ETF와 다른 방향성을 가진 수요를 두텁게 쌓는 것이다.

우선 장기 투자 자금을 늘려야 한다. 의외로 국내 은행, 증권사, 보험사 등 금융기관들은 주식 포지션이 적다. 자본규제 시스템 상 주식에 높은 위험가중치(RWA)를 부과하기 때문이다. 내부 리스크 한도 제약과 맞물려 자본비용이 지나치게 높아 주식 보유를 회피하는 구조가 형성되어 있다. 장기 투자에 한해 위험가중치를 경감하는 방식 등 규제 체계의 정교한 조정이 검토될 필요가 있다.

해외에서도 단기 매매에 치중하는 헤지펀드보다 연기금·보험사·국부펀드와 같은 장기 투자 성격의 자금을 유치하는 것이 필요하다. 이들은 단기 변동성에 기계적으로 반응하기보다 중장기 밸류에이션을 기반으로 투자하기 때문에, 시장 급락 시 완충 역할을 수행할 수 있다. 이를 위해서는 영문 공시 확대, 기업 IR의 글로벌 스탠더드화, 외환시장 접근성 개선 등 해외 투자자의 진입 장벽을 낮추는 제도적 기반이 병행되어야 한다.

해외 개인투자자의 접근성을 높이는 것도 중요하다. 현재 한국 시장은 계좌 개설, 환전, 세제 등 여러 측면에서 외국인 개인 투자자에게 높은 진입 장벽이 존재한다. 이런 제약이 완화되면, 글로벌 개인 자금은 알고리즘이나 레버리지 전략과 다른 매매 패턴을 보이며 시장 하락 국면에서 자연스러운 저가 매수 수요로 작용할 수 있다. 다만 제도 개선에 시간이 걸릴 수 있으므로, 현실적으로 빠른 대안은 국내 자산운용사들이 미국 등 해외 시장에 한국 종목 기반의 ETF를 상장해 현지 개인투자자들을 유치하는 방식이다. 현재 미국 상장 한국 ETF는 EWY(iShares MSCI South Korea ETF) 정도가 대표적이지만, 종목 구성과 접근 방식의 다양화 여지가 크다.

상품 차원에서도 알고리즘·ETF와 반대 방향으로 작동하는 금융상품의 역할에 주목할 필요가 있다. 대표적으로 ELS(주가연계증권)는 발행 증권사의 델타 헤지를 통해 주가 하락 시 매수, 상승 시 매도하는 구조를 가지며 일정 구간에서는 시장 변동성을 완충하는 기능을 수행한다. 물론 배리어 구간 진입 시 헤지 방향이 급변할 수 있는 리스크가 존재하는 만큼, 상품 설계와 리스크 관리가 병행되어야 한다. 이란 전쟁과 같은 외부 충격이 발생할 때 주식시장의 하락 자체를 막기는 어렵다. 하지만 적어도 그 충격이 증폭되지 않는 구조, 즉 시장의 회복력(Resilience)은 충분히 만들 수 있다.