자본시장연구원이 한국 주식시장 개인투자자 약 20만 명의 2020년 3월부터 10월까지 일별 거래내역을 분석한 연구가 있습니다. 이 연구는 과잉확신, 처분효과, 복권형 주식 선호, 군집거래라는 네 가지 대표적인 행동편향(behavioral bias)이 실제 투자성과에 어떤 영향을 미치는지 실증적으로 검증했습니다. 이 글에서는 그중 ETF 매매에서도 판단에 영향을 줄 수 있는 처분효과·과잉확신·군집거래 세 가지를 중심으로, 각 함정이 무엇이고 왜 반복되는지 살펴보겠습니다.
실제 거래 데이터가 보여준 이상한 패턴
연구가 확인한 핵심 결과는 크게 세 가지입니다. 매수가격보다 오른 종목을 파는 확률이 내린 종목을 파는 확률보다 두 배 이상 높았고(처분효과), 직전 시장수익률이 높을수록 개인투자자의 거래량이 늘었으며, 거래빈도가 높은 투자자 유형에서 매매의사결정 오류가 더 뚜렷했고(과잉확신), 개인투자자들 사이에 단기 군집거래 경향이 관찰됐습니다(군집거래). 하나씩 살펴보겠습니다.
함정 1: 처분효과 — “일단 팔아서 확정 짓고 싶다”
처분효과(disposition effect)는 매수가격을 기준으로, 수익 중인 종목은 서둘러 팔아 이익을 확정 짓고 손실 중인 종목은 매도를 미루는 경향을 말합니다. 좋은 종목과 나쁜 종목을 구분하지 못해서 생기는 현상이 아니라, 순전히 내 매수가격을 기준으로 발생하는 심리입니다.
앞서 본 연구에 따르면 매수가격보다 오른 종목을 매도할 확률이 내린 종목을 매도할 확률보다 두 배 이상 높았고, 이 처분효과가 강한 투자자일수록 투자 성과가 더 저조했습니다. 수익 중인 종목을 너무 빨리 실현해 상승분을 놓치고, 손실 중인 종목은 매도가 늦어지며 손실이 커지는 방향으로 이어졌기 때문입니다. 처분효과는 특히 투자경험이 부족한 투자자와 가치평가가 어려운 종목에서 더 뚜렷하게 나타났습니다.
처분효과의 반대는 ‘무조건 손실이면 팔고 수익이면 버티기’가 아닙니다. 수익·손실 상태가 아니라, 처음 정한 투자논리와 매도조건이 아직 유효한지로 판단하는 것이 핵심입니다.
통계 해석의 함정: 실현손익 숫자만으로는 알 수 없는 것
2026년 1분기, 신한투자증권이 국내 주식을 매도한 개인투자자의 실현성과를 분석한 자료에 따르면, 삼성전자를 매도한 고객 중 수익을 낸 고객의 평균 실현수익은 714만 원, 손실을 본 고객의 평균 실현손실은 173만 원이었습니다. 다만 이 통계만으로는 처분효과를 증명할 수 없습니다. 이 자료가 보여주는 것은 매도 시점의 평균 실현손익뿐이고, 각 고객이 얼마나 오래 보유했는지, 손실 상태에서 얼마나 버티다 팔았는지는 이 자료로 알 수 없기 때문입니다. 처분효과를 확인하려면 앞서 본 연구처럼 수익 상태와 손실 상태에서의 실제 매도확률을 비교해야 하며, 평균 실현금액 두 개를 나란히 놓는 것만으로는 확인되지 않습니다.
함정 2: 과잉확신 — “이번엔 내가 맞을 것 같다”
연구는 직전 시점의 시장수익률이 높을수록 개인투자자의 거래량이 늘어나는 관계를 확인했고, 이를 상승장에서 자신의 투자능력을 과대평가하는 과잉확신과 관련된 패턴으로 해석했습니다. 시장이 오른 직후 “역시 내 판단이 맞았다”는 확신이 강해지고, 그 확신이 더 잦은 매매로 이어지는 흐름입니다.
그런데 거래빈도가 높은 투자자군에서는 오히려 상대적으로 불리한 매매성과가 관찰됐습니다. 거래를 많이 한다고 더 많은 기회를 잡는 것은 아니라는 뜻입니다. 잦은 거래는 종목선택이 틀릴 위험뿐 아니라, 매매수수료와 스프레드 같은 거래비용을 반복적으로 발생시킨다는 점에서도 장기 성과에 부담이 될 수 있습니다. 앞서 살펴본 ETF의 매수 타이밍과 매수 규칙처럼, 반복해서 시장 타이밍을 정확히 맞히기 어렵다는 점과도 같은 맥락에서 연결됩니다.
함정 3: 군집거래 — “다들 사니까 나도”
이 연구는 개인투자자들 사이에서 단기 군집거래가 나타났고, 이런 군집거래가 발생한 종목에서는 이후 수익률이 반전되는 현상이 관찰됐다고 밝혔습니다. 이런 단기 군집거래는 신규투자자, 연령대가 낮은 투자자, 그리고 투자자 관심도가 높은 종목에서 특히 강하게 나타났습니다. 연구는 이를 근거로 군집거래를 비합리적인 거래행태로 판단했습니다.
다만 이 결과를 실시간 매매신호로 쓰면 안 됩니다. 연구가 확인한 것은 특정 종목에서 군집거래 이후 평균적으로 수익률 반전 패턴이 관찰됐다는 것이지, 군집거래가 나타나는 시점이 곧 그 종목의 정확한 고점·저점이라는 예측모델을 제시한 것은 아닙니다. 많은 사람이 같은 방향으로 거래한다는 사실만으로 그 매매가 합리적이라거나, 반대로 반드시 틀렸다고 단정할 수는 없습니다.
별도 연구: 시장 심리와 파생형 ETF 투기수요도 함께 움직였다
여기까지는 2022년에 발표된 개인투자자 거래행태 연구를 살펴본 내용입니다. 이와는 별도로, 2026년 자본시장연구원은 「자본시장 심리지수 시리즈 3」에서 2010년 1월부터 2025년 3월까지의 국내 경제·증권 뉴스를 대형언어모형(LLM) 기반 자연어처리 기법으로 분석해 자본시장 심리지수(Capital Market Sentiment Index, CMSI)를 구축했습니다. CMSI는 시장에 나타난 낙관·비관 심리를 계량화한 지표입니다.
이 연구에 따르면 CMSI는 국내 주식시장 수익률, 주식 파생상품시장의 공포·헤지 수요와 더불어 파생형 ETF(레버리지·인버스)의 투기적 수요와도 유의하게 연동되는 것으로 나타났습니다. 다만 이 결과는 시장 심리와 파생형 ETF 투기수요가 함께 움직인다는 관계를 보여주는 것이지, “시장 심리 때문에 레버리지·인버스 ETF에서 큰 손실이 반복된다”는 직접적인 인과관계까지 증명한 것은 아닙니다.
앞서 ETF 포트폴리오와 분산투자를 다룬 글에서도 자본시장연구원의 「ETF 시장의 개인투자자」 연구(2024)를 소개했습니다. 이 연구에서는 주식시장이 급등락했던 국면에 레버리지·인버스 ETF의 거래량이 급증했고, 이를 투기적 거래수요가 급증한 결과로 분석했습니다. 두 연구를 함께 놓고 보면, 레버리지·인버스 같은 파생형 ETF 거래가 시장 심리와 단기 투기수요의 영향을 강하게 받을 수 있는 상품군이라는 점을 확인할 수 있습니다. 이전에 살펴본 레버리지 ETF와 인버스 ETF의 구조적 위험에, 이런 심리적 요인까지 겹칠 수 있다는 뜻입니다.
심리적 함정, 왜 스스로 알아채기 어려운가
이런 함정들의 공통점은, 당사자는 대부분 “나는 논리적으로 판단하고 있다”고 느낀다는 점입니다. 처분효과에 빠진 투자자는 “곧 반등할 것 같아서” 손실 종목을 들고 있다고 생각하고, 과잉확신에 빠진 투자자는 “이번엔 확실한 근거가 있어서” 거래를 늘린다고 생각합니다. 개별 판단은 그 순간 합리적으로 느껴지더라도, 많은 투자자의 거래자료를 모아보면 일정한 편향이 반복적으로 관찰됩니다.
함정을 줄이는 현실적인 방법
연구는 개인투자자의 행태적 편의를 완화하는 방법으로, 충분한 투자경험과 역량을 갖추지 못했다면 전문가가 운용하는 펀드에 투자하거나 투자자문 서비스를 활용하는 방안을 제안합니다. ETF를 행동편향의 해결책으로 특정해 권유한 것은 아니지만, 시사하는 바는 있습니다. ETF라고 해서 이런 행동편향에서 자동으로 벗어나는 것은 아니라는 것입니다. ETF도 결국 투자자가 직접 매매하는 상품이기 때문에, 이런 행동편향이 의사결정에 개입할 여지는 있습니다.
다만 균형 잡힌 관점도 필요합니다. 광범위 인덱스 ETF를 장기·규칙적으로 운용하는 방식은 개별종목 선택이나 빈번한 매매 판단의 횟수 자체를 줄여, 행동편향에 노출되는 기회를 줄이는 데는 도움이 될 수 있습니다.
결국 실질적인 해법은 이 시리즈에서 반복해서 다뤄온 것과 같습니다.
- 매도 기준을 그날의 감정이 아니라 사전에 정한 조건으로 미리 정해두기
- 매수 이유와 매도 조건을 미리 기록해두기
- 매수 타이밍보다 지킬 수 있는 방식과 규칙을 우선하기
- 비중 관리와 리밸런싱을 통해 감정 개입을 줄이기
매수·매도 버튼을 누르기 전 확인할 점
행동편향 연구의 목적은 사람들과 반대로 매매하는 공식을 만드는 것이 아니라, 내 판단이 특정 심리에 끌려가고 있는지 점검하는 데 있습니다. 다음 질문을 매매 전에 짧게 확인해보는 것만으로도 도움이 됩니다.
- 지금 이 종목의 수익·손실 숫자 때문에 판단이 달라지고 있지는 않은가?
- “본전만 오면 판다”가 유일한 보유 이유가 되어 있지는 않은가?
- 최근 시장이 잘 올라 내 종목선택 능력을 과대평가하고 있지는 않은가?
- 다른 사람들이 많이 산다는 사실이 내 매수근거가 되어 있지는 않은가?
- 이번 거래가 원래 정한 매수·매도·비중 규칙에 해당하는가?
핵심 요약
- 국내 개인투자자 약 20만 명의 실제 거래자료에서 처분효과, 과잉확신, 단기 군집거래가 관찰됐고, 각각 저조한 투자성과 또는 비효율적인 거래패턴과 연결됐습니다.
- 이 결과는 반대로 매매하는 공식이 아니라, 내 판단이 감정이나 군중심리에 끌려가고 있는지 스스로 점검하는 데 활용해야 합니다.
- ETF도 행동편향을 자동으로 제거해주지 않으며, 별도의 2026년 연구에서는 파생형 ETF의 투기적 수요와 시장 심리의 연동이 확인됐습니다.
주요 참고 자료
- 자본시장연구원. 국내 개인투자자의 행태적 편의와 거래행태. 2022-02-03.
- 자본시장연구원. 자본시장 심리지수 시리즈 3: 투자자 심리와 주식시장의 관계 고찰. 2026-01-05.
- 자본시장연구원. ETF 시장의 개인투자자 (연구보고서 24-02). 2024-01-24.
- 신한투자증권. 2026년 1분기 개인 투자자 국내 주식 투자 성과 분석. 2026-05-11.
모든 투자 판단과 책임은 투자자 본인에게 있습니다. 자세한 내용은 면책/투자 책임 고지 페이지를 참고해 주세요.