행동경제학과 합리주의: 경제학의 인간을 둘러싼 지적 투쟁과 통합의 전망
경제학의 분열된 자아 - 호모 이코노미쿠스를 향한 도전
I. 서론: 경제학의 분열된 자아 - 호모 이코노미쿠스를 향한 도전
주류 경제학의 초석, '호모 이코노미쿠스'
20세기 경제학, 특히 주류 신고전학파 경제학의 장대한 이론 체계는 하나의 강력하고도 이상적인 인간상, 즉 '호모 이코노미쿠스(Homo Economicus)' 또는 '경제인'이라는 초석 위에 세워졌습니다. 이 개념은 인간을 오로지 경제적 합리성에만 기초하여 자신의 이익, 즉 효용(utility)을 극대화하는 방향으로 행동하는 존재로 상정합니다. 호모 이코노미쿠스는 두 가지 핵심적인 가정, '완벽한 합리성'과 '이기심'을 그 본질로 합니다. 그는 주어진 모든 정보를 완벽하게 처리하고, 일관된 선호를 가지며, 항상 자신의 이익을 최우선으로 고려하여 최적의 선택을 내리는, 마치 신과 같은 계산 능력을 지닌 존재입니다.
이러한 인간상이 현실의 인간과 동떨어져 있다는 비판은 경제학의 역사만큼이나 오래되었습니다. 그러나 주류 경제학자들이 현실을 몰라서 이 비현실적인 가정을 고수한 것은 아니었습니다. 호모 이코노미쿠스는 경제 현상의 복잡성을 단순화하고, 인간의 경제 활동을 수학적으로 정밀하게 모델링하며, 예측 가능한 이론을 구축하기 위한 '방법론적 필수품'이었습니다. 생산과 소비로 점철된 인간의 경제 활동을 설명하기 위한 학문적 전제로서, 합리적이고 일관성을 띤 모형은 이론 구축에 필수적이었습니다. 이 가정이 있었기에 주류 경제학은 인간의 경제 활동을 수학적으로 설계하고 통계화하여, 수요와 공급의 법칙, 시장 균형 이론 등 강력한 분석 도구를 발전시킬 수 있었습니다. 즉, 이론의 논리적 정합성과 예측력을 확보하기 위해 현실의 복잡성을 의도적으로 단순화하는 전략적 선택이었던 것입니다. 주류 경제학자들은 이러한 접근이 인간 경제 활동의 더 많은 부분을 설명하고 예측하는 데 유용하다고 믿었습니다.
이처럼 호모 이코노미쿠스는 경제학을 물리학과 같은 엄밀한 과학의 반열에 올려놓으려는 야심 찬 시도의 산물이었습니다. 예측 가능하고 일관된 행위자를 전제함으로써, 경제학은 강력한 수학적, 통계적 모델을 구축할 수 있었습니다. 따라서 이 가정의 비현실성은 이론적 우아함과 예측력을 얻기 위해 기꺼이 감수한 비용이었습니다. 문제는 이 가정이 틀렸다는 사실 자체가 아니라, 이 가정에 기반한 예측이 현실의 중대한 사건들 앞에서 힘을 잃기 시작하면서부터 불거졌습니다.
합리성 가정의 균열과 행동경제학의 등장
호모 이코노미쿠스 모델은 오랫동안 경제학의 지배적인 패러다임으로 군림했지만, 그 아성은 현실 세계의 복잡한 현상들 앞에서 서서히 균열을 보이기 시작했습니다. 특히 2008년 서브프라임 모기지 사태로 촉발된 글로벌 금융위기는 합리적 시장에 대한 맹신이 얼마나 위험할 수 있는지를 극명하게 보여주었습니다. 시장 참여자들이 모두 합리적으로 행동한다면 발생하기 어려운 자산 시장의 거품(bubble)과 붕괴가 반복적으로 나타나는 현상은 주류 경제학의 설명력을 심각하게 위협했습니다. 합리적 인간을 전제로 한 이론으로는 시장의 '이상 현상(anomalies)'을 제대로 설명할 수 없다는 인식이 확산되었습니다.
이러한 주류 경제학의 설명력 부재는 경제 분석의 패러다임 전환을 촉발했습니다. 경제 주체의 의사결정 과정에 깊숙이 자리 잡은 심리적 요인과 그로 인한 비합리적 행동을 경제 분석의 중심에 두어야 한다는 문제의식이 싹튼 것입니다. 이 지점에서 행동경제학(Behavioral Economics)이 등장했습니다. 행동경제학은 전통 경제학의 합리성 가정을 정면으로 비판하며, 심리학, 사회학, 인지과학 등 인접 학문의 통찰을 경제학에 적극적으로 융합시킵니다. 그 목표는 이상적인 '경제인'이 아닌, 감정과 편향, 휴리스틱(어림짐작)에 의해 영향을 받는 '실제 인간(Homo Sapiens)'이 현실 세계에서 어떻게 의사결정을 내리는지를 탐구하고 설명하는 것입니다.
결국 행동경제학의 등장은 '호모 이코노미쿠스'라는 방법론적 도구가 낡은 패러다임의 성공을 이끈 동력이었으나, 동시에 새로운 문제들을 설명하는 데 가장 큰 장애물이 되었음을 보여주는 사건이었습니다. 이는 단순히 '똑똑한 행동경제학자 대 어리석은 합리주의자'의 구도가 아니라, 기존 이론의 경험적 실패 앞에서 새로운 설명 체계를 모색하는 과학적 혁명의 과정으로 이해해야 합니다.
II. 합리성의 경계: 허버트 사이먼과 '제한된 합리성'의 기원
행동경제학의 선구자, 허버트 사이먼
행동경제학의 지적 계보를 거슬러 올라가면, 1978년 노벨 경제학상 수상자인 허버트 사이먼(Herbert A. Simon)을 만나게 됩니다. 그는 행동경제학이라는 용어가 널리 쓰이기 훨씬 전부터 그 사상적 토대를 마련한 선구자였습니다. 특히 주목할 점은 사이먼이 정통 경제학자가 아니라 정치학, 행정학, 심리학, 인지과학, 컴퓨터과학 등 여러 학문 분야를 넘나들며 경계를 허문 '세기의 천재'였다는 사실입니다. 그의 학문적 배경 자체가 행동경제학이 태생적으로 학문 간 융합의 산물임을 상징적으로 보여줍니다. 사이먼은 경제학 박사 학위를 가진 정통 경제학자가 아닌, 정치학 박사 학위를 받고 심리학과 인지과학에서 학문적 경력을 쌓았기에 인간의 의사결정 과정을 보다 현실적인 시각에서 탐구할 수 있었습니다.
'최적화(Optimizing)'에서 '만족화(Satisficing)'로의 전환
사이먼의 가장 중요한 공헌은 '제한된 합리성(Bounded Rationality)'이라는 개념을 제시한 것입니다. 이 개념은 주류 경제학의 '완전한 합리성'가정에 대한 근본적인 도전이었습니다. 사이먼은 인간이 신(神)이 아니기 때문에 의사결정에 필요한 모든 대안을 탐색하고, 각 대안의 결과를 완벽하게 예측하며, 이를 바탕으로 효용을 계산할 인지적 능력이 근본적으로 제한되어 있다고 주장했습니다. 또한 정보 탐색에는 시간과 비용이 소요되므로, 합리적인 선택을 위해 노력하면 할수록 그 선택 자체가 비합리적이게 되는 모순에 빠질 수 있습니다.
이러한 인지적, 정보적 제약 하에서 인간은 주류 경제학이 가정하는 '최적의 해(optimal solution)'를 추구하는 '최적화(optimizing)' 행위자가 아닙니다. 대신, 자신이 설정한 최소한의 수용 기준을 충족하는 '충분히 좋은(good enough)' 대안을 발견하면 탐색을 멈추고 그것을 선택하는 '만족화(satisficing)' 원리를 따릅니다. 예를 들어, 결혼 상대를 찾을 때 전 세계의 모든 잠재적 파트너를 만나보고 최적의 한 명을 고르는 것은 불가능합니다. 우리는 자신이 만날 수 있는 범위 내에서 자신의 기준을 만족시키는 사람을 만나면 선택을 내립니다.
사이먼의 이러한 통찰은 혁명적이었습니다. 그것은 단순히 '인간은 비합리적이다'라고 선언하는 데 그치지 않고, 인간이 왜 합리성에서 벗어나는지에 대한 체계적인 이유를 제시했기 때문입니다. 즉, 비합리성의 원인을 변덕스러운 감정이 아니라, '문제의 복잡성'과 '인간 두뇌의 유한한 처리 능력' 사이의 근본적인 불일치에서 찾았습니다. 이로써 비합리적 행동은 무작위적인 잡음(noise)이 아니라, 인지적 제약 조건 하에서 발생하는 체계적이고 예측 가능한 현상이 되었습니다. 사이먼은 '만족화'라는 개념을 통해 제한된 자원을 가진 행위자가 논리적으로 사용할 법한 의사결정의 지름길, 즉 알고리즘을 제시했습니다. 이로써 '인간은 합리적인가?'라는 철학적 질문은 '인간은 인지적 제약 하에서 어떤 휴리스틱과 알고리즘을 사용하여 의사결정을 내리는가?'라는 과학적 질문으로 전환될 수 있었습니다. 사이먼의 연구는 완전한 합리성과 완전한 혼돈이라는 이분법을 넘어, '예측 가능한 비합리성'이라는 제3의 공간을 열어주었고, 이는 훗날 대니얼 카너먼과 아모스 트버스키가 구체적인 편향들을 연구할 수 있는 길을 닦아주었습니다. 즉, 제한된 합리성 개념은 행동경제학이라는 새로운 학문 분야를 정당화하는 결정적인 '다리' 역할을 한 것입니다.
III. 비합리성의 체계적 증명: 행동경제학의 핵심 이론과 실험적 증거
허버트 사이먼이 제시한 '제한된 합리성'의 개념적 토대 위에서, 대니얼 카너먼(Daniel Kahneman)과 아모스 트버스키(Amos Tversky)와 같은 심리학자들은 실험경제학이라는 새로운 방법론을 통해 인간의 비합리성이 무작위적인 실수가 아니라 예측 가능한 패턴, 즉 '체계적 편향(systematic bias)'임을 입증해냈습니다. 이들의 연구는 주류 경제학의 합리성 가정을 이론적, 경험적으로 뒤흔드는 결정적 증거가 되었습니다.
3.1. 전망 이론 (Prospect Theory): 가치 판단의 새로운 기준
카너먼과 트버스키가 1979년에 발표한 전망이론(Prospect Theory)은 행동경제학의 가장 핵심적인 이론으로, 주류 경제학의 기대효용이론(Expected Utility Theory)에 정면으로 도전했습니다.
- 기대효용이론과의 결별: 전통적인 기대효용이론은 개인이 느끼는 효용이 최종적으로 소유하게 될 자산의 '절대적 수준'에 의해 결정된다고 가정합니다. 예를 들어, 100만원을 가진 사람이 10만원을 더 벌어 110만원이 되는 것과 120만원을 가진 사람이 10만원을 잃어 110만원이 되는 것은 최종 자산이 같으므로 동일한 효용을 주어야 합니다. 하지만 전망이론은 사람들이 가치를 이렇게 평가하지 않는다고 주장합니다. 대신,현재의 자산 상태를 '준거점(reference point)'으로 삼아, 그로부터의 '이득(gain)'과 '손실(loss)'에 따라 가치를 주관적으로 평가합니다. 앞선 예에서 전자는 '10만원의 이득'으로, 후자는 '10만원의 손실'로 인식되며 전혀 다른 심리적 가치를 갖게 됩니다.
- S자형 가치함수와 손실 회피: 전망이론은 이러한 가치 평가 방식을 비대칭적인 'S자형 가치함수'로 설명합니다. 이 함수는 두 가지 중요한 특징을 갖습니다. 첫째, '민감도 체감(diminishing sensitivity)'입니다. 이득이든 손실이든 그 크기가 커질수록 변화에 대한 민감도는 점차 둔해집니다. 10만원을 벌었을 때의 기쁨은 0원에서 10만원을 벌었을 때가 100만원에서 110만원을 벌었을 때보다 훨씬 큽니다. 둘째, 그리고 가장 중요한 특징은 '손실 회피(Loss Aversion)'입니다. 가치함수의 기울기는 손실 영역에서 이득 영역보다 훨씬 가파릅니다. 이는 동일한 금액의 이득에서 얻는 기쁨보다 손실에서 느끼는 고통이 훨씬 크다는 것을 의미합니다. 수많은 실험 결과, 사람들은 손실의 고통을 이득의 기쁨보다 약 2배에서 2.5배 더 크게 느끼는 것으로 나타났습니다. 이는 왜 사람들이 잠재적 손실에 극도로 민감하게 반응하고, 현상 유지를 선호하며, 위험을 회피하려 하는지를 설명하는 강력한 심리적 원리다.
- 확률가중함수: 또한 전망이론은 사람들이 객관적인 확률을 있는 그대로 받아들이지 않는다고 봅니다. '확률가중함수(probability weighting function)'에 따르면, 사람들은 발생 확률이 매우 낮은 사건(예: 복권 당첨)은 실제 확률보다 과대평가하고, 발생 확률이 매우 높은 사건은 과소평가하는 경향이 있습니다. 이는 불확실성 하에서의 의사결정이 순수한 수학적 기대값 계산이 아님을 보여준다.
이러한 전망이론의 등장은 경제학에서 인간의 가치 판단 방식을 근본적으로 재정의했습니다. 아래 표는 기대효용이론과 전망이론의 핵심적인 차이를 요약한 것입니다.
| 특징 (Feature) | 기대효용이론 (Expected Utility Theory) | 전망이론 (Prospect Theory) |
|---|---|---|
| 가치 평가의 기준 | 최종 자산의 절대적 수준 | 준거점(Reference Point)으로부터의 이득/손실 |
| 위험에 대한 태도 | 일관된 위험 회피 | 이득 국면에선 위험 회피, 손실 국면에선 위험 추구 |
| 가치 함수 | 오목 함수 | 준거점 기준 비대칭적 S자형 함수 |
| 손실과 이득의 민감도 | 대칭적 | 손실에 약 2~2.5배 더 민감 (손실 회피) |
| 확률 처리 | 객관적 확률을 선형적으로 가중 | 낮은 확률은 과대평가, 높은 확률은 과소평가 |
3.2. 프레이밍 효과 (Framing Effect): 문제의 틀이 선택을 결정한다
전망이론의 통찰을 가장 극적으로 보여주는 현상이 바로 '프레이밍 효과(Framing Effect)'입니다. 이는 내용적으로 완전히 동일한 문제라도 어떤 틀(frame)로 제시되느냐에 따라 사람들의 선택이 극적으로 달라지는 현상을 말합니다.
카너먼과 트버스키의 고전적인 '아시아 질병 문제' 실험은 이를 명확히 보여줍니다. 실험 참가자들에게 가상의 아시아 질병으로 600명의 목숨이 위태로운 상황을 제시하고 두 가지 대안 프로그램을 선택하게 했습니다.
- 긍정적 프레임 (이득 국면): 첫 번째 집단에게는 다음과 같이 질문했습니다.
- 프로그램 A: 200명을 확실히 살린다.
- 프로그램 B: 1/3의 확률로 600명 모두를 살리고, 2/3의 확률로 아무도 살리지 못한다.
- 부정적 프레임 (손실 국면): 두 번째 집단에게는 내용상 동일하지만 표현을 바꾼 질문을 했습니다.
- 프로그램 C: 400명이 확실히 죽는다.
- 프로그램 D: 1/3의 확률로 아무도 죽지 않고, 2/3의 확률로 600명 모두가 죽는다.
A와 C, B와 D는 수학적으로 완전히 동일한 결과(기대값)를 갖습니다. 그럼에도 불구하고 '살린다'는 긍정적 틀과 '죽는다'는 부정적 틀에 따라 사람들의 선호는 완전히 역전되었습니다. 이는 인간의 선택이 합리적 계산의 결과가 아니라,문제의 제시 방식이 설정하는 심리적 준거점에 따라 크게 좌우된다는 강력한 증거이며, 합리적 선택의 기본 원칙인 '일관성'을 정면으로 위배하는 것입니다.
3.3. 닻내림 효과 (Anchoring Effect) 및 휴리스틱 (Heuristics)
인간의 판단이 얼마나 비논리적인 초기 정보에 휘둘릴 수 있는지를 보여주는 대표적인 편향이 '닻내림 효과(Anchoring Effect)'입니다. 이는 처음 제시된 특정 숫자나 정보가 '닻(anchor)'처럼 머릿속에 박혀, 이후의 판단을 그 주변으로 한정시키는 인지적 편향을 말합니다.
카너먼과 트버스키는 이를 증명하기 위해 다음과 같은 실험을 진행했습니다. 참가자들에게 0에서 100까지의 숫자가 적힌 행운의 바퀴를 돌리게 한 뒤, UN 회원국 중 아프리카 국가의 비율이 그 숫자보다 높은지 낮은지를 묻고 실제 비율을 추정하게 했습니다. 행운의 바퀴 숫자는 완전히 무작위였음에도 불구하고, 높은 숫자가 나온 참가자들은 아프리카 국가의 비율을 높게 추정했고, 낮은 숫자가 나온 참가자들은 낮게 추정했습니다. 이는 판단과 전혀 관련 없는 임의의 숫자가 참가자들의 머릿속에 닻을 내리고 그들의 판단을 왜곡했음을 보여줍니다.
또 다른 실험에서는 한 집단에게는 '8×7×6×5×4×3×2×1'을, 다른 집단에게는 '1×2×3×4×5×6×7×8'을 5초 안에 암산으로 추정하게 했습니다. 실제 정답은 40,320으로 동일하지만, 첫 번째 집단의 평균 추정치는 2,250이었던 반면, 두 번째 집단의 평균 추정치는 512에 불과했습니다. 이는 처음 제시된 숫자(8 또는 1)가 강력한 닻으로 작용하여 전체 추정치를 크게 좌우했음을 보여줍니다.
이러한 닻내림 효과는 인간이 복잡한 문제를 해결할 때 엄밀한 논리적 분석 대신, 직관적이고 빠른 정신적 지름길, 즉 '휴리스틱(heuristics)'에 크게 의존한다는 사실을 뒷받침합니다. 닻내림은 불확실한 상황에서 빠른 판단을 내리도록 돕는 휴리스틱의 일종이지만, 체계적인 오류를 낳는 원인이 되기도 합니다.
3.4. 소유 효과 (Endowment Effect): 내 것의 가치는 다르다
행동경제학자이자 2017년 노벨 경제학상 수상자인 리처드 탈러(Richard Thaler)는 '소유 효과(Endowment Effect)'라는 개념을 통해 손실 회피 성향이 현실에서 어떻게 발현되는지를 명확히 보여주었습니다. 소유 효과란 사람들이 어떤 물건을 자신이 소유하고 있을 때, 소유하고 있지 않을 때보다 그 가치를 훨씬 높게 평가하는 현상을 말합니다.
그의 유명한 '머그컵 실험'에서, 탈러는 학생들을 두 집단으로 나누었습니다. 한 집단에게는 학교 로고가 새겨진 머그컵을 공짜로 나누어주고, 최소 얼마를 받아야 그 컵을 팔 의향이 있는지 물었습니다. 다른 집단에게는 컵을 주지 않고, 얼마를 지불하고 그 컵을 살 의향이 있는지 물었습니다. 합리적인 경제인이라면 두 집단이 평가하는 컵의 가치는 비슷해야 합니다. 하지만 실험 결과는 놀라웠습니다. 컵을 소유한 학생들은 평균 5.25달러를 팔 희망 가격으로 제시한 반면, 컵을 사려는 학생들은 평균 2.75달러만을 지불할 용의가 있다고 답했습니다. 단지 몇 분간 '내 것'이 되었다는 이유만으로 그 가치를 거의 두 배나 높게 평가한 것입니다.
이 현상은 전망이론의 손실 회피 개념으로 명쾌하게 설명됩니다. 컵을 소유하지 않은 사람에게 컵을 사는 것은 '이득'의 영역에 있습니다. 반면, 이미 컵을 소유한 사람에게 컵을 파는 것은 '소유물을 포기하는 손실'로 인식됩니다. 손실의 고통이 이득의 기쁨보다 훨씬 크기 때문에, 손실(컵을 파는 것)을 보상받기 위해 훨씬 더 높은 가격을 요구하게 되는 것입니다.
이처럼 전망이론의 핵심 원리인 준거점 의존성과 손실 회피는 프레이밍 효과, 소유 효과 등 다양한 행동 편향들의 배후에 있는 통합적인 심리적 메커니즘으로 작용합니다. 이는 행동경제학이 단순히 기이한 현상들의 목록이 아니라, 그 이면에 일관된 심리적 논리를 가진 학문임을 시사합니다. 이러한 편향들은 아래 표와 같이 요약될 수 있습니다.
| 편향 (Bias) | 정의 (Definition) | 대표 실험 (Canonical Experiment) | 실생활 사례 (Real-World Example) |
|---|---|---|---|
| 프레이밍 효과 | 동일한 문제도 제시되는 틀에 따라 판단과 선택이 달라지는 현상 | 아시아 질병 문제 (Asian Disease Problem) | '지방 10%' vs '살코기 90%' 표기, 수술 성공률 90% vs 사망률 10% |
| 닻내림 효과 | 처음 제시된 정보가 기준점이 되어 이후 판단에 영향을 미치는 현상 | 행운의 바퀴와 아프리카 국가 수 추정 (Wheel of Fortune) | 협상 시 첫 제안 가격, 마트의 '정상가'와 '할인가' 병기 |
| 소유 효과 | 어떤 대상을 소유하고 있을 때 그것의 가치를 더 높게 평가하는 현상 | 머그컵 실험 (Mug Experiment) | 중고차 판매 시 자신의 차에 더 높은 가격 책정, 주식 매도 주저 |
| 현상유지 편향 | 특별한 이유가 없으면 현재 상태를 그대로 유지하려는 경향 | 연금 플랜의 디폴트 옵션 (Default pension plans) | 구독 서비스 해지를 미루는 행동, 늘 가던 식당만 가는 습관 |
| 심리적 회계 | 동일한 돈이라도 출처나 용도에 따라 다른 가치를 부여하는 현상 | 잃어버린 현금 vs 잃어버린 영화표 (Lost cash vs. Lost ticket) | '공돈'은 쉽게 쓰고 월급은 아껴 쓰는 심리, 퇴직연금의 보수적 운용 |
IV. 격전지, 금융 시장: 효율적 시장 가설과 행동 재무학의 대립
합리주의와 행동주의의 지적 충돌이 가장 격렬하게 벌어진 전장은 바로 금융 시장입니다. 이곳에서 주류 경제학의 합리성 가정은 '효율적 시장 가설(Efficient Market Hypothesis, EMH)'이라는 정교하고 강력한 이론으로 구체화되었고, 행동경제학은 '행동 재무학(Behavioral Finance)'이라는 이름으로 이에 맞섰습니다.
합리주의의 정점, 효율적 시장 가설
시카고 학파의 거두이자 2013년 노벨 경제학상 수상자인 유진 파마(Eugene Fama)가 1970년에 제시한 효율적 시장 가설은 합리주의적 금융 이론의 정점에 있는 기념비적인 이론입니다. EMH의 핵심 주장은 단순하고 명쾌합니다: 주식과 같은 자산의 가격은 그 자산에 대해 이용 가능한 모든 정보를 '즉각적'이고 '완전하게' 반영합니다. 이 가설은 투자자들이 '합리적 기대(rational expectations)'를 바탕으로 행동한다는, 즉 모든 가용한 정보를 활용하여 미래를 예측하고 이를 자신의 투자 결정에 반영한다는 전제 위에 서 있습니다.
EMH에 따르면, 시장에는 세 가지 형태의 효율성이 존재합니다. '약형' 시장은 과거의 가격 정보가 이미 현재 가격에 모두 반영된 상태를, '준강형' 시장은 과거 가격 정보뿐만 아니라 공개된 모든 공시 정보(재무제표, 뉴스 등)까지 반영된 상태를 의미합니다. 마지막으로 '강형' 시장은 공개 정보는 물론 내부자 정보까지도 모두 가격에 반영된 이상적인 상태를 말합니다.
이 가설이 함의하는 바는 혁명적입니다. 만약 시장이 (적어도 준강형에서) 효율적이라면,공개된 정보를 분석하여 유망한 주식을 고르려는 노력은 무의미해집니다. 왜냐하면 그 정보의 가치는 이미 주가에 반영되어 있기 때문입니다. 따라서 누구도 지속적으로 시장 평균 수익률을 초과하는 '공짜 점심(free lunch)'을 얻을 수 없습니다. 주가의 움직임은 예측 불가능한 새로운 정보에 의해서만 결정되므로, 주가는 무작위적으로 움직이는 것처럼 보입니다(랜덤워크 가설). 이 이론은 시장의 정보 처리 능력을 절대적으로 신뢰하며, 인덱스 펀드와 같은 수동적 투자 전략의 강력한 이론적 기반이 되었습니다.
행동 재무학의 반격
그러나 현실의 금융 시장은 EMH의 예측과 다른 모습을 종종 보여주었습니다. 2000년대 초의 닷컴 버블이나 2008년 금융위기 이전의 주택 시장 버블처럼, 자산 가격이 내재가치와 무관하게 비정상적으로 급등했다가 폭락하는 현상은 합리적인 시장에서는 설명하기 어려웠습니다. 바로 이 지점에서 로버트 쉴러(Robert Shiller)를 필두로 한 행동 재무학자들이 반격을 가했습니다.
쉴러는 역사적 데이터를 분석하여 주식 시장의 '과잉 변동성(excess volatility)'을 실증적으로 증명했습니다. 즉, 실제 주식 가격의 변동폭이 미래 배당금의 변동과 같은 기업의 내재가치 변화만으로는 도저히 설명할 수 없을 만큼 지나치게 크다는 것입니다. 이는 주가가 합리적 기대만으로 결정되는 것이 아니라, 투자자들의 비합리적인 심리적 요인에 의해 크게 좌우된다는 강력한 증거였습니다.
행동 재무학은 이러한 시장의 비효율성을 투자자들의 구체적인 심리적 편향으로 설명합니다.예를 들어, 투자자들은 자신의 판단력을 과신하는 '과신 편향(overconfidence bias)'에 빠져 위험한 투자를 감행하고, 다른 투자자들을 맹목적으로 따라 하는 '군집 행동(herding behavior)'을 보이며, 최근의 주가 추세가 계속될 것이라고 착각하는 '대표성 휴리스틱(representativeness heuristic)'에 빠집니다. 이러한 심리적 편향들이 집단적으로 증폭될 때, 시장에는 '비합리적 과열(irrational exuberance)'이 발생하여 자산 가격을 내재가치로부터 멀리 밀어 올리는 버블이 형성된다는 것입니다. 워런 버핏과 같이 장기간에 걸쳐 시장 평균을 월등히 초과하는 수익을 올리는 투자 대가들의 존재 역시, 모든 정보가 완벽하게 가격에 반영된다는 EMH에 대한 강력한 반박 근거로 제시됩니다.
끝나지 않은 논쟁: 2013년 노벨 경제학상
이 팽팽한 지적 대립의 정점은 2013년 노벨 경제학상 위원회의 결정이었습니다. 위원회는 효율적 시장 가설의 창시자인 유진 파마와, 그 가설의 가장 강력한 비판자인 로버트 쉴러에게 공동으로 상을 수여했습니다. 이는 마치 천동설과 지동설 주창자에게 동시에 상을 주는 것처럼 보일 수 있는, 매우 이례적이고 상징적인 결정이었습니다.
이 결정은 노벨 위원회의 모순이나 실수가 아니었습니다. 오히려 이는 금융 시장의 복잡한 실체를 이해하기 위해서는 두 가지 관점이 모두 필요하다는 심오한 메시지를 담고 있었습니다. 즉, 금융 시장은 효율성과 비효율성의 속성을 동시에 지니고 있으며, 어떤 현상을 보느냐, 그리고 어떤 시간 지평에서 보느냐에 따라 다른 얼굴을 보여준다는 것입니다. 단기적으로는 새로운 정보가 매우 빠르게 가격에 반영되어 시장을 이기기 어렵다는 파마의 주장이 타당해 보입니다. 하지만 장기적으로는 투자자들의 집단 심리에 의한 거대한 낙관과 비관의 물결이 시장을 지배하며, 큰 폭의 버블과 붕괴를 만들어낸다는 쉴러의 주장 또한 현실 설명력을 갖습니다.
결국 2013년의 공동 수상은 이 논쟁이 어느 한쪽의 완전한 승리로 끝나지 않았음을, 그리고 금융의 미래가 EMH와 행동 재무학 중 하나를 선택하는 것이 아니라 둘을 '통합'하는 방향으로 나아가야 함을 시사합니다. 시장은 '미시적으로는 효율적'이지만(작은 차익거래 기회를 찾기 어렵다), '거시적으로는 비효율적'(심리에 기반한 거대한 버블과 붕괴에 취약하다)일 수 있습니다. 따라서 미래의 금융 이론과 리스크 관리 모델은 정보의 빠른 처리 과정과 인간 심리의 느리고 강력한 파도를 모두 고려하는 통합적 접근법을 필요로 합니다.
V. 행동경제학을 향한 비판: 매력적인 이야기, 그러나 과학인가?
행동경제학은 인간 행동에 대한 풍부하고 직관적인 설명력을 바탕으로 큰 반향을 일으켰지만, 그 성공 이면에는 주류 경제학자들을 비롯한 비판가들의 날카로운 반론이 꾸준히 제기되어 왔습니다. 이러한 비판들은 행동경제학이 진정한 '과학'으로서 갖추어야 할 요건들을 충족하는지에 대한 근본적인 질문을 던집니다.
5.1. 이론의 파편성 (The Problem of Fragmentation)
가장 지속적으로 제기되는 비판 중 하나는 행동경제학이 수많은 편향들의 '목록(a collection of biases)'에 불과하며, 이들을 아우르는 일관되고 통일된 이론(unified theory)이 부족하다는 점입니다. 행동경제학은 프레이밍 효과, 닻내림 효과,소유 효과 등 수십 가지의 인지적 편향을 발견했지만, 어떤 상황에서 어떤 편향이 우세하게 나타날지를 체계적으로 예측하는 데는 어려움을 겪습니다.
더 큰 문제는 때때로 서로 모순되는 편향이 공존한다는 것입니다. 예를 들어, 대부분의 사람들은 '손실 회피' 성향을 보이지만, 도박 중독자들은 오히려 손실을 감수하며 위험을 추구하는 경향을 보입니다. 이처럼 같은 행동이라도 맥락에 따라 다르게 설명될 수 있어 이론의 보편성과 체계성이 떨어진다는 지적입니다. 이는 행동경제학이 주류 경제학의 효용 극대화 원리처럼 다양한 현상을 관통하는 단일한 설명 원리를 제공하지 못하고, 개별 현상에 대한 사후적 설명(ad-hoc explanation)에 그친다는 비판으로 이어집니다.
5.2. 예측력의 한계 (Limited Predictive Power)
이론의 파편성 문제와 직결되는 것이 바로 '예측력의 한계'입니다. 행동경제학은 과거에 발생한 비합리적 행동을 '설명'하는 데는 매우 뛰어나지만,주류 경제학의 간결한 모델처럼 미래의 경제 현상이나 개인의 행동을 정량적으로 '예측'하는 능력은 상대적으로 부족하다는 비판을 받습니다. 특정 편향이 존재한다는 것을 아는 것과, 그 편향이 특정 상황에서 얼마나 큰 효과를 발휘할지, 어떤 조건에서 발현될지를 정확히 예측하는 것은 별개의 문제이다.
일부 비판가들은 행동경제학이 순환논리의 함정에 빠져있다고 지적하기도 합니다. 대니얼 카너먼은 인간이 비합리적 편향에 지배된다고 신랄하게 비판한 뒤, "그렇다면 어떻게 해야 하는가?"라는 질문에 "보다 이성적이고 합리적으로 판단하십시오"라고 답했습니다. 이에 대해 비평가들은 주류 경제학이 인간의 합리성을 전제로 이론을 구축했다가 현실의 비합리성 때문에 한계에 부딪히는 것이나, 행동경제학이 인간의 비합리성을 전제로 논리를 구축한 뒤 그 해법으로 합리성을 요구하는 것이나 근본적인 차이가 무엇이냐고 반문합니다. 이는 행동경제학이 뚜렷한 대안적 예측 모델을 제시하지 못하고 있다는 비판과 맥을 같이 합니다.
5.3. 실험실의 한계 (The Limits of the Lab)
행동경제학의 많은 경험적 증거들은 심리학 실험실이라는 통제된 환경에서 나온 것입니다. 비판가들은 이러한 실험 결과의 '외부 타당성(external validity)'에 의문을 제기합니다. 즉, 실험실에서 관찰된 편향들이 현실 세계의 복잡한 시장 환경에서도 동일하게 나타날 것이라고 단정하기 어렵다는 것입니다.
주요 비판점은 다음과 같습니다. 첫째, 실험 참가자들이 대부분 서구 사회의 교육받은 대학생들이라는 점입니다. 이들의 행동 패턴을 인류 보편적인 것으로 일반화할 수 있는가에 대한 의문이 제기됩니다. 둘째, 실험에서 주어지는 보상(stakes)이 너무 작다는 점입니다. 몇 달러가 걸린 머그컵 실험에서의 행동이, 수억 원이 걸린 주택 거래나 투자 결정에서도 똑같이 나타날 것이라고 보기는 어렵습니다. 셋째, 현실 시장은 수많은 사람이 상호작용하고 경쟁하는 동적인 공간이지만, 실험실은 이러한 상호작용을 배제한 인공적인 환경입니다. 실제로 일부 연구에서는 리처드 탈러의 머그컵 실험에서 나타난 소유 효과가 시장 경험이 풍부한 거래 전문가 집단에게서는 관찰되지 않았다는 반박 결과를 내놓기도 했습니다.
5.4. 학습과 시장의 역할 (The Role of Learning and Markets)
합리주의 진영의 가장 강력한 반론 중 하나는 '학습 효과'와 '시장 규율'의 역할입니다. 개인은 비합리적인 실수를 통해 배우고, 시간이 지남에 따라 자신의 편향을 교정해 나갈 수 있습니다. 그러나 행동경제학의 많은 실험들은 일회성으로 진행되어 이러한 '학습'의 가능성을 간과한다는 비판을 받습니다.
또한, 시장 메커니즘 자체가 비합리적인 행위자들을 걸러내는 역할을 한다고 주장합니다. 시장 경쟁에서 지속적으로 비합리적인 판단을 내리는 투자자나 기업은 결국 도태되고, 합리적인 판단을 내리는 행위자들만이 살아남아 시장을 지배하게 된다는 것입니다. 따라서 소수의 비합리적 행위자들이 시장 전체의 효율성을 크게 훼손하지는 못하며, 장기적으로 시장은 합리적으로 작동한다는 것이 이들의 주장입니다.
이러한 비판들은 행동경제학과 주류 경제학의 근본적인 철학적 차이를 드러냅니다. 주류 경제학은 물리학처럼 간결하고 보편적이며 예측력이 높은 모델을 지향합니다. 반면 행동경제학은 심리학처럼 인간 행동에 대한 풍부하고 현실적인 묘사를 중시합니다. 따라서 이 논쟁은 단순히 어떤 이론이 맞고 틀리는가의 문제를 넘어, 경제학이라는 학문이 추구해야 할 목표가 무엇인지, 즉 '우아한 예측'과 '복잡한 현실 묘사' 중 무엇을 더 가치 있게 여길 것인지에 대한 인식론적 충돌의 성격을 띤다.
VI. 정책적 함의와 윤리적 딜레마: '넛지'와 온정적 간섭주의
행동경제학의 통찰은 학문적 논쟁에만 머무르지 않고, 현실 세계의 정책 수립에 지대한 영향을 미쳤습니다. 그 가장 성공적이고 논쟁적인 적용 사례가 바로 '넛지(Nudge)' 이론과 그 철학적 기반인 '자유주의적 간섭주의(Libertarian Paternalism)'입니다.
똑똑한 선택을 유도하는 힘, '넛지(Nudge)'
2017년 노벨 경제학상 수상자인 리처드 탈러와 법학자 캐스 선스타인이 공저한 책 『넛지』는 행동경제학을 대중과 정책 입안자들에게 널리 알린 기폭제가 되었습니다. '넛지'란 '팔꿈치로 슬쩍 찌르다'는 뜻으로, 강제나 금지, 혹은 직접적인 금전적 인센티브를 사용하지 않고 사람들의 '선택 설계(choice architecture)'를 변경함으로써, 그들이 스스로 더 나은 결정을 내리도록 부드럽게 유도하는 접근법을 의미합니다.
넛지의 핵심 아이디어는 인간이 완전한 합리성을 가진 '이콘(Econ)'이 아니라, 체계적으로 실수하는 '인간(Human)'이라는 행동경제학의 기본 전제에서 출발합니다. 인간은 현상유지 편향, 손실 회피, 사회적 영향 등 다양한 편향에 쉽게 영향을 받습니다. 넛지는 이러한 인간의 심리적 특성을 역이용하여 바람직한 행동을 유도합니다. 이는 인간의 비합리성을 문제로만 보는 것이 아니라, 더 나은 사회를 만들기 위한 정책적 도구로 활용할 수 있다는 긍정적이고 실용적인 전환을 의미합니다.
넛지의 정책적 활용 사례
- 퇴직연금 가입률 제고: 전통적으로 기업들은 직원들에게 퇴직연금에 가입할지 여부를 묻는 '옵트인(opt-in)' 방식을 사용했습니다. 그러나 많은 직원이 복잡한 절차와 결정의 어려움 때문에 가입을 미루는 경향이 있었습니다. 넛지 정책은 이를 역으로 활용했습니다. 직원이 입사하면 자동으로 퇴직연금에 가입시키고, 원하지 않을 경우에만 본인이 직접 해지 신청을 하도록 하는 '옵트아웃(opt-out)' 방식으로 기본값(default)을 변경했습니다. 현상유지 편향 때문에 대부분의 직원은 그대로 연금에 가입한 상태를 유지했고, 그 결과 저축률이 획기적으로 증가했습니다.
- 장기기증 서약률 증가: 많은 국가에서 장기기증 서약률을 높이기 위해 넛지를 활용했습니다. 운전면허를 신청하거나 갱신할 때, 장기기증 희망 여부를 반드시 체크하도록 하는 '유도된 선택(mandated choice)'을 도입했습니다. 단순히 질문을 던지는 것만으로도 사람들은 이 문제에 대해 한 번 더 생각하게 되고, 이는 서약률 증가로 이어졌습니다.
- 기타 다양한 사례: 네덜란드 암스테르담 공항에서는 남자 소변기 중앙에 파리 모양 스티커를 붙여놓았습니다. 남성들의 조준 본능을 자극한 이 작은 넛지는 소변기 밖으로 튀는 소변의 양을 80%나 줄였습니다. 영국의 세금 고지서에는 "귀하가 사는 지역 주민의 90%는 이미 세금을 납부했습니다"라는 문구를 추가했습니다. 다른 사람들을 따르려는 '사회적 규범(social norms)'을 활용한 이 넛지는 세금 체납률을 크게 낮추는 효과를 가져왔습니다.
윤리적 논쟁: 자유주의적 간섭주의
넛지의 효과는 분명하지만, 그 이면에는 심각한 윤리적, 철학적 논쟁이 존재합니다. 넛지의 철학적 기반인 '자유주의적 간섭주의'는 그 이름 자체에 내재된 긴장감을 보여줍니다.
- 옹호론: 옹호론자들은 넛지가 '자유주의적'이라고 주장합니다. 왜냐하면 넛지는 어떤 선택도 금지하거나 강제하지 않으며, 사람들은 원하면 언제든지 넛지의 유도를 거부하고 다른 선택을 할 자유를 온전히 보존하기 때문입니다. 동시에 넛지는 '온정적 간섭주의(paternalism)'의 성격을 띤다. 이는 국가나 조직이 개인의 건강, 부, 행복과 같이 그들 스스로도 원하지만 의지력 부족이나 인지적 편향 때문에 실천하지 못하는 목표를 달성하도록 돕기 때문입니다. 또한, 이들은 선택 설계가 결코 '중립적(neutral)'일 수 없다고 주장합니다. 메뉴판의 음식 배열, 웹사이트의 버튼 위치 등 모든 환경은 사람들의 선택에 영향을 미칩니다. 어차피 어떤 형태로든 넛지가 존재할 수밖에 없다면, 이왕이면 사람들에게 이로운 방향으로 의식적으로 설계하는 것이 더 바람직하다는 것입니다.
- 비판론: 반면, 비판론자들은 넛지가 개인의 자율성과 존엄성을 침해하는 교묘한 '조종(manipulation)'이라고 주장합니다. 넛지는 사람들의 이성적이고 숙고적인 판단 과정을 우회하여, 무의식적인 편향에 직접 작용합니다. 이성을 통해 설득하는 것이 아니라 심리적 약점을 이용해 행동을 유도하는 것은 인간을 자율적인 주체가 아닌 조종의 대상으로 취급하는 것이며, 이는 비민주적이고 기만적일 수 있다는 것입니다. 또한, '누가', 그리고 '어떤 근거로' 사람들에게 더 나은 선택이 무엇인지를 결정할 것인가에 대한 근본적인 질문이 제기됩니다. 정책을 설계하는 '선택 설계자' 자신도 인지적 편향에서 자유롭지 못하며, 그들의 의도가 항상 순수하게 공익을 위할 것이라는 보장도 없습니다. 기업의 이익을 위해 사용되는 '다크 넛지(dark nudge)'는 이러한 우려가 현실화된 사례다.
결국 넛지를 둘러싼 논쟁은 자유 민주주의 사회가 가진 근본적인 딜레마, 즉 '개인의 자율성'과 '공동체의 복리' 사이의 충돌을 드러냅니다. 넛지는 바로 이 불편한 교차점에 정확히 위치해 있습니다.이 논쟁은 경제학의 범주를 넘어, 국가의 적절한 역할은 무엇이며, 우리는 시민의 복지를 증진하기 위해 어디까지 개입할 수 있는가라는 정치철학적 질문으로 우리를 이끈다.
VII. 결론: 대립에서 통합으로, 경제학의 새로운 지평
합리성을 신봉하는 주류 경제학과 인간의 심리를 파고드는 행동경제학의 지적 투쟁은 지난 반세기 동안 경제학계의 가장 역동적인 지적 전선이었습니다. 이 대립은 단순한 학문적 논쟁을 넘어, 경제학이 '인간'을 어떻게 이해하고 분석할 것인가에 대한 근본적인 성찰을 촉발했습니다. 이제 이 격렬했던 대립은 점차 상호 보완적인 통합의 단계로 나아가고 있으며,경제학의 새로운 지평을 열고 있습니다.
주류로 편입된 비주류
한때 주류 경제학의 기본 가정을 거부한다는 이유로 '비주류'로 취급받았던 행동경제학은 이제 명실상부한 주류 경제학의 핵심 분야로 자리 잡았습니다. 허버트 사이먼,대니얼 카너먼, 리처드 탈러 등 행동경제학의 발전에 기여한 학자들이 연이어 노벨 경제학상을 수여받은 것은 그 학문적 성과와 중요성을 공식적으로 인정한 상징적인 사건입니다. 또한, 서울대학교, 연세대학교를 비롯한 전 세계 유수 대학의 경제학과에서 행동경제학이 정규 과목으로 개설되어 차세대 경제학도들에게 필수적인 지식으로 교육되고 있습니다. 이는 행동경제학이 일시적인 유행이 아니라 경제학의 지적 체계에 깊이 뿌리내렸음을 증명합니다.
통합의 길
중요한 점은 행동경제학이 주류 경제학을 완전히 폐기하고 대체하려는 시도가 아니라는 것입니다. 오히려 행동경제학의 목표는 주류 경제학이 설명하지 못하는 인간 행동의 비합리적 측면을 밝혀내고, 이를 기존 이론에 통합함으로써 경제학의 현실 설명력을 높이는 데 있습니다. 즉, 대립의 시대가 가고 '통합'의 시대가 오고 있는 것입니다.
이러한 통합은 주류 경제학의 수학적 엄밀성과 예측 모델의 장점을 유지하면서, 그 안에 인간의 심리적 편향을 변수로 포함시키는 방식으로 이루어집니다. 예를 들어, 전통적인 효용함수 대신 전망이론의 S자형 가치함수를 모델에 적용하거나, 미래 가치를 일정하게 할인하는 '지수형 할인' 모델 대신 현재의 가치를 훨씬 더 높게 평가하는 '쌍곡형 할인' 모델을 사용하는 식입니다. 이는 합리적 모델의 강력한 분석틀과 행동경제학의 현실적 통찰을 결합하여, 보다 정교하고 현실에 가까운 경제 모델을 구축하려는 노력입니다. 행동경제학의 궁극적인 승리는 합리적 모델의 '대체'가 아니라 '풍요롭게 하는 것'에 있을 것입니다.
미래 전망과 과제
행동경제학의 영향력은 학계를 넘어 사회 전반으로 확산되고 있습니다. '넛지'를 통한 공공정책 설계는 물론, 소비자의 심리를 파고드는 마케팅 전략, 투자자의 비합리적 행동을 교정하려는 금융 상품 개발, 조직 구성원의 동기를 부여하는 경영 전략 등 다양한 분야에서 그 원리가 활발하게 응용되고 있습니다.
앞으로 인공지능(AI)과 빅데이터 기술의 발전은 행동경제학에 새로운 기회를 제공할 것입니다. 방대한 데이터를 통해 과거에는 발견하기 어려웠던 인간의 미묘한 행동 패턴과 인지 편향을 더욱 정밀하게 분석하고, 이를 기반으로 개인화된 넛지나 맞춤형 금융 서비스를 제공하는 것이 가능해질 것입니다.
물론, 행동경제학 앞에는 여전히 과제가 남아있습니다. 이론의 파편성을 극복하고 다양한 편향들을 아우르는 보다 통합적인 이론 체계를 구축하는 것, 그리고 실험실의 한계를 넘어 현실 세계에서의 예측력을 높이는 것은 앞으로 해결해야 할 중요한 숙제다.
결론적으로, 합리주의와 행동주의의 지적 여정은 경제학이 '호모 이코노미쿠스'라는 추상적 인간상에서 벗어나, 복잡하고 때로는 모순적인 '호모 사피엔스'를 직시하는 과정이었습니다. 이 두 거대한 흐름의 대립과 통합은 '인간이란 무엇인가'라는 근본적인 질문에 대한 경제학의 답을 더욱 깊고 풍부하게 만들고 있습니다. 합리성의 정교한 논리와 비합리성의 생생한 현실이 결합될 때, 경제학은 비로소 인간 사회를 더 깊이 이해하고 더 나은 미래를 설계하는 강력한 학문으로 거듭날 것입니다.
