합리적 선택 이론, 선택 이론 혹은 합리적 행동 이론은 사회적·경제적 행위를 이해하고 모형화하기 위한 하나의 틀이다. 이는 사회과학 분야에서 인간의 행위와 사회적 결과를 설명하고 예측하기 위한 대표적 분석 틀로 자리 잡아왔다. 이 이론은 집합적 사회 현상이 근본적으로 개별 행위자의 선택에서 비롯된다는 전제를 기반으로 하며, 분석 단위를 개인의 의사결정 과정에 둔다. 합리적 행위자는 여러 가능한 대안들 가운데 일관된 선호 체계를 가지고 있으며, 가용한 정보, 사건의 발생 가능성, 그리고 잠재적 비용과 편익을 고려하여 자신에게 가장 큰 효용을 제공하는 선택을 한다고 가정된다. 이러한 과정은 완결성과 전이성이라는 논리적 일관성을 전제로 한다. 전통적으로 합리적 선택 이론은 이기적이고 계산적인 존재로서의 '호모 이코노미쿠스'모델을 바탕으로 발전하였다. 그러나 Duncan Snidal과 같은 학자들은 행위의 목표가 단순히 물질적 이익에 국한되지 않으며, 규범적·관념적·이타적 요소 또한 포함될 수 있음을 강조하였다. 즉, 합리성은 단순한 경제적 효용 극대화에 그치지 않고 다양한 사회적 가치와 맥락을 포괄할 수 있다는 것이다. 합리적 선택 이론은 주로 선택의 과정 자체를 설명하기보다는 선택의 결과와 그 패턴을 예측하는 데 목적을 둔다. 이러한 특징 때문에 이론의 지지자들은 가정이 반드시 현실을 정확히 묘사할 필요는 없으며, 반증할 수 있는 명확한 가설을 세우는 데 기여하는 것만으로도 유의미하다고 본다. 예컨대 밀턴 프리드먼은 특정 가설이 경험적 검증을 통과한다면 그것만으로도 성공적인 이론으로 간주할 수 있다고 주장하였다. 그러나 최근 행동경제학과 심리학적 연구는 인간이 실제 상황에서 항상 합리적으로 의사결정을 하지 않음을 보여주었으며, 이러한 비합리적 행태는 합리적 선택 이론의 한계를 드러내는 동시에 그 보완 가능성을 열어주었다. 결국 합리적 선택 이론은 인간 행위를 목표 지향적이고, 성찰적이며, 일관성 있는 선택으로 이해하며, 무작위적이거나 충동적·모방적 행위와 구분한다. 현대 이론은 개인 선호의 기원을 명시하지 않으면서도, 주어진 제약 조건 속에서 대안들에 대해 일관된 선호 순위를 부여하고 최적의 행동을 선택한다는 점을 전제로 한다. 이와 같은 접근은 여전히 사회과학에서 강력한 설명적·예측적 도구로 사용되고 있다. 이 이론의 기본 전제는 집합적인 사회적 행동이 개별 행위자의 선택과 행동으로부터 비롯된다는 점이며, 각 행위자는 독립적으로 결정을 내린다고 본다. 따라서 이 이론은 개인의 의사결정 요인에 주된 관심을 둔다. 합리적 결정 이론은 개인이 여러 가능한 대안 가운데 특정한 선호를 지니고 있다고 가정한다. 이러한 선호는 완결성을 갖는다고 보는데, 이는 두 대안이 제시되었을 때 어느 쪽을 선호하거나 혹은 동일하게 여긴다고 말할 수 있음을 의미한다. 또한 선호는 전이성을 지니는 것으로, 만약 대안 A를 B보다, B를 C보다 선호한다면 A를 C보다도 선호한다는 논리적 일관성을 갖는다고 가정한다. 합리적 주체는 자신의 선호를 형성할 때 이용할 수 있는 정보, 사건의 발생 가능성, 잠재적 비용과 편익을 고려하며, 그 가운데 가장 우월한 대안을 선택하고 이를 일관되게 실행한다고 본다. 합리성의 한 유형은 도구적 합리성으로, 이는 목표의 가치 자체를 고려하지 않고 가장 비용 효율적인 수단을 통해 목표를 달성하는 방식을 의미한다. Duncan Snidal은 이러한 목표가 단순히 자기 이익이나 물질적 이득에만 국한되지 않으며, 규범적·관념적 목표만 아니라 다양한 관계적·이타적 목적까지 포함될 수 있음을 강조한다. 합리적 선택 이론은 선택이 이루어지는 과정을 직접 설명하기보다는, 그 결과와 패턴을 예측하는 데 초점을 둔다. 따라서 개인은 흔히 이기적인 존재, 즉 '호모 이코노미쿠스'로 가정된다. 이때 개인은 비용과 편익을 비교·조정하여 자신에게 최대의 이익을 가져다주는 결정을 내린다고 본다. 이러한 모델의 지지자들, 특히 시카고학파와 연관된 연구자들은 모델의 가정이 현실을 정확히 묘사한다고 주장하지 않는다. 대신 이 모델은 명확하고 반증할 수 있는 가설을 세우는 데 유용하다고 본다. 이런 시각에서 볼 때, 가설의 타당성을 판단하는 유일한 기준은 경험적 검증이다. 예컨대 밀턴 프리드먼은, 나뭇잎의 움직임을 합리성으로 설명하는 이론이 실증적 검증을 통과한다면 그것만으로 충분히 성공적인 이론으로 간주할 수 있다고 주장하였다. 개인의 목표나 선호가 명확히 제시되지 않으면 합리성 가정을 경험적으로 검증하거나 반박하기 어려울 수 있다. 그러나 특정한 형태의 이론에서 도출된 예측은 검증이 가능하다. 최근 수십 년 동안 합리적 선택 이론의 가장 대표적인 형태인 기대 효용 이론은 행동경제학의 실험 연구로부터 도전을 받아왔다. 이에 따라 경제학자들은 심리학 등 다른 학문에서 통찰을 얻어 선택 이론을 보완하고, 인간의 의사결정을 보다 정밀하게 설명하려는 노력을 기울이고 있다. 대표적으로 행동경제학자이자 실험심리학자인 대니얼 카너먼은 이와 관련한 업적을 인정받아 2002년 노벨 경제학상을 수상하였다. 합리적 선택 이론은 인간 행동을 설명하면서 두 가지 선택 결과를 제시한다. 첫째, 가능한 모든 대안 중에서 실행할 수 있는 선택지가 우선으로 규정된다. 둘째, 개인은 선호하는 옵션을 선택하되, 이 과정에서 재정적·법적·사회적·신체적·정서적 제약을 고려하여 실행할 수 있는 범위를 좁히게 된다. 이후 최종 선택은 개인의 선호도에 따라 결정된다. 합리적 선택 이론에서 사용되는 '합리성' 개념은 일상적 의미나 철학적 맥락에서의 사용과는 다소 차이가 있다. 일반적으로 '합리적 행동'은 현명함, 예측 가능성, 혹은 사려 깊음을 의미하지만, 합리적 선택 이론은 훨씬 더 좁은 정의를 채택한다. 즉, 행동이 목표 지향적이고, 평가적(성찰적)이며, 시간과 상황을 넘어 일관성을 유지할 때 합리적이라고 간주한다. 이는 무작위적이거나 충동적이며, 조건 반사적이거나 단순 모방에 의해 나타나는 행동과 대비된다. 제번스를 비롯한 초기 신고전파 경제학자들은 개인이 자기 행복 혹은 효용을 극대화하기 위해 소비 선택을 한다고 보았다. 반면 현대 이론은 일정한 선택 공리를 전제로 하여 합리적 선택을 정의하며, 개인의 목표(욕구·선호)의 기원을 따로 규정하지 않는다. 다만 대안들에 대한 일관된 선호의 순위를 요구한다. 결국 개인은 자신이 가진 선호와 직면한 제약 조건을 바탕으로 최선의 행동을 선택하는 존재로 이해된다.