게임 이론은 여러 행위자가 동시에 또는 순차적으로 의사결정을 내릴 때, 서로의 선택이 결과에 영향을 미치는 상호의존성을 분석하는 이론이다. 경제학에서 출발했지만 정치, 외교, 생물학, 군사학, 컴퓨터과학 등으로 확장되며 현대 사회의 전략적 선택을 설명하는 핵심 도구로 자리 잡았다.
게임 이론의 핵심은 개인의 최적 선택이 아니라, 상대의 선택을 고려한 전략적 판단이다. 각 행위자는 자신의 이익을 극대화하려 하지만, 그 결과는 상대의 행동과 기대에 따라 달라진다. 이 같은 구조를 수학적으로 모델링해 예측 가능하게 만드는 것이 게임 이론의 목적이다.
학문적 출발점은 수학자 존 폰 노이만이다. 그는 2인 제로섬 게임에서 항상 해가 존재함을 증명하며 경쟁 상황을 수학적으로 정식화했다. 이후 오스카 모겐스턴과 함께 경제 행동을 게임으로 분석한 저서를 통해 경제학으로의 본격적인 확산이 이뤄졌다.
전환점은 1950년대 존 내시의 연구였다. 내시는 제로섬이 아닌 비협조적 게임에서도 균형이 존재함을 보였고, 이는 오늘날 ‘내시 균형’으로 불린다. 내시 균형은 어느 한쪽도 일방적으로 전략을 바꿀 유인이 없는 상태를 의미하며, 시장 경쟁과 외교 협상, 정치적 대립을 설명하는 표준 개념이 됐다.
게임 이론은 크게 협조적 게임과 비협조적 게임으로 나뉜다. 협조적 게임은 구속력 있는 계약과 연합 형성을 전제로 하며, 공동의 이익을 어떻게 분배할지가 핵심이다. 비협조적 게임은 계약 강제가 없는 상황에서 각자의 선택이 어떻게 균형에 이르는지를 분석한다. 현실의 가격 경쟁, 플랫폼 전략, 국제 정치 대부분은 비협조적 게임의 틀로 설명된다.
표현 방식에 따라 전략형 게임과 전개형 게임으로도 구분된다. 전략형 게임은 보수 행렬로 각자의 선택과 결과를 한눈에 보여준다. 전개형 게임은 게임 트리로 순서와 정보의 흐름을 나타내며, 협상이나 경매처럼 단계가 있는 상황을 분석하는 데 쓰인다.
게임 이론의 전제에는 공통지식 개념이 있다. 모든 행위자가 규칙과 보수를 알고 있을 뿐 아니라, 서로가 알고 있다는 사실까지 공유하고 있다는 가정이다. 이 위에서 합리적 선택이 이뤄진다고 본다. 다만 현실에서는 정보의 불완전성과 인지적 편향이 존재해, 행동경제학과 실험연구를 통한 보완이 이어지고 있다.
오늘날 게임 이론은 정책 설계와 제도 디자인에도 활용된다. 경매 방식, 보조금 배분, 규제 설계처럼 규칙을 어떻게 만들면 바람직한 결과가 나오는지를 역으로 설계하는 메커니즘 디자인이 대표적이다. 온라인 플랫폼의 보상 구조나 경쟁 규칙 역시 게임 이론적 사고가 반영되는 영역이다.
게임 이론은 인간 사회의 갈등과 협력을 단순화해 보여주는 추상적 모델이지만, 선택의 유인을 구조적으로 드러낸다는 점에서 여전히 강력하다. 복잡한 이해관계를 전략의 문제로 전환해 해석하는 이론으로서, 게임 이론은 현재진행형의 분석 도구로 활용되고 있다.
