「阿罗不可能定理（Arrow's impossibility theorem） 」为什么反直觉？
首先题主对Arrow’s Impossibility Theorem 的描述存在一些问题。这个定理实际上说的是：当（1）参与投票的人数（voters）是有限的（finitely many）并且（2）有至少三个候选方案（alternatives）时，一个满足一定（3）理想条件的投票机制必然会导致（4）独裁。
以下我将会对（1）（2）（3）（4）逐一进行讨论 （按照（3）（4）（2）（1）的顺序）。
1. 什么是“理想”的投票机制？
我们可能首先会想到“民主”这个词，而民主的主要特征之一就是universal suffrage。所以我们希望能有一种投票机制使得投票的结果可以反映大多数人的意见。比较好联想到的一种投票机制就是majority rule，也就是“少数服从多数”，得票数最多的那个candidate胜出。但实际上这种投票机制是有问题的。它会导致集体的偏好“cyclic”，从而不能够产生一个集体的决策。这个问题最早是由法国政治学家Maurice de Condorcet 在1785年发现的。他进而提出了”Condorcet Paradox”。举个最简单的例子：假设一个集体（group）里有三个投票者（voters)：1，2，3和三个候选人（candidates）：A, B, C。1，2，3的偏好具体见下图：
也就是说，1，3都认为A比B好；1，2都认为B比C好；2，3都认为C比A好。根据“少数服从多数”的原则，集体的偏好（collective prefernce)应该是A优于B，B优于C，C优于A。这就使得集体的偏好成了“cyclic”。从而使得集体无法进行决策。
所以满足“理想”的投票机制的首要条件是——这个投票机制要能够产生一个集体的决策。
Arrow定义的第二个条件叫做“Pareto optimality (or Pareto efficiency or unanimity)”，意思是说通过”理想“的投票机制选出的候选人是所有投票者都同意的。说得更精确一点，所有投票者都认为不存在另外一个候选人优于通过”理想“的投票机制选出的候选人。这个条件也是非常合理和符合直觉的。
Arrow定义的第三个条件叫做”Independence of Irrelevant Alternatives （IIA)”，意思是说对任意两个候选人，如果全体投票者都不改变他们各自对这两个候选人的排名，那么集体产生的投票结果也不会改变。这个条件或许就不是那么显而易见了，但总体来说还是合理的。下面举一个违反IIA条件的例子。假设有五个投票者：1，2，3，4，5， 和三个候选人：x, y, z。 每个投票者按下表给出他们各自对候选人的排名和权重：
也就是说根据这个投票机制，候选人y胜出。
假设现在，1和2改变了他们对候选人z的排名，但保持他们对x,y的相对排名不变，最后的结果就发生改变了：
也就是说，这个时候，选举的结果变成了x胜出。
以上就是Arrow在他的不可能定理里对一个“理想”的投票机制的定义。
2. 什么是“独裁”（dictatorship)?
其实很好理解，就是在所有的投票者中，存在一个投票者，他的偏好决定了投票结果。举个极端的例子，如果一个独裁者喜欢A胜过B，即使其他所有人都喜欢B胜过A，投票的结果依旧是A胜过B。
3. 为什么必须有至少三个候选人？
Arrow’s Impossibility Theorem用另一种方式说就是：当参与投票的人数（voters）是有限的（finitely many）并且有至少三个候选方案（alternatives）时，一个同时满足（1）可以产生集体决策（2）Pareto optimality (3) IIA （4）非独裁 的投票机制是不存在的。
如果只有两个候选人，意味着每个投票者只有两个选择，Condorcet Paradox也就没有了产生的条件。也就是说，Arrow’s Impossibility Theorem的条件之一“可以产生集体决策”就自动满足了，不需要你对投票机制进行额外的限制。而同时满足（2）（3）（4）的投票机制是存在的，不论有多少个投票者。
所以，通过1，2，3的分析，我们可以看出，Arrow不可能定理的核心是对“投票机制”的定义。投票机制实际上是一个social choice function mapping from the set of linear orders （loosely speaking，投票者对候选人的排名）to the set of alternatives。
4. 为什么参与投票的人必须是有限的？
Fishburn (1970)证明了如果参与投票的人数是无限的，那么一个同时满足（1）可以产生集体决策（2）Pareto optimality (3) IIA （4）非独裁 的投票机制就存在了。
5. Arrow的不可能定理为什么”反直觉“？
其实我倒没觉得这个定理”反直觉“，只是觉得结果很神奇。不神奇也不可能让Arrow主要靠这个拿了诺奖了。所以非要让举一个通俗易懂的例子来解释Arrow的不可能定理为什么make sense其实很难，或者说很难说得准确。@顾归分析的很好，通俗易懂，他（or 她）给的例子也许是一种可能出现的情景。但我不同意的地方有两点：首先，集体选举的结果不是效用的叠加。因为在Arrow的setting里，每一个投票者的preference是ordinal而非cardinal的。其次，在Arrow的setting里，集体选举的结果不是“无数人”效用的叠加。Arrow的不可能定理中，一个至关重要的条件就是“there are finitely many voters”。没有了这个条件，Arrow的不可能定理就变成”可能“的了。这也就是Fishburn证明的内容。
所以说想理解一个theorem为什么make sense，最好的方法就是去看它的证明了。Arrow不可能定理的证明主要有两种。一种非常巧妙，用到的数学很浅（基本只有set theory），但会更加tedious一点。另外一种是用ultrafilter (loosely speaking, a definition to capture the “largeness” of a set)的概念证的，很简明，但需要你对boolean algebra有一定了解。
此处对第一种证明方法的思路做一个简单地介绍。我们先定义一个”独裁集合“（dictatorial set），意思和独裁者很类似。之前是独裁者一个人说的算，现在是”独裁集合“里所有的人说的算。然后我们通过（1）可以产生集体决策（2）Pareto optimality (3) IIA 这三个条件可以证明出”独裁集合”的一些性质（比如独裁集合的子集也是独裁集合，两个独裁集合的交集还是独裁集合等等）。最后利用这些性质可以证明出“独裁集合”里只有一个元素。也就是说这个元素就是独裁者。
6. Implications
(1) 有人可能会问Arrow的不可能定理有什么现实意义。是不是说“民主”就是不可能的了，因为这个世界上根本就没有“理想”的投票机制。但实际上尽管各种投票机制有这样那样的弊端，决策者却永远可以根据具体情况的不同，选择最为恰当的投票机制。比如说，尽管“少数服从多数”可能产生cyclic的结果。但统计数据表明这种可能性其实是很低的。所以在现实生活中还是被大量使用。
(2)既然Fishburn证明了当投票人数是无限多时，“理想”的投票机制是存在的，这是不是就意味着参与投票的人数越多，民主实现的可能性就越大？这个问题听起来是很符合直觉的，而且Aumann关于large economies的几篇paper似乎也提供了一些线索。但可惜答案是否定的。具体可见Kirman and Sondermann(1972)。