毕达哥拉斯学派关于2的平方根的无理性的原始论证称为谬误归约论。谬误归约论指的是先假设一种说法是真实的，顺理推论，出现矛盾，从而证明该说法是虚假的。兹以现代的实例说明这个理论，即20世纪的一个大物理学家玻尔的一句名言：“一种伟大思想的对立面也是一种伟大的思想。”徜若这个说法是正确的，则推论下去难免要承担一点风险。以黄金定律为例，或者以劝阻撒谎或“你不能杀人”为例，考虑它们的反论，就会明白了。也可以先认定玻尔的名言是一种伟大的思想，那么，这个说法的对立面呢，即“一种伟大思想的对立面并不是一种伟大的思想”也一定成立。这就是谬误归约论的论证过程。徜若反方的说法是虚假的，则这一名言并不会耽误多少功夫，因为这等于自我承认并非伟大的思想。
下面，根据谬误归约论，用现代论证法论证2的平方根的无理性。论证中只要用到简单的代数法，不必要用到毕达哥拉斯学派发明的几何论证法。论证的风格和思维的方式至少和结论一样引人入胜。
设边长为1个单位（该单位无论是厘米、英寸还是光年都无所谓）的正方形，对角线BC分正方形为两个直角三角形。根据毕达哥拉斯学说，在这样的直角三角形中，12+12=x2。因为12+12＝1+1=2，由此推及x＝2的平方根。假定2的平方根（21/2）是一个有理数，21/2=p/q，式中p和q均为整数。p和q可以代表任何整数，也可以无穷大，当然也可以认为p和q没有公因子。设p=14，q=10，得21/2=14/10，分子分母都除以2，得p=7，q=5，而不再是p=14，q=10。在任何计算中，分子分母的公因子都要先除掉。p和q可以选用任何数。把 21/2=p/q两边平方，则得2=(p2)/(q2)。两边两乘以q2，则得：
p2=2q2（式1）
据式1，p2一定是乘以2的某个数，故p2是一个偶数。但是，奇数的平方一定是奇数（如12=1，32=9，52=25，72=49）。所以，p本身一定是偶数，可以写作p=2s，式中s为一个整数。把p代入式1，得：
p2=(2s)2=4s2=2q2
最后等式的两边都除以2，则得：
q2=2s2
因此，q2也是一个偶数。证明过程如上，则q本身也是一个偶数。要是p和q都是偶数，都可以除以2，那么这两个数都没有归约到最小公因子，这和论证前的假设是矛盾的。这里谬误得到归约。但是，哪一个假设是谬误的呢？论证过程中并没有规定公因子不可归约，也没有规定14/10可以归约，7/5不可以归约。所以，原始的假设一定是谬误的。p和q不可能是偶数：2的平方根是无理数。事实上21/2=1.4142135……
这个结论真是出人意外！证明过程真是奇妙！但是，毕达哥拉斯学派却感到难受，千方百计要掩盖住这个伟大的发现。