И тут теория Фреге дала сбой. Ведь «множество, образованное лошадьми, – не лошадь», рассуждал Рассел. Можно оседлать конкретную лошадь, но не множество. Эта конкретная лошадь будет членом множества, но само множество членом самого себя не будет. Для Фреге это был удар. Стройная концепция, с которой он намеревался войти в историю математики, полетела коту под хвост.
Рассел между тем рассуждал дальше. Он установил, что множества делятся на те, которые являются членами самих себя, и на те, которые не являются. Допустим, есть множество множеств, которые «не являются членом самих себя». Назовем его множеством А. Но является ли А членом самого себя? И тут возникает логическое противоречие: множество А не может существовать, но его существование вполне соответствует аксиоме выделения Фреге. Невинная аксиома оказывается внутренне противоречивой.
В 1904 году Рассел выпустил книгу с описанием ставшего знаменитым парадокса брадобрея. Представим себе деревню, писал Рассел, где живет только один брадобрей. Он бреет всех мужчин, которые не бреются сами. Вопрос: бреет ли брадобрей сам себя? Парадокс Рассела привел к тому, что математический мир сотряс кризис. Теория Кантора, поддержанная Фреге, уже успела проникнуть в фундаментальные области математики. Но после вмешательства Рассела она оказалась под огромным сомнением. Теперь ученые не верили ни во что. В любом рассуждении, которое ранее казалось очевидным, подозревали возможность противоречия. Сомнению подвергались основания математики.
Хуже всего пришлось несчастному Фреге. Парадокс Рассела ставил крест на всех его рассуждениях. Второй том «Основных законов математики» всетаки вышел, но Фреге добавил к нему горькое признание: «Трудно вообразить нечто более ужасное для ученого, чем зрелище того, как подрывается фундамент, когда работа заканчивается. Таково положение, в которое меня поставило письмо господина Бертрана Рассела».
Теория множеств Кантора снова была почти отринута. Однако Давид Гильберт был глубоко убежден, что прав именно Кантор и будущее за бесконечностями. К 1920 году Гильберт ринулся в бой под лозунгом «Никто не сможет изгнать нас из рая, который создал для нас Кантор».
Гильберт считал, что при правильном подходе математик может работать с любым объектом, в том числе и с бесконечностью. Любая математическая теория должна быть основана на аксиомах, то есть некоторых базовых утверждениях, принятых в качестве истинных. Любое утверждение должно быть доказано на основе этих аксиом с помощью утверждений, чья справедливость проверяется алгоритмически. Начать Гильберт предлагал с арифметики.