В 1801 году Серен писал другу: «Мои домашние радости недавно умножились: на третий день Рождества жена подарила мне здорового сына». То был Ханс Матиас. Его брат Нильс Хенрик появился на свет летом 1802 года. С первого своего дня Нильс страдал плохим здоровьем, и мать проводила много времени, ухаживая за ним.
Тем временем в Европе росло напряжение, и объединенное государство Норвегии и Дании оказалось зажатым между главными центрами военной силы — Англией и Францией. Наполеон желал поставить его под свои знамена, так что когда Британия заключила союз со Швецией, Норвегия-Дания внезапно стала противником Британии, немедленно предпринявшей вторжение. Через три дня Норвегия-Дания капитулировала, чтобы спасти Копенгаген от разрушения. Позднее, когда власть Наполеона стала ослабевать, его приближенный Жан-Батист Бернадотт стал королем Швеции. После того как Норвегию передали под власть Швеции, норвежский парламент — Стортинг — был вынужден признать Бернадотта своим монархом.
В 1815 году обоих мальчиков отправили в Кафедральную школу в Осло. Учитель математики по имени Петер Бадер принадлежал к тому типу учителей, которые стимулировали своих учеников посредством тяжелых физических наказаний. Тем не менее оба мальчика учились хорошо.
Затем, в 1818-м, Бадер так избил одного из своих учеников — сына депутата Стортинга, — что мальчик умер. Невероятно, но Бадера даже не отдали под суд, а просто заменили другим учителем математики по имени Бернт Холмбоэ, который до того был ассистентом у профессора прикладной математики Кристофера Ханстеена. Это событие ознаменовало решительный поворот в математической карьере Нильса, потому что Холмбоэ позволял своим ученикам разбираться с интересными задачами, выходящими за рамки обычной программы. Нильсу разрешили взять классические учебники, среди них — некоторые книги Эйлера. «С этих пор, — писал позднее Холмбоэ, [Нильс] Абель посвящал себя математике с максимальным рвением и желанием и добивался прогресса в своих занятиях со скоростью, изобличавшей гения». Вскоре после окончания школы Нильс убедил себя, что он решил уравнение пятой степени. Ни Холмбоэ, ни Ханстеен не смогли найти ошибки, так что они отправили его вычисления известному датскому математику Фердинанду Дегену на предмет возможной публикации работы Датской академией наук. Деген также не нашел ошибок в работе, но, обладая немалым опытом и зная, что всякое бывает, попросил Нильса подробнее провести вычисления в применении к некоторым конкретным примерам. Нильс быстро понял, что где-то закралась ошибка; он был расстроен, но испытывал облегчение от того, что ему не дали выставить себя на посмешище, опубликовав ошибочный результат.
Честолюбие Серена в соединении с отсутствием здравого смысла привело к неприятным последствиям. Он выступил с заявлением, в котором обвинял двух членов Стортинга в несправедливом заключении в тюрьму управляющего металлургическим заводом, принадлежавшим одному из них. В результате таких нападок на их репутацию поднялся шум. Вскоре выяснилось, что управляющий не вызывал доверия, но Серен отказался извиняться. Впав в депрессию, несчастный запил и в конце концов допился до смерти. На похоронах вдова Серена Анна-Мари напилась до такого состояния, что затащила в постель своего любимого слугу. На следующее утро, когда к ней с визитом пришли официальные посетители, она принимала их в постели, лежа рядом со своим любовником. «Бедные мальчика мне их жаль», — писала их тетка.
В 1821 году Нильс закончил Кафедральную школу и отправился сдавать вступительные экзамен в университет Христиании (ныне Осло). Он получил максимальные оценки по арифметике и геометрии, а также хорошие оценки по остальной математике, но по всем другим предметам выступил ужасно. Он был теперь отчаянно беден, поэтому подал прошение о предоставлении ему бесплатного жилья и дров для отопления. Он также пытался получить субсидию, покрывающую расходы на проживание, и некоторые из профессоров, распознав его необычные способности, собрали деньги ему на стипендию. Получив такую поддержку, Нильс посвятил себя математике и решению уравнения пятой степени, на этот раз серьезно намереваясь обратить в успех свою неудачную первую попытку.
В 1823 году Нильс работал над эллиптическими интегралами — областью анализа, которой предстояло стать самым долговечным памятником своему создателю, превосходящим по важности даже его работы по уравнениям пятой степени. Он пытался также доказать Последнюю теорему Ферма, но не смог найти ни доказательства, ни опровержения, хотя ему удалось показать, что пример, опровергающий утверждение теоремы, может появиться только в области поистине гигантских чисел.
Летом того года он отправился на бал, познакомился там с молодой женщиной и пригласил ее на танец. После нескольких неудачных попыток начать оба они разразились смехом — ни один из них не имел ни малейшего представления о том, как танцуют. Женщину звали Кристин Кемп, но все называли ее Крелли; она была дочерью военного интенданта. Как и у Нильса, у нее не было денег, и на жизнь она зарабатывала частными уроками по всем предметам — от рукоделия до естественных наук. «Она некрасива, у нее рыжие волосы и веснушки, но она чудесная девушка», — писал Нильс. Они полюбили друг друга.