Родился 18 июля 1918 близ Умтаты (Восточная Капская провинция). Старший сын вождя племени темпу, говорящего на языке коса. Учился в колледже Форт-Хейер, в 1940 был исключен за участие в бойкоте. Работал учеником в юридической конторе в Йоханнесбурге, учился заочно в Южно-Африканском университете. Изучал право в Витватерсрандском университете. В 1952 вместе с Оливером Тамбо, лидером Африканского национального конгресса (АНК) в изгнании, открыл первую африканскую юридическую фирму в Йоханнесбурге.

Способствовал созданию Молодежной лиги АНК. Был среди тех членов АНК, которые в конце 1940-х – начале 1950-х годов находились в оппозиции к правящей Националистической партии. Возглавил движение за ненасильственное сопротивление режиму апартеида. В 1953 был избран президентом Трансваальского отделения АНК. Был обвинен в государственной измене и заключен в тюрьму в 1956 (оправдан в 1961).

В 1960 Мандела стал лидером АНК. После бойни в Шарпевиле, запрета АНК и Панафриканского конгресса во главе с Робертом Собукве сформировал военную организацию АНК – Умконто ва сизве (Копье нации). В течение года ему удавалось избегать ареста, однако в середине 1962 он был заключен в тюрьму за подстрекательство к забастовкам.

В 1964 Мандела и другие руководители Умконто были приговорены к пожизненому заключению по обвинению в заговоре с целью свержения власти. На суде Мандела заявил, что его судят за стремление построить в Южной Африке демократическое общество, где все расы и народы жили бы в мире и гармонии. Находясь в заточении в одиночной камере тюрьмы на острове Роббине близ мыса Доброй Надежды, Мандела приобрел мировую известность. Кампания в его защиту приобрела невиданные масштабы и превратилась в международную борьбу за отмену апартеида и изменение политической системы ЮАР.

В феврале 1990, после подписания последним белым президентом ЮАР Фредериком де Клерком указа о легализации АНК, Мандела вышел на свободу. В середине 1990 посетил Европу, Северную Америку и Африку, где призывал к продолжению экономических санкций против ЮАР. В 1990 участвовал в обсуждении проекта новой конституции с Де Клерком. В июле 1991 стал президентом АНК. В декабре 1991 Мандела и Де Клерк созвали многорасовую и многопартийную конференцию для выработки новой конституции. Переговоры завершились в феврале 1993 созданием переходного коалиционного правительства.

Его жена Винни Мандела (р. 1936, в девичестве Номзамо Винифред Мадикизела) в 80-90 е годы была одним из лидеров движения африканского сопротивления в ЮАР. В конце 1988 ее репутации был нанесен сильный удар, когда несколько ее телохранителей похитили и избили четырех черных юношей, одного из которых позже нашли мертвым. В 1991 Винни была приговорена к шести годам тюремного заключения (исполнение приговора было отсрочено). Супруги расстались в 1992 и впоследствии развелись, после чего Мандела женился на Грейс Машел, вдове мозамбикского лидера Саморы Машела.

В сентябре 1993, выступая на Генеральной ассамблее ООН, призвал к отмене экономических санкций против ЮАР. В 1993 Мандела и Де Клерк были удостоены Нобелевской премии мира.

На первых всеобщих выборах 1994 АНК завоевал 63% голосов, и Мандела был избран президентом Национальной ассамблеи. В 1996 была принята новая конституция страны, гарантировавшая всем южноафриканцам равные права независимо от расовой принадлежности, пола, религиозных убеждений или сексуальной ориентации. Тем не менее рост преступности и экономические проблемы вызвали масштабную эмиграцию белого населения в конце 1990-х годов. Оставаясь на посту президента страны, Мандела в декабре 1997 ушел с поста лидера АНК, а на выборах 1999 не выставил своей кандидатуры на пост президента ЮАР.

После того, как в 1999 году Мандела оставил пост президента ЮАР, он стал активно призывать к борьбе с распространением ВИЧ и СПИДА (по оценкам экспертов, в ЮАР сейчас около пяти миллионов носителей ВИЧ и больных СПИДом — больше, чем в любой другой стране).

Макгахо, старший сын Манделы умер от СПИДа в 2005 г. в возрасте 54 лет. Младший сын, Тембекиле, погиб в автокатастрофе когда Мандела находился в заключении. у Манделы остались три дочери: одна — от первой жены Эвелин, скончавшейся в 2004 году, и две — от второй жены Винни.