1943年8月，曼德拉在律师事务所的同事高尔·拉德比协助组织了抵制城市公交涨价的示威游行，包括曼德拉在内的一万余名黑人也参与其中。这次成功的示威活动让曼德拉首次接触到南非非洲人国民大会，也真正引领他进入了政治生活。1944年4月，南非非洲人国民大会的青年团在约翰内斯堡成立，曼德拉出任青年团执行委员会的委员。青年团坚持非洲人的命运由非洲人决定，承诺要成为非洲民族主义者的精神支柱和动力源泉。 1946年8月，南非联邦时任总理扬·史末资（Jan Smuts）下令，以煽动黑人煤矿工人罢工为由逮捕非洲矿工联盟（African Mineworkers’ Union）的几位共产主义领袖。他还推出了《亚洲人土地所有权法案》（Asiatic Land Tenure Bill），禁止向印度人出售土地。非洲矿工联盟和印度人遭遇的挫折给包括曼德拉在内的年轻黑人政治家留下了深刻的印象。在保护黑人权益的过程中，本地代表委员会（Natives’ Representative Council）只组织了几次毫无影响力的请愿活动，因此丧失了在黑人中的信誉。1948年，曼德拉当选非国大青年团的书记，负责组织政治活动，建立分支机构。 1948年5月，丹尼尔·马兰（Daniel Malan）领导的南非国民党（South African National Party）获得了南非大选的胜利，他本人担任南非总理。当选后，马兰政府宣布在南非推行严格的种族隔离政策，并以各种方式镇压黑人的反抗运动。在之后执政的四十年中，国民党政府持续推出法令，逮捕黑人领袖或迫使他们逃亡海外。1949年，马兰政府宣布确定公民所属的种族，并严格根据种族划分公民居住地，禁止跨种族的婚姻。[38]对此，青年团于1949年12月15日召开会议，呼吁组织大规模示威活动，以抵制政府政策。与此同时，包括曼德拉在内的四位青年团领袖决心推翻保守的非国大时任领导人阿尔弗莱德·舒玛（Alfred Xuma）。1950年3月，舒玛宣布辞职，詹姆斯·摩洛卡（James Moroka）被选举为非国大的主席，西苏鲁成为新任秘书长，曼德拉成为执行委员会的委员和青年团的主席。
