Met de steeds repressievere wetten en maatregelen werd ook het binnenlands verzet militanter.

Op 21 maart 1960 kwamen in de stad Sharpeville zwarte betogers op straat om te protesteren tegen de pasjeswetten. De politie opende het vuur. Gevolg: 69 doden en 178 gewonden. De noodtoestand werd afgekondigd en er volgden aanhoudingen - o.a. van ANC-leider Lutuli die tot een jaar effectief werd veroordeeld.

Met het oog op de afkondiging van de republiek hield het ANC in 1961 een massavergadering in Pietermaritzburg; er werd een Nationale Actie Raad verkozen met Mandela als secretaris en er werd opgeroepen tot staking. Als gevolg daarvan moest Mandela al meteen onderduiken, maar nog in hetzelfde jaar werd een gewapende arm van het ANC opgericht, de Umkhonto we Sizwe of De Speer van de Natie: zij riepen in de eerste plaats op tot het plegen van sabotagedaden. Tenslotte werd, ook nog in 1961, de nobelprijs voor de vrede uitgereikt aan Albert Lutuli, de eerste Afrikaan die ooit een nobelprijs kreeg. Dit was meteen een belangrijk signaal vanwege de internationale gemeenschap.

In 1962 werd Nelson Mandela aangehouden, o.a. op beschuldiging van het aansporen tot staking. Hij werd tot vijf jaar hechtenis veroordeeld, maar in 1963, na de aanhouding van de leiders van Umkhonto we Sizwe, werd hij opnieuw voor de rechter gebracht op beschuldiging van het plegen van sabotage. Dit werd het beruchte Rivonia-proces waarop Mandela ook de kans kreeg om zijn politieke ideeën naar voren te brengen.

Op 12 juni 1964 werden Mandela en zeven andere apartheidsleiders veroordeeld tot levenslange hechtenis en nog dezelfde dag overgebracht naar Robbeneiland. Het is daar dat Nelson Mandela zou uitgroeien tot het symbool van het zwarte verzet tegen de Apartheid.

Het ANC werd het doelwit van de regering. Zo verscheen er in 1970 een Wet op de Binnenlandse Veiligheid die bepaalde dat iedereen die lid was van het ANC, of er zelfs maar propaganda voor gemaakt had, kon veroordeeld worden tot gevangenisstraffen van 1 tot 10 jaar.

Toch nam het verzet alleen maar toe, en niet alleen vanuit de ANC-hoek. In 1975 werd de Inkhata-beweging opgericht door de Zulu-leider Buthelezi, die zich ook sterk opstelde tegen de apartheid.

Verder was er het verzet vanuit de kerken: in 1952 verzette de Katholieke Bisschoppenconferentie van Zuid-Afrika zich al tegen de discriminatie op basis van huidskleur, maar in 1957 noemde ze de apartheid expliciet een intrinsiek kwaad, onrechtvaardig en anti-christelijk.

In 1963 richtte Ds. Beyers Naudé het Christelijk Instituut op, een oecumenische organisatie die zich inzette voor de eenheid van alle christenen en voor verzoening in Zuid-Afrika. Vijf jaar later werd, met o.a. bisschop Desmond Tutu, de Zuid-Afrikaanse Raad van Kerken opgericht, weliswaar zonder de Katholieke en de Nederduits Gereformeerde Kerken. Zij onderschreven in 1970 het programma ter bestrijding van racisme van de Wereldraad van Kerken. In november 1977 tenslotte verzetten de katholieke bisschoppen van Zuid-Afrika zich expliciet tegen de thuislandenpolitiek.

Ook blanken engageerden zich in de strijd tegen apartheid. Zo werd in 1954 een Federation of South African Women (FSAW) opgericht die blanke en niet-blanke vrouwen van Johannesburg verenigde in de strijd tegen de pasjeswetten. Een merkwaardige beweging was die van de in 1955 opgerichte Women's Defence of the Constitution League of Black Sash, zo genoemd naar het feit dat blanke liberale vrouwen een zwarte sjerp (sash) droegen uit protest tegen de onrechtvaardige wetten.

Een belangrijk keerpunt in het verzet tegen de apartheid kwam er in 1976, met de scholierenopstand van Soweto, de reusachtige zwarte voorstad van Johannesburg. De directe aanleiding was de maatregel dat ook in zwarte scholen het onderwijs enkel nog in het Afrikaans zou mogen gebeuren, terwijl tot dan toe het Engels als onderwijstaal gebruikt werd . Dat verminderde opnieuw de slaagkansen van de zwarte kinderen die al langer beseften dat zij met hun minderwaardige "Bantoe-onderwijs" weinig kansen hadden. Ondanks de apartheidsretoriek van "gescheiden, maar gelijkwaardig" werd voor het onderwijs aan blanke kinderen immers 15 keer meer geld uitgegeven dan voor het onderwijs aan zwarte kinderen, die wel 80% van de schoolbevolking uitmaakten.

De taalmaatregel werd dus de druppel die de emmer deed overlopen: op 16 juni 1976 kwamen scholieren in Soweto massaal de straat op, toen de politie begon te schieten. Zo'n 100 kinderen bleven dood achter. De scholierenopstand breidde zich uit naar andere steden en tegen het einde van 1976 telde men al 661 doden en meer dan 2.000 gewonden. Het feit dat de politie bleef schieten op groepen schoolkinderen heeft vooral de internationale opinie sterk beïnvloed. De foto van het eerste slachtoffer van Soweto, de jonge Hector Peterson, die weggedragen wordt verscheen overal ter wereld in de pers en maakte dat de jongen uitgroeide tot een nationaal symbool. Na de democratisering van het land werd 16 juni overigens uitgeroepen tot "Jeugddag", een nationale feestdag voor heel Zuid-Afrika.