Nació el 22 de agosto de 1924, en Omangundu, Namibia.

A comienzos de 1950 colaboró en la creación de una organización para ayudar a los obreros Ovambo de las minas de Sudáfrica. En 1959 participó en la fundación de la Organización del Pueblo Ovambo, precursora de la Organización Popular del Suroeste Africano (SWAPO). 

Cuando intentaba hacer llegar clandestinamente una carta al Consejo de Seguridad de la ONU con la lista de agresiones a que estaban sometidos los trabajadores Ovambo, fue arrestado y se le prohibió salir de Ovamboland. 

En 1966, las autoridades sudafricanas descubrieron un campamento de entrenamiento para guerrillas de SWAPO en Ongulumbashe, en Ovamboland, siendo  Toivo y otros compañeros, acusados de traición y condenados a 20 años de prisión. 

Tras haber pasado 16 años en la carcel, en la Isla de Robben , Sudáfrica, en marzo de 1984 fue puesto en libertad. A pesar de su largo encarcelamiento, se negó a ser liberado si no lo eran también el resto de presos políticos namibios, por lo que los funcionarios de la prisión le echaron por la fuerza fuera de la misma. Tras la independencia de Namibia, en 1990, fue elegido para el Parlamento y más tarde Ministro de Minas y Energía. En 1999 ocupó la cartera de Ministro de Trabajo.