Smit (CDA) is sinds 2010 voorzitter van vakcentrale CNV. Daarvoor werkte hij als directeur bij Slachtofferhulp Nederland en als predikant.

Smit is de opvolger van Jan Franssen, die lid wordt van de Raad van State. Franssen was sinds 2000 commissaris in Zuid-Holland. Daarvoor was hij onder meer burgemeester van Zwolle en Tweede Kamerlid voor de VVD.