Karrieren begyndte med en titel af civilingeniør i 1958.

Allerede i studietiden havde Kaj Schmidt blik for havne, og jobmæssigt har han været i bl.a. Hanstholm Havn, deltaget i byggeriet af Lillebæltsbroen, været i statshavnsadministrationen i Esbjerg Havn, og i 1982 blev han havnedirektør for Århus Havn, hvor hans sad i 18 år og var med til at skabe den store containerhavn.

Efter pensioneringen i 2000 blev han formand for Thyborøn Havns bestyrelse, medlem af bestyrelsen for den nye fælles Copenhagen Malmø Port og medlem af bestyrelsen for Sammenslutningen af Danske Havne.