Fra 1947 var den nyuddannede jurist Ole Jensen ansat som fuldmægtig ved Vejle Amt i Vejle. Året efter blev han dommerfuldmægtig ved Retten i Gråsten. Herefter var Ole Jensen indtil pensioneringen i 1992 knyttet til retsvæsenet. Fra 1955 virkede han ved Retten i Sønderborg, og efter en periode som konstitueret landsdommer i Vestre Landsret var Ole Jensen ansat ved retterne i Haderslev, Gråsten, Løgumkloster og ved Retten i Kolding. Ved retskredsreformen i 1973 blev han udnævnt til kriminaldommer i Fredericia, og fra 1984 udnævntes han til kriminaldommer i Kolding. Han var bl.a. formand for Vejtaksationskommissionen for Vejle Amt, ligesom han i tiden omkring tjenestemandsloven af 1969 var medlem af bestyrelsen og formand for Foreningen af dDommerfuldmægtige i Danmark og medlem af Juristforbundets repræsentantskab.