Nakon što je završio srednju školu, preselio se u Los Angeles. Među prvim poslovima u show businessu bio mu je posao asistenta animatorima Williamu Hanni i Josephu Barberu, koji su najpoznatiji po crtanoj seriji "Tom & Jerry". Da nije postao glumac, vjerojatno bi karijeru izgradio kao ilustrator u Hollywoodu. Imao je 21 godinu kada se prvi put pojavio na velikom platnu, a bilo je to u krimi drami "The Cry-Baby Killer". Film je bio i prvi u nizu njegovih suradnji s redateljem Rogerom Cormanom. Njegova najznačajnija uloga s početka karijere bila je ona mazohističkog pacijenta u Cormanovu filmu "Mala trgovina užasa" iz 1960. godine. Prijateljevao je s Marlonom Brandom, a bio je znan kao veliki ženskaroš, zavodnik i partijaner – no njegov razvratni život nikada ga nije sprečavao da zablista u filmskim ulogama. Upravo suprotno – on je svakim novim filmom sve više oduševljavao. Jednostavno rečeno, Jack je oduvijek bio glumac golema kalibra, pa ni ne čudi da je pokorio svijet svojim izvedbama.