Joe Beck urodził się w Filadelfii, a jako nastolatek przeniósł się na Manhattan, gdzie grał sześć nocy w tygodniu w trio. Dało mu to możliwość poznania wielu osób z tętniącej życiem sceny muzycznej Nowego Jorku. W wieku 18 lat został zatrudniony przez Stana Getza do nagrania utworu „Jingles”, a w 1967 roku współpracował przy nagraniach z Milesem Davisem. Rok później, mając zaledwie 22 lata, dołączył do Gil Evans Orchestra. Lista muzycznych współprac Becka z innymi artystami przypomina „Who’s Who” światowego jazzu: Louis Armstrong, Duke Ellington, Buddy Rich, Woody Herman, Miles Davis, Tommy Tedesco, John Abercrombie, Gábor Szabó, Frank Sinatra i Gloria Gaynor to tylko niewielka część jego bogatej dyskografii jako muzyka towarzyszącego i producenta. W 1974 roku Beck grał na gitarze na singlach i albumach Jamesa Browna. National Academy of Recording Arts and Sciences pięciokrotnie uhonorowała go nagrodą Most Valuable Player Award. Artysta nagrywał również z Royal Philharmonic Orchestra w Londynie, Milan Philharmonic Orchestra we Włoszech oraz Paris String Ensemble we Francji.
