Jeter znany był z udziału w zespole Dixie Hummingbirds jednak największą sławę przyniósł mu epizod z grupą Swan Silvertones, która powstała w 1938 roku.

Jego utwory, jak "Careless Sould" i "Saviour Pas Me Not" odbiły się głośnym echem w repertuarze wielu wokalistów, jak np. Al Green czy Eddie Kendricks (z Temprations). Linijka pieśni Swan Silvertones z 1962 roku - "Mary Don't You Weep" - o treści: "będę mostem między głęboką wodą, jeśli mi zaufasz", zainspirowała Paula Simona do napisania utworu "Bridge Over Troubled Water".

Jeter wydał też album solowy - "Yesterday and Today" w 1991 roku. Zawsze śpiewał pieśni religijne. "Miałem wiele propozycji śpiewania rock'n'rolla, ale nigdy na nie nie przystałem" - mówił Claude Jeter w wywiadzie dla New York Timesa w 1992 roku - "Obiecałem swojej mamie, że nigdy nie zaśpiewam czegoś, co nie będzie chwalić Pana. Jaka jest różnica między bluesem i gospel? Blues nie porusza mnie duchowo. Diabeł śpiewa tam bluesa, ja śpiewam tu gospel."- dodał.