Nascido em Inverness, Mississippi, em 1934, e crescido em Greenville, ficou conhecido por causa do apelido do pai, "Big Milton", que em português seria Miltão. Aos 12 anos aprendeu a tocar guitarra e três anos depois colocou os pés no mundo para trabalhar com Sonny Boy Williamson, entre outros.
Logo a Sun Records o descobriu, um ano após ter encontrado Elvis Presley, por meio de Ike Turner. Ele era olheiro em busca de ganhar dinheiro por meio de novos talentos. Fez isto com Little Milton. O primeiro hit dele foi "Somebody Told Me", numa variação primitiva da canção "Woke Up This Morning", de BB King. Vendeu poucos discos, porém o hit "I´m a Lonely Man" chamou a atenção do público. Em 1961, o sucesso dessa canção o levou para Checker Records.
Três anos depois estourou nas paradas com a versão cover de Bobby Bland "Blind Man". O segredo foi reduzir a batida e dar um molho que Bland não conseguiu na primeira gravação. Foi o suficiente para aumentar o cartaz em nível nacional, embora alguns críticos o chamassem de imitador de Bland. Porém o lançamento das composições "We´re Gonna Make It" e "Who´s Cheating Who" calou a boca dos fofoqueiros. Deixou ser chamado de clone.
Ao lado do produtor Billy Davis fundiu Blues e Soul, com o molho Little Milton. Isto tornou-se visível em 1967 na versão de Lightnin ´Hopkins "Feel So Bad". Quatro anos depois assinou coma Stax Records e ali sua guitarra ganhou destaque. Gravou vários hits de sucesso, como "That´s What Love Will Make You Do" e "Walkinh the Back Streets and Crying". Com total controle sobre seus dois álbuns " Waiting for Little Milton e Blues n´Soul, duas grandes obras primas de quem gosta de Blues. Neles, Milton aparece como grande vocalista.