Na zijn diensttijd rond 1950 werd hij pianist bij de band van saxofonist Adolph Duncan. De leadzanger in deze band was een jonge man, die we later zouden leren kennen als Bobby "Blue" Bland. De gitarist was B.B. King.
Omdat Bobby Bland de band begin 1952 zou gaan verlaten (vanwege zijn dienstplicht), werd Johnny tijdens een radio-uitzending overgehaald om ook eens een liedje te zingen. Vrij spoedig daarna kreeg hij een platencontract bij Duke Records. De uitgebrachte grammofoonplaten had succes. Zijn leven was op slag veranderd. Hij was jong en succesvol. Alles zat hem mee.
Maar tijdens een tournee, op Kerstavond 1954 (hij had net een nieuwe auto besteld) zette hij een revolver tegen zijn hoofd en drukte af. Het verhaal gaat dat hij Russische roulette zou hebben gespeeld, maar dat het niet de bedoeling was dat hij de dood zou vinden. Een andere versie is dat hij speelde met een geladen revolver, dat per ongeluk afging. Maar soms wordt gefluisterd dat hij zelf niet wist dat de revolver geladen was.
Na zijn dood werd zijn zevende single ("Pledging My Love") uitgebracht. Het werd zijn grootste hit.