Jóhann kom ungur fram á sjónarsviðið með eigin hljómsveit, Óðmönnum. Hann söng og lék á hljóðfæri sitt, oftar en ekki eigin lög og texta en mörg laga hans urðu mjög vinsæl. Síðustu árin hneigðist hugur hans einnig til myndlistar og hann stundaði hana og lagasmíðar jöfnum höndum.