Джон Уэлш начал играть в команде Ливерпуля, когда ему исполнилось 10 лет. Прошел в команде долгий путь. После этого он стал капитаном резервной команды клуба и выступал за нее. С сезона 2001/2002 Джон начал тренировки с первым составом «Ливерпуля» в Мелвуде. В сезоне 2002/2003 годов был дебют в первой команде. Он сыграл 4 декабря 2002 года против «Исвича» на Энфилде в рамках четвертого раунда Кубка Лиги, где на 83 минуте заменил Владимира Шмицера. Затем 4 октября 2003 года Джон первый раз сыграл в Премьер-Лиге, заменил Салифа Диао на 82 минуте встречи с «Арсеналом». В этом матче команда Уэлша проиграла со счетом 1:2, и игроку дали желтую карточку за фол на Рэе Парлоре.
Сыграв 10 матчей за «Ливерпуль», в августе 2005 года Джон ушел по контракту на время в «Халл Сити». Команда осталась им очень довольна и клубы договорились о том, что Джон теперь будет играть за «Халл Сити» всегда. Переезд на Энфилд вингера Пола Андерсона, стало частью этой сделки. 6 января 2006 года трансфер закончился.
10 марта 2007 года Джон получил серьезную травму ноги на игре против «Престон Норт Энд». Из-за этого он не смог играть несколько месяцев.
31 декабря 2007 годаУэлшу сказали, что он будет взят в аренду «Честер Сити». 32 декабря 2007 года Уэлш уже играл в новой команде.Некоторое время поиграв за «Честер» Джон вернулся в «Халл Сити».