Джими Пейдж е роден на 9 януари 1944 г. в лондонското предградие Хестън, Англия. Баща му е индустриален работник, а майка му е секретарка в лекарски кабинет. Започва да се учи да свири на китара, когато е на 12 години. Влияние му оказват китаристите Скоти Мур и Джеймс Бъртън, които свирят в песните на Елвис Пресли. На 14 години се явява на прослушване за таланти на ITV. От 1970 до 1983 година има връзка с френската манекенка Шарлът Мартин, от която има една дъщеря – Скарлет. Тя е професионален фотограф. През 1986 г. Джими се жени за Патриша Екер, с която са заедно до 1995 г., когато се развеждат Имат син Джеймс. През същата година се жени за Химена Гомес Парача. Имат три деца.

След като завършва училище има намерение да работи като асистент в лаборатория. Неговата любов към китарата обаче го кара да промени намеренията си и започва да свири в бандата Red E Lewis and The Red Caps. След това се присъединява към групата The Crusaders, с които за първи път отива на турне, а през 1962 г издават сингъла "The Road to Love". Внезапно взима решение да се посвети на рисуването в Sutton Art College в Съри. Докато е студент често свири с различни банди и с китаристи като Джеф Бек и Ерик Клептън. Първият му професионален проект е "Diamonds", който се изкачва до първото място в класациите през 1963 г. Посвещава се изцяло на студийните записи. Прави много записи с различни изпълнители. Изчислено е, че Джими Пейдж се появява в 60% от рок музиката, записана в Англия между 1963 и 1966 г. През 1965 г. е поканен от The Yardbirds да замести Ерик Клептън. Пейдж отхвърля предложението. След няколко седмици обаче пак получава предложение от групата и започват да работят заедно. В бандата има проблеми, настъпват и много промени в състава ѝ. Пейдж обаче е решен да продължи работата с групата, но с нов състав. По-късно всъщност The New Yardbirds се превръщат в Led Zeppelin. Посвещава се изцяло на студийните записи. Прави много записи с различни изпълнители. Изчислено е, че Джими Пейдж се появява в 60% от рок музиката, записана в Англия между 1963 и 1966 г. През 1965 г. е поканен от The Yardbirds да замести Ерик Клептън. Пейдж отхвърля предложението. След няколко седмици обаче пак получава предложение от групата и започват да работят заедно. В бандата има проблеми, настъпват и много промени в състава ѝ. Пейдж обаче е решен да продължи работата с групата, но с нов състав. По-късно всъщност The New Yardbirds се превръщат в Led Zeppelin.

Пейдж е продуцент, композитор и китарист в бандата и е основната движеща сила за съществуването ѝ. Умението му да използва различни видове китари при записите на песните на групата, налагат Led Zeppelin като пример за бъдещите рок банди. След разпадането на групата през 1980 г. Пейдж се опитва да формира друга група, но опитите му са неуспешни. През 1982 г. е ангажиран да напише саундтрака за филма "Death Wish II". През 1983 г. прави серия от концерти. През 1984 г. прави записи с Робърт Плант. Работи по много съвместни проекти с известни изпълнители. Записва соловия албум "Outrider", съвместен албум с Дейвид Ковърдейл - "Coverdale Page", един лайв албум. Отново работи с Робърт Плант през 1995 и 1998 г. Пейдж е един от членовете на Led Zeppelin, който винаги предвижда възможността за реюниън на групата.

От 1990 г. насам Джими Пейдж се е съсредоточил върху ремастеринга на целия каталог на Led Zeppelin. Участва и в много благотворителни концерти и по-специално в инициативите за децата на Бразилия - Action for Brazil's Children Trust (ABC Trust), организация основана от съпругата му Химена Гомес Парача през 1998 г. През декември 2007 г. групата Led Zeppelin се събират отново за благотворителен концерт в O2 Arena в Лондон. Филмът от този последен концерт на бандата бе излъчен в кината в над 40 страни (сред които и България) през октомври 2012 г.