Bereits als Teenager beginnt der im Nordosten Englands geborene Walker, Gitarre zu spielen. Seine erste Band sind aber die Post-Punk-Vorreiter, zu deren erster Besetzung er 1979 gehört: Er antwortet auf eine Anzeige von Sänger und Keyboarder Jaz Coleman — die beiden sollen bis zum Schluss die einzigen ständigen Bandmitglieder bleiben.
Seinen Spitznamen trug Walker zu dieser Zeit bereits. Mit 14 war er aus seiner Heimatregion in die südenglische Grafschaft Buckinghamshire gezogen; aufgrund seines ausgeprägten Dialektes wird er fortan nach der Mundart „Geordie“ genannt.
Mit ihrer sich ständig entwickelnden Mischung aus Rock, Punk und elektronischen Musik wurden Killing Joke in den achtziger Jahren zu einer einfluss- und erfolgreichen Band, die Genres wie dem Industrial oder dem New Wave den Weg ebnete.
Der Einfluss von Walker selbst streute noch breiter: Er spielte die Gitarre, vorzugsweise eine goldene Gibson ES-295 aus dem Jahr 1952, typischerweise einen Ganzton tiefer gestimmt und mit ausgesprochen dicken Saiten — ein unverwechselbarer Klang, der ihm vor allem im Metal viele Verehrer verschaffte.
Neben den insgesamt 15 Studiowerken, die er mit seiner seit 2008 wieder in Originalbesetzung auftretenden Stammformation aufnahm, spielte er in seiner über vierzigjährigen Karriere auch bei Murder, Inc. (Murder, Inc., 1993), die sich aus der damaligen Killing Joke-Besetzung ohne Jaz Coleman rekrutierte. Für ihn sang Chris Conelly (Ministry, Revolting Cocks).
Mit diesem spielte Watkins auch bei The Damage Manual, die in den nuller Jahren zwei Alben veröffentlichten. Danach konzentrierte er sich wieder hauptsächlich auf Killing Joke, produzierte nebenbei aber auch andere Bands.
Am Morgen des 26. November erlitt Kevin „Geordie“ Walker einen Herzinfarkt, den er nicht überlebte. Er wurde 64 Jahre alt.