Nagyapja, Pollacsek Mihály az egyik első magyarországi vasútépítő mérnök volt, nagyanyja, Cecil mama a század eleji Budapest legjelentősebb szellemi szalonját vezette, ahol szinte naponta fordultak meg a kor ismert közéleti személyiségei. Orvos, filozófus és kémikus apja, Polányi Mihály a Tanácsköztársaság idején a Népjóléti Minisztérium államtitkára volt, ezért a rendszer bukása után Németországban telepedett le. 1920-ban kötött házasságot Kemény Magdával, 1929-ben Berlinben született János fiuk a magyar nyelvet már nem beszélte, de gyermekként több nyarat is a hazai rokonoknál töltött.
A zsidó származású család az 1933-as náci hatalomátvételt követően Manchesterbe költözött, John Polanyi itt kezdte iskoláit. Tanulmányait tizenegyéves korától Kanadában folytatta, mert a második világháborús német bombázások elől apja Torontóba küldte. A háború végeztével visszatért Manchesterbe és beiratkozott a helyi egyetemre, ahol apja is oktatott. Bár egy ideig a költészettel is kacérkodott, végül apja nyomdokait követve a természettudományokkal kezdett foglalkozni: a molekulák energiaállapotának a kémiai reakciók során bekövetkező változását vizsgálta. 
Doktorálását követően 1952 és 1954 között a Kanadai Nemzeti Kutatási Tanács ösztöndíjasaként Ottawában dolgozott, két évig az amerikai Princeton Egyetem kémiai fakultásának tudományos munkatársa volt, 1956-ban a Torontói Egyetem kémia tanszékére került. Tudományos pályája gyorsan ívelt felfelé: 1957-től adjunktus, 1960-tól egyetemi docens, 1962-től pedig professzor volt, 1975-ben munkássága elismeréseként a csak keveseknek adományozott University Professor tiszteletbeli címmel tüntették ki.
Polányi az elemi atomi és molekuláris ütközések során bekövetkező energiaátadási folyamatot kutatva alapvető fontosságú felfedezéseket tett. A kémiai lézerek vizsgálatakor igazolta, hogy a vegyi reakció energiája közvetlenül alakul át lézerfénnyé; ő dolgozta ki az infravörös kemilumineszcencia módszerét, felhasználva, hogy a gerjesztett molekulák infravörös fényt bocsátanak ki. A kémiai reakció során kibocsátott fény változásának színképelemzésével nyomon követte a kémiai kötések cserélődését, ezáltal meghatározta a molekulák mozgási és rezgési energiájának a vegyi reakciók kimenetelére gyakorolt hatását.
Tagja a Royal Societynek és az Amerikai Művészeti és Tudományos Akadémiának, 25 egyetem, köztük a Harvard Egyetem díszdoktora. Munkássága elismeréseként 1982-ben megkapta a rangos kémiai Wolf-díjat, majd 1986-ban - az amerikai Dudley R. Herschbach és a tajvani Yuan T. Lee társaságában - neki ítélték a kémiai Nobel-díjat. A kitüntetés hatással volt munkásságára: a díjátadó ünnepségen megismerkedett a fizikai Nobel-díjjal kitüntetett Ernst Ruskával, Gerd Binniggel és Heinrich Rohrerrel, az alagútjelenség vizsgálatához alkalmas elektronmikroszkóp felfedezőivel. Torontóba visszatérve már az ő módszerükkel folytatta a kémiai reakciók még aprólékosabb vizsgálatát.
John Polanyi 2001 óta a Magyar Tudományos Akadémia tiszteleti tagja, a magyar származású Nobel-díjasok között is számon tartjuk, jóllehet sohasem élt Magyarországon. Választott hazájában még iskolát is elneveztek róla, 2011-ben a Kémia Nemzetközi Éve alkalmából kanadai postabélyegen jelent meg portréja.