Yehudi Menuhin oroszországi zsidó bevándorlók gyermekeként született New Yorkban 1916-ban.
Családja vasszigorral egyengette útját, még azt is előírták, hogy mit olvashat és kikkel barátkozhat. Kora ifjúságától napi nyolc órát gyakorolt, a hangversenyeket csak szórakozásnak nevezte. Hétéves korában már a San Franciscó-i Filharmonikusokkal, kilencévesen a vatikáni Sixtus-kápolnában lépett fel.
Tizenegy évesen a Carnegie Hallban Fritz Busch dirigálta a New Yorki Filharmonikusokkal, két évvel később Berlinben Bruno Walter vezényletével játszott. 1935-ben világkörüli turnéján 63 városban 110 koncerten lépett fel, játékát hallva Albert Einstein így kiáltott fel:
Húszévesen visszavonult, hogy technikáját fejlessze. A második világháború alatt félezer jótékonysági koncertet adott, 1945 júliusában a bergen-belseni koncentrációs tábor túlélőinek játszott. A háború után két évvel első zsidó zenészként ő lépett fel Németországban, a zenekart a kollaboráció vádjába keveredett Wilhelm Furtwängler vezényelte.
Az apartheid-rendszerű Dél-Afrikában 1950-ben azzal a feltétellel adott koncertet, hogy fekete nézőknek is játszhat. Két évvel később Dzsavaharlal Nehru meghívására Indiába utazott, ahol új spirituális világot fedezett fel és a jóga hívévé vált, híres fotó is készült a fejen állva meditáló művészről. Különös hangsúlyt fektetett arra, hogy a hátrányos helyzetűekhez is eljusson a zene, és számos alkalommal állt ki az emberi jogok mellett, ítélte el az erőszakot.
Az ötvenes évek végétől dirigált is. 1959-ben a Londontól délre fekvő Stoke d'Abernonban telepedett le, ahol az általa felépített zeneiskolában a világ minden részéből származó tehetséges gyermekeket tanított, köztük magyarokat is, növendéke volt mások mellett Nigel Kennedy brit és Vagyim Repin orosz hegedűvirtuóz.
Fesztiválokat alapított a svájci Gstaadban és az angliai Bath fürdővárosban, művészeti vezetője volt a windsori fesztiválnak. 1979-ben megalapította a Londoni Wigmore Hall nemzetközi vonósnégyes versenyt, másfél évtizeddel később Brüsszelben útjára indította a MUS-E (Musique - Europe) multikulturális mintaprogramot. Egész életében a muzsikát népszerűsítette, 1975-ben az ő kezdeményezésére nyilvánították a zene ünnepévé október elsejét.
Magyarországon 14 évesen, 1930-ban lépett fel először, a második világháború után első külföldi művészként ő adott koncertet Budapesten. A Kodály-módszer iránt érdeklődő hegedűvirtuóz Bartók Bélát tartotta a múlt század legnagyobb zeneszerzőjének, ő volt az első nem magyar hegedűs, aki Bartók-műveket adott elő. 1944-ben New Yorkban ő mutatta be a Szólószonáta hegedűre című darabot, Bartók utolsó befejezett művét, amelyet az önkéntes száműzetésben élő komponista direkt az ő számára írt. Több magyar karmesterrel dolgozott együtt, Doráti Antallal negyven alkalommal játszották Bartók II. hegedűversenyét, a művet többször lemezre is rögzítették. Dirigensként a Budapesti Fesztiválzenekar élén is állt.
1969-ben az UNESCO nemzetközi zenei tanácsa, 1972-ben a londoni Trinity College of Music elnöke lett. Művészetét számos magas kitüntetéssel ismerték el: a többi közt átvehette a Nehru békedíjat (1960), a George Washington-díjat (1980), a francia Becsületrendet (1986), a művészeti Wolf-díjat (1991). Az UNESCO 1992-ben tiszteletbeli jószolgálati nagykövetté nevezte ki.
1985-ben brit állampolgár lett, 1993-ban II. Erzsébet uralkodó nemesi címet adományozott neki, ezért kijárt neki a Lord megszólítás. 1996-ban megkapta a Magyar Köztársasági Érdemrend középkeresztje a csillaggal kitüntetést, a következő évben a spanyol Asztúria hercege díjat. Világszerte több mint harminc egyetem fogadta díszdoktorává.
A 82 éves Menuhin éppen a Varsói Filharmonikusokat dirigálta Berlinben, amikor szívrohamot kapott, és 1999. március 12-én a kórházban meghalt. Stoke d'Abernonban, nemzetközi iskolája területén az általa ültetett fa alatt temették el. Nevével kétévente nemzetközi versenyt rendeznek. Csillaga díszíti a hollywoodi Hírességek Sétányát, s nevét őrzi egy kibolygó is.