Советский композитор-песенник. Народный артист СССР. Лауреат Государственной премии СССР.
Родился в Киеве.
В 1938—1941 годах учился в Киевской консерватории по классу скрипки у Якова Магазинера и по классу композиции у Бориса Лятошинского.
С началом Великой Отечественной войны, будучи высокого роста, приписал себе около 5 лет и поступил в Оренбургское зенитное училище. Играл на скрипке в оркестре кинотеатра «Аврора». По окончании училища в 1942 году принимал участие в боевых действиях, был тяжело ранен и после лечения с 1943 года до конца войны служил во фронтовом театре, играя на рояле, скрипке, аккордеоне.
После войны с 1946 года жил в Москве, делал оркестровки крупных произведений и играл на скрипке в различных ресторанах столицы.
Свою первую песню «Шёл пилот по переулку» на слова М. Слободского и А. Раскина Ян Френкель написал в 1942 году, будучи курсантом, однако по-настоящему ощутил призвание композитора-песенника только в 1960-е годы, когда получила известность его песня «Годы» на стихи Марка Лисянского. В дальнейшем судьба подарила ему таких соавторов, как Михаил Танич, Игорь Шаферан, супруги Константин Ваншенкин и Инна Гофф.
В 1969 году, благодаря Марку Бернесу, появилась облетевшая весь мир песня «Журавли» на стихи Расула Гамзатова в переводе Наума Гребнева.
Ян Френкель выступал в концертах с исполнением собственных песен, обычно публика пела вместе с ним. Его произведения были в репертуаре Людмилы Зыкиной, Иосифа Кобзона, Георга Отса, Нани Брегвадзе, Геннадия Каменного, Марка Бернеса, Эмиля Горовца, Майи Кристалинской, Раисы Неменовой, Михаила Чуева, Анны Герман.
Писал музыку к драматическим спектаклям, кинофильмам, мультфильмам.
Снялся как актёр в трёх фильмах.
Скончался в Риге. Похоронен на Новодевичьем кладбище в Москве.
Его жена, урождённая графиня Лорис-Меликова, умерла в середине 1990-х годов. Дочь Нина с 1980 года проживает в Италии, внук Ян Френкель-младший - музыкант (пианист и аранжировщик) Оркестра академии береговой охраны США.