Рабби Йехиель бен Йосеф родился в Мо, во Франции (год рождения точно не известен), а скончался в преклонном возрасте в Хайфе, в Стране Израиля, в 5046 (1286) году. Он был учеником рабби Йеуды бен Ицхака, которого французы называли Сир Леон. В 4985 (1225) году после кончины своего учителя рабби Йехиель стал его преемником и возглавил парижскую йешиву. Его йешива считалась одним из величайших еврейских учебных заведений своего времени. Около трехсот учащихся занимались в этой йешиве, и многие из них со временем приобрели известность как авторы "Тосафот" – развернутых комментариев к Талмуду. Одним из самых знаменитых учеников рабби Йехиеля был рабби Меир из Ротенбурга.

Еврейский народ переживал тяжелое время. Евреи подвергались жестоким преследованиям во время Крестовых походов. Само содержание йешивы было сопряжено с большими трудностями: подавляющая часть евреев прозябала в нищете, содержать множество учеников йешивы не представлялось возможным. Чтобы достать необходимые средства, рабби Йехиель отправил посланника в Страну Израиля и в страны востока, где материальное положение евреев было не таким отчаянным.

Помимо финансовых трудностей йешиве приходилось иметь дело с частыми идеологическими нападками со стороны врагов еврейского народа на Талмуд и с наветами против самих евреев.

В 5000 (1240) году король Людовик IX приказал провести религиозный диспут между представителями христиан и евреев по поводу Талмуда. Рабби Йехиель возглавлял еврейскую делегацию, которая защищала Талмуд против нападок выкреста Николая Донина, выступавшего в качестве главного представителя христианских теологов. Рабби Йехиель сумел ответить на все обвинения и доказал их полную безосновательность. И король, и королева, и французская знать, присутствовавшие на диспуте, были потрясены мудростью рабби Йехиеля. Но ненависть к евреям в те дни оставалась настолько сильной, что через несколько лет был издан эдикт: публично сжечь все рукописи Талмуда. Единственными, кто с тех пор осуществил подобный акт вандализма, были гитлеровцы. В пятницу 9 тамуза 5004 (17 июня 1244) года 24 телеги, нагруженные рукописями Талмуда, были сожжены в Париже.

Рабби Йехиель продолжал преподавать Талмуд в своей парижской академии в течение многих лет. Он был одним из авторов "Тосафот" и одним из самых авторитетных знатоков и толкователей Талмуда своего времени. Его законодательные постановления дошли до нас благодаря записям его ученика Маарама (Меира) из Ротенбурга, знаменитого законодателя рабби Мордехая бен Иллеля и других.

Рабби Йехиеля считали святым человеком и рассказывали о нем множество чудесных историй. Так, например, один раз в йешиве закончилось масло для свечей. Оставалась только небольшая банка с маслом, и рабби Йехиель решил оставить его для того, чтобы зажечь в субботу, но произошло чудо, как в дни Хануки, и масло горело целую неделю, так что ученики продолжали свои занятия днем и ночью.

Когда преследования евреев во Франции стали невыносимыми, рабби Йехиель со множеством своих учеников переехал в Страну Израиля в 5020 (1260) году. Там он и скончался и был похоронен у подножья горы Кармель.