李俊民以经义举进士第一，授应奉翰林文字，文名雄于一时。不久，任沁水县令，并提举长平（今高平西北）仓事，进升朝请大夫。未几，因他厌恶官场应酬，弃官归田，以所学教授乡里。由于他学问渊博，加之状元声威，从学者甚众，不远千里慕名而来投师者不绝于门。

金宣宗自中都（今北京城西南隅）南迁汴京（今开封市）。因为战乱，李俊民于贞佑三年（1215）离开家乡隐居于嵩州鸣皋山，后迁徙至怀州（今河南沁阳），不久又隐于西山。在河南的这段时间，有隐士荆先生，授给他邵雍的《皇极》数学，李俊民对这种用符号、形象和数字推测宇宙变化的学说十分精通，当时深通此道的刘秉忠也对其佩服得五体投地，自叹弗如。元灭金后，李俊民徙居怀州，不久又隐居于崇山。元政府泽州长官段直从河南嵩山迎回李俊民任泽州教授，在大阳生活，他便千方百计招延泽州散在四方的名士，协助他教授学生，所以，仅五六年，所培养的人才，“以通经被选者”有一百二十二人。

忽必烈在藩邸，命以安车召见李俊民等金朝遗老，天天延访，从不间断。上至天文、下至地理，经史百家，无所不谈。忽必烈想授以高官，但李俊民拒绝入仕，恳赐还山，忽必烈钦佩其气节，尊重其人格，便派专人护送。忽必烈曾令张仲一向李俊民讨教有关祯祥方面的预言，因李俊民精通《皇极》数，所言神话般全部应验。当忽必烈即汗位，改元中统，李俊民已卒于嵩山，享年85岁，葬于晋城崔家庄北。元世祖中统初，赐谥庄靖先生。