十九岁那年，他考上了进士，先后在地方上和朝廷里做官。他耿直刚强，办事果断，但也得罪了不少人。
公元1004年8月，宋真宗任命毕士安为副宰相。毕士安向宋真宗谢恩，宋真宗说：“不用谢恩了，我还要任命你为宰相呢。”宋真宗又说：“我还要任命一个人跟你一道担任宰相，你看谁最合适？”
毕士安说：“寇准为人忠义，能处理大事，我不及他。”
宋真宗说：“听说他刚强任性。”
当时辽国正不断地出兵侵扰北方边境。毕士安就说：“寇准忘记自己一心为国，坚持正道反对奸邪，所以不少人讨厌他。如今辽国不断入侵，百姓不得安宁，正应该重用像寇准这样的人。”
宋真宗认为毕士安讲得很有道理，就同时任命毕士安和寇准两人为宰相。
景德元年九月，辽圣宗和他的母亲萧太后又率20万大军从幽州出发，浩浩荡荡向南推进。当辽军南下，“急书一夕五至”的时候，北宋统治集团的上层人物大多惊惶恐惧。参知政事王钦若是江南人，主张迁都金陵。枢密副使陈尧叟是四川人，提议迁都成都。宋真宗本来就无心抗敌，表现得惶恐不安。只有寇准与毕士安坚决主张抵抗，当宋真宗问他们的意见时，王钦若、陈尧叟就在旁边。寇准假装不知，他对真宗说：“谁替陛下筹划迁都计策的？他的罪可以杀头。现在陛下神明威武，文臣武将又很团结，我们有必胜的把握，为什么要抛弃太庙太社，到楚、蜀这样边远的地方去呢？”听了寇准的意见，赵恒同意御驾亲征，由寇准随同指挥。
为了鼓舞士气，争取更大的胜利，寇准特别强调，宋真宗必须亲临前线。宋真宗在寇准的督促下决定亲征。但统治集团内部仍然有不少人没有信心，宰相毕士安也以自己有病为借口，不愿随驾北征，并对寇准让真宗亲征说三道四。
在寇准的督促下，真宗让雍王留守京师，自己起驾北上。北宋时黄河将澶州城一分为二。宋真宗车驾到达澶州南城。
这时辽军已抵达北城附近，宋真宗不敢过河。寇准对高琼说：“太尉蒙国家厚恩，今日打算有所报答吗？”高琼说：“我是军人，愿以死殉国。”于是寇准与高琼一同去见真宗。高琼对真宗说：“臣直言也是死，不说也是死，与其到事情发生时丧命，不如今日直言而死。今天只要陛下离开京师一步，那么整个天下就要改朝换代了，士兵们都是北方人，家小都在京师附近，若京师不保，他们都会回乡保护妻小，到时有谁肯护送陛下，即使近如金陵，陛下也到不了。您现在只能立即渡河。”枢密院事冯拯呵责高琼鲁莽。高琼愤怒地驳斥道：“你冯拯只会写写文章就做到两府大臣。眼下敌兵挑衅，你却责备我无礼。你有本事为什么不写一首诗让敌人撤退呢？”说完命令卫士把真宗的车驾转向北城行进。当真宗的黄龙旗出现在北城楼上时，城下兵民欢声雷动。真宗象征性地到北城巡视一番后，又回到南城行宫，让寇准留在北城指挥作战。
这时辽军来到北城墙下，正中间捧出一员番将，骑着一匹达马，弯环踢跳。寇准看那番将时，怎生打扮，但见：
戴一顶三叉紫金冠，冠口内拴两根雉尾。穿一领衬甲白罗袍，袍背上绣三个凤凰。披一副连环镔铁铠，系一条嵌宝狮蛮带，着一对云根鹰爪靴，挂一条护项销金帕，带一张鹊画铁胎弓，悬一壶翎批子箭。手拿梨花点钢枪，坐骑银色拳花马。
那番官旗号上写的分明：“大辽主将萧挞览。”寇准看了，与诸将道：“此番将不可轻敌！”言未绝，威虎军头张瑰以三弓床弩射出大箭，萧挞览额头中箭身亡。辽军士气大落，萧太后辍朝五日后决定和谈。
寇准始终反对议和，而且杨之已夺取幽燕数州。但由于真宗倾心议和，寇准不得不放弃原来的主张。
赵恒派使者曹利用去辽国签订澶渊之盟，他告诉曹利用说：“如果实在没有办法，就算要百万也可以！”寇准知道后，却指着曹利用愤怒地说道：“如果超过30万两，就提人头来见。”
经过曹利用和辽使者的一再讨价还价，两国制定了如下条约：
一、辽、宋为兄弟之国，宋为兄，宋尊萧太后为叔母，后世仍以世侄论，使者定期互访。
二、以白沟河为国界，双方撤兵。辽归还宋遂城（今河北徐水）及瀛、莫二州。此后凡有越界盗贼逃犯，彼此不得停匿。两朝沿边城池，一切如常，不得创筑皇城。
三、宋方每年向辽提供“助军旅之费”银十万两，绢二十万匹（即岁币）。至雄州交割。
四、双方于边境设置于榷场，开展互市贸易。（在互市贸易中，北宋所赚的钱远远多于岁币，每年宋朝收益为所供岁币的2.5倍左右，且低价购买许多马匹用于军队装备，在经济上拖垮了辽朝，以致其之后的几十年未能发兵北宋）。
曹利用回到宋朝之后，赵恒急问金额，曹利用不敢直说，只竖起3根指头，赵恒以为是300万两，大惊失声脱口道：“太多了。”过了一会又自我安慰道：“是太多了，但就此把事情了结也好。”等知道是30万时，如释重负，转忧为喜，对曹利用大加赏赐。
澶渊之盟结束了宋辽之间长达二十五年的战争，“生育繁息，牛羊被野，戴白之人（白发长者），不识于戈”，同时也是宋朝向番方交纳岁币换取和平的开始。此后宋辽边境长期处于相对和平的状态。并使宋朝节省了巨额战争开支，岁币（30万）的支出不及用兵的费用（3000万）百分之一，避免了重兵长年戍边的造成的过量徭役和朝廷赋税压力，以极少的代价换取了战争所难以获取的效果（不是教科书所云加重了人民的负担，失去的钱宋又可以通过外贸赚回）。北宋在边境上的雄州（今河北雄县）、霸州（今河北霸州）等地设置榷场，开放交易，促进了宋辽之间的经济文化交流，有利于宋辽的经济发展、文化繁荣、民族融合。
寇准平时喜欢听歌，酒余茶后经常叫一些歌女唱歌排忧解闷。有一次，一个妙龄歌女来相府清唱，寇准见她面目姣好 ，听她歌声圆润，一时兴起，就赏给她一匹绫缎。想不到歌女还嫌赏赐少，一脸的不高兴。
当时寇准身边有一个出身寒门的侍妾，见到这个情形后很气愤，事后就写了一首小诗《呈寇公》：
一曲清歌一束绫，
美人犹自意嫌轻。
不知织女荧窗下，
几度抛梭织得成！
寇准读了侍妾的诗很是感动，从此以后一直保持勤俭朴素的美德。
长翅帽是宋朝大小官员戴的帽子。
一天,宰相寇准微服出行视察民情。他着青衣,戴小帽,打扮成书生模样,在京都东京私访。当他和一个老头子谈话时,老头子对寇准卑躬屈膝,跪拜迎送,表现出异乎异常的恭谦。
寇准感到奇怪,故意发问:“老先生,鄙人乃一介书生,请你随便些吧。”老头子笑着说:“相公莫非隐瞒自己身份?你可是朝廷的命官啊!”寇准一听更加疑惑,“我和你老素不相识,怎么说我是朝廷命官呢?”老头子说:“相公,刚才你通过狭巷时侧身左顾右盼,生怕有东西碰着你的帽子。你要不是常戴长翅帽,哪会有这样的习惯动作?”
长翅帽的发明人是宋朝开国皇帝赵匡胤。他坐上龙椅后很不放心当年一起闯天下的同僚。尤其讨厌文武大臣在朝堂中交头接耳,评论朝政。一天,赵匡胤上早朝,在听取某个大臣奏章时,发现两侧有不少官员窃窃私语,很不礼貌。赵匡胤心里有点恼火,但不露声色。
退朝后,他想出个办法,传旨属官在幞头纱帽后面分别加上长翅。长翅用铁片、竹篾做骨架。一顶帽子两边铁翅各穿出一尺多(以后越来越长)。这种帽子除了朝堂和官场正式活动时须戴上,一般场合是不戴的。因为戴上它,在街上行走极不方便。官员只能面对面交谈,要并排坐着谈就困难了。
从此大臣上朝,也就很难排列在一起交头接耳,影响朝堂严肃性了。
熘须拍马这个成语说的是丁谓。话说在一次宴会上，寇准的胡须沾了些菜汤，丁谓马上起身为寇准擦须。寇准不但不领情，反而十分恼火，当场训斥丁谓有失大臣之体。
有一次皇帝问大臣道：“唐朝的酒价是多少？”丁谓脱口答道：“每斗三百。”皇帝问他怎么知晓的，答道：“有杜甫诗为证，‘速宜相就饮一斗，恰有三百青铜钱’。”又一天，宋真宗与贵妃一起赏花钓鱼，钓了半天一条鱼也没钓到，心里很不高兴。丁谓笑盈盈地跑上去赋诗道：“莺惊凤辇穿花去，鱼畏龙颜上钓迟。”宋真宗见他如此聪明，顿时十分开心。
丁谓对寇准恨之入骨。一次退朝后，他对真宗说：“陛下听说过赌博吗？那些赌徒在钱快要输光时，就尽其所有押上去，输赢在此一着，这叫‘孤注一掷’。陛下在澶州时不过是寇准的‘孤注’罢了！”
真宗一听很不高兴，怎么能拿朕做赌注呢，万一输了咋办？于是罢了寇准的相，还把他发配到鸟不拉屎的道州。然后，丁谓堂而皇之大摇大摆地坐到寇准的椅子上。
寇准离开京城那天，大臣们由于害怕丁谓，都不敢去送行，只有王曙以“朋友之义”为寇准饯行。
由于丁谓等人挑拨，寇准又被贬到雷州。
这时丁谓给寇准挖了一个坑。
却说小黄门拿着再贬寇准的诏书，临行前丁谓递给他一把装在锦囊里的剑，要他抱在怀里随身携带。小黄门何等聪明，手里捧着剑山一程水一程地赶到道州。恰逢午饭时间，寇准正在和同事们吃饭。门卫见小黄门手里拿着剑，以为是来诛杀寇准的，忍不住心如刀割。门卫的担心也不是多余的，潜规则小黄门凡是仗剑来见罪臣，怀里必定还有一张诛杀罪臣的圣旨。而那些罪臣为了保留最后一丝可怜的尊严。多半会在小黄门宣读圣旨前自杀。丁谓的毒计就是想让寇准自杀。但
寇准算定皇上不会杀他。寇准吃完饭整顿好仪容，来到院子里跪接圣旨，小黄门磨磨蹭蹭来到寇准面前宣读诏书，原来只是把寇准降级发配到雷州。在场的人都长长地松了一口气，因为小黄门并没有带来大家最不愿意看到的诛杀令。
晚上吃饭时，门卫对小黄门格外殷勤，酒过三巡后两个人已经亲如兄弟，门卫说想看看他怀里那把装在锦囊里的剑，小黄门满足了他的好奇心。门卫打开一看，不过是一把普通的剑，没有皇家标识。门卫问他带剑干吗？把人都吓死了！小黄门说他从京城到道州路途遥远，丁大人送他一把剑防身。其实丁谓就是想吓死寇准的。
寇准作别道州的同事朋友，来到雷州当了一名户籍警。雷州户很少，户籍更少，甚至都不需要治理，天高皇帝远，地广人烟稀，除了台风这里没有什么不安定因素。寇准甚至连个办公室都没有。渔民们自发给老寇圈了一个院子，盖了几间房子。面朝大海春暖花开。
佛说恶有恶报。丁谓来了，因为和刘太后作对，擅自更改先帝陵寝选址，导致透水事故，丁谓被刘太后发配到比寇准更远的崖州。
丁谓路经雷州，寇准派人送上一头蒸熟的全羊在州境上迎接他。丁谓想和寇准见面，寇准不肯。听说家僮想要报仇，寇准赶紧关紧家门，等丁谓走远了才重新打开。这正是：
万事由天莫强求，
何须苦苦用机谋。
饱三餐饭常知足，
得一帆风便可收。
生事事生何日了？
害人人害几时休？
冤家宜解不宜结，
各自回头看后头。
天圣元年（1023年），寇准在雷州任所忧病交加，卧倒在床。此时，他以《病中诗》为题，赋诗一首：
“多病将经年，
逢迎故不能。
书惟看药录，
客只待医僧。
壮志销如雪，
幽怀冷似冰。
郡斋风雨后，
无睡对青灯。”
一年之后，寇准身体不适，自感大限已到，他让家人拿出行李箱，把那个镶嵌着宝石的腰带戴着身上，腰带是当年西凉国进贡给宋太宗，宋太宗留下一条自用，还有一条就赐给寇准。
寇准年轻时曾写诗：“到海只十里，过山应万重。”没想到这首诗中的句子“一语成谶”。雷州至海岸只有十里远，而家乡确实离他山万重，路万里。
公元1023年，寇准客死他乡，他的夫人请求朝廷让寇准叶落归根。家山北望，灵柩自海南途径每一个乡村和城市，当地人都自发设路祭悼念刚正不阿的寇大人。路祭时当地人随手折下挂旗幡的箭竹落在道路两边，在来年长成郁郁葱葱的新竹，老百姓把这些新竹命名为“相公竹”。