薛道衡曾与晋王杨广一起伐陈，杨广对薛道衡的文才极其爱慕。隋文帝时，有一次，薛道衡被人弹劾在朝中结党，被除名，处以流放岭南。当时晋王杨广正坐镇扬州，听说这件事后，就秘密派人到长安通知薛道衡，让他取道扬州到岭南，等他到了扬州，就上奏皇帝，把他留在扬州幕府中。但薛道衡讨厌杨广的为人，就没有走扬州路，而走了江陵道。
（薛道衡画像）
（薛道衡画像）
杨广即位后，薛道衡从地方上回到京师。当时的隋炀帝对薛道衡尚有一丝爱慕之心，本打算委以秘书监显职，但薛道衡不识时务，写了一篇《高祖文皇帝颂》奏上。薛道衡高估了皇帝的心胸，最要命是高估了自己的分量。隋炀帝看了以后，大怒，对大臣苏威说：“道衡至美先朝，此《鱼藻》之义也。”。《鱼藻》是《诗经》中的一篇，据《诗序》讲，此诗通过歌颂周武王而讥刺周幽王。薛道衡是否有此意不得而知，但隋炀帝猜忌心很强，他岂能容忍别人把自己和周幽王联系在一起，由此便产生了杀害薛道衡之心。
当时，薛道衡的朋友司隶刺史房彦谦（唐初名臣房玄龄之父），觉察到隋炀帝对薛道衡的歹意，就劝薛道衡杜绝宾客，闭门自守，以求保全，但薛道衡却不以为然。有一次，朝臣们在一起讨论新令，争论不已，薛道衡就说：“向使高颎不死，令决当久行。”薛道衡的文人气太重，出语尖刻，当下有人受不了，就密报了隋炀帝。高颎在杨广与杨勇争夺太子之位的斗争中站在杨勇一边。薛道衡公然讲崇敬高颎的话，隋炀帝岂能容忍。当时正好是大臣裴蕴担任御史大夫，他知道炀帝讨厌薛道衡，就上奏弹劾，说：“道衡负才恃旧，有无君之心。见诏书每下，便腹非私议，推恶于国妄造祸端。论其罪名，似如隐昧，源其情意，深为悻逆。”这真是欲加之罪，何患无辞，隋炀帝览奏大喜，称赞裴蕴说：“公论其逆，妙体本心。”下令将薛道衡逮捕审讯，最后逼令自尽。
薛道衡从少时就是一个用心于文章字句之间的人，他喜欢在沉静中构思，史称：“道衡每至构文，必隐坐空斋，踢壁而卧，闻户外有人便怒，其沉思如此。”尤其长于诗作，比如他的《出塞诗》一首：“绝漠三秋幕，穷阴万里生。寒夜哀笛曲，霜天断鸿声。”诗中有一种边地的悲论情调，而又弥漫着一股粗犷壮大之气，体现了北朝文风的特点。同时，薛道衡因多次出使江南陈朝，受南方文风的影响也较深，比如他的《昔昔盐》一诗，辞采绚丽，对仗工整，描写铺排，极为细腻，其中“暗牖悬蛛网，空梁落燕泥”一句，为千古吟诵的名句。当时，薛道衡的诗名就极著，《隋书》讲：“江东雅好篇什，陈主犹爱雕虫，道衡每有所作，南人无不吟诵焉”。文风极盛的南方都很推崇道衡的诗作，可见其成就之高。
薛道衡死后，尚有文集七十卷行世，后散失，明人辑有《薛司隶集》，从中还可略窥这位隋代大文豪的风采。
