江南自东晋以来，世家士族一直欺压寒门庶族。隋灭陈统一中国后，南方士族豪强因对隋实行的限制政策不满，便利用民间对隋欲移民关中流言的惊恐心理，乘机煽动叛乱。隋开皇十年十一月，婺州汪文进、越州高智慧、苏州沈玄侩等均举兵反隋，自称天子，署置百官，起兵攻陷州县，反乱大抵遍及原陈属地。其规模大者数万人，小者数千人，互相呼应，残杀隋朝官吏。隋文帝杨坚命内史令杨素为行军总管率军平叛。
杨素初败高智慧后，即派史万岁率军2000人进攻婺州，杨素则率主力由海道追击逃入海中的高智慧，直趋温州。史万岁率军从东阳别道而进，平定蔡道人、汪文进，翻岭越海，转战千余里，历经700多次战斗，击败叛军无数。史万岁军数十日杳无音信，远近皆以为其部已全军。由于水陆交通阻绝，信使不通，史万岁只得置书信于竹筒之中，浮于水上，顺流而下。有取水之人得到竹筒后，报告给杨素。杨素大喜，并上奏报于隋文帝。隋文帝接报后赞叹不已，赐史万岁家钱十万，官拜左领军将军。杨素军也继续追击反隋散兵，抓获高智慧，平定了叛乱。
南宁州羌族首领爨翫于隋初接受招抚，被任命为昆州刺史，后又叛隋。隋开皇十七年二月，隋文帝史万岁为行军总管击爨翫。史万岁率部经蜻蛉川、弄栋、小勃弄、大勃弄，进入南宁州地区。爨翫依险固守，均被史万岁击破。隋军行数百里，经过诸葛亮纪功碑，见其背刻铭文：“万岁之后，胜我者过此”。史万岁令左右将碑倒置，继续向西挺进，渡西洱河，入渠滥川，转战千余里，破西南羌族30余部，俘2万余人，诸羌大惧，爨翫被迫再度请降。献明珠宝物，表示愿听约束，并刻石勒铭，赞颂隋朝圣德。史万岁遣使飞骑上奏，请将爨翫入朝，隋文帝准其所奏。但爨翫心怀二志，不想随军入朝，便以金宝贿赂史万岁，于是史万岁便放爨翫而还。当时蜀王杨秀正在益州，知其受贿，派人索取。史万岁闻知此事，将所得金宝全部沉于江底，杨秀无所获，只得作罢。史万岁以平定南方各部落之功，位进上柱国，又因与晋王杨广友善，而兼督晋王府军事。
第二年，爨翫又反叛。蜀王杨秀弹劾史万岁受贿纵贼，致生边患，毫无大臣气节。隋文帝下令严查此事，查对属实，其罪当死。隋文帝责问他：“受金放贼，重劳士马。朕念将士暴露，寝不安席，食不甘味，卿岂社稷臣也？”史万岁辩解说：“臣留爨翫者，恐其州有变，留以镇抚。臣还至泸水，诏书方到，由是不将入朝，实不受赂。”隋文帝见史万岁心有欺隐，大怒道：“朕以卿为好人，何乃官高禄重，翻为国贼也？”并对有司说：“明日将斩之”。史万岁惧而服罪，向隋文帝顿首请命。左仆射高颎和左卫大将军元旻等见他已认罪，便也为他说情：“史万岁雄略过人，每行兵用师之处，未尝不身先士卒，尤善抚御，将士乐为致力，虽古名将未能过也”。隋文帝听后，怒气稍解，将他削官为民。一年后，恢复官爵，授河州刺史，兼领行军总管，以防备胡人来犯。
隋开皇十九年，突厥都兰可汗被部下所杀，其部落大乱。为挽救突厥颓势，达头可汗自立为步迦可汗，于开皇二十年四月率兵进犯隋边。隋文帝命晋王杨广、尚书右仆射杨素出灵州，汉王杨谅与史万岁出朔州，合击步迦可汗。史万岁率柱国张定和、大将军李药王、杨义臣出塞，军至大斤山，与步迦可汗军遭遇。步迦可汗派人问：“隋将为谁？”侦察骑兵报告说：“史万岁也。”步迦可汗又问：“得非敦煌戍卒乎？”侦察骑兵说：“是也”。步迦确定隋军统兵将帅是当年威震敦煌的史万岁后，慌忙引军回撤。史万岁挥马追击百余里，大破突厥军，斩杀数千。又继续跟踪追入沙漠数百里，凯旋而归。
史万岁自大斤山回京后，杨素妒忌其功，在隋文帝面前谮言史万岁，说：“突厥本降，初不为寇，来于塞上畜牧耳”。遂埋没其功，不予褒奖。史万岁数次上表陈述，隋文帝仍未醒悟。此时隋文帝从仁寿宫初还京师，并刚废掉太子杨勇，所以严防东宫结党谋变。隋文帝问史万岁现在何处，其时史万岁正在朝堂，但杨素见隋文帝正怒，却故意说：“万岁谒东宫矣”。以激怒隋文帝。隋文帝果然信以为真，立即下令召见史万岁。当时出征将士数百人在朝称冤，史万岁对众人说：“吾今日为汝极言于上，事当决矣”。史万岁见到隋文帝后，说：“将士有功，为朝廷所抑”！言辞愤激，有忤于上。杨坚越发震怒，令武士将史万岁暴杀于朝堂。既而后悔，但已追之不及。只好下诏加罪于史万岁：“柱国、太平公万岁，拔擢委任，每总戎机。往以南宁逆乱，令其出讨。而昆州刺史爨玩包藏逆心，为民兴患。朕备有成敕，令将入朝。万岁乃多受金银，违敕令住，致爨玩寻为反逆，更劳师旅，方始平定。所司检校，罪合极刑，舍过念功，恕其性命，年月未久，即复本官。近复总戎，进讨蕃裔。突厥达头可汗领其凶众，欲相拒抗，既见军威，便即奔退，兵不血刃，贼徒瓦解。如此称捷，国家盛事，朕欲成其勋庸，复加褒赏。而万岁、定和通簿之日，乃怀奸诈，妄称逆面交兵，不以实陈，怀反覆之方，弄国家之法。若竭诚立节，心无虚罔者，乃为良将，至如万岁，怀诈要功，便是国贼，朝宪难亏，不可再舍”。死之日，天下人闻者，识与不识，莫不冤惜。有子史怀义。