荀彧有容貌，少时被南阳名士何颙赞为“王佐才也”，始为颍川太守阴脩之主簿。昭宁元年（公元189年），九月，司空董卓废汉少帝刘辩，立汉献帝刘协，改元为永汉。当时用士人替补宦官的职位，荀彧被举为孝廉，得拜守宫令。后其迁亢父令，弃官不就。
董卓以颍川人尚书韩馥为冀州刺史，初平元年（190年），韩馥到官，起兵与袁绍等人讨伐董卓，并遣人迎接家乡人。荀彧认为颍川为四战之地，也劝乡人离开以避祸乱，但众人留恋故土，不愿搬走。荀彧便独自将宗族迁往冀州。后来颍川果然被李傕所掠 。荀彧到冀州时，渤海太守袁绍已袭取韩馥之位。虽然袁绍奉荀彧为上宾，但荀彧认为袁绍不能成大事，于二年（191年），投奔东郡太守曹操。曹操大喜过望，盛赞其为：“吾之子房也。”遂任为奋武司马，时年廿九。
兴平元年（194年），夏，兖州牧曹操征陶谦，荀彧与程昱守鄄城。陈宫与陈留太守张邈背叛曹操，迎接吕布为兖州牧。张邈遣刘翊向荀彧说，吕布是为援助曹操而来，并替吕布军求粮。荀彧不听，勒兵固守，并急召东郡太守夏侯惇。当时只有鄄城、范县、东阿仍旧为曹操坚守。豫州刺史郭贡率数万兵来到鄄城下，求见荀彧。夏侯惇劝阻，但荀彧认为，郭贡与吕布张邈等人交情不深，趁其计谋未定时说服他，至少可使他中立，但若先猜疑他，必激怒他定计。荀彧便亲身赴见，郭贡看到荀彧无惧意，也认为城池不容易攻取，便引兵离去。荀彧又让程昱去范县、东阿游说，以安其心。曹操从徐州返回，在濮阳击败了吕布，吕布东逃。
二年（195年），夏，曹操击破吕布部将薛兰、李封。当时徐州牧陶谦已死，曹操打算趁机夺取徐州，再回军消灭吕布。荀彧劝阻说道：“现在的河、济，就是高祖的关中、光武的河内。薛兰、李封已被击败，应该收割熟麦，储存粮秣，一举歼灭吕布。如果攻打陶谦，吕布会乘虚而入。鉴于往年之败，徐州人相为表里，又必坚壁淸野。而且因为去年的徐州之战多有杀戮，今徐州人死战都不会投降，就算能破也不能得到其人。”曹操从其计，大败吕布，复得兖州。
建安元年（196年），曹操打算迎接汉献帝，将领们有疑虑。荀彧劝以：“奉主上以从民望，大顺也；秉至公以服雄杰，大略也；扶弘义以致英俊，大德也。”九月，曹操移汉献帝到许昌。荀彧任侍中，守尚书令。曹操虽在外，仍然询问荀彧军国大事，并多次称赞其能。荀彧先后举荐了荀攸、锺繇、陈群、司马懿、郗虑、华歆、王朗、荀悦、杜袭、辛毗、赵俨、戏志才、郭嘉、杜畿、严象、韦康、孙资、仲长统等大批人才，并协调有宦官背景的曹操与大族名士之间的关系。
二年（197年），正月，曹操败于张绣。大将军袁绍写书给曹操，言语悖慢，曹操问讨伐袁绍之计，荀彧指出可战胜袁绍的四点：任人以度胜、断事以谋胜、明法以武胜、谨俭以德胜。三年（198年），七月，荀彧建议应先讨伐吕布，又推荐让锺繇统筹西边事务，曹操从计，十二月，杀吕布。
四年（199年），十二月，曹操任命锺繇为司隶校尉，镇守关中，自己率军与袁绍对峙。少府孔融担心袁绍势强，荀彧指出其谋士许攸贪婪，若犯法被治，必会生变。其将颜良、文丑更可一战而擒之。事情发展如荀彧所料，或说此事为穿凿附会。
五年（200年），曹操因缺粮而想撤退，荀彧劝说：“虽粮少，但未及楚、汉在荥阳、成皋的时候。当时刘邦和项羽不肯先退，先退的人必被动。主公仅对方十分之一的兵力，就地坚守，扼对方咽喉不能进已经半年了。见敌势的锐气力竭，必将有变化之数，不能失去机会。”曹操看后下定决心，果然敌军有变数，最终击败袁绍。六年（201年），三月，曹操缺粮，打算舍弃袁绍，先攻击刘表。荀彧劝阻。八月，荀彧与侍中郗虑、锺繇侍讲汉献帝。
八年（203年），七月，曹操表封荀彧为万岁亭侯，食邑1千户。荀彧辞以无野战之功，经曹操劝说后接受。九年（204年），八月，曹操平冀州，为冀州牧，为荀彧大起房屋于邺。有人建议曹操复置九州，使冀州最大。荀彧反对，建议先定河北，修复洛阳，南讨荆州，待天下大定后再议古制。曹操听从。十二年（207年），曹操表增荀彧食邑千户，前后共计2千户。曹操又欲表荀彧为三公，荀彧使荀攸推辞。曹操准备讨伐刘表，问计于荀彧，荀彧说：“可显出宛、叶而间行轻进”。曹操依计取荆州。
建安十七年（212年），董昭等人认为曹操应当进爵“魏公”，并秘密地征求荀彧的意见。荀彧反对。曹操听闻之后心头不忿。十月，曹操南征孙权，上表皇帝让荀彧到谯慰劳军队，又上表皇帝留下荀彧，并让荀彧担任侍中、光禄大夫，持节，参丞相军事。
曹操的军队前往濡须，荀彧因病留在寿春（今安徽寿县）。西晋陈寿《三国志》记载荀彧忧郁而死。刘宋范晔《后汉书》、刘宋裴松之注《三国志》引孙盛《魏氏春秋》，均说曹操赠送食器给荀彧，荀彧打开见器中空无一物，服毒自尽。北宋司马光认为曹操隐瞒此事，所以陈寿并不确定荀彧的死因。裴松之注《三国志》引袁�《献帝春秋》记载，荀彧看过皇后伏寿给父亲伏完的信，信中说汉献帝不满曹操。荀彧当时隐而不报，后又因惧怕事发向而曹操告密，但曹操之前已得知荀彧密而不报。荀彧犒军时又想单独解释自己反对曹操封公之事，曹操不许。荀彧死后，投奔孙权的人表示：曹操让荀彧杀伏寿，荀彧不从，故自杀。裴松之认为此事荒诞不经。
荀彧死前，烧毁自己所有的上书，终年50岁。汉献帝得知后，非常悲痛，在祭祖神（日语：祖神）之日停止䜩乐，谥荀彧为敬侯。荀彧亦被名士们追悼，曹操之子曹植为其作诔，潘勖为其作碑，钟繇比其为颜回。荀彧子荀恽继万岁亭侯。荀彧死后，曹操进封魏公，然而政策亦从征外转为安内。
咸熙二年（265年），魏元帝曹奂禅位之年，荀彧被追赠为太尉。
后人判断荀彧的立场，有汉臣、魏臣两种观点。有人在荀彧为魏臣的基础上，认可曹操的正义性，或否定其助纣为虐。也有人在荀彧为汉臣的基础上，肯定其杀身成仁，或否定其延续腐朽的政权。又或荀彧实为身处汉魏矛盾之间。
史书中对荀彧的评价或许经过两个转折，据官方态度所变化。曹魏时期，诸书如鱼豢《魏略》、《典略》、王沈《魏书》，因为荀彧被“隠诛”，或皆未将荀彧列为魏臣。西晋时期，因为司马氏与荀氏的亲密关系，时讳淡化，陈寿《三国志》得以将荀彧列位魏文臣之首。由于荀彧反对曹操而死，这种列位又能为魏晋禅代提供依据。这种说法延续到东晋时，如袁宏《后汉纪》、孙盛《魏氏春秋》等书。刘宋时期，晋宋禅代的依据部分来自刘裕延晋之论。由此荀彧延汉之论，又成范晔《后汉书》、裴松之《三国志》注中的观点，荀彧也被称为汉臣。
民国卢弼等认为《三国志》中“进彧为汉侍中”本应作“进彧为侍中”，陈寿特加“汉”是“特笔”，在暗示荀彧并非纯粹的魏臣。或说此处只是纰误。
荀彧有一个无甚德才的同族亲戚，请求荀彧任他为议郎。荀彧笑着回应：“官职是用来彰显才能的。如果我这么做，众人要怎么说我呢？”
曹操为提倡节俭，仿照古皮弁冠发明了一种帛制便帽——帢。据说起初帢是没有岐（分叉）的。有一次，荀彧走在路上，头戴的帢碰到树枝形成岐。时人仰慕荀彧，认为这样更美观，因此后来的帢上便有了岐。
或说荀彧的祖父荀淑和陈群的祖父陈寔交好，当时荀彧和陈群年纪尚小，也被家人抱着参加会面。鉴于荀彧出生时荀淑已死，此事疑是附会。古人将两家会面与天上“德星聚”的现象联系起来。德星乡、德星亭，等因此而得名。朱熹据《续晋阳秋》为建阳考亭陈氏离榭命名“聚星亭”。
荀彧将徐州的守城方式总结为“坚壁清野”，即增强防御，转移城外物资和设施，使敌军既无法攻克城池，又得不到补给。后“坚壁清野”成为这类防守策略的代名词。《晋书·石勒载记》：“勒所过路次，皆坚壁清野，采掠无所获，军中大饥，士众相食。”秦观《鲜于子骏行状》：“远斥堠，谨烽火，坚壁清野，使寇无所获。”
据东晋习凿齿《襄阳记》，荀彧于别人府上作客时，身上的熏香或香囊会令其坐处散发香气，达三日之久，后世文人有依此作诗。《旧唐书》载“大历十才子”之一的李端曾献诗“熏香荀令偏怜小，傅粉何郎不解愁”。唐代王维《春日直门下省早朝》一诗中有“骑省直明光，鸡鸣谒建章。遥闻侍中珮，暗识令君香”。李商隐《牡丹》诗中曾道“石家蜡烛何曾剪，荀令香炉可待熏？”。李颀诗作《寄綦毋三》中有“顾眄一过丞相府，风流三接令公香”。李百药《安德山池宴集》诗则有“云飞凤台管，风动令君香”。
由于荀彧仪容俊美，又有留香之名，后世诗词中除直接用荀令香的典故外，也常常将荀彧的形象简化，作为指代名士、美男子、情郎的意象。如李商隐《韩翃舍人即事》：“桥南荀令过，十里送衣香。”白居易《三月三日祓禊洛滨》：“妓接谢公宴，诗陪荀令题。”吕渭老《品令》：“宝香玉佩，暗解付与，多情荀令。”周密《祝英台近》：“香减春衫，老却旧荀令。”
《三国演义》中，荀彧依然具有出色的谋略，但由于罗贯中的“尊刘抑曹”，荀彧更为阴险狡诈。
