唐代开元中期，颜杲卿在范阳（北京）任户曹参军。后又任管田判官。他以性情刚直、不畏权贵，办事公正、不谋私利而闻名，深得同僚们的赞誉，范阳百姓传颂他是清官。当时安禄山任范阳节度使，见颜杲卿深得民心，就在天宝十四年（755年）初破例任颜杲卿为常山郡（今河北正定）太守。一时间，范阳城内都传颂安禄山惜才爱贤，任人唯贤。而此时距离安禄山起兵反唐已经不足10个月。
安禄山起兵后，前锋部队直指藁（音gao，同搞）城。担任常山太守的颜杲卿见叛军来势凶猛，仓促之下无以防备，只得与长史袁履缣开城诈降。安禄山自以为颜杲卿有知遇之恩，倒也没有起疑，当众赠给颜杲卿、袁履谦每人一件锦袍，命继任原职，多征集粮草、招募兵丁，以备调用。还派叛将高邈、李钦凑领兵5000驻守井陉关（今河北井陉），一是把住西进要道，二来还可以监视颜杲卿行动。尽管如此，安禄山心中仍然有些不放心，便将颜杲卿的儿子、侄儿带到自己军中做人质。
颜杲卿表面上接受安禄山的命令，暗中却厉兵秣马。这里面还有个小故事，颜杲卿知道反击叛军光自己一人不行，就请长史袁履谦吃饭，席间试探问道：“安禄山为何给你我赠袍？”袁履谦答：“拉拢你我为其效命。”颜杲卿进而问道：“当如何对待？”袁履谦心有成竹地说：“穿他的袍，走我们的路。”颜杲卿高兴地说：“正合我意。”于是二人联合起来，修城浚渠，招丁壮，实仓廪，矢志讨贼。颜杲卿还派人去告知堂弟平原（治今山东平原北）太守颜真卿，约定联合起兵，互相响应，“约与连兵断禄山归路，以缓其西入之谋”（《资治通鉴·卷二百一十七》）。
颜真卿所统辖的平原郡属范阳节度使安禄山的辖区，颜真卿跟堂兄颜杲卿一样，都隶属于安禄山。安禄山蓄谋反唐，招兵买马，积草屯粮，颜真卿对此早有察觉。为了防变，颜真卿借下大雨之机，修城挖壕，加固城池，并暗中征丁壮，贮屯粮食，表面上却佯装无事，整日与文士饮酒赋诗，挥笔泼墨。安禄山曾经派人侦察平原郡的动静，认为颜真卿是白面书生，不足为虑，所以并未放在心上。而安禄山举兵后，因平原郡不在叛军南下的大道上，所以只檄令颜真卿以平原、博平（今山东聊城）军屯7000人防河津。颜真卿将计就计，借口执行安禄山的命令，征募士卒，其实是准备反击叛军，“旬日间募得勇士万余人”。他对这些士卒涕泣陈诉，晓谕众兵奋起抵抗叛军。众人为之感动，齐声拥护。
颜真卿还暗中派亲信平原司兵李平持着安禄山所发的伪檄赶赴长安，上报玄宗。玄宗正为河北二十四郡县尽归附安禄山而发愁，还长叹道：“难道二十四郡就没有一位义士吗？”等到李平至朝廷，非常高兴地说：“朕还未见过颜真卿是什么模样的人哩，他却能如此为国效忠，难得！”于是赏赐李平，让他归报颜真卿：“讨贼立功，定当重赏！”
安禄山渡过黄河、攻下洛阳之后，颜真卿召募勇士，几天就招募到1万多人马，便公开宣布举兵讨伐安禄山，士卒皆感愤异常。此时。刚好安禄山部将段子光奉命带着唐朝忠臣李澄、卢奕、蒋清的人头，传示河北，令郡县速纳粮款。传到平原郡时，颜真卿下令将段子光绑在城头，腰斩示众。又将李澄、卢奕、蒋清三人的首级续以蒲身，用棺材收殓埋葬。全城军民哭祭吊唁，忠义传及四邻。
颜真卿是已沦为叛军之手中原地区向第一个公然反抗叛军的人，按现在的说法，就是打响了抗贼的第一枪。之后，饶阳（今河北饶阳）太守卢全诚据城抵抗安禄山，河间（今河北河间）司法李奂杀安禄山所任命长史王怀忠，济南太守李随派其游弈将訾嗣贤过黄河杀安禄山所任命的博平（今山东聊城）太守马冀，几方各有军众数千或万人，共推颜真卿为盟主，军事上由其统一指挥，共同抗击叛军。颜真卿立即派人跟颜杲卿联络，让堂兄尽快攻占要塞井陉关，以截断安禄山的后路。
当时驻守井陉关的叛军将领李钦凑是安禄山的干儿子，嗜酒如命，是个出名的酒鬼。此时刚好年关临近，井陉关另一叛将高邈去范阳见安禄山述职。颜杲卿得知消息后，趁机写信给李钦凑，说自己有病，不能亲到井陉关，邀请李钦凑和高邈到常山商议年关劳军的事情。李钦凑早听说颜杲卿一直有病在床，近来没有异动，便放心地带了几个随从到了常山。李钦凑到常山的时候已经是晚上，颜杲卿假称入夜不开城门，让李钦凑夜宿城外焦同驿，同时派人盛情接待。李钦凑落座后不久，便喝得酩酊大醉，在醉梦中稀里糊涂地被推出斩首。颜杲卿又派人杀死其副将潘惟慎，投尸于滹沱河中，随即连夜调动军队，包围了井陉关。第二天天亮时，袁履谦带人提着李钦凑的人头到井陉关招降。叛军见主将已死，井陉关又被唐军包围，便开关投降。于是，颜杲卿兵不刃血地收复了井陉关。
事有凑巧，第二天藁城县令崔安石便派人来报，说叛将高邈已经从范阳回来，天黑将到藁城。颜杲卿当机立断，在藁城设下埋伏，捕捉高邈。天黑时，高邈带着一队随从来到藁城县衙，结果被伏兵捉住。高邈还不明所以，大叫：“为何捆我？”崔安石冷笑问他：“你为何叛国？”高邈这才无言以对，当即打入囚车，押往常山。
不几日，安禄山的心腹何千年奉命到赵郡（今河北赵县）一带巡视，又被颜杲卿趁机抓住。当时，安禄山正派大将张献诚1万余兵围困饶阳，饶阳十分危急，颜杲卿正想要前去营救。何千年为了活命，便给颜杲卿出主意说：“现在你要为唐朝廷效力，既善其始，亦应慎其终。你召募的军队皆是乌合之众，难以拒敌，应该深沟高垒，以逸待劳，不可与张献诚争锋。等到朔方军（指名将郭子仪的军队，郭子仪时任朔方节度使）到，再一同进击，传檄河北郡县，断其后路。现在你应该四处放出风声说：李光弼（时为郭子仪部下，任朔方军左兵马使）正率步骑一万出井陉口。又派人对张献诚说：你所率领的军队多是团练士卒，无坚甲利兵。难以抵挡李光弼所率山西劲兵。张献诚听后，必解饶阳之围而去，这是一大奇计。”颜杲卿采纳了何千年的计谋，张献诚果然因惧怕李光弼而退兵，饶阳之围因此而解。
颜杲卿随即派长子颜泉明和贾深、翟万德带着李钦凑的人头，押解何千年、高邈去长安，一是向朝廷报告战果，二是要求朝廷早日发兵平叛。这时候，内丘（今河北内丘）县尉张通幽请求同行，哭着说：“我兄通儒陷贼为叛将，请许我与泉明一起至朝廷，以救宗族。”颜杲卿很是同情，于是同意了张通幽的请求。
其实这是因为张通幽怕因哥哥张通儒投降了安禄山而被连坐，祸及家门，想找机会为自己留条后路。当一行人路经太原时，张通听说太守王承业与宰相杨国忠交好，“欲藉以为援”，便怂恿王承业留住颜泉明，由他代为押解叛贼，窃功归己。王承业欣然接受了建议。
王承业此人也幼稚得很，试想这样的事如何能轻易冒功？不过当时朝政混乱，玄宗昏聩不堪，王承业也是图个侥幸。由此也可以看出，玄宗的英主形象在臣民心中早已经荡然无存。后来叛将何千年、高邈在长安被斩首。玄宗非常高兴，封王承业为羽林大将军。因为张通幽和杨国忠在其中捣鬼，这件事一直到两年后才真相大白。
颜杲卿却对这些毫不知情。他派郭仲邕带一队骑兵，马尾栓上树枝在树林中奔跑，使尘土飞扬，造成千军万马之势。又派人四出张贴文告，称朝廷已发兵30万，平息叛乱，已收复井陉关。并说，受安禄山胁迫叛变的，趁早投降，可以受到重赏；如果顽抗，罪加一等。一时间，一传十，十传百，人人皆知。这一举动极大鼓舞了整个河北军民的士气。短短几日，博陵、文安、上谷、乐安等17个郡县闻风归附，纷纷派人联络，表示接受颜杲卿号令。常山和平原两郡成了河北抗击安禄山叛乱的中心。只有范阳、北平、密云、渔阳、汲（今河南南部）、邺（今河南南部）六郡尚在犹豫。
颜杲卿又秘密派人到范阳招降叛将贾循。贾循迟疑不决。部将马遂暗中劝他说：“安禄山负思悖逆，不得人心，虽然占领洛阳，但终归要灭亡。将军如果能够杀其叛将，以范阳归国，倾其巢穴，将会立盖世之功。”贾循虽然觉得有理，但一时下不了决心，只说：“让我再思考思考。”不料事不机密，二人的秘谋被别将牛润容听到。牛润容为安禄山心腹，当即将这一情况飞马报告了安禄山。
此时，安禄山在洛阳自立燕国，自封为帝，正准备亲自率军向潼关方向进兵，忽听到常山颜杲卿杀了李钦凑，活捉了高邈、何千年，后方动荡不稳，大为震惊，便紧急返回洛阳处理。安禄山一面派大将韩朝阳到范阳来召贾循。韩朝阳到范阳后，谎称有紧急事务要告诉贾循，趁贾循不备，突然缢杀了贾循，枭首示众，并灭其族；一面急抽兵力，由最得力的史思明、蔡希德率领，兵分两路，突袭常山。
颜杲卿预料安禄山大军即到，便叫夫人和儿子出城躲避，谁知夫人坚持要和他守城杀敌。太守府上下人等见太守和夫人一心为国为民，都表示愿随太守抗击叛乱，与常山共存亡。城中百姓听说后也纷纷要求守城。众人的热情，鼓舞了颜杲卿等人的斗志，更加坚定了抗击叛乱的决心。
贾循的死讯先传到常山，颜杲卿大惊失色，连忙下令军兵加紧修城挖壕，准备战斗，并马上派长子颜泉明前往太原，请发救兵。袁履谦说：“贼兵未到，太守何必紧张？”颜杲卿说：“贾循这人首鼠两端，我等必受连累。”袁履谦又说：“既然如此，何不向平原（指平原太守颜真卿）求救？”颜杲卿说：“真卿是我同族兄弟，贼人岂不提防？若向真卿求救，不但没好处，反而害了真卿。”
此时史思明领兵1万，日夜兼程，已经兵临常山城下。史思明极有计谋，是叛军将领中的佼佼者，有“常胜将军”的称号。他想只要颜杲卿投降，河北也就会停止反抗，便派人送信，约他城下相谈，劝其投降。但是颜杲卿都以历数安禄山叛国作乱、分裂江山之罪作回答。史思明见劝降无望，就下令攻城。不料，城墙坚固，守军英勇，久攻不下。史思明又派人到蔡希德处调兵。
颜杲卿早已经派儿子颜泉明到太原王承业处求救兵，约定在常山城下夹击叛军。谁知王承业不顾国家安危，只想保存实力，拒不出兵。颜杲卿只好派次子颜季明到平原求救，因有叛军围困，救兵又迟迟未到。常山成了无援的孤城。叛军援兵到后，便日夜攻城不止。颜杲卿和袁履谦等爱国将领和守城军民一起日夜奋战，打退叛军数次进攻，城下叛军尸体累累，守城军民也伤亡惨重，直战到箭矢用尽，刀刃卷缺，战况极为惨烈。正月初九，在外无救兵的情况下，常山城破。颜杲卿、袁履谦等被俘。叛军进城肆意杀戮，尸横塞路，血流满地。
鉴于颜杲卿在河北的影响力，史思明以高官厚禄引诱颜杲卿投降，但遭到严词拒绝。史思明恼羞成怒下，便把刀架在颜杲卿次子颜季明的脖子上说：“你若降，就不杀你的儿子！”想以此要挟颜杲卿投降。颜杲卿说：“死不降贼！”史思明大怒，挥刀杀死颜季明，将颜杲卿等人押送洛阳。
安禄山命令兵士把颜杲卿押到他面前，责问颜杲卿说：“你本来只是个范阳户曹小官，是我奏请朝廷任你为营田判官，后又为太守，你为何要负我而反呢？”颜杲卿怒气冲冲地骂道：“你原来不过是营州（今辽宁朝阳）一个牧羊的小子，国家让你做了三镇节度使，恩幸无比，有哪一点负于你？而你起兵反朝廷。我世为唐臣，禄位是朝廷所给，怎么能与你一起反呢！我是为国讨贼，恨不得杀了你，怎么能说是反呢？”安禄山恼羞成怒，命人把颜杲卿、袁履谦拖到洛阳天津桥的柱子上绑起来，使用残酷的刑罚折磨他们。颜杲卿神色凛然，一面忍受着酷刑，一面仍旧痛骂安禄山。叛军兵士用刀割了颜杲卿的舌头。颜杲卿满口鲜血，还发出含糊的骂声。袁履谦看到颜杲卿受刑的惨酷情景，气得自己咬碎舌头，连血带舌喷在旁边一个叛将的脸上。颜杲卿、袁履谦被凌迟而死，却始终骂不绝口，一直到他们咽气。颜氏一门，当时死义者共30多人。洛阳百姓无不垂泪流涕。
颜杲卿被杀后，史思明、蔡希德等叛将又陆续攻下了响应颜杲卿的各郡县，河北形势再次面临危急。玄宗一面令颜真卿率部坚守平原，一面调朔方节度使郭子仪向洛阳进军。郭子仪一路攻下了云中、马邑，打开了井陉关，矛头直指洛阳。
颜杲卿被杀后一月，河东节度使李光弼率领步兵骑兵1万多人、太原弓箭手3000人出兵井陉关，打退叛军，收复了常山，被关押在常山的颜杲卿夫人因此得救。接着，郭子仪也带领精兵到常山和李光弼会合。
河北的一些百姓受尽安禄山叛军掳掠的痛苦，听到郭子仪、李光弼大军打过来，自发集合起来，修筑营垒，抵抗叛军。等郭、李大军一到，就参加了大军队伍。郭、李两支大军兵强马壮，士气旺盛，接连打击安禄山叛军，河北十几个郡重新回到唐军手中。
至德二年（757年），颜真卿泣涕诉堂兄颜杲卿事迹于肃宗李亨，并转诉太上皇玄宗，当年王承业冒功一事才真相大白。不过这个时候，王承业已因其他事被罪而死，张通幽因此被杖杀。肃宗为表彰颜杲卿，追封颜杲卿为太子太保，其妻为清河夫人。
之后颜真卿派颜泉明去河北寻访颜杲卿父子遗骨及流散家人，仅寻得颜季明头骨带回。颜真卿缅怀堂兄一门忠烈，“父陷子死，巢倾卵覆”，国难家仇，一齐涌上心头，怀着“抚念摧切，震悼心颜”的悲愤心情，和着血泪写下了《祭侄文稿》的祭文。此帖写得神采飞动，笔势雄奇，姿态横生，得自然之妙，被认为是“天下奇书”，现藏台北故宫博物院。
颜杲卿死时65岁。他从起兵到失败，虽然时间很短，但是他的抵抗延缓了叛军对长安的进攻，为唐王朝调兵遣将争取了时间。尤其他誓死抵抗的精神，鼓舞了更多的人抗击叛军。
南宋民族英雄文天祥被元兵俘虏，押往大都时路过滹沱河畔的真定城，不禁感慨万分，挥笔写下《颜杲卿》一诗：
常山义旗奋，范阳哽喉咽。
胡雏一狼狈，六飞入西川。
哥舒降且拜，公舌膏戈鋋。
人世谁不死，公死千万年。
元代诗人陈普有《石堂诗稿》传世，其中也有一首《颜杲卿》：
骊山歌笑入青云，曾识常山有战尘。
忠骨已澌余发在，因人得见梦中人。
据《正定府志》所载：颜杲卿遇害后，有个叫张凑的人暗中收其齿发，后来设法交给了颜妻欧阳氏。颜夫人初有疑，凭床而哭，忽听有鞭打床声，只见杲卿遗发跳箱而前，夫人方信。“忠骨”一句即指此事。
颜杲卿死后，堂弟颜真卿奋力坚守平原，联络清河、博平兵马五千，天定十五年（756年）六月在堂邑（今山东聊城西北）附近击败叛军2万余，克复魏郡。随后，北海郡太守、平卢游奕使等均与真卿联络，共同抗敌。七月，太子李亨在灵武即帝位，授真卿为工部尚书、兼御史大夫、河北采访招讨使。肃宗急于收复京城长安，不纳李泌之计，放弃在河北的攻势，将兵力集中于陕，使叛军在河北势力复张，颜真卿远处敌后，孤立无援，只得于肃宗至德元年（756年）十月弃城撤出，辗转江淮、荆襄等地，于至德二年（757年）四月北上到达凤翔（今陕西风翔县）谒见肃宗。肃宗授他宪部尚书，加御史大夫。
德宗建中三年底（783年），淮西节度使李希烈起兵反唐。当时宰相卢杞嫉恨颜真卿，向德宗建议派颜真卿去安抚李希烈，目的是要借刀杀人。这时颜真卿已经70多岁，年老体衰。同僚劝他向皇帝辞职不去，但他毅然领命前往。颜真卿到达淮南汝州（今河南临汝）后，对李希烈晓以大义，劝其息兵罢战，让人民免受战祸之苦。李希烈不听劝告，反而要挟颜真卿协助他反唐。建中四年（784年）十二月，李希烈攻陷汴州后称王，有叛将提议要颜真卿任李希烈的宰相，颜真卿厉色说道：“尔等可知颜杲卿否，是吾兄也。安禄山反，首举义兵，及被害，诟骂不绝于口。吾今年向八十，官至太师，守吾兄之节，死而后已，岂受汝辈诱胁耶！”叛将不敢再劝降。李希烈便把颜真卿拘押起来，还在他住的院子中挖了一个大坑，声言要坑杀他。颜真卿毫无惧色。不久，唐军征讨李希烈的战争取得了决定性的胜利。李希烈在失败前夕，派人在颜真卿的住处堆上柴草，泼上油，对颜真卿说：“不能屈节，当自烧。”颜真卿毫不迟疑，投身赴火，被人拦住。事隔不久，颜真卿最终被李希烈缢杀于汝州，终年77岁。
颜真卿是中唐时期的书法创新代表人物，他的祖辈三代皆工书法，其母亲写得一手好字。颜真卿自幼受家学熏陶，热爱书法。一方面接受家传，一方面学习前代书法名家的艺术特点，初师褚遂良的笔法，后来又接受张旭的指导。经过长期的辛勤磨炼和精心研究，他创造了独具一格的“颜体”书法。楷书端庄雄伟，气势开张。行书遭劲舒和，神彩飞动。他的书法，既有以往书风中的气韵法度，又不为古法所束缚，突破了唐初的墨守成规，自成一幅，称为“颜体”。宋代大文学家苏轼曾有诗赞颜真卿的书法造诣：“颜公变法出新意，细筋入骨如秋鹰。”五代的杨凝式、宋代的苏轼、米芾、黄庭坚、蔡襄等名家都是学颜体。