最初被举为孝廉，州里推举其为茂才，公府徵辟，都不应命。

在熹平年间，杨彪因博学多闻而被公车征为议郎，任内与马日磾、蔡邕、卢植、韩说等共同续写《东观汉记》。后来迁任侍中，转为京兆尹。

光和二年（179年），杨彪得到了黄门令王甫之前唆使宾客勒索敲诈郡国的财物总计七千余万的证据，并把此事告知司隶校尉阳球。阳球早就对王甫恨之入骨，于是迅速把此事上奏灵帝，并逮捕诛杀了王甫及其党羽。大家都因此欢呼雀跃、拍手称快。

后被征为侍中，相继任五官中郎将、颍川太守、南阳太守、永乐少府、太僕、卫尉等职。

中平六年（189年）九月，以太中大夫职接替董卓为司空。同年十二月，接替黄琬任司徒。

初平元年（190年），关东义军起兵，董卓在惧怕之下意图迁都长安，杨彪与太尉黄琬据理力争，因而被罢免。不久，与黄琬一同被拜为光禄大夫（一说二人得知伍琼、周毖被杀后很害怕，到董卓那里谢罪。董卓也因杀死伍琼、周毖而感到后悔，于是上表推举二人任光禄大夫）。十多天后，迁任大鸿胪。随从献帝入函谷关，转任少府、太常，因病罢免。后又任京兆尹、光禄勛，再迁任光禄大夫。

初平三年（192年）九月，接替淳于嘉任司空、录尚书事，后因地震免。又被拜为太常。

兴平二年（195年）三月，李傕遣其侄李暹率兵数千包围皇宫，想要劫持献帝前往李傕大营。杨彪对李暹说：“自古帝王没有在人臣家里的，诸位做事，怎能如此！”李暹说：”将军已经决定了。“于是杨彪随献帝出行。不久，献帝派杨彪及诸位公卿前往郭汜营劝和，不料郭汜将杨彪和司空张喜、大司农朱儁、卫尉士孙瑞、太僕韩融等人扣留为人质。

郭汜又大会公卿，议论责备李傕。杨彪说道：“群臣共斗，其中一人劫持天子，一人以公卿为人质，这可以吗！”郭汜恼怒，想要动手杀之。杨彪说：“你尚且不侍奉陛下，我怎幺能独自求生呢！”经中郎将杨密力劝，郭汜才没有加害他。同年，献帝移驾东迁，杨彪尽节卫主，到了最危难的时候，几乎遇害。献帝回到洛阳后，以杨彪代理尚书令。

建安元年（195年），杨彪随献帝定都许县。当时百官举行大宴，兖州刺史曹操见杨彪神情不悦，惧怕之下离开宴会。不久，杨彪便被罢免。当时袁术在淮南称僭号，曹操因此诬陷杨彪与袁术是亲戚，想要勾结袁术废献帝，将其下狱。将作大匠孔融听说后连朝服都来不及穿就匆匆面见曹操，为杨彪辩解，曹操仍然强辩道：“这是陛下的意思。”孔融则回答：“如果让成王杀邵公，周公可以说自己不知道吗？如今天下士人之所以仰慕明公您，是因为您聪明仁智，辅弼汉朝，举荐正直之士，斥退邪妄之人，致使四方和乐。如今却要杀害无辜之人，那幺海内旁观侧听之人，谁也不会再肃敬待您了！我孔融还是鲁国一男子，明天便拂袖而去，不再来朝。”而负责拷问的许县令满宠也对曹操说道：“拷问杨彪没有找到罪证。如果要处决他，要找到证据才能执行。此人有名于海内，若找不到证据而把他处决，会大失民心，请主公想清楚。”曹操无奈之下只得释出杨彪。杨彪到许县后，保存了不少《东观汉记》的注记。

建安四年（198年），再拜为太常。建安十年（205年），被罢免。次年，杨彪的爵位被剥夺。杨彪见汉室将衰，于是诈称脚抽筋退居不出。

黄初二年（221年）十月，曹丕拜杨彪为光禄大夫。在初一的朝会时，位次三公，待以宾客之礼。又赐杨彪延年杖及冯几，允许戴鹿皮冠，杨彪辞让，只穿着布单衣和皮弁入见。

数年后，有鹈鹕聚集于灵芝池中，下诏公卿举荐有独特行为、操守的君子。司空王朗举荐杨彪，曹丕因此置官吏士兵来护卫杨彪。

黄初五年（225年），杨彪去世，享年八十四岁。

袁绍：故太尉杨彪，历典二司，元纲极位。

曹丕：公故汉宰臣，乃祖以来世着名节，年过七十，行不逾矩，可谓老成人矣。

傅玄：是后刘珍、朱穆、卢植、杨彪之徒，又踵而成之，岂亦各拘于时而不得自尽乎？何其益陋也！

袁宏：王室大乱，彪流离播越，经历艰难，以身卫主，不失中正，天下以此重之。

范晔：杨氏载德，仍世柱国。震畏四知，秉去三惑。赐亦无讳，彪诚匪忒。脩虽才子，渝我淳则。

裴松之：杨公积德之门，身为名臣，纵有愆负，犹宜保佑，况淫刑所滥，而可加其楚掠乎？

洪迈：夫曹氏篡汉，忠臣义士之所宜痛心疾首，纵力不能讨，忍复仕其朝为公卿乎？歆、群为一世之贤，所立不过如是。彪逊辞以免祸，亦不敢一言及曹氏之所以得。盖自党锢祸起，天下贤士大夫如李膺、范滂之徒，屠戮殆尽，故所存者如是而已。

胡三省：杨彪有愧于龚胜多矣。

郝经：①杨氏世济忠贞，累叶公辅，大臣鉅室，朝廷倚赖，不幸主防时屯，颠沛流离，间关险阻，防涉勤劳，可谓共矣，天子已入操手，大事已去，不能闲居卫国，犹以元老自处，一旦几为操所杀，而竟杀其子，折辱之余腼面偷生，褫汉三公而受丕伪爵，贤大夫也，欠汉家一死耳。②鉅臣宗儒，四杨八荀。黄髪两翁，终以失身。

朱明镐：按管幼安忠于汉世，终不臣魏。宁为汉处士，不为魏司徒。区区此心，前有龚胜，后有陶潜，当时有杨彪耳。

王夫之：袁隗、杨彪以德望世臣，且无以自靖。

赵翼：按彪虽辞太尉，仍授光禄大夫，亦未免有玷。

爱新觉罗·弘曆：杨彪以汉三公不受魏爵，托于大义自持，则何不骂贼而死乎？观其于光禄大夫之拜，赐几杖、施行马，恬不知耻，十万而受万，尚得谓无垢全节耶？既贪生复好名，千秋以下正论难逃，终于进退无据而已。

沈钦韩：彪之苦节幽贞，始终如一，在魏代欲饰美谈以掩篡迹耳。

汤鹏：自汉已降，弟靡波流，以至于魏晋六朝，所谓名材硕德非无一二之存，所谓媚世乱德则更仆悉数而不能终焉。尔乃杨彪就秩于曹氏，王导钓誉于江左，崔光取容于拓拔，谢朏屑屑于齐、梁，何其耻也！

《全后汉文》收录有杨彪的作品一篇：《答曹公书》（引自《古文苑》）。

《后汉书·卷五十四·杨震列传第四十四》

《续后汉书·卷十二·列传第九》

《资治通鉴》、《后汉纪》等都有记载。

在《三国演义》中，杨彪为东汉太尉，与司徒王允等共同迎接失散的少帝和陈留王，后为司徒，与太尉黄琬共谏欲迁都的董卓，遭罢免，废为庶人。后任太尉，献计于献帝以离间李傕、郭汜二人。二人交战时，奉命同众官诣郭汜营中劝和，为郭汜所监，杨彪怒斥郭汜，郭汜恼怒，欲杀之，中郎将杨密力劝，郭汜才放了杨彪与大司农朱儁，二人出营相抱而哭，昏绝于地。又建议东迁中的献帝依靠曹操，因与袁术为姻亲，被曹操诬陷下狱，经孔融力争才得以倖免。