据《中华姓氏源流》等相关史料记载,羊氏在宋代百家姓中排名为198位。2004年，由中国科学院遗传与发育生物学研究所主持的全国人口调查，于2006年1月10日在北京新华网公布的当今中国新百家姓排序显示，羊氏在全国500多个姓氏中排名居202位。
    从古今百家姓排名的情况看，羊氏在中华姓氏中虽不属大姓，但却是著姓，其一，历史久远，出自周朝姬姓大族；其二，分布范围较广；其三，出了很多历史名人，为社会的发展做出了卓越的贡献。如春秋时期邾国谋臣羊罗；西晋著名的政治家、军事家羊祜（音hù）；南北朝时期著名书法家羊欣；北魏平南将军羊祉（音zhǐ）；梁豫州刺史羊鸦仁；明代著名谏官羊可立等等，他们都是羊氏家族中彪炳史册的人物。具体到汝南羊氏，应该说是羊氏家族中的名门望族，也是汝南地方的名门望族。据《汝宁府志》、《汝阳县志》等地方史志记载，明代嘉靖年间的羊杰；万历年间的羊可立；清代的羊奇、羊璘等，都是国之栋梁，地方之名士。汝南羊氏居汝已600多年，历经近30多代，人口达到近万人。现在的汝南羊氏，分居在三里店乡、老君庙镇、韩庄乡、汝宁镇、留盆镇等12个乡镇，工作在工业、农业、科技、教育等不同的行业，是一个很有影响氏族。
    汝南羊氏素以“铁面冰心明御史,轻裘缓带晋将军”而自豪。晋将军指的是羊祜，明御史指的是羊可立。汝南《羊氏族谱•序》称：“汝南羊氏，肇自典午都督荆州（诸）军事羊叔子”。
意思是说汝南羊氏是羊祜的后裔。因此，研究汝南羊氏的历史，我们还得从羊祜的祖先说起。
    一、起源于黄帝，姬姓之嫡孙
    《羊氏魁公六修宗谱》卷首《本姓源流》称：“余羊氏系出姬姓，开自黄帝。”可知羊姓的远根在于桥山之巅，羊氏的远源在乎姬水之畔。这就说明羊氏最早的祖先可以追朔到黄帝。相传黄帝的父亲公孙氏，是远古时期少典部落的首领。母亲是有虫乔氏部落的女子。公孙氏娶有虫乔氏，怀孕24个月生黄帝于寿丘。后因黄帝部落主要居住、生活在姬水流域，所以其子孙便以姬为姓。
黄帝是传说中我国原始社会末期的一位伟大的部族首领。《史记•五帝本纪》记称：黄帝“姓公孙，名曰轩辕。”相传他即帝位之后，率领部属建宫室、造舟车、创文字、辨天文、置历法、正音律，其妻嫘祖也教民养蚕、制衣裳等，为社会进步做出了重大贡献，被尊为华夏文明的拓荒者。
    历史上黄帝部族的发祥地之一，乃在山东泰山南麓的龟山一带。据考，黄帝之号“轩辕”即“天鼋”的音转。顾名思义，“天鼋”当是以龟为图腾的氏族。古人认为，“龟甚神灵，降于上天，陷于深渊”，“知人生，知人死”，“是天下之宝也”。考古发现表明，上古崇龟风俗乃源起于东方，且多集中在泰山南侧、汶泗流域，最早可追溯到大汶口文化早期，甚至更早。在大汶口文化遗址中，有座墓葬曾出土龟甲，这说明当时在泰山之南有一支崇龟部落存在。而黄帝之“黄”，在金文中正为人垂龟甲之象：“黄帝”也就是龟族之为帝者之意。所以大汶口文化中的崇龟部落被认为即是“天鼋氏”，而附近的龟山也被推定为黄帝部族的一个地理标志。
    龟山处于泰山以南、汶水流域的平阳大地之上（今山东新泰市西南），山形酷似巨龟，《诗经•鲁颂》中的“奄有龟蒙”之“龟”，即指此山。山北土地丰沃，古时称之为“龟阴田”。这方轩辕部族发祥肇始的圣地，日后又成为其苗裔羊姓繁衍勃兴的沃土。
    黄帝传子25人，分衍出姬、酉等12姓。其姬姓一系传人有玄嚣、虫乔极、帝喾、后稷。此即羊谱《本姓源流》所言：羊氏“开自黄帝，帝四传而生稷”。这位稷，便是《史记•周本纪》中所称的周朝始祖。
    后稷原名弃，因培植了稷，而被世人尊称为后稷。他是帝喾的元子，其母姜源，为炎帝后裔有邰氏之女。稷幼年时喜欢试植豆麻，长大后擅长农业，人们纷纷向他学习。帝尧便任命他为农师，管理农业生产。据说他“使教民山居，随地造区，妍营树之术，三年余，行人无饥乏之色”。稷先后辅佐尧、舜二王，“教民稼穑，树艺五谷，五谷熟而人民育”，“有大功于天下”，以功受封于邰（今陕西武功西南）。稷的后裔周人在《生民》一诗中称颂他：“载生载育，时维后稷”。后稷被后世尊为农神，以纪念他在农业种植上的巨大贡献。
    由于后稷的辛苦经营，其部族逐渐成为著名的农业氏族。稷之后人公刘率部族由邰地迁居于邠地（今陕西旬邑西南）,开垦荒地,营造宫室,部族得到进一步壮大。到了第十七代古公亶父,又举族迁居到岐山之南的周原地区(今陕西岐山县),在这里规划田地,营屋造邑,设置官吏,奠定了国家的雏形。因姬姓部族居于周原，故从此称为周人，所立之国称周国，古公亶父亦被尊为周太王。八百年周朝王业，即由此奠基。
    周人的历史自太王之后，又推进百年，到了太王之孙周文王，族势更加壮大。文王名姬昌，商纣王时受封为“西伯”，即西方诸侯之长。姬昌即位后，礼贤下士，励精图治，深得民心，天下诸侯望风归附。所谓“三分天下（周）有其二”的局面逐渐形成。
    当时商纣王荒淫残忍，民怨载道，诸侯纷纷叛离。周武王觉得时机成熟，乃联合西、南方国，起兵伐纣。大军渡过盟津（今河南孟津西南），与诸侯相会；继之陈师于商郊牧野（今河南淇县南），作《牧誓》，号召决战。纣王发兵抵抗。两军战于牧野，商军竞相倒戈，全军溃散。纣王见大势已去，逃回都城自焚，商朝灭亡。各路诸侯拥戴武王姬发为天子，国号为周。
    据《史记•周本纪》记载，当武王伐纣之时，曾发生一件奇异之事：征伐大军刚刚渡河完毕，只见一团大火从天而降，坠至武王宝帐之顶时，化作一只乌鸦，颜色火红，发出“魄魄”叫声，飞鸣而去。当时都以为这是上天昭示武王伐纣必胜之征兆。即“赤乌流庆”。
    武王灭商之后，为了控制被其征服的广阔区域，大力推行“封邦建国，屏藩王室”的分封制度。武王、成王及其继位诸君，先后分封70余国。其中周成王之弟叔虞被封于唐（今山西翼城西）。羊氏谱《本姓源流》称：“稷十六传而生武王发，发生叔虞，虞封于唐，是为唐侯”。这唐国，便是晋国的前身。
叔虞字子于，是周武王的庶子，成王的同母弟。传说其母邑姜与武王欢会时，梦到天神宣谕武王：“我将赐汝一个贵子，他名字叫虞，将来要把唐国分封给他，那里是参宿的分野，就让他在那里繁育自己的子孙。”后来邑姜果然生下一个男孩。这男孩一出生，手掌中的纹理就宛如一个“虞”字，于是便取名虞。由于他是周武王第三个儿子，又称作叔虞。
    又传说叔虞少时，曾与哥哥周成王一同在花园嬉戏。成王一时高兴，便把一片桐叶剪成珪（一种封侯用的礼器）的形状交给叔虞，说：“就用这个来分封你。”跟随一旁的史官立即把此事记录下来，接着请求择日以封叔虞。成王说：“我只不过与叔虞开个玩笑，你怎么能当真呢？”史官回答：“天子无戏言，所说的言词都应记录下来，既然已许封叔虞，就应该举行典礼，送他就国。”成王听了，允准了史官的请求，于是便命太仆（宫廷中掌管占卜的官员）选择吉日举行盛典，封叔虞为唐侯。唐本为地名，《扩地志》记述：故唐城在山西省翼城县西二十里唐城村。是尧帝的裔孙刘累的封地。至周成王时，唐人作乱，成王平定了唐人叛乱之后，便把他的弟弟叔虞封在唐这个地方，是为唐侯。所以唐这个地方也被后人称之为“尧墟”。
    姬叔虞受封于唐，开创了唐国的巍巍大业。羊谱记述，“唐侯虞传位于燮，燮因南有晋水，改国号为晋。”这便是春秋时期大名鼎鼎的诸侯国—晋国。1993年夏，在山东新泰市羊流镇之羊氏墓群中出土了隋代《羊烈墓志》，志石在铭词中追述其先世时写道：“苍帝降精，赤乌流庆；珪桐胙土，掌文膺命。”其原因就在于此。晋国历时约600多年，经历有37任国君。
    二、晋国之后裔，受姓于羊舌
    晋侯燮立国之后，传至第十七任晋侯为晋武公。武公名“称”有一庶子伯侨，伯侨的孙子叫突，被晋侯封至“羊舌”这个地方做大夫，世称羊舌大夫，其子孙便以羊舌为氏。羊舌突便是羊舌世家的受姓始祖。
第一代羊舌大夫突出任晋献公的军尉，曾追随太子申征伐东山皋落氏；其子名羊舌职（也作羊殖），为第二代羊舌大夫，历仕晋景公与晋悼公，曾任中军尉之职，二人都是晋国的知名人物。
    羊舌职生有四子，长子羊舌赤，字伯华，食采于铜（今山西沁县南五十里古城村），故又称铜伯华；次子羊舌肸，字叔向，封邑于杨（今山西洪洞县东南二十里古县村），故又称杨肸;三子叔鱼（又作鲋），食邑于乐（今地不详），世称乐叔鲋；四子名叔虎。《左传昭公五年》称：“羊舌四族，皆强家也。”其中的羊舌叔向，是广受世人尊仰的一代贤臣。
    羊舌叔向少习《春秋》，以才学知名于晋国。晋悼公召其为太子彪的老师。后太子嗣位（晋平公），任叔向为太傅，位至上大夫，地位仅次于晋六卿，由于六卿在朝中的权势日重，羊舌一族的势力由此渐盛。后晋国内乱，六卿中的栾、范相残。羊舌叔虎作为栾氏的党羽于公元前552年被杀。公元前551年栾逞奔齐。羊舌叔向、羊舌赤兄弟都被牵连入狱，只有羊舌叔鲋因党于范氏而免祸。幸有大臣祁奚冒死相救，叔向兄弟才得获释出狱。
    羊舌叔向复出后再任太傅，又开始活跃于晋国政治舞台。晋平公十二年（前546），他以副使的身份，随同执政的赵武参加了在宋国举行的晋楚十四国弭兵大会，并发挥了重要作用。
    羊舌叔向是一位具有远见卓识的政治家，对当时列国诸侯的变化趋势有着清醒的认识。据《史记•晋世家》记载，晋平公十九年（前539年），齐相国晏婴出使晋国，同叔向论及齐国公室衰落的情形时，叔向深有同感：“确实是这样啊。我们晋国公室，也已到了季世（末世），战马不驾战车，卿不率领军队，公室的战车没有御者，步兵的行列没有官长。百姓困疫，而宫室更加奢侈；饿殍相望，而宠姬的财富却多得车载斗量。百姓听到国君的诏令，避之不迭，犹如遇到仇敌。栾、卻、晋、原、狐、续、庆、伯这八家公族。已经沦为低贱吏役。政事在于私家，百姓无所依靠。而国君犹不悔悟，只知道以享乐来消去忧患。公室卑微如此，还能再撑几天？”当晏婴询问他准备如何处置此局时，叔向长叹道：“晋国的公室快完结了……”这便是史书中所说的“叔向论季世”。
    羊舌叔向虽无法挽救没落公族的灭亡趋势，但他忠于晋室，刚正不阿，力保公平，以至鞠躬尽瘁，赢得时人的无比敬仰。孔子在评论叔向时，对他极力称赞，云：“叔向，古之遗直也。”羊舌氏后人更是盛誉其先祖：“叔向为时名卿，立心公直，持身正大，动必由则，言必中理，自是圣贤一类人物。”（四川三台《羊氏族谱》）
    羊舌四兄弟之中，晋平公初年叔虎因党附栾氏被诛，余下的羊舌伯侨、羊舌叔向、羊舌叔鱼鼎盛于平公一朝。尔后伯华、叔鱼相继失势，到了晋顷公时期，惟有叔向一门独存。叔向生子伯石，因袭封于杨邑，又称杨食我。
三、改羊舌为羊氏，避乱世至泰山
    羊舌公族至晋顷公时日益衰落，而属异姓的六卿却渐次壮大。晋顷公十二年（前514），六卿讨灭公族祁氏。因羊舌家族也是晋侯皇室宗亲，所以，杨食（羊氏）我也被认定为祁氏的同党而遭捕杀。羊舌一族遂告灭亡。执握晋政的魏献子把羊舌氏的采邑分为铜（今山西沁县南五十里古城村）、平阳（今山西临汾县西金殿村）、杨（今洪洞县东南十八里）三县，分封给六卿的庶子庶孙及所属之大夫。
    羊舌公族被灭后，其族众为避政治迫害，四处流散，其中一支单姓为羊氏。《通志•氏族略三》记云：“羊氏，即羊舌氏之后，春秋末单为羊氏。”又《姓解》卷二云：“羊氏，《左传》羊舌职大夫之后，子孙有单姓者。”宋蒋通撰浙江缙云《皿川羊氏宗谱序》中亦有文追述这段姓氏源起：“羊氏独能推别世系，谱羊舌氏突为鼻祖。按《春秋》、《左传》载，羊乃以封邑为氏。唐叔之后，晋之公族为大夫，其宗十一，族惟羊舌氏存焉。今平阳、铜，乃其故里也。后单其姓。”山西是羊姓的发源这之所，至今在山西太原，还有羊氏家族的祖庙—晋祠。晋祠座落在太原市南瓮山脚下的晋水之源，这里就是西周叔虞的始封故地。祠为北魏时为纪念叔虞而创建，因濒临晋水，故名晋祠。在洪洞县东南范村，有古羊舌邑故址。
    羊氏于春秋之末由于遭受晋六卿残害，族人被迫四处流徙，当时其主要支系聚居于何地，史书未有明确记载。到了战国末期，已有羊族人物凸现史册，如羊子仕秦为博士，著书百章，为当时儒学名家。秦末天下乱起，羊姓族人为避动荡，其中一支远徙于泰山，历经悠悠百年，发展成举朝瞩目的天下甲族。
泰山古称岱宗，为“五岳”之首，自古便被视为华夏圣山。秦始皇东封泰山，更提高了此山的政治地位，使其名益播于禹域。汉代于山南立郡，名为泰山郡。泰岱山幽谷深，凡天下动荡之时，这里每成为民众携家避祸的桃花仙源。战国之末，魏国信陵君之后人卑子便逃入泰山，得全身家。数十年后，晋公族羊舌的苗裔又扶老襁幼，向着岩岩东岳云谷艰难进发。《通志•氏族略》中对此记述：“羊舌氏之后……秦乱，徙居泰山。”《羊祉墓志》中亦追述云：“迈种绵基，爰降东莱（指山东）；维汉维晋，口隶伊台。”《史记》中也有“汉初有齐人羊胜的记载”。说明羊氏就是在秦汉之际移居泰山。
    泰山之南百里，有一方城邑名曰“平阳”。春秋时鲁国曾于此设平阳邑，汉代设置东平阳县，隶属于泰山郡，习惯上称之为“泰山平阳”。平阳县之北五十里，有一块连绵丘岭，世称为秃邱。世代相传，这秃邱一带便是羊姓徙居泰山的始居之地。后来遂因羊姓世居于此地，得羊氏之流风，故得名“羊流”即今山东新泰市羊流镇所在地。
    羊氏在泰山之居地，行政区划上曾数有变更：羊氏初居平阳，至东汉初期，由于战乱，举国户口减少，光武帝遂将天下郡县不足百户者并之。平阳遂被省入梁父。故当时一些羊氏族人也被记为“泰山梁父人。”到了东汉中叶，由于旧平阳县境内羊、鲍等士族大家相继崛起，汉廷又复置平阳县。故史书复将羊续等人称为“泰山平阳人。”西晋初年，晋武帝为酬答羊祜，合并平阳、梁父、牟、南城、南武阳五县为南城郡（治南城，今山东费县），封羊祜为南城侯。因羊祜推让历年，未就此爵，南城郡亦置而旋废，但此专为羊氏而一度设置的南城郡，却成为羊氏一族的盖世荣光，常常与泰山郡望并提以自矜。晋唐史籍上，多称羊氏为“泰山南城人，”即是由于这个原因。羊祜还于晋泰始年间，上表改平阳县为新泰县。新泰之名系取泰山与新甫山之首字而成，其名一直沿用至今。另外在两晋南北朝时期，羊氏族人还分别被封为钜平子、钜平侯（钜平故县在泰安市南大汶口与宁阳县北境），世袭数代之久，故有的史书亦称羊氏为“泰山钜平人”。羊氏乡贯虽各史所载略有不同，但其世居之地。一直在今新泰境内，历千年而未易。“泰山”遂成为羊氏的第一郡望。《唐贞观八年条举氏族事件》、《新集天下姓望氏族谱》以及《太平寰宇记》所列泰山郡诸姓，羊氏皆昭然在目。
    定居泰山的羊氏家族，人丁兴旺，枝繁叶茂，英杰辈出，至东汉时期，已是“七世两千石卿、校”的衣冠巨族。特别三国、两晋、南北朝时期，羊氏家族更是一枝独秀、誉满天下的名门望族。据不完全统计，各种史志为羊氏历史名人立传的有50多人，其主要代表人物有羊浸、羊儒、羊衜、羊祜。
羊浸  汉安帝时任司隶校尉。
    羊儒  羊浸之子，汉桓帝时为太常卿。
    羊续（142-189年），字兴祖，羊儒之子，羊续以忠臣子孙拜郎中，去官后，在大将军窦武府内办事。窦氏败后，因受牵连，被禁锢十余年，幽居守静。及党锢被解除以后，复任职于太尉府。四迁至庐江太守。后扬州黄巾军攻舒（今安徽省舒城县，时为庐江郡治所），焚烧城廊。羊续发动县内二十岁以上的男子，皆持兵器勒阵，妇女小孩都负水灌火，会集数万人，奋力抵抗，结果大破黄中军，郡界内得以平安。后庐江郡安风县有贼寇戴风等作乱，羊续又率众击破之，斩首三千余级，生擒其头目，余党众皆免为平民。并发给他们农具，让其耕田种地。
    汉灵帝中平三年（186年），江夏兵赵慈反叛，杀南阳太守秦颉，攻浸六县。朝廷任命羊续为南阳太守，剿灭赵慈。羊续进入南阳境内，首先了解情况，熟悉地形，在吃透情况以后，发兵与荆州刺史王敏共击赵慈，斩赵慈与叛军五千余人，属县余贼都向羊续投降了。叛贼平定，百姓欢服。
    羊续是历史上有名的清官，据《后汉书•羊续传》记载，当时，南阳的权贵豪绅多好讲排场，比阔气，羊续对此深恶痛绝。他常穿戴朴素，车马简单。为了能让羊续吃得好一点，府丞曾给羊续送些鱼。羊续本不愿意接收，但念及同撩，又不好当面拒绝，于是他便把鱼悬挂在庭堂之上，以示警告。后府丞又从后门送去，羊续则指示前庭所悬之鱼，以杜绝他们的行为。于是，历史上便有“羊续悬鱼”的典故，用来比喻为官清廉。宋代诗人徐积有诗称赞道：“爱士主人新置榻，清身太守旧悬鱼。”羊续的妻子和儿子羊秘前来南阳郡府看望羊续，羊续却闭门不让入内，住许日，妻子和儿子将要返回，看看羊续的资藏，仅有些常穿的布衣、短裤和日常食用的盐、粮而已。羊续告诉其子羊秘说：吾自有奉禄这些，哪有什么东西给你和你娘呢？于是就打发羊秘和他娘回山东老家去了。
    中平六年（180年）汉灵帝想提拔羊续任太尉。太尉是掌管国家军队的大臣，位列三公。按当时的规矩，拜三公者，要向东园（官署名）送礼钱万千。朝廷派“左驺”（骑士，这里指使者）前往征取，只见羊续在一顶单席上，手中举着自己的破袍子，说：“臣之所资，唯斯而已。”被派来的使者回去向朝汇报了羊续的情况，以此故不登公位。“帝不悦”，被任命为太常，没及赴任，病而卒，时年48岁。据相关史料记载，羊续与曹操权臣司马氏家族关系密切。进入晋朝，羊氏家族与司马氏家族关系甚密，与此有很大关系。
    羊衜（daò）, 三国魏上党（位于今山西和顺、榆社等县以南，沁河以东其地甚高，古有与天为党这之说，故名。）太守。有子发、承、祜，女儿羊徽瑜。
    羊祜（221-278），字淑子，西晋大臣，羊衜之子。有异母兄羊发，同母兄羊承和姐姐羊徽瑜，羊承早丧，羊徽瑜嫁于司马师为妻，后封为景献皇后。
羊祜早年丧父，青年时博学多才，以能文著称，身材魁梧，眉目清秀。曹魏末年，被文帝召见并封为大将军，另被拜为中部侍郎，后曾任关中侯、秘书监、相国从事中郎、中领军悉统宿卫等职，参与司马昭机密。
    晋武帝司马炎代魏后，因羊祜辅佐有功，被授为中军将军、加散骑常侍。泰始五年(公元269年),晋武帝与他策划灭吴,以尚书左仆射、都督荆州诸军事职,坐镇襄阳。在襄阳十年，他广泛开设乡村学校，治理地方秩序，并开屯田，储军粮，为灭吴作了充分准备。他针对当时“军无百日之粮”的窘况，号召士兵屯田开荒八百余亩，几年之内积存了供十年用的军粮，既减轻了人民的负担，又充实了军用物资。他开设学馆，重视教化，关心民众，“甚得江汉民众之心。”他常身着便服，带少数随从，了解下情，与士兵共甘苦，深得士兵爱戴。羊祜对东吴官吏实行安抚政策，对来降吴人予以奖励，并来去自便。有一次，部下抓了两个牧童作为俘虏献了上来，羊祜了解到情况以后，派专人把两个牧童送到吴地父母处，牧童全家感激涕零，到处称颂羊祜恩德。在两军交战中，吴将邓香侵犯夏口，被活捉。羊祜开导一番后就把他放了回去，不久，邓香率部来降。吴将陈尚、韩景较顽固，屡犯边境，羊祜令部下追斩之，然后又厚礼殡葬，陈、韩子弟来迎丧，羊祜以礼相待。为此，羊祜德声大振，吴国官兵为之悦服，就连与羊祜在边境对峙的吴国将帅陆抗也说：“祜之德量，虽乐毅、诸葛孔明不能过也。”后来与陆抗互通使节，各保分界，于是边界进一步得到安宁。
    到了咸宁二年（276年），伐吴条件已具备，而且吴将陆抗已病逝。羊祜上疏说：“吴主荒淫无道，又非常残暴，已失去民心，趁此攻打吴国，吴纵有长江作天险也无济于事，灭吴统一就在眼前了。”但因秦、凉二州的少数民族叛乱，把此事耽搁了。评定叛乱再上疏伐吴时，因朝中多数权巨的反对，又不能实现。羊祜长叹说：“天下不如意，恒十居七八，故有当断不断，天与不取，岂非更事者恨于后时哉！”其后，晋武因羊祜功大，以泰山郡南武阳、牟、南城、梁父、平阳五县为南城郡，封羊祜为南城侯。南城郡郡治南城（今山东费县），这便是一些人误认羊祜为费县人的原因。南城侯设置相，与郡公等同，官高爵显，但羊祜固辞不受。史称：“祜每被登进，常守冲退，至心素著，故特见申于公列之外。是以名德远播，朝野县瞻，缙绅佥议，当居台铺。”因晋武帝“方有兼并之志，使祜以东南之任，”也就答应了羊祜的请求。二年后羊祜病倒，回到洛阳，仍向晋武帝面陈灭吴之计，武帝怕他劳累，让他坐车上殿，并免去朝见之礼，羊祜重申了伐吴谋划，他说：“今主上有禅让之美，而功德未著，吴人虐政已甚，可不战而克……如舍之，若孙皓不幸而没，吴人更立令主，虽百万之众，长江未可越也！”晋武帝听了很是高兴，并令羊祜带病领兵出征，羊祜奏称：“取吴不必臣自行，但既平之后，当劳圣虑耳。”公元278年，羊祜患病加重，他推荐很有军事才干的杜预接替自己，不久过世。武帝听到这一噩耗，“素服哭之，甚哀。是日大寒，帝涕泪沾须鬓，皆为冰焉。”消息传到荆州一带，“莫不号恸、罢市、巷哭者声相接”。“吴守边将士亦为之泣。”（《资治通鉴•晋纪》）
    祜临终前，对子女所嘱二件事：一嘱咐亲人不得将它的官印入柩；二不得修陵寝，只求和他的父母葬在一起。羊祜死后，堂弟羊琇按其意愿要葬于故里祖墓之侧。晋武帝念其功高，且赐给离城十里外近陵葬地一顷，追赠侍中、太傅。因此，羊祜归葬新泰故里的遗愿没有实现。
    羊祜死后二年，杜预按羊祜生前的军事部署一举灭吴，完成了祖国统一大业，当满朝文武欢聚庆贺的时候，武帝手举酒杯，流着眼泪说：“此羊太傅之功也！”。唐朝著名诗人孟浩然在《与诸子登岘山》诗中，对这位杰出的政治家、军事家进行了热情赞颂：

人事有代谢，往来成古今。
江山留胜迹，我辈复登临。
水落鱼梁浅，天寒梦泽深。
羊公碑尚在，读罢泪沾襟。
   

    毛泽东在晚年也曾多次调阅《晋书•羊祜传》，并在书封写下题记，对羊祜也有过高度的评价（《毛泽东读文史古籍批语集》165页），显示了这位中国一代伟人对羊祜的关注。
    羊祜一生虽身居高位，但立身清俭，他的不朽业绩和高尚品格永远受到世人传颂。羊祜在镇守襄阳期间，常登岗山，因此，他死后，人们在这里建庙立碑，以示纪念。望其碑者无不流泪，因此，人们把羊祜的碑称之为“堕泪碑”或“羊碑”。“ 羊碑”一词至今仍为“官吏有德政者”的美称。羊祜著有《老子传》，已散佚。
    《晋书•羊祜传》记载，羊祜“位至公而无子”。帝以祜兄子暨为嗣，暨以父没，不得为人后。帝又令暨弟伊为祜后，又不奉诏。帝怒，并收免之。太康二年（281年），以伊弟篇为钜平侯，奉祜嗣。羊篇历官清慎，位至散骑常侍。
    四、转辗至淮安，落籍在汝南
    汝南是羊氏的重要聚居地之一。据汝南《羊氏族谱》记载，“汝南羊氏，肇自典午都督荆州诸军事”。他们自称是西晋名将羊祜之后：“羊叔子（羊祜）当时岘山堕泪，实得民心乎。今日缓带轻裘，犹脍炙夫人口中。历六朝，亦越三唐至五代迄宋元，千三百有余岁，而子孙绳绳递推。遽嬗其所以隶，籍山阳者，大抵西晋之世，中原半为胡虏，元帝迁建康地接淮安，山阳淮属也。叔子以晋之世，臣扈从罔后，于是子孙家焉，此山阳籍贯所由来。大明初，洪武迁民，始分支于汝。”汝的羊氏这段族谱，记载了四个问题：其一，汝南羊氏是西晋名将羊祜的后代；其二，西晋时，羊祜定居淮安山阳之地；其三，汝南羊氏是明洪武年间迁居汝南的。“汝郡西南柳塘村，羊氏之故庄也。”今属汝南县三里店乡。其四，汝南羊氏的源流轨迹应为：山东泰山—河南南阳—江苏淮安—河南汝南。
    据汝南《羊氏族谱》载，汝南羊氏始迁祖名羊喜，“明洪武初自江南山阳县迁汝，子孙家焉，是为汝南羊氏之始祖，卒葬郡西南刘屯西官路东偏有处士羊公墓碑。”羊喜有子羊友，羊友有子羊文庆，文庆有子羊杰。羊杰便是汝南羊氏兴盛的开始。
    据《羊氏族谱》、等史料记载，汝南羊氏崛起，是在明代中期。“始祖忠厚传家，诗书启后。越三世，遂发祥于我祖文林郎南溪公。”文林郎南溪公即指羊杰。汝南羊氏望族自羊杰始，延续数代，人才辈出，其主要代表人物有：
羊杰，是羊氏徙居汝南的单使第四代人。据《汝宁府志》，《汝阳县志》，《羊氏族谱》记载：羊杰字士英，晋叔子裔也。领嘉靖甲午科乡荐，和厚易直，诚实渊深，日习古文子史，独得要义，不屑章名。累上春官不第，授山西榆次社令。调陕西府谷，恤寡赈乏，兴学课士，边鄙顿晓礼义。有上舍某，骄纵不法，包侵宫事，杰怒而杖之，士庶咸服，祠祀焉。寻迁鹿州（今富县），以疾致仕归家居。囊无金帛，清淡自甘，市宅田园应受之祖父者，悉让诸家人。隐居城南柳塘村，率诸子讲《性理》、《大学衍义》不辍，尤潜心《参同契》、《内照经》诸书。晚号南溪先生。因其子羊可立位显，被荫封为“文林郎。”卒年七十八岁，祀乡贤。羊杰有五个儿子，依次为可立，太常卿；可久，知县；可由，中书；可爱，教谕；可仕，儒生。
    羊可立，字子豫，号崧原，明汝阳城南15里角羊村人。羊可立自幼奇颖多才，有志好学，崇尚节操。隆庆四年（1570年）中举，万历五年（1577年）中进士。初授官山西安邑（今山西运城）县令。莅任深入乡村，察访土地不实、严重拖欠赋税的成因，报请朝廷重新普查和丈量土地。逐户核实赋税数额，刻牌树石，公布于众，防止奸猾之人弄虚作弊。不到半年差赋得均，偷漏税赋的现象得以制止。一年之余，就将该地以往所欠赋税全部交纳无遗。周围州县也都效仿羊可立的做法，拖欠财税旧弊得除。朝廷嘉奖他治理有方，所以擢升他为云南道监察御史。在任，他伙同御史李植，江东弹劾大明首辅张居正。羊可立弹劾张居正的主要事实是：以私人恩怨构陷辽王朱宪火节，致使朱宪火节被取销藩号，废为庶人。据中央电视台《百家讲坛》播出的《风雨张居正》讲述，当时揭发事实的还有：张居正抄没辽王府的金银财宝都据为己有；张居正把辽王府改为本人在荆州城内的办公场所等等。万历皇帝闻奏后十分恼火，遂派刑部侍郎邱授籍没其家，夺其封号，家亲均被夺官发配。为此，万历皇帝称赞羊可立“摘发大奸，功著京堂，”并御书“尽忠言事”字轴，赐他，复书名“御屏，”嘉其鲠直。万历十二年（1584年），羊可立按察两淮盐政，制定《盐法条例》，使盐政事务有章可循，擢尚宝司卿，寻升太常寺卿。后又弹劾申相等。因其弹劾无所畏忌，为权贵的所恨，于是便有人“乘间谋中之”。迁大理寺评事。后有同乡吏部尚书赵贤及吴中行等人告戒他要“求远自全”。遂出为天雄（今河北大名）府推官，再移瑞阳（今属浙江）县尉、山东佥事。任间多次向朝廷乞请辞官归里，不允。万历二十三年（1595年），诏起为辽阳经略。圣谕下达时，羊可立正卧床不起，未及上任便去世。汝南人崇尚其忠鲠德行，祀入乡贤祠。著有《濯缨亭传》、《台中三疏》、《筠州清卷》、《晚香堂清卷》、《瑞阳日记》、《羊氏家谱》等。有子一中、二实、三桂、其中一中为万历乙未科举人，早逝未嗣。
    羊璘，字长玉，羊可立弟三子三桂之子。《汝阳县志》载，璘少为县学生，工读古文、词及书法。屡试不第,磊落潇洒，有晋人风致。常与弟羊琦游宦四方。父三桂年垂耄耋，璘依依膝下，不敢远游，蔬水承欢，温情备至。年七十余岁终。所著有《苣叟清集》六卷，县志若干卷。
    羊琦，字群玉，可立孙，羊璘之弟。《汝阳县志》载，羊琦少嗜学，试辄高等。值城陷后，困苦流离，衣食往往匮乏，执一卷詀哗不休，时人多非笑之，琦不以介意。顺治戊子（1648年）乡试与已丑（1649年）科连捷，中进士。初仕归德府教授。以《瞿唐制义法》教士，士多掇巍科焉。擢国学助教。今上（当时的皇上）临雍，赐银牌彩缎。入围取土，所拔皆一时名宿。擢吏部主事，出为井陉佥事，兼管三关兵马。每岁余饷若干，琦却不受。以年老致仕，父老攀辕远送，皆为泣下。归里数年，七十三岁卒。