常宝霆1929年生于北京，满族，他从记事起就与相声结下了不解之缘。那时候父亲和兄长常常在家里研究、排练相声段子，初谙人事的常宝霆耳濡目染，渐渐地便喜欢上了相声这门独特的表演艺术，且从喜欢到迷恋再到一点点模仿。常宝霆拥有得天独厚的条件，那就是他有可以作为老师的父亲和兄长，通过他们的言传身教，尤其是日常生活中的接触，本就很有悟性的常宝霆自然在相声这门艺术中日渐长进。他9岁就开始登台表演，有时候是与别人合说，有时是和父亲或兄长说对口相声、群口相声，很受观众的欢迎。这使得少年的常宝霆树立起了把毕生献给相声这门表演艺术的决心和信心。

　　在本世纪三四十年代的舞台上，大多没有安置麦克风，所以，对演员嗓音的要求很高。常宝霆为了锻炼自己，在父、兄的指导下苦练“嘴皮子上”的功夫。对一些需要大段独白的贯口相声尤下功力。比如《报菜名》、《地理图》、《八扇屏》、《开粥场》等等。辛勤的苦练，日常的实践，使得常宝霆的相声表演有了很大提高，并为他日后相声表演中干脆、明快的特点打下了基础。

　　但是真正影响了常宝霆的艺术道路，并使之表演水平有了一个质的飞跃的，还是从他十一二岁开始参加的北京启明茶社相声大会表演。启明茶社位于北京西单商场内，是由常宝霆的父亲常连安开办的，这里举行的相声大会汇聚了当时京城众多的相声表演名家。其中包括于俊波、刘德志、郭荣启、赵蔼如、吉评三、郭全宝、刘宝瑞，白全福等等以及常连安、常宝霖、常宝华、苏文茂……。当时相声大会的表演不分场次，众多演员轮番上台，表演的节目也不固定，这在一定程度上锻炼了演员的表演能力与适应能力。常宝霆在这个舞台上得到了充分的发挥与锻炼。当时与他配对合说的都是一些经验丰富的年长演员，如于俊波、赵蔼如、白全福等等，其中与白全福合作次数最多。白全福比常宝霆年长10岁，是北京天桥著名艺人“小云里飞”的儿子，他们的合作从这个时候开始，之后基本上未曾中断过，直到白全福于1993年去世，他们可谓之为“终身伴侣”了。

　　无疑，启明茶社相声大会上的表演与实践，对常宝霆形成自己日后的舞台表演风格起到了很大的作用。这一时期：是常宝霆艺术生涯的起步期与转折期。他博取众家之长，拜相声界前辈郭荣启先生为师，并从吉评三、于俊波等老一辈相声表演艺术家那里获得了许多指点和有益的启示，这对于初出茅庐的常宝霆无疑是有很大帮助的。在此基础上，常宝霆也拥有了一批属于自己的较为成熟的作品。

　　常宝霆爱好广泛，从少年时便喜欢运动，爱看电影、话剧、地方戏曲等等。这些兄弟艺术门类对常宝霆也产生了不同程度的影响。他还曾反串过一些其他曲种（如京剧、笑剧）中的角色，这对常宝霆日后的舞台表演也颇有帮助。

　　常宝霆从十六七岁开始渐渐成为一名“独立”相声演员。从这时候起，他已经不再只是兄长和父亲眼里的“小学生”，而成为一名与他们一样走南闯北、一样支撑台面的成熟演员了。那时常宝霆与白全福常常奔波于京津两地参加演出。在天津的“大观园”、“燕乐”、“小梨园”等剧场，他们与骆玉笙、金万昌、白云鹏等著名演员同台演出。当时类似这样的曲艺表演专场被称为“十样杂耍儿”，常宝霆的相声往往被安排在倒数一二位作“压轴”演出，由此可见当时常宝霆所表演的相声已深得群众的欢迎。

　　1949年天津解放，虽然当年常宝霆只有20岁，但是他却深刻地感觉到：这次解放不仅是社会意义上的解放，也是他在艺术生命中的解放。作为一名成长于旧制度下的民间艺人，常宝霆深知当艺人的不易与社会安全的可贵。

　　新中国的建立不仅给普通民众，也给像常宝霆这样的艺人带来了生机。1950年，常宝霆回到北京，随即参加了由北京市军管会（北京市委的前身）举办的北京文艺界学习班。之后，他与侯宝林、罗荣寿、孙玉奎等相声名家共同发起成立了“相声改进小组”，常宝霆任副组长。专门从事对传统相声段子的整理、改编以及对新段子的创作工作。在这期间，常宝霆演出的相声段于有《假博士》、《不离婚》、《婚姻与迷信》、《乱形容》等等，并在文艺干部的指导下，排演了一些解放区“小戏”。1951年，常宝霆应邀来到天津，并从此在天津定居，至今。