一九九四年，年轻的张琳开始在北京市海淀业余体校接受系统的游泳训练，当时指导她的教练是李小娜。经过数年的刻苦练习与积累，张琳的游泳才能逐渐显现，并于一九九九年顺利进入北京游泳队下属的第二体校，在那里她得到了教练王卓龙的悉心指导。进入新千年后的二〇〇〇年，陈映红教练在考察北京游泳二队训练情况时，注意到了张琳所展现出的潜质与努力，随后正式将她选拔进入北京游泳队，这成为张琳运动生涯中的一个重要转折点。自此，张琳在更高水平的训练环境中继续成长，为其日后在泳坛取得优异成绩奠定了坚实的基础。
2002年，年轻的张琳凭借出色的天赋与潜力入选国家游泳队，开始跟随著名教练陈映红进行系统训练。次年，他在第十届世界游泳锦标赛的男子800米自由泳项目中初露锋芒，取得了第八名的成绩。2004年雅典奥运会，张琳再度出战男子800米自由泳并成功闯入决赛，积累了宝贵的大赛经验。2005年7月，于蒙特利尔举行的游泳世锦赛上，张琳在男子200米自由泳半决赛中游出1分48秒05的优异成绩，一举打破了由日本选手长期保持的亚洲纪录；随后在1500米自由泳比赛中，他以15分09秒79获得第六名，同时刷新了由于诚保持了三年之久的全国纪录。同年10月，在第十届全国运动会上，张琳以3分51秒32的成绩夺得男子400米自由泳冠军，展现出在中长距离项目上的全面实力。 进入2006年，张琳在8月举行的泛太平洋游泳锦标赛男子200米自由泳比赛中收获一枚铜牌，进一步巩固了国际赛场的竞争力。2007年3月，墨尔本世锦赛男子200米自由泳决赛中，张琳以1分47秒53再次刷新全国纪录，最终位列第六。为了提升训练水平，同年年末他远赴澳大利亚进行了为期三个月的专项培训，并师从知名教练丹尼斯。2008年2月，在中国游泳公开赛上，张琳先是在男子200米自由泳决赛中获得第三名，随后在1500米自由泳项目中以15分05秒57夺冠。4月于绍兴举办的全国游泳冠军赛中，他在男子400米自由泳游出3分44.97秒，创造了新的全国纪录，这也是他在五个月内第三次改写该项目的全国纪录；同时在1500米自由泳比赛中，他以14分55秒9再度打破全国纪录并夺冠。8月北京奥运会，张琳在男子400米自由泳决赛中以3分42秒44摘得银牌，实现了历史性突破，成为中国首位在奥运会游泳项目上获得奖牌的男运动员。 2009年2月，张琳在日本短池游泳公开赛男子200米自由泳中以1分43秒04夺冠并打破赛会纪录。7月的罗马游泳世锦赛成为其运动生涯的高光时刻：在男子400米自由泳决赛中，他以3分41秒35获得铜牌；随后在男子800米自由泳决赛中，他以7分32秒12的惊人成绩夺冠，不仅打破了澳大利亚名将哈克特于2005年创造的世界纪录，也成为中国游泳史上第一位男子项目世界冠军；此外他还在1500米自由泳中获得第五名。10月第十一届全国运动会上，张琳表现依然抢眼，先后夺得男子400米自由泳冠军、男子4×100米自由泳接力冠军并打破亚洲纪录、男子200米自由泳冠军，并在1500米自由泳中收获铜牌。12月第五届东亚运动会上，他带领男子4x200米自由泳接力队获得银牌，个人也在200米自由泳中再添一枚铜牌。 2010年1月，张琳凭借上一年的卓越表现，先后荣获2009年CCTV体坛风云人物最佳男运动员奖与新浪网络盛典年度突破运动员奖。4月的全国游泳冠军赛，他在男子200米自由泳决赛中后来居上，以1分47秒54夺冠，并在400米自由泳与1500米自由泳中双双摘金。8月泛太平洋游泳锦标赛，他再获男子400米自由泳铜牌。11月广州亚运会，张琳作为首棒助力中国队夺得男子4×200米自由泳接力金牌，并在1500米自由泳中获得铜牌。2011年7月上海世锦赛，他随中国队在男子4x200米自由泳接力中力压多支强队，收获一枚铜牌。2012年5月，他在全国青年游泳锦标赛男子200米自由泳中夺冠。然而2013年4月，张琳在全国游泳冠军赛暨全运会选拔赛男子200米自由泳预赛中失利，未能进入半决赛。全运会结束后，他选择暂别赛场，前往国外游学，其活跃的运动生涯至此告一段落。
二零零九年八月，在北京隆重举办的“纪念北京奥运会成功举办一周年音乐会”上，游泳运动员张琳与知名歌手刘媛媛同台合作，共同献唱了歌曲《国家》。此后，他的身影也活跃于多个不同的领域。二零二零年七月，张琳受邀参与了腾讯视频推出的体育竞技类节目《超新星运动会》，并在其中担任了教练团的重要成员，以其专业的运动背景为节目增添了独特的视角。更早之前，在二零一零年十月，张琳曾荣幸地被选为广州亚运会的首棒火炬手，在万众瞩目之下完成了火炬传递的光荣任务。时间来到二零二一年十二月十四日，张琳通过其个人社交主页向公众分享了一个喜讯，他正式宣布自己已向女友薛晨求婚，并且成功获得了对方的应允，开启了人生新的篇章。
张琳虽然并非菲尔普斯那样的世界泳坛传奇人物，但他无疑是中国男子游泳领域的刘翔式人物，是中国男子游泳一面鲜明的旗帜。他凭借自身的实力与表现，让中国男子游泳在世界泳坛拥有了一个真正具备代表性的形象代言人。2009年世锦赛上张琳所实现的历史性突破，不仅是他个人生涯的巅峰，更象征着中国体育事业正朝着更深层次、更广范围、更高水平的方向持续迈进。张琳的技术动作细腻而规范，划水效率尤为出色，他的比赛过程堪称自由泳选手学习与借鉴的生动教科书。在中国男子游泳队中，张琳曾与吴鹏、赖忠坚一同被称作“三大天王”，而他因外形特点也被许多泳迷亲切地称为“无眉大侠”。正是在2009年世界游泳锦标赛上，张琳勇夺男子800米自由泳金牌，这一胜利彻底终结了中国游泳长期缺乏男子项目世界冠军的尴尬局面。这枚金牌对张琳个人以及整个中国游泳事业而言，都具有极其重要且深远的意义，其中既包含现实的荣誉与激励，也蕴含着对游泳项目未来发展的强劲推动力。可以说，这枚金牌的诞生，不仅让张琳的运动生涯焕发出新的光彩，也使中国游泳整体面貌变得更加朝气蓬勃、充满自信。