在协约国的压力下于1917年对德国宣战，但是这段时间拉贝仍然留在北京。他很有策略地让中国官员相信，战争期间继续由他来经营西门子驻北京代表处不仅符合他们自己的利益，而且也符合中国的利益。在中国，要做到这一点并非不可能。
但是在1919年，中国在英国的压力下，将拉贝和其他德国人遣返回国。当时在中国，人们是不希望看见来自德国的竞争对手的。仅仅过了一年，拉贝又上路了，他途经日本，回到了中国，为西门子驻北京代表处重振旗鼓，不过这一次他以一家名义上的中国公司作掩护开展业务，直至西门子洋行（中国）总部在上海获准正式开张。开始的时候他在北京和天津工作。从1931年起，他担任西门子驻南京办事处经理，那时南京已经是中国的首都了。1938年3月，西门子洋行将拉贝召回，把他调到西门子在柏林厂家的管理部门工作，自那以后再也没有对他委以重任。拉贝65岁退休，两年后去世，那是1950年1月5日。
如果约翰·拉贝没有在半年的时间中，一边兼顾洋行的日常业务，一边将个人的安危置之度外去拯救25万中国人，那么以上介绍的生平就是一个普通海外商人的生平，没有什么不同凡响，也没有什么惊天动地之处。
南京市把约翰·拉贝先生看作是仁爱的典范，将他的墓碑安置在城市的一个纪念馆里。（译注：指侵华日军南京大屠杀遇难同胞纪念馆。1997年5月，拉贝的墓碑由柏林运往这里）
谁要是以为中国没有仁，那就大错特错了。
弟子樊迟问他的老师孔子：“何谓仁？”“爱人。”孔子答曰。
孔子哲学的道德伦理核心就是仁，因此他一再反复提及这个概念。就对人的要求而言，孔子所教导的，以及中国人民2500年来所领悟的，至今仍有现实意义。
约翰·拉贝是一个质朴的人，只要能做一个正派的汉堡商人他就已经心满意足了。他乐于助人，谦逊可亲，充满理智，恢谐幽默。这后一点尤其体现在艰难困苦的时期，他总有办法让自己心平气和地与别人达成共识。他从不高高在上，而是相处随和。如果他有什么不满要记在日记里，他总是会在后面加上“其他人也同样如此”或“别人比我条件还差”等诸如此类的句子。他在日记中提到的经常是一些身处困境中的人，他是如何努力去帮助他们的。他把帮助危难中的人看作是自己的职责，这也是他和周围的人的不同之处。
拉贝在中国有很多朋友，其中有德国朋友，也有外国朋友。他能说一口纯正的英语，这一点我们已经知道了；不过他要写起法语来也是无懈可击的。他写了很多书，大部分是关于他在中国的生活，书中还配上了照片和别致的幽默画。他的书大多是纯个人的记录，从未发表过，虽然只是手稿，却装订成册。对中国的艺术，他谈不上精通，可也略知一二。他在文学、音乐和科学研究领域没有专长，但是念上几首感伤诗却能使他泪流满面。他心肠软，但却不外露。他是一个实干家，处理所有的实际工作都非常得心应手。他对政治的兴趣平平，可以讲，他只对与中国、德国对华贸易和德国的亚洲政策有关的政治有些兴趣。他是一个爱国主义者，在很长一段时间内一直以为希特勒是要和平的。1934年，他在南京建起了一所德国学校，当然不是为了自己的孩子上学，他的女儿那时已经完成了学业，儿子在德国南部的一所寄宿学校念书。作为这所德国学校理事会的理事长，他必须得到帝国当局和德国国家社会主义工人党的批准，申请教师和教学经费，为此他于1934年加入了国社党。
他质朴忠厚，富于理性，幽默风趣，平易近人，广受称誉，却从不招摇；他以仁爱之心待人，以仁爱之心待中国人，置个人安危于不顾，救他人于水深火热之中；他日夜操劳奔波，不仅随时随地帮助别人，在救助过程中同时还能审时度势地处理政治事务，表现出高超的组织才能和得体的外交手腕；他同美国朋友密切合作，经常是冒着生命危险，为处在日本占领军下的25万中国人提供相对安全的保护。在当时那样的情况下，拉贝竟然还能安排出时间来记日记，简直不可思议。
他的朋友对他交口称赞，中国人把他奉为圣人，就连遭到他不断抵制的日本人也对他敬重三分。尽管如此，他仍然保留了自己以往的谦逊品质。但要是路遇不平，他的和蔼与温和就会消失得无影无踪，他就会勃然大怒。他曾不容抗辩地用德语痛斥企图强奸妇女的日本士兵，把卐袖标举到日本兵的眼前，揪住他，把他扔出院子。听说他在家里也一直保持自己家长的权威形象。
他虽然谦逊，但有时也会表现出一点儿虚荣心，例如身着燕尾服，胸别各种奖章，在柏林名摄影师的镜头前摆姿势弄表情。这一点还表现在《远东新闻报》的编辑把拉贝自鸣得意的幽默话语删掉的时候。
拉贝1908年离开德国的时候，还是威廉二世皇帝统治时期。1919年他短期回国，此时德意志帝国已处在共和国时期，但动荡的局势还没有平定下来。在汉堡，他看见一个人被暴徒殴打倒地，他的性格驱使他上前把那人扶了起来，结果他也遭到了殴打。
在柏林，西门子工人上街罢工的时候，他看见街上架起了机关枪，于是从那时起他开始记日记，久而久之这成了他的一个嗜好。但是他的夫人并不怎么欣赏这个嗜好，因为下班回家后，家里人常常会因为他记日记而和他说不上几句话。从他的日记里我们经常可以发现他有一种忧虑，担心在动乱的年代日记可能会丢失。对他来讲日记是一笔珍贵的财富，里面记录了他的时光和他的生命。
对在柏林的岁月，他是这样记录的：
接着发生了暴乱。我对家乡的政治局势一无所知，因此也就看不出个所以然。后来我才明白，当时德国的实际情况比我自己感觉的要糟糕得多。我的左边是施泰因广场音乐厅，里面是帝国国防军；我的右边是乌兰德大街的跑马场，里面驻扎的是共产党人。到了晚上，双方交火对射，我只好和家人从卧室跑出来，在走廊上过夜。柏林的日子很不舒服，那一段时间正好是总罢工，技术救援组织到处出动，填不饱肚子的女大学生沦为娼妓，歌剧演唱家图几个施舍任人包唱，投机商囤积居奇造成商品短缺，买荤油要凭票，西门子内部甚至还有专买皮靴后跟的票券。我是该领的票都领了。布伦德尔是我西门子的同事，也是我的朋友，他有一次告诉我，西门子城里有个地方可以买到各种豆子，价格便宜。我买了两大袋豌豆想带回家，但偏巧赶上下雨，一路上又没有有轨电车，慢慢地袋子被雨泡软了。结果到家的时候，豌豆只剩下了一半。我是一点也不适合于在柏林生活！
在电车上，一个姑娘饿昏过去了，我把我的食物分给了她一部分。在那个人人日子都不好过的困难时期，还有一件事情在我的脑海里一直记忆犹新，西门子在上海办事处的会计布朗先生回国休假，邀请我和布伦德尔，还有其他几个朋友一块儿去波茨坦广场旁边的普绍酒馆喝杯啤酒，就酒吃的是他从老家巴伐利亚带来的小吃——白面包、香肠和黄油。当时在旁边有一个8岁左右的小姑娘，用围裙捧着火柴，每盒要一个马克。我们酒足饭饱之后，布朗把剩下来的食物全部送给了这个小姑娘。小姑娘突然大声哭了起来，将围裙里的火柴全部抛撤在地上，如获至宝似的捧着食物奔向正在门口等候的母亲。我们的啤酒顿时索然无味了。
当我得到消息，可以重新回到中国发挥我原有的作用时，我不禁轻舒了一口气，我想别人不会为此而责怪我吧。
此行到中国，拉贝一待就是20年，中间只有两次回国，第一次是在20年代，另一次是在1930年，这一次回国是为了治疗感染引起的疾病。这次回到中国他被任命为西门子驻中国新定首都南京的办事处负责人。在这之后他再次看到德国是1938年3月，西门子洋行召他回国，把他送回了家。
南京从1927年起成为中国首都，1937年时，约有130万人口。西门子洋行在那里设置了电话系统，为发电厂安装了涡轮机，并为好几家医院提供了医疗设备，由西门子培训的中国专业技术工人负责设备的保养和维修。拉贝每天都能从中国的各部委得到向西门子订货的合同。
当时南京有一家德国饭店，天津著名的基斯林－巴德尔糕饼店也在那里开了一家分店，以大使特劳特曼为首的德国大使馆从北京迁到了南京，其他国家的大使馆也开始在南京忙于建馆。“远洋通讯社”从南京播发的是有关中国政治方面的报道，而与此同时上海则是中国的经济中心，这就像华盛顿和纽约之间的关系。
在南京实施统治的是最高统帅蒋介石，他的意愿是要给这个被拥有私家军的各路军阀弄得四分五裂的国家带来统一和现代化。当时还有一个割据的延安地区，毛泽东经过闻名于世的长征在那里建立了自己的根据地。
南京那时驻有大约30名～40名德国军事顾问，全是退役军官，有些人还带有家眷。蒋介石是从1927年开始把他们招聘到中国的，并和他们签有私人聘用合同。这些德国军事顾问的任务是把蒋介石的军队训练成精锐部队，既能和毛泽东的革命军队抗衡，也能抵抗日本军队。
1934年和1935年期间，这些顾问的总负责人是退休大将汉斯·封·泽克特，他曾经是魏玛共和国时期的陆军总司令。排在他后面的是亚历山大·封·法尔肯豪森将军。他们开始着手训练几个精锐师，正是这几支部队在1937年的秋天长时间地抵抗了强大的日本军队。
南京的德国军官在一般情况下不大和外界交往，最高统帅蒋介石专门建造了一个住宅区供他们居住，他们在那里的生活同德国军官俱乐部的生活没有什么两样，他们中的大部分人只签约几年，对中国、对这个国家的土地和人民及其文化与历史很少感兴趣，他们更多地谈论的是个人的履历、调任、军务和他们的战争经历。他们在政治上观点不一，来自不同的阵营，因此有时会发生纷争，封·泽克特只好为他们专门成立了一个名誉法庭。
在南京的外国商人，在中国常常一待就是好几年，对他们来讲回国返乡的道路是遥远而又漫长的。当时全中国只有一条航线，经营者是汉莎公司的子公司欧亚公司。当时中国和欧美之间没有直接的空中航班。要到德国，多半要先乘船从上海到热那亚，在那儿下船后转乘火车到德国，整个行程大约要4周～6周。如果走西伯利亚铁路大约只要10天～12天，尽管如此大部分人还是愿意乘船，这要比火车舒服得多。
1930年拉贝最后一次离开德国后，他的祖国都发生了哪些变化，他是很难想象的。关于希特勒的掌权、罗姆叛乱和德国政治气候的翻天覆地的变化，他全都只是通过报纸了解到的。他阅读的报纸有英国人在上海发行的《字林西报》，这是当时中国最像样最重要的英文报纸；他还订阅了也是在上海出版的德文小报《远东新闻报》，这家报纸基本上只转载官方的德国新闻社或远洋通讯社播发的消息，因此在内容上紧跟帝国宣传部的精神。
《远东新闻报》对德国、德国元首和德国党的报道是一片赞扬。不过即使是《字林西报》，除了有时态度有些傲慢外，总体上讲对德国及德国的政策还算是友好的。德国本土来的报纸到了南京的时候已经过去了两三个星期，没有什么意思了。这些报纸也只是报喜不报忧，例如经常报道的有“民族的崛起”，“从凡尔赛屈辱的束缚中解脱出来，不再偿付战争赔款”，“1918年战败后，德国要求和其他国家平起平坐，现在已经做到了这一点”等等。犹太人经常受到袭击，但是为什么会这样，云集在中国的各种民族、各种国籍的国际商业界对此并不明白。开始的时候德国报刊很少报道实际上已经在德国进行的反犹运动，《字林西报》对这方面也从不报道，国际新闻界当时在很长一段时间内普遍认为希特勒的反犹政策只是德国国内政策的一个令人不快的话题，外国不应对此指手划脚。
国际新闻界更感兴趣的是德国的外交政策和经济政策，以及德国的扩军；1938年后的忧虑所在主要是希特勒的政策会不会导致战争。30年代末期，越来越多的犹太人流亡上海，这个时候在中国才能了解到一些德国犹太人遭迫害的具体情况，人们开始对实际情况有了具体的了解。
约翰·拉贝在中国生活了近30年，他的家乡与其说是德国，不如说是中国。他属于那种富有传奇色彩的老中国通，说一口纯正的英语，但不会说中国话，和中国人交谈却用洋泾浜英语，他们能用中国人的思维方式进行思维，理解中国人，而且也欣赏和热爱中国人。这些中国通的商人们对中国有说不尽的奇闻轶事，道不完的经验感受，言不了的亲身经历。他们能形象地说出中国以及中国人的独特之处具体表现在什么地方。这些人如果回到对他们来讲已经变得十分陌生的家乡，他们反而会很难适应故土的生活。约翰·拉贝也是这样。
在南京的时候，他的一家人都十分好客。1936年秋，我在美国一所大学学成归国，途经日本和中国，囊中羞涩，却又想什么都看看，什么都了解了解。在山东省我看望了一位出色的德国人克里克尔先生，他久居此地。当时这个地区被逃兵盗匪闹得鸡犬不宁，强盗们还抢劫了上海快车，这个事件后来被拍成一部轰动一时的电影。克里克尔在这里负责经营一家中国公司的矿山，他在这家大型企业里给工人们开办了许多社会性机构，企业在他的领导下，变成了在德国都可以堪称模范的企业。他帮我写了一封介绍信给约翰·拉贝，告诉我，我可以住在拉贝家，拉贝会向我介绍许多有关中国的情况。
11月底的一天，一大清早，天刚蒙蒙亮，我乘坐的火车就到达了浦口火车站。我坐渡船过�