约翰·瑞伯出生于德国汉堡。早年做过学徒。30年代就职于西门子中国分公司南京办事处,负责出售电话和电子设备给中国政府。当时,他还担任纳粹党在南京的领导人。
1937年11月,日军进逼南京。瑞伯和一些西方慈善机构、学者、医生、商人在城中设立了一个中立区向难民提供食物、衣服和蔽难所,他出任这个安全区的总负责人。他们最初的目的只是为了在中国军队撤离及日军进驻这样一个混乱时期给难民提供一个收容所。
但是当日本鬼子开始在城中进行一场血腥屠杀时,这个机构决定把中立区再延长几个月。在从1937年12月开始的6至8周里,日寇共杀害了约20至30万南京百姓,强奸了2至8万妇女,并且毁灭了1/3以上的城市。约有10万难民涌入这个只有2平方英里大小的中立地带。
中立区的管理者们在日军刺刀、枪炮的威胁甚至肉体侵犯下,尽着他们最大的努力来制止继续着的杀戮和奸淫。他们夜以继日的工作,提供食物给难民,护理受伤的士兵和百姓。在此期间,瑞伯写下了长达260页的描述日军暴行的日记。
1938年2月,瑞伯回到德国向当时的纳粹政府报告了日军的暴行。他在柏林演讲,向听众展示照片、日记和在南京拍摄的纪录片。但当这些报告被送到希特勒那里以后,瑞伯随即被捕,并受到盖世太保的审讯。后来纳粹当局把日记还给了他,但是没收了那部纪录片。他们还禁止他继续演讲和作书。
战争结束后,因为过去和纳粹党的关系,瑞伯马上遭到了起诉。虽然最后证明他无罪,但长期的审判剥夺了他的健康,耗尽了他的所有积蓄。当时由于食物短缺,他患上了营养不良症及皮肤疾病。1950年,他死于中风。
几十年来,他的那些手稿由他的孙女保存下来。现在它们的复印件已存于中国南京大屠杀博物馆。
华裔女作家埃丽丝·张在她的新著《Rapeof NanJing》中,把约翰·瑞伯称之为中国的辛德勒。