1985年8月15日，为纪念抗日战争胜利40周年，南京市政府决定建设纪念馆，地点设在当年集中掩埋南京大屠杀死难者的13个场地之一——江东门。
1984年秋一个细雨的日子，在纪念馆筹备组同志的陪同下，齐康第一次来到这里。它北临茶亭街东街，面向恽代英烈士就义处(原国民党陆军监狱)，东南西三面皆为农田和农舍。场地为边长百余米的近似正方形，由北向南缓慢倾斜，由东向西变陡，高差三米。空旷的场地上，孤零零地立着一块纪念馆奠基石碑，旁边放着日本友人敬献的花圈，左侧是刚开挖的浅浅土坑，雨水冲去了表层的浮土，露出催人泪下的累累白骨。当地同志告诉齐康，在整个场地下，到处都是仅有薄土覆盖的白骨。悲愤的波澜激荡着齐康：“我仿佛看到在这覆土之下的无以计数、无以考证姓氏的死难同胞在挣扎，让前来凭吊的生者随之悲痛，为之控诉。”
齐康曾在一本书里回忆说：1984年秋，当我来到工地时，挖掘出的堆堆白骨刺得我眼睛发痛。儿时的回忆又浮现在我的脑海中。我们小的时候逃难，半夜里往外逃，跑到田埂里头，我现在的脚踝头上还有疤。我逃到外地去了，先是在乡下，后来逃到浙江天台。日本人每年的春天，都要对小小的县城进行轰炸。我们小的时候6点钟上课，8点钟放学，避开轰炸的时间。有一次日本人提前轰炸了，我没地方逃，就逃到家里头祖宗牌位佛龛的底下。轰炸的时候，我哥哥的一个老师没有逃走，大家回来的时候，发现地下都是血迹，他被弹片炸死了。
在齐康逃出后，南京城里发生了那场震惊世界的血腥大屠杀，他父亲当年也在南京，目睹了这场惨案，30万人变成了累累白骨，父亲的描述给他留下了深刻的印象。齐康的父亲是工程师，南京沦陷后，他冒着生命危险留守在南京，在国际红十字会的组织下到街头收集难民。3年后，齐康为了与父亲会合，登上了一条由浙江返回南京的日本轮船。每每回忆起这段刻骨铭心的遭遇，齐康都是情不能已：“在船上，亲眼看到日本兵用皮鞭抽打我们的同胞，我在船舱上看到一个中年妇女，皮鞭把汗衫都打破了，伤口里面都是红肿的。下船的时候，我跟我哥哥两个人，我才10岁吧，他比我大4岁，我们把小铺盖一个一个往下扔，扔了以后，找接我们的父亲，不停地喊‘爸爸、爸爸’，同时听到日本皮鞭的声音也是‘啪啪’的这种声音，所以我对日本人有一种深深的痛恨。”
四十多年前的这个耻辱的日子，那些惨痛的杀戮事件，30万惨死的南京同胞……民族责任感以及对日本帝国主义的痛恨，触发了齐康的创作激情。正是怀着这样一种特殊的情感，齐康主笔设计了遇难同胞纪念馆。
回忆当时的设计思路，齐康提到了一个小插曲：“当时的南京市长叫张耀华，我记得他在医院的时候，突然打个电话给我，他说齐康同志，有没有可能在这个场景上用红颜色，鲜血的颜色，刷上30万。他这个提议引起我的注意，也是得到他的一个启示吧，我用建筑的语言刻上中文、日文和英文，因为场地上不可能用血红的颜色写字，所以我就把它刻在了墙上。”
纪念墙镌刻着的醒目的中英日三国文字“遇难者300000”触目惊心，转过墙后，由上而下，俯览全景，所见是凄凉一片的卵石广场。卵石广场象征死亡，与田边的青草构成一种生与死的对比。沿着环绕的参观路线，布置了13块纪念石，每块代表一处在南京的掩埋地。纪念馆的正面刻着邓小平同志手书的“侵华日军南京大屠杀遇难同胞纪念馆”16个字。
鹅卵石地上，寸草不长，几棵纹丝不动的枯树后面是一座母亲的塑像，她悲痛无力地伸着手，找寻她失去的亲儿；在她后面，是半地下的遗骸陈列室，造型像一具巨大的棺椁，强烈的死亡气氛，得到了充分的渲染；而沿边的常青树和石砌小径，片片碧草，使人感到生气和生命，一种“野火烧不尽”的无限生命力和顽强不屈的斗争精神紧紧地扣住了“生”与“死”的主题。当人们走进如同墓穴的陈列馆，那一幅幅地狱般的画面让人震撼，仿佛感觉有撕裂人心的哭声在空间和时间中不断地回荡。
这是全国第一座抗战史系列的纪念馆，先后获得“中国八十年代十大优秀建筑设计奖”和“中国九十年代环境艺术设计十佳”等殊荣。
