1978年，经上海市高等教育局批准，上海师范学院（上海师范大学前身）被确立为硕士研究生培养单位，计算数学、现代汉语、古代史、理论物理、篮球5个专业首次招收硕士研究生19名，由此掀开了学校研究生教育的新篇章。1981年，学校被国务院学位委员会确立为全国首批硕士学位授予单位之一，教育心理学、中国古代文学、现代汉语、汉语文字学、世界文学、中国古代史、基础数学、计算数学等8个学科被批准为硕士学位授权点。1986年，现代汉语专业成为学校第一个博士学位授权点。1998年，学校成为全国第二批专业学位授予单位，开始招收教育硕士专业学位研究生。2014年5月10日，学校成立研究生院。

经过四十多年的努力探索，学校研究生教育从无到有、从小到大地发展，如今基本形成了多学科、多层次、多类型的研究生培养格局，共培养了1500余名博士、23000余名硕士，为上海乃至全国的各行各业输送了一大批高素质的专门人才。目前学校拥有一级学科博士点9个，一级学科硕士点32个（含博士点所属），专业学位硕士点18个。在校各类研究生总数达8910余人（含留学生），其中博士生840余人，学术学位硕士生4520余人，专业学位硕士生3540余人。

在国务院学位委员会和上海市学位办的指导下，在学校发展战略引领下，在所有师生共同努力下，学校研究生教育正呈现出一派蓬勃发展的大好势头，并取得了显著成就。学校采取积极措施，增加经费投入，合理配置办学资源，逐步改善办学条件。学校先后出台了博士生创新能力培养机制综合改革、硕士生培养质量监控体系改革、研究生创新能力培养模式改革、精品课程建设、导师培训、高端社会实践基地建设、境外研习基地建设、优秀学位论文培育、学位论文质量检测保障体系建设等一系列的政策措施，着力提升研究生培养质量。借助上海市高水平大学建设之机，学校正在大力推进一流研究生教育创新人才培育行动计划。

上海师范大学研究生院与研究生工作部合署办公，负责总体规划、统筹管理全校的学位与研究生教育工作。各院系和科研单位是实施研究生教育的主体机构。