上海大学于1994年5月由上海工业大学、上海科技大学、上海科技高等专科学校和原上海大学合并组建而成。
上海工业大学的前身上海工学院建立于1960年，1972年与上海机械学院合并，工学院院址为新上海机械学院总部，1979年两校分开，并经教育部同意，改名为上海工业大学；上海科技大学建立于1958年，由中国科学院华东分院负责筹建，时任校长是华东分院院长，各系系主任由相关学科领域的中科院在沪研究所所长兼任，学校与研究院、研究所关系十分密切；原上海大学建立于1983年，下设文学院、国际商学院、美术学院、工学院和法学院，这些学院的前身分别是复旦大学分校、合并的上海外国语大学分校与上海机械学院分校、上海美术高专、合并的华东师大分校和上海科大分校、上海法律高专；上海科技高等专科学校前身上海第二科技学校建立于1959年，1981年升格为高专。
在1994年四校合并时，江泽民总书记为新上海大学提写校名，李鹏总理为新上海大学题词：“发扬光荣传统，培育跨世纪人才”，李岚清副总理也为学校题了词：“自强不息，砺志改革，发挥联合优势，提高教学质量，为祖国培养更多的优秀人才”，题词含义深远。
在本世20年代，上海曾经有过一所上海大学，它建立于1922年，是中国共产党和国民党合作的产物，校长为国民党人于佑任，共产党人恽代英任总务长，瞿秋白任社会学系主任，还有不少中国共产党早期领导人和著名学者在该校任职任教。
1927年，以蒋介石为首的国民党右派发动反革命政变，强行关闭了该校。
该校学风严谨、革命气息浓厚，虽然建校历史很短，但却为中国人民的解放事业和民族振兴输送了一大批仁人志士，其中包括李鹏的父亲--革命烈士李硕勋、曾任国家主席的杨尚昆等。
在当时，就有“武有黄埔（军校），文有上大”的盛誉。
上海大学是国家“211工程”重点建设高校之一，是一所拥有理学、工学、文学、历史学、哲学、法学、经济学、管理学学科门类以及美术、影视艺术和数码艺术等学科的综合性大学。
现任校长是著名科学家、中科院院士钱伟长教授。
学校设有22个学院、1个校管系、1个体育教学部，61个学士学位专业、86个硕士学位学科点、14个工程硕士领域、1个MBA授权点、3个一级学科博士学位授权点、20个二级学科博士学位学科点和9个博士后科研流动工作站。
建有国家大学科技园和教育部重点学科2个、国家体育总局体育社会科学重点研究基地1个、科技部与上海市共建重点实验室培育基地1个、上海市“重中之重”学科1个、上海市重点学科3个、上海市教委第4期重点学科9个及上海市重点实验室3个。
上海大学坚持为上海的经济社会发展和文化建设服务，初步形成了研究教学型大学的办学格局，正在为最终建成国内一流的综合性研究型大学而努力。