1905年开校时,谢菲尔德大学只有文、理、医、应用科学四所学院。1919年应用科学院分拆成工学院及冶金学院。除了正规大学教育外,大学在20世纪初亦提供职业导向课程予谢菲尔德市民,当中包括畜牧、铁路经济学、矿业及刀具研磨教学。现时谢大由50个学部及82所研究中心和研究所组成,合共五个学院和一个设于海外的国际学院。
文学及人文学院下设八个分科学院及学系,分别为考古学系(2021年关停)、英语学系、东亚研究、语言及文化学院、历史系、现代语言教育、音乐系及哲学系。学院另有三所研究所(人文研究所、圣经研究所和数位人文研究所)及16个研究中心。学院曾拥有英国首个共济会及兄弟会研究中心,惟因财政因素,中心于2010年关闭。
工学院由1880年代建立的技术学院发展而成,初时学院为钢业工人提供夜校及兼读制课程。1917年,因应第一次世界大战,大学在学院内设立电机电子工程、土木工程和机械工程学系,供伤残军人报读;课程内涵盖制造测规和弹药壳。现今工学院由航天工程、自动控制及系统工程、生物工程、土木及结构工程、计算机科学、电子与电机工程、材料科学工程,以及机械工程学系组成,共有超过6千7百名学生及一千名职员。逾九成学术研究在2014年英国大学官方评估(REF 2014)获评为四星(领先全球)或三星(卓越国际)。
医学、牙医及健康学院由四所分科学院组成,分别为医学院、临床牙医学院、健康科学院,及卫生研究学院(ScHARR)。谢菲尔德医学院邻近皇家哈伦医院,是谢大最古老的学院,在并合费尔斯学院和技术学院前独立运作。医学院的附属教学医院包括皇家哈伦医院、谢菲尔德儿童医院、北部综合医院、维士敦园医院和克里福牙科医院。学院是32所可合资格授予医学学位的英国医学总会(GMC)成员之一。
理学院共有七所属下学院及学系:动植物科学、生物医学科学、化学、数学与统计、分子生物和生物技术、物理和天文学、心理学系。谢菲尔德大学的六位诺贝尔奖得主皆出自理学院。
动植物科学系是全英最大的生物学系之一。生物学课程早于1884年已在费尔斯学院讲授。阿尔弗雷德·丹尼(Alfred Denny)在1888年获委任为学院的首位教授,亦是当时学院内唯一的生物学家。植物学家伯特伦·H·宾利在1896年加入学院。1908年,在大学创立三年后,生物学系分拆成动物学系和植物学系;1988年再重组成动植物科学系。大卫·H·刘易斯是动植物科学系的首位系主任。学系在1999年英国教学质量评估中获满分24分,并在REF 2014中评定为全英生物科学研究前五名。