吴祖基1915生，江苏南京市人。5岁读私塾，小时的成绩并不好，升入高小后，难度较大的四则应用题激起了他的学习兴趣。此后，学习成绩上升，常得满分。 1928年，吴祖基考入南京最好的中学—－南京中央大学实验学校。初中阶段，吴祖基迷上代数和英语，同时酷爱球类运动。因此，吴祖基的体格发育很好，学习成绩也名列前茅，获免试直升高中。这一时期，吴祖基的大代数老师周怀衡引人入胜的讲解使吴祖基对数学更加迷恋，常去书店找资料，沉迷于数学题海之中。高中阶段，吴祖基的德语很出色，外教来时常派吴祖基去迎接。为了节省时间，在高中时吴祖基制定好时间表，用于提高学习效率，又能保证睡眠。但因为太迷恋数学，吴祖基忽略了语文，所以考大学时就因作文成绩不合格而落第。经历了高考落第后，吴祖基醒悟过来，开始发愤苦读古文，练各种文体的写作。经过努力，吴祖基不但文笔流畅，而且写得一手好字。1936年，吴祖基以优秀的成绩考上浙江大学数学系。
1942年，吴祖基获硕士学位，师从苏步青教授。吴祖基是著名数学家苏步青培养出的“四大金刚”之一。 在抗日战争时期，著名数学家苏步青白天在夫子庙里办几何学的讨论班，小小的条桌旁只坐着四个学生——张素诚、白正国、吴祖基及熊全治。这四个人后来都成为有名的数学家：张素诚是中国科学院数学研究所研究员；白正国曾担任杭州大学数学系系主任，吴祖基后来是郑州大学数学系系主任；熊全治曾担任美国里海大学数学系系主任，是国际数学杂志《微分几何》的创办人。苏步青同他的“四大金刚”一起创立了中国古典微分几何学浙江大学学派。吴祖基毕业后，留在浙大数学系担任讲师。 1946年，吴祖基随浙江大学自贵州湄潭迁回杭州。
1947年秋，经陈省身教授推荐，吴祖基被清华大学数学系聘为专任讲师。解放后，吴祖基任清华大学工会组织部长。1950年晋升为副教授，还担任中国数学会主办的《数学通报》编辑。
1952年院调整，吴祖基被调到北京大学数学力学系。1958年，吴祖基由北大调至郑州大学，此后一直在郑州大学工作，曾担任数学系主任和中国数学会理事、河南省数学会副理事长、理事长。根据代数与几何密切的关系倡导高等代数与解析几何的互相渗透和有机结合，吴祖基在教学中做了不少的尝试，为浙江大学数学系的发展作出了很大的贡献。吴祖基能十分自如地驾驭所讲授的各门课程。他每次上课都写有详细讲稿，但在课堂上根本不看，有时只在兜里放一两张纸片，偶尔看—‘看，但讲起课来如行云流水，条理清晰。他很注重板书，边说边写，整整齐齐，每一个字、每一个符号，都经过深思熟虑。抄下他写的板书，就是一份完整的讲义。吴祖基在数学教育上，有着许多棺辟的见解，如他主张“一个数学”，强调数学各分支之间互相联系，数学教师不仅应在宽厚的基础上能触会页通地学好各门学科，而且也应有胜任讲授各门课程的能力，而他自己就是这方面的楷模。在数学的三大门类：分析、几何、代数中，他兼通分析、代数两大门类。他还一直强调学校应以教学为中心，要注意人才培养，提高教师的业务水平。他非常重视青年教师的培养，他还一直强调学校应以教学为中心，要注意人才培养，提高教师的业务水平。
郑州大学1956年建校后，在工科（土建系、机电系、水利系）和理科（物理系、化学系）开设了高等数学课程。在吴祖基的领导下，青年教师对微积分进行了认真的教学研究。根据当时师资力量薄弱的特点，以讨论班的形式学习菲赫金哥尔茨的“微积分学教程”，提高业务水平。同时建立了严格的管理制度。在历经了大跃进、经济困难时期后仍保持严格的教学要求。
吴祖基待人热诚、谦虚达人，从不与人争名利，生活俭朴，为人负责、自立、谦逊、助人，其高尚品德，堪为师表，深得人们的尊敬相称赞。吴祖基把毕生精力献给了教育事业教，献给了浙江大学，培养了无数优秀的学子。吴祖基其主要研究方向是微分几何和数学教育，他为中国的数学发展做出了很大贡献。