公元1243年（淳祐三年），四川制置使兼知重庆府余玠，采纳播州（今贵州遵义）人冉琎、冉璞兄弟的建议，在钓鱼山筑城，屯兵积粮，抗击北侵的蒙古大军，并作为保卫重庆的屏障。
宋军经营钓鱼山多年，上面修建了完善的防御工事，还把合州的州治移到山上，相当于在山上的一个城市，有十多万四方逃难来的百姓居住。钓鱼山山上比较平坦，可以种粮食，还有饮水，具有一定的自给自足能力，另外宋军储备了充足的粮食，早就作了长期坚守的打算。
十三世纪，蒙古建国后横扫欧亚大陆，1258年，蒙哥、其弟忽必烈和大将兀良合台分三路大举进攻南宋。1259年他亲自率领军队出征，在攻打合州钓鱼城时，蒙哥军队猛攻五个多月，损失很多将士，但始终无法拿下这个小城。于是蒙哥亲自到前线率军突击攻城，被炮火飞石击中受伤，于农历七月二十七日死于缙云山下的北温泉。因此钓鱼城欧洲人称为“东方麦加城”、“上帝折鞭处”。
蒙哥死后﹐蒙古贵族在汗位继承上发生火并﹐在湖北前线的忽必烈匆忙和进攻潭州（今湖南长沙）的塔察儿，以及占领了大马士革，正在与埃及马木路克王朝军队作战的旭烈兀，为争夺汗位而匆忙回师，蒙古贵族集团即开始了长期的内部争战争夺汗位。钓鱼城抗蒙的胜利，扭转了局势，阻止蒙古向非洲扩张。
此后，钓鱼城在守将王坚、马千、张珏、王立的带领下坚持抗战，一直到1279年（南宋祥兴二年）正月，陆秀夫背着8岁的小皇帝宋幼主赵昺投海而死，南宋灭亡，守将王立开城降元，结束了钓鱼城36年抵抗历史。