上海精武體育會是民間武術社團。1910年3月，因英國力士奧皮音在滬挑釁擺擂，有識人士北上邀請霍元甲來滬打擂，奧皮音懾于霍的威名不戰而遁。后在虹口的日本技擊館武士亦挑戰摔跤，霍接連取勝，振奮人心，轟動上海。于是，上海有識之士敦請霍及其徒劉振聲留滬授武。遂由陳其美、農勁蓀、陳公哲等于6月發起并組織集資在閘北王家宅(今交通路會文路附近)舉辦精武體操學校，由霍、劉教授武術。未幾，霍因病醫治無效，于同年9月14日不幸逝世，學校停辦。

翌年3月3日，由陳公哲、姚蟾伯、盧煒昌等借鐵路旱橋堍房屋舉辦中國精武體操會，熔各派武術于一爐，聘任各派名家為教員。首任會長為農勁蓀。

1915年，集資自建房屋于倍開爾路73號(今惠民路荊州路口)。1916年3月4日遷入，同時改中國精武體操會為上海精武體育會。此時已有在橫浜橋福德里的第一分會一所。1919年又分別成立第二分會(在南市煤炭公所內)和第三分會(在魯班路山東會館內)，倍開爾路會所改稱總會。

總會提倡"體、智、德"三育并進和"乃武乃文"、體育以武術為主，逐步確立了初、中、高三級的"精武三十套武術基本套路"；德育上則以"愛國、修身、正義、助人"為精武精神，積極提倡和實行。

該會曾編輯出版《精武本紀》、《潭腿精義》、《潭腿卦圖》、《工力拳》、《達摩劍》、《粵曲精華》、《新樂府》、《測光捷經》、《醫說》等數十種作品和書刊；還自攝影片5卷66節，曾作專場放映招待駐滬各國領事。1938年日寇入侵，強占了總會會所，上述大部份書刊和影片被毀。后該會遷往南京東路慈淑大樓(今東海大樓)。抗戰勝利后至1946年底，才收回福德里總會會所。1949年中華人民共和國成立后，精武體育會由政府接管，逐步成為虹口區的一個體育場館，繼續舉辦各種體育培訓活動。

1979年以后，精武體育會在上海恢復活動，天津、廣州、余姚等地的精武體育會亦相繼恢復活動。1990年始，該會開展了與海外精武組織的聯系和交流活動。