Detalji njegova života poprilično su nerazjašnjeni za slikara tako velikog značaja kakvog je bio Grünewald za svog vremena. Vjerojatno je rođen u Würzburg tijekom sedamdesetih godina 15. stoljeća. Njegovo ime sigurno nije bilo Grünewald, što je pogreška autora iz 17.stoljeća Joachima von Sandrarta, koji ga je pobrkao sa drugim umjetnikom. U starim dokumentima nalazimo ga pod imenom „Mathis der Maler“, te znamo da se je koristio sa dva prezimena Gothart i Nithardt, i da je njegov monogram bio M.G.N. (Mathis Gothard Nithart). Od oko 1500. čini se da je živio u Seligenstadtu, a od 1510. do 1525. služio je na dvoru u Rhinelandu kao slikar i vjerojatno arhitekt (ili barem kao nadzornik građevinarskih radova). To radno mjesto napušta 1525. (moguće radi svojeg vjerskog priklanjanja protestantizmu).
Nažalost mali je broj njegovih djela sačuvan, a ona koja jesu isključivo su religioznog sadržaja. Među njima je i Isenheimski oltar (dovršen 1515.). koji se danas čuva u Muzeju Unterlinden u Colmaru (Francuska). Grünevaldovo slikarstvo nosi odjek kasne gotike iako u sebi sadrži neke elemente renesanse (kao što je poznavanje perspektive), zato se Grünewalda može u literaturi naći svrstanog među renesansne slikare sjeverne Europe. Njegov izrazito individualni stil očituje se naturalizmom, dramatičnom formom, ekspresijom likova, živom bojom i svijetlom.
Umro je u Halleu 1528. godine.