Sinds vele eeuwen vindt men in de literatuur vermeld dat Maarten in 1478 te Zaltbommel het levenslicht aanschouwde, maar betrouwbare bronnen voor jaar en plaats van geboorte ontbreken. Over jeugd en opleiding van Maarten is evenmin iets bekend. Grote bekendheid kreeg hij eerst in dienst van hertog Karel van Gelre. Wanneer hij in Gelderse dienst is getreden, is weer onbekend. Zijn eerste wapenfeit waarover zekerheid bestaat, is de deelname aan een Gelderse expeditie naar het plaatsje Nieuwpoort in de Alblasserwaard, die plaatsvond in augustus 1516. Nieuwpoort werd ingenomen, maar de Geldersen moesten al spoedig vluchten door het optreden van de Hollandse stadhouder Hendrik van Nassau. Velen konden slechts het vege lijf redden door paard en wapenuitrusting achter te laten. Ook Van Rossem moest rennen voor zijn leven met achterlating van zijn harnas. Op grond van zijn aandeel in de gebeurtenissen van 1516, maar de ondergeschikte rol die hij daarbij nog speelde, kan worden aangenomen dat hij toen nog aan het begin van zijn loopbaan stond en daarom omstreeks 1490 geboren is.

Bij de inname van Nieuwpoort had hij dus nog geen leidende positie. Dat was waarschijnlijk ook nog niet het geval, toen hij in 1517 zorgde voor de ravitaillering van het Friese Dokkum, dat toen door de Geldersen was ingenomen. Dat werd anders in 1518, toen hij door hertog Karel werd benoemd tot zijn stadhouder in Friesland, een ambt waarvan hij in 1519 al weer afstand deed. In de jaren 1523-1524 wordt hij vermeld als ritmeester, aanvoerder van een groep ruiters. Als zodanig was hij gelegerd in de vesting Wageningen, maar hij nam in 1523 ook deel aan expedities tegen Oldenzaal en Steenwijk. In de laatste plaats was hij na de verovering vestingcommandant. In het najaar van 1524 moet hij zijn bevorderd tot veldmaarschalk, waarmee hij het opperbevel over alle Gelderse troepen kreeg.

In 1527 bezette hij voor zijn heer de stad Utrecht. Van hieruit ondernam hij in maart 1528 zijn beruchte tocht naar Den Haag, dat hij liet plunderen en brandschatten. Na zijn terugkeer uit Den Haag trok hij naar het Oversticht om daar de troepen van de Habsburgse legeroverste Schenk van Toutenburg te bestrijden. Rust kreeg hij niet, want vervolgens moest hij met spoed naar de Betuwe, waar intussen troepen van de bisschop van Utrecht, Hendrik van Beieren, waren binnengevallen. De Geldersen konden het echter op de lange duur niet bolwerken tegen Karel V en hertog Karel zag zich in oktober 1528 gedwongen de vrede van Gorkum te tekenen. Van Rossem was een van de ondertekenaars. Onmiddellijk na de ondertekening werd hij door hertog Karel naar diens bondgenoot koning Frans I van Frankrijk gezonden om uitleg te geven over de omstandigheden die de Gelderse hertog hadden gedwongen zich aan Karel V te onderwerpen. In de eerste helft van de jaren ’30 steunde hij zijn hertog militair en bestuurlijk bij de handhaving van diens gezag over Groningen en de Ommelanden. Daarna hield hij zich bezig met de militaire verdediging van de graafschap Zutphen, waar hij in 1534 huis en ambt Bredevoort van de hertog had verkregen. Hij hield onder andere toezicht op de vestingbouw in de stad Zutphen.

Na het overlijden van hertog Karel in 1538 zwoer Van Rossem trouw aan de nieuwe hertog van Gelre, Willem van Kleef en Gulik, die zich evenals zijn voorganger had gelieerd met koning Frans I van Frankrijk. Die lanceerde in 1542 samen met hertog Willem en koning Christiaan III van Denemarken een gecombineerde aanval op de Nederlanden van Karel V en regentes Maria van Hongarije. Ter voorbereiding van de vijandelijkheden bracht Van Rossem in het zuiden van Gelre een grote legermacht bijeen. Op 12 juli 1542 verklaarde Frans I de oorlog aan Karel V en kwamen de legers in beweging. Van Rossem moest de Maas oversteken en via Leuven en Antwerpen oprukken naar Gent, dat hij bij verrassing zou innemen met de hulp van handlangers die hij daar binnen de muren had. Spionnen van Maria van Hongarije hadden echter het krijgsplan in handen gekregen, waardoor ze kon laten verhinderen dat de Gelderse troepen bij Maastricht de Maas overstaken. De Geldersen zagen zich daardoor genoodzaakt het oorspronkelijke plan op te geven, rechtsomkeert te maken en stroomafwaarts in OpperGelre de Maas over te steken. Van Rossem trok nu langs de noordkant van de Peel via Erp naar Sint-Oedenrode, intussen de omgeving plunderend en brandschattend. De volgende pleisterplaats was Hoogstraten, dat werd gebrandschat en waar het kasteel werd ingenomen. Maria van Hongarije had inmiddels Antwerpen met troepen laten versterken. De Gelderse veldheer sloeg het beleg voor de stad, maar trok na enkele dagen onverrichter zake weg, waarschijnlijk omdat de van binnenuit verwachte hulp van handlangers uitbleef. Daarna werd Lier een dag zonder succes belegerd, waarna de tocht werd voortgezet naar Leuven. Hier begon het stadsbestuur te onderhandelen, omdat men de stad niet verdedigbaar achtte. De onderhandelingen mislukten, maar uit vrees voor de naderende vijandelijke troepen trok Van Rossem weg en bereikte hij via Luiks gebied de Franse troepen bij Yvoix. Deze stad viel op 15 augustus, waarna de Fransen de provincie Luxemburg grotendeels veroverden.

Van Rossems tocht naar Antwerpen en Leuven had een stroom van tientallen pamfletten uitgelokt en was een inspiratiebron voor tal van liederen. De dichteres Anna Bijns, Antwerpse en tijdgenote van Van Rossem, schreef een refrein waarin zij de vraag opwerpt welke Maarten de ergste was: Maarten Luther of Maarten van Rossem. Spottend verkondigt zij de mening dat men beter kan sterven door het zwaard van Van Rossem en zo in de hemel komen dan toegeven aan de ketterij van Luther en daarmee de hel verdienen.

In het voorjaar van 1543 was Van Rossem weer in Gelre. Kort daarop trok hij weer zuidwaarts om vijandelijk gebied binnen te vallen. In mei sloeg hij het beleg voor Heinsberg, vanwaar hij een maand later door de prins van Oranje werd verdreven. Vervolgens brandschatte hij Culemborg, Vianen en Heusden en veroverde en plunderde hij Amersfoort. Daarna was de Meijerij van Den Bosch opnieuw aan de beurt. Hij kon echter niet voorkomen dat de keizerlijke troepen vanuit het zuiden geleidelijk het hertogdom Gelre bezetten en hertog Willem tot overgave dwongen. Als landsheer van Gelre moest deze definitief buigen voor Karel V en Van Rossem ondertekende mede het vredesverdrag van Venlo.

Nadat hertog Willem hem had ontslagen van zijn eed van trouw, trad Van Rossem al spoedig in dienst van Karel V en ondernam hij veldtochten in Artesië, Île de France, Lotharingen en de Champagne tegen de oude Gelderse bondgenoot Frans I van Frankrijk. Daarbij moet hij bij Karel V zoveel vertrouwen hebben gewonnen, dat deze hem in 1553 aanstelde tot stadhouder van de provincie Luxemburg. Met deze benoeming drong Van Rossem door tot de rangen van de hoge adel der Nederlanden. Het moeten vooral zijn militaire verdiensten zijn geweest die hem in de ogen van Karel V voor dit ambt geschikt maakten. Van de stadhouder van Luxemburg werden extra militaire bekwaamheden gevraagd, omdat deze provincie door het Luikse territorium was gescheiden van de rest van de Nederlanden en aan het vijandelijke Frankrijk grensde. Wegens zijn militaire besognes elders kan Van Rossem het ambt echter nauwelijks persoonlijk hebben uitgeoefend. De Fransen hadden zich in 1554 meester gemaakt van Marienbourg, de versterkte grensplaats die enkele jaren eerder door de regentes Maria van Hongarije was aangelegd in het gebied tussen Maas en Sambre. Als reactie hierop begon Karel V met de bouw van het naar hem genoemde fort Charlemont nabij Givet aan de Maas. In het voorjaar van 1555 stelde hij Van Rossem aan als hoofd van een leger dat de omgeving van Givet en het in aanbouw zijnde fort Charlemont moest beschermen en dat tevens moest voorkomen dat de Fransen de veste Marienbourg van voorraden zouden voorzien.

In het bij Givet opgeslagen legerkamp brak de pest uit en ook Van Rossem raakte besmet. Hij zag zich gedwongen het bevel over te dragen aan Charles de Berlaymont. Zijn toestand ging steeds verder achteruit, maar hij weigerde de hulp van de doktoren die Maria van Hongarije en Berlaymont voor hem uit Brussel en Namen wilden laten komen. Hij vertrouwde zich toe aan een ter plaatse aanwezige Duitse arts. Op 2 juni raakte Van Rossem buiten bewustzijn en op 7 juni overleed hij. Niemand minder dan de jonge Willem van Oranje volgde hem op als kapitein-generaal van de keizerlijke troepen bij Givet. Van Rossem werd begraven in de kerk van Rossum, waar hij bij leven een marmeren graftombe had laten maken. Deze laatste zou nadien door beeldenstormers zijn vernield en in 1599 is bij de aanleg van het fort St. Andries de kerk van Rossum afgebroken. In datzelfde jaar is daarom Van Rossems gebeente op last van de Spaanse landvoogd, kardinaal Andreas van Oostenrijk, overgebracht naar de Sint-Janskerk in Den Bosch. Zowel in Rossum als Den Bosch zijn evenwel alle sporen van Van Rossems graf verdwenen. Er is een verhaal volgens hetwelk zijn schedel was overgebracht naar de Cannenburg om van daaruit in 1883 in het Arnhems gemeentemuseum te belanden. Daar zou hij in 1944 ten gevolge van oorlogshandelingen verloren zijn gegaan.

Van Rossem stierf als een rijk man. Maartens oudere broer Johan was hun in 1512 overleden vader Johan opgevolgd als heer van Rossum. Zelf was hij als erfgenaam van zijn vader door de Gelderse hertog in 1518 met de heerlijkheid Poederoijen beleend. Met zijn vele plundertochten en brandschattingen in vijandelijk gebied moet Van Rossem grote rijkdommen hebben vergaard, zodat hij zich tal van aankopen van onroerend goed heeft kunnen veroorloven. In 1534 werd hij pandhouder van huis en heerlijkheid Bredevoort. Het huis De Cannenburg kocht hij in 1543, de Kleefse heerlijkheid Hulhuizen in 1544, de heerlijkheid Lathum in 1546, waaraan hij in 1555 nog het huis Baer toevoegde. In Arnhem liet hij het bekende Duivelshuis bouwen, dat tegenwoordig deel van het stadhuis is.

Ook in Zaltbommel had hij bouwplannen, maar hier werd alleen het poortgebouw aan de Nonnenstraat voltooid, dat bekend staat als het Maarten van Rossemhuis en het naar hem vernoemde museum huisvest. Op grond van de bouwstijl wordt aangenomen dat het in de jaren 1530-1540 is gebouwd. Van Rossem heeft er waarschijnlijk nooit gewoond en heeft het verkocht aan zijn zwager Johan van Isendoorn. Na zijn dood viel zijn omvangrijke vermogen uiteen en werd het grotendeels gespendeerd aan de vele processen die de erfgenamen over zijn erfenis tegen elkaar voerden. In de literatuur wordt vermeld dat Van Rossem een buitenechtelijke dochter Anna zou hebben gehad, die doofstom was. Aangezien er geen testament bekend is, kan daaruit hieromtrent niets worden opgemaakt. Er zijn ook geen andere bronnen die haar bestaan kunnen aantonen. Van Rossem stierf als kinderloze vrijgezel.

Maarten van Rossem is tot in de moderne tijd in het historisch bewustzijn blijven voortleven als de schrik van boeren en burgers, de wrede niets ontziende veldheer die plunderend en brandstichtend door de Nederlanden en Noord-Frankrijk trok. Hij werd tijdens zijn leven en na zijn dood gerespecteerd om zijn militaire bekwaamheid en gevreesd om zijn wreedheid. Het is een beeld dat al vanaf de 17de eeuw wordt uitgedragen door de geschiedschrijvers. In de 19de en 20ste eeuw figureerde Van Rossem in deze rol in historische romans en jeugdboeken. Het stereotiepe beeld van de Gelderse slechterik vinden we ook terug in de tv-serie ‘Floris’ (1969) van regisseur Paul Verhoeven. In de film ‘Floris’ (II) van regisseur Jean van de Velde (2004) figureert de fictieve Maarten van Rossem jr. als opvolger van zijn historische vader. Voor beide films werd het scenario geschreven door Gerard Soeteman. Een 315 km lange wandelroute tussen Den Bosch en Ommen met de naam ‘Maarten van Rossumpad’ voert sinds enige tijd onder andere langs de plaatsen waar de Gelderse veldheer in de vorm van bouwwerken zijn vreedzame sporen heeft achtergelaten. Daarnaast hebben maar weinig Gelderse gemeentes deze strijder voor de Gelderse onafhankelijkheid met een straatnaam geëerd.

Ondanks zijn grote bekendheid in heden en verleden weten we weinig over de persoon van Van Rossem. Persoonlijke documenten of getuigenissen over zijn persoonlijkheid zijn vrijwel niet bewaard gebleven. Geschriften heeft hij niet nagelaten. Dat hij een temperende invloed heeft gehad op het opvliegende karakter van zijn heer Karel van Gelre, is zowat het enige dat we over zijn persoonlijkheid weten. Als bouwheer gaf hij blijk van voorliefde voor de Renaissancearchitectuur die in zijn tijd in de Nederlanden in opkomst was. Hij was en is echter gedoemd tot in lengte van dagen vooral te blijven voortleven als de bekwame militair die zich compromisloos inzette voor zijn heer en zelden mededogen toonde voor de onderdanen van de tegenpartij. Daarmee werd hij tot een dankbaar onderwerp voor schrijvers van pamfletten, romans, jeugdboeken en filmscenario’s.