Človek a pes patrili k sebe od nepamäti. Za prehistorického predka psa vedci považujú prašelmu Miacis, vyskytujúcu sa v období treťohôr. Nasledovníci Miacisa tzv. Cynodictidae už boli väčšieho vzrastu, mali dlhé telo a krátke končatiny. Ich kostry sa našli v Severnej Amerike.
Rotvajler patrí k najstarším plemenám psov. Najúplnejšie správy o prísune šľachtených psov do strednej Európy sú z rímskych čias. Pôvod rotvajlera siaha taktiež do čias starého Ríma, kde sa používal ako strážny a honecký pes. Rimania hojne stavali opevnené miesta, vojenské tábory, strediská správy a domy, ktorým bolo potrebné poskytnúť ochranu. Psy sprevádzali rímske légie pri prechodoch cez Alpy, chránili vojsko. Rímske légie v bojoch sprevádzali aj ľudia zodpovední za zásobovanie a potraviny, predovšetkým hovädzí dobytok a ovce. Využívali sa pri tom mohutné psy, ktoré plnili honecké a strážne povinnosti. Psy, ktoré chovali Rimania sa vo všeobecnosti pokladajú za predkov pastierskych švajčiarskych a nemeckých plemien.
Staré ríšske mesto Rottweil, od ktorého je odvodený názov nášho plemena, sa dnes nachádza na mieste, kde v období rímskych výprav stála vojenská pevnosť. Pretože tu bola najväčšia koncentrácia vojsk, bola tu potrebná aj väčšia koncentrácia zásob potravín, z čoho vyplýva aj väčší počet honeckých psov. Z pevnosti vzniklo postupne mesto, ktoré sa stalo dôležitým miestom obchodu s dobytkom. Tam, kde prekvital obchod s dobytkom, boli aj honecké psy, ktoré sa na tento účel cieľavedome chovali. O tom svedčí aj cechovný znak cechu mäsiarov mesta Rottenberg, na ktorom je vyobrazený pes s typickými znakmi rotvajlera pri zaháňaní teľaťa.
Postupným technickým rozvojom dopravy stratil rotvajler svoje pôvodné uplatnenie honeckého psa a význam nadobudla jeho nová úloha pri ochrane ľudí a majetku. V tejto úlohe sa osvedčil na začiatku 20. storočia. V tomto období bolo naše plemeno vyskúšané na vhodnosť použitia v polícii. Rýchle sa ukázal ako vhodný partner polície a v roku 1910 bol oficiálne uznaný ako policajný pes. Je to štartovná čiara cieľavedomého chovu tohto neopakovateľného plemena.
Na nasledovných obrázkoch je zachytený prehľad vývinu rotvajlera [RTW]:
Predchodca RTW rok 1730 Predchodca RTW rok 1835 RTW okolo roku 1915
RTW okolo roku 1930 RTW okolo roku 1960 RTW okolo roku 1970