Asi před šedesáti milióny let vznikl malý savec, podobný nejvíce lasičce nebo tchoři. Nazýval se Miacis a byl prapředkem skupiny zvířat, kterým dnes říkáme psovité šelmy.
Narozdíl od současných psů, kteří našlapují na prsty, byl Miacis ploskochodec. Měl chrup masožravce a malý mozek, ale byl inteligentnější než jeho současníci Creodonti, kteří tvořili jinou skupinu masožravců. Creodonti byli hojnější než Miacis, ale postupně vyhynuli, poslední před 20 milióny let. Zhruba před 30 milióny let se z Miacis vytvořily různé pratypy šelem, příbuzných pozdějším šelmám psovitým. Známe dnes čyřicet typů, z nichž některé jsou podobné medvědům, jiné hyenám a další kočkám. Byla však mezi nimi i zvířata, která už vypadala jako psi, např. Cynodictis připomínal primitivního velškorgiho Cardigana. Z těchto psům podobných šelem se pak vyvinuli předkové psů.

Psi v nám důvěrně známé podobě se objevili na eurasijské scéně asi před 12 000 až 14 000 lety. Z jakého zvířete se vyvinuli ? Původně se myslelo, že jejich předkem byl nějaký šakal nebo kříženec šakala s vlkem. Dnes však jsou vědci toho názoru, že to byla malá jižní forma vlka - vlk indický (Canis pallipes), který dodnes žije v Indii. Různě velcí a různě zbarvení vlci žili tehdy po celé Evropě, Asii a Severní Americe.
Dalšími předky mohli být vlk mongolský (Canis lupus chanco) ze severní Indie, Střední Asie a Číny, nebo vlk stepní (Canis lupus campestris) z pouštních oblastí Středního východu. Je však jisté, že domácí psi vznikli z některého jmenovaného předka (nebo možná paralelním vývojem z několika z nich), a že nejsou geneticky spřízněni s jiným druhem. Díky inteligenci, všestranné přizpůsobivosti a schopnosti sociální spolupráce uvnitř smečky se divocí psi rychle rozšířili po celém světě. Divocí psi byli pravděpodobně domestikováni v různých částech světa různým způsobem; někteří, když se živili odpadky u lidských sídlišť, jiní, když je primitivní člověk lovil jako svou potravu a bral si domů vrhy štěňat, aby je vykrmil.

Podle kostí a vykopávek z celého světa, které pocházejí z období asi před 6500 lety, můžeme rozlišit pět tehdejších typů psů: mastify (Canis familiaris inostranzevi), psy podobné vlku (Canis familiaris palustris), chrty (Canis familiaris leineri), psy typu ohaře (Canis familiaris intermedius) a pastevecké psy (Canis familiaris matris optimae). Tibetští psi typu mastifa byli domestikováni již v době kamenné a později je v bitvách používali Babyloňané, Asyřané, Peršané a Řekové. Chrti patří k nejstarším typům psa a můžeme je identifikovat již na mezopotámské keramice z období před 8 000 lety. Psi typu ohaře se pravděpodobně vyvinuli z chrtů používaných pro lov malé zvěře. Pastevečtí psi byli používáni k ochraně stád před šelmami již před tisíciletími. Vznikli pravděpodobně v Evropě. Od těch dob se vyvinulo tisíce plemen, ať už umělým nebo přírodním výběrem. Během staletí mnohá vymizela a jen zhruba čtyři sta jich zůstalo až do našich dob.