Az Anubisz-pávián a legszélesebb körben elterjedt páviánfaj. Közép-Afrikában Dél-Mauritániától és Malitól Szudánig, délen pedig a Kongói Demokratikus Köztársaságig és Tanzániáig fordul elő a Száhel-övezetben. Élőhelyéül szavannák, galériaerdők szolgálnak, bár északabbra, sivatagos területen is él két elszigetelt populációja a szaharai Aïr-hegységben Niger, illetve a Tibeszti-hegységben Csád északi vidékén. Legfeljebb 2500 méteres tengerszint feletti magasságig fordul elő. 1972-2001 között Spanyolországban is voltak vadon élő páviánok: egy szafariparkból szökött meg egy hatvan tagú csapat, de az évek során elfogták és állatkertekbe szállították őket. Északkeleten, az etiópiai Avas folyó mentén galléros páviánokkal, Kenyában és Tanzániában pedig sárgás babuinokkal van átfedésben az élőhelye; ezekben az övezetekben rendszeres, a babuinok esetében különösen széles körű keveredés figyelhető meg. Nyugaton, Guinea és Mali vidékén az Anubisz-páviánok guineai páviánokkal is találkozhatnak, de a hibridizációjukat még nem tanulmányozták.