Le Shiba Inu a un pelage double : un sous-poil doux et dense, et un poil de couverture droit et raide. Ce poil est court mais très fourni, avec une texture sèche et protectrice. Les couleurs les plus courantes sont roux (urajiro), sésame, noir et feu, ou crème.

Le pelage est autonettoyant et peu odorant, mais le Shiba perd beaucoup de poils deux fois par an lors des mues saisonnières. En dehors de ces périodes, un brossage hebdomadaire suffit. En période de mue, un brossage plus fréquent est recommandé pour éliminer le sous-poil mort.

Le bain est occasionnel, avec des produits doux qui respectent sa barrière cutanée.