Длина его тела достигает 110—130 см. Внешний вид муравьеда, как и других представителей неполнозубых весьма причудлив: длинная узкая морда, напоминающая трубку, крошечные узкие глаза, длинный до 68 язык (самый длинный человеческий 65 см).
Масса взрослой особи — до 65 кг, общая длина тела от носа до кончика хвоста — порядка 2,3 м.
Из органов чувств муравьеда наиболее развито обоняние, благодаря которому он может не только обнаруживать муравьёв, но и различать их виды, избегая наиболее агрессивных из них.
Слух и зрение большого муравьеда развиты довольно посредственно.