Чермоев Абдул-Меджид (известный также как Тапа) родился в 1882 году в родовом имении Арцу-юрт (неподалеку от современного Грозного) в семье российского генерала, георгиевского кавалера Арцу Исхаковича Чермоева. По национальности чеченец. Окончил реальное училище во Владикавказе и Императорское Николаевское кавалерийское училище (1901).
В 1904-1907 гг. служил в конвое Его Императорского Величества. В 1905 году женился на Хаве-ханум Ибрагимбековой - азербайджанке, чьи родители проживали во Владикавказе. Ибрагимбекова была с Тапой до конца жизни, эмигрировав с ним в 1919 году.
С 1907 по 1914 год Чермоев занимался предпринимательством в области нефтедобычи, а также сдавал в аренду земли в Грозном, унаследованные им от отца. Он не был первым чеченцем, кто понял перспективность нового бизнеса, но стал самым успешным среди всех местных нефтепромышленников.
С началом Первой мировой войны он, как и многие члены семьи Чермоевых, ушел на фронт добровольцем и с 1914 по 1916 гг. проходил службу офицером Чеченского конного полка Кавказской Туземной конной дивизии (более известной как "Дикая дивизия"). В чине штабс-ротмистра был тяжело ранен в конце 1916 года и лечился во Владикавказе, награждён боевыми орденами.
В 1916 году Чермоев обратился к властям с предложением восстановить права чеченцев на их землю, как это было обещано в 1860 году князем Барятинским в его известной "Прокламации к чеченскому народу". Прошение было рассмотрено на уровне Кавказского наместничества, лично императором и согласовано к исполнению в феврале 1917 года.
В марте 1917 года Чермоев был избран членом Временного ЦК объединенных горцев от Чечни, финансировал деятельность Временного ЦК. По своим политическим убеждениям был близок к федералистам: до Октябрьской революции в Петербурге 1917 года выступал за федеративные отношения с Россией, позже за федерацию с казаками и за федеративные отношения с закавказскими республиками. Был ориентирован на полную независимость от России.
В мае 1917 года на I съезде Союза объединенных горцев Северного Кавказа и Дагестана Чермоева избрали председателем ЦК Союза объединенных горцев. Он был также членом Терского областного, Чеченского народного исполнительных комитетов.
В октябре 1917 г. Тапа Чермоев стал членом Объединенного правительства Юго-Восточного союза (объединения горцев, степных народов и казаков Юга). В ноябре 1917 года в связи с преобразованием ЦК союза в Горское правительство подал в отставку; остался членом Горского правительства от Чечни.
С начала 1918 года вновь руководил государством горцев в должности министра-председателя Горского правительства, в коем качестве подписал договор об образовании независимой Республики Союза горцев 11 мая 1918 года в Батуми на международной конференции. В конце 1918 года командирован во Францию руководителем делегации горского правительства на мирной конференции.
От имени республики он подписал договор о мире и дружбе с Кубанским правительством в Париже в июле 1919 года.
Проживал Чермоев в Париже и Лондоне, был активным деятелем горской эмиграции в Европе. Во французской столице являлся членом северокавказских масонских лож «Золотое руно» и «Прометей» с 1924 года по 1930 годы, а также финансировал их и являлся их соучредителем.
Политической деятельностью Чермоев перестал заниматься с начала 30-х годов XX века. В 1932 году королевский суд Лондона объявил его банкротом.
Скончался Чермоев 27 августа 1937 года в Лозанне, что стало полной неожиданностью для всех, кто его знал - особенно для тех, кто поддерживал с ним связи в Швейцарии. Скоропостижная кончина северокавказского политэмигранта породила слухи о возможной причастности к ней советских агентов. Тело было перевезено во Францию и захоронено на мусульманском кладбище Бобиньи, в пригороде Парижа.