呼和浩特因中心城区北依大青山，故得名。呼和浩特，蒙古语意为“青城”，其中“呼和”为青色的意思，“浩特”为城市、城郭的意思。呼和浩特这个名称最早出现在蒙古文的《俺答汗传》中。

在现代化語境中，为了称谓方便，便将呼和浩特简化为呼市，当下，口语化的结果。