時として「ベルリンは東西ドイツの境界線上に位置し、ベルリンの壁はその境界線の一部」と思われがちだが、これは誤解である。そもそも、ベルリンは全域が東ドイツの中に含まれており、西ドイツとは完全に離れていた。そしてベルリン東側は、ドイツ帝国ヴァイマル共和国ナチス・ドイツの3時代から、1945年5月8日の分断以後も引き続き東ドイツの首都となった。

つまり、東ドイツに囲まれていたベルリンが、さらに国としてのドイツの東西分断とは別に、ベルリンとしても東西に分断されたのである。この時、分断されたベルリンの東側部分はそのまま「東ドイツ領」となり、一方西側部分は「連合軍管理区域」(≒西ドイツ)として孤立した。これにより西ベルリンは結果的に地形的に周りを東ドイツに囲まれる形となってしまった為、西ベルリンを東ドイツから隔離して囲む形で構築されたのが「ベルリンの壁」である。東西ベルリンの間だけに壁があったわけではない。