印加人把城市建在海拔2430米的山脊上。他们在公元1200年至1450年之间居住在那里。其他的人在公元650年之前就住在那里。
印加人在山上凿开岩石，使之平坦，从而建造了房屋、田地和寺庙。他们建立了一个天文台来观察星星。
当西班牙人入侵秘鲁时，印加人离开了马丘比丘。没人知道他们为什么要这么做，但有人认为是因为来自欧洲的疾病。这座城市没有完工，很可能是由于西班牙人的入侵和/或统治对手印加兄弟Huascar和Atahualpa之间的内战。西班牙人在占领期间从未发现马丘比丘或这座失落的城市。
马丘比丘很难去，因为它在山上很高。它只有一条路可以进去，而且有一堵石墙保护它。地球上大多数人都不知道它在那里，直到1911年一位名叫海拉姆-宾汉姆的耶鲁毕业生重新发现了它。他听到了关于一座隐秘城市的传闻，而这座城市已经被秘鲁当地人所熟知，秘鲁人指引他前往那里。他领导了一个修复项目，该项目部分资金由国家地理学会提供。宾汉姆与政府达成协议，将文物带到皮博迪博物馆进行研究。秘鲁仍在试图将这些文物归还给他们。
马丘比丘于1981年被宣布为秘鲁历史保护区，1983年被联合国教科文组织列为世界遗产。2007年，马丘比丘在全球互联网投票中被选为世界新七大奇迹之一。
今天，有一条新的道路，所以游客可以参观。人们也可以沿着印加小道步行，或者从库斯科乘火车前往。