阿尔伯特·亚伯拉罕·麦可逊于1852年12月29日出生于波兰的小镇斯切尔诺（Strzelno，当时属于普鲁士帝国的波兹南省）一个犹太商人家庭。在他还只有两岁时全家移民美国，跟随著作为商人的父亲，他的成长大致上经历了加利福尼亚的矿业小镇Murphy、内华达州的弗吉尼亚城。

 　　1869年，麦可逊进入位于马里兰州首府安纳波利斯的美国海军学院，并于1873年毕业。麦可逊早先就著迷於科学特别是光速的测量问题，1881年海军委派他到欧洲学习两年，1883年，他接受了一个位於俄亥俄州克利夫兰的叫做Case应用科学院的邀请，成为那里的物理教授，并专心研究改进干涉仪。1887年，他和爱德华·莫雷共同进行了著名的迈克耳逊－莫雷实验，这个试验排除了以太的存在。后来，他又转向利用天文光学干涉测量法测量恒星的直径和双星分光片的测量。

 　　1889年开始，他在麻萨诸塞州伍斯特的克拉克大学任教授。1892年被指派到一个全新的大学——芝加哥大学任物理学系第一任主任。1907年，麦可逊因为“发明光学干涉仪并使用其进行光谱学和基本度量学研究”而成为美国第一个诺贝尔物理学奖获得者。同年，他获得了科普利奖章（Copley Medal），1916年，获得了亨利·德雷珀奖章，1923年获得了海军天文协会金质奖章。

 　　月球上的一个环形山是以他的名字命字。

 　　麦可逊于1931年5月9日逝世于加利福尼亚的帕萨迪纳。