苏联在1952年首次派出运动员参加奥运会。此后，他们共派队参加了18届奥运会。在其九次参加夏季奥运会的七次中，该队在获得的奖牌总数中排名第一。它在其他两个运动会上排名第二。该队在9次派队参加冬奥会中，有7次奖牌数排名第一，有两次排名第二。
苏联奥林匹克委员会成立于1951年4月21日。1951年5月7日被国际奥委会接受。
1952年赫尔辛基夏季奥运会是苏联运动员第一次参加奥运会。1952年7月20日，在女子掷铁饼比赛中，尼娜-罗玛什科娃为国家赢得了第一枚奥运金牌。罗玛什科娃创造了该项目新的奥运会纪录。1956年在科蒂纳德安佩佐举行的冬奥会是苏联运动员第一次参加冬奥会。苏联的第一枚冬奥会金牌由柳博夫-科日列娃在女子越野滑雪10公里项目中获得。
苏联是1980年莫斯科夏季奥运会的主办国。这些奥运会遭到美国和许多其他国家的抵制。此后，苏联带头抵制1984年洛杉矶奥运会。
苏联于1991年12月26日结束。苏联奥林匹克委员会直到1992年3月12日才结束。
1992年，曾属于苏联的15个国家中的12个国家作为统一队参加了奥运会。他们在巴塞罗那运动会上使用了奥林匹克旗帜。统一队在奖牌榜上名列第一。统一队还参加了年初的阿尔贝维尔冬季运动会。十二个国家中只有七个国家参加了比赛。他们在那届运动会上获得了奖牌榜第二名。