早在 1955 年，悉尼為興建這座歌劇院舉行國際建築設計競賽，從 230 個方案中選定丹麥建築師烏松 (Jorn Utzon) 的設計。1966 年烏松辭去劇院總建築師職務，剩下的室內設計由澳洲建築師完成。歌劇院從 1959 年破土動工，1973 年竣工，10月20 日由英女王伊莉莎白二世剪綵開幕。

歌劇院建築總面積八萬八千多平方米，包括一個有約二千七百座的大音樂廳，一個有一千五百多座的歌劇廳，一個可容五百多人的劇場和一個370 座的小音樂廳。此外，還設有排演廳、接待廳、展覽廳、錄音廳以及戲劇圖書館和各種附屬用房（如餐廳、售品部等），共九百多個房間，同時可容六千多人在其中活動。

施工過程中整個外牆採用不反光的白瓷磚，貝殼曲率弧度都為 47 度和 49 度，用鋼筋在平臺上固定後拉出，鋼筋在內，外面看不到，以玻璃鑲嵌，因有空隙而不怕熱脹冷縮。

為研究和設計這些殼片結構，用了八年時間，施工也費時三年多。內部牆壁為便於吸音採用本土的樺樹作料，座椅用桉樹材質和小羊皮羔包制，效果隆音。工程預算 700 萬美元，實際費用達1億2000 萬美元。