FKオーストリア・ウィーンは1910年10月20日、オーストリアの首都ウィーンで「ウィーナー・クリケター」として創設された。同年中に「ウィーナー・アマチュアSV」へ改名し、1926年11月に現在のクラブ名「フースバルクルブ・オーストリア・ウィーン」を採用した。アマチュアからプロへの転換を果たしたこの年、クラブはオーストリア・リーグ2度目の優勝を達成している。
クラブが初めて輝きを放ったのは1930年代だ。中欧チャンピオンズトーナメントとも言えるミトローパ・カップで1933年と1936年に連覇を果たした。その立役者となったのがFWマティアス・ジンデラールで、後に「20世紀最高のオーストリア人選手」と称されている。しかし1938年のナチス・ドイツによるオーストリア併合がクラブの歴史を大きく狂わせ、選手や職員が国外へ追われるなど深刻な打撃を受けた。
戦後は復活を遂げ、1961〜63年のリーグ3連覇、そして1975−76シーズンから1985−86シーズンにかけて11シーズンで8度の優勝と、国内で圧倒的な存在感を示した。欧州では1978年UEFAカップウィナーズカップ決勝に進出（アンデルレヒトに0−4で敗退）し、翌シーズンにはヨーロッパカップ準決勝まで勝ち上がった。2013−14シーズンにはクラブ史上初のUEFAチャンピオンズリーグ・グループステージに出場し、ポルト、アトレティコ・マドリード、ゼニト・サンクトペテルブルクと同組で戦った。
現在、クラブはオーストリア・ブンデスリーガ24回、オーストリア・カップ27回、オーストリア・スーパーカップ6回の優勝を誇り、いずれの大会でも国内最多記録を保持している。最大のライバルはラピード・ウィーンとのウィーン・ダービーで、1911年以来続くこの一戦はスコットランドを除く欧州で最も多く行われたダービーとして知られる。両クラブは、オーストリアで一度も降格を経験していない唯一のクラブという共通の誇りも持っている。