アトレティコ・マドリードは1903年4月26日、マドリードに在住するバスク地方出身の3人の学生によって「アスレティック・クラブ・デ・マドリード」として創設された。当初はアスレティック・ビルバオの分校的位置付けで、両クラブは長年密接な関係を維持していた。スペイン内戦後の1939年、空軍クラブ「アビアシオン・ナシオナル」との強制合併を経て「アトレティコ・アビアシオン」となり、1947年に「アトレティコ・マドリード」へと現名称となる。赤白縞のユニフォーム（当時のマットレスの布地に似ていることから「ロス・コルチョネロス＝マットレス職人たち」の愛称）は創設初期から続くものである。
ラ・リーガ11度の優勝はスペイン史上3位（レアル・マドリードとバルセロナに次ぐ）。最初の黄金期は1940年代と1960年代で、1973-74年の欧州チャンピオンズカップ決勝ではバイエルン・ミュンヘンと対戦し、ルイス・アラゴネスの延長同点弾も虚しく再試合の末敗北した名勝負も記録される。1962年のUEFAカップウィナーズカップでクラブ初の欧州タイトルを獲得。UEFAヨーロッパリーグも3度（2009-10、2011-12、2017-18）、UEFAスーパーカップ3度、1974年のインターコンチネンタルカップも制覇している。2017年、長年の本拠地ビセンテ・カルデロンから現本拠地のリヤド・エア・メトロポリターノ（旧ワンダ・メトロポリターノ）へ移転した。
ディエゴ・シメオネ監督の在任（2011年12月-現在）は、近代スペインサッカー界で最も長い体制となっている。「エル・チョロ（南米野郎）」の愛称で親しまれるシメオネは、レアル・マドリードとバルセロナによる16年間の二強支配を破り、2013-14、2020-21シーズンのラ・リーガ優勝を達成。UEFAチャンピオンズリーグ決勝にも2014年・2016年と進出（いずれもレアル・マドリードに敗北）。シメオネの徹底した守備サッカーと闘争心溢れるスタイルは、ディエゴ・フォルラン、セルヒオ・アグエロ、ディエゴ・コスタ、アントワーヌ・グリーズマン、コケ、ヤン・オブラクらと共に近代クラブのアイデンティティを定義した。レアル・マドリードとの「マドリードダービー（エル・デルビ・マドリレーニョ）」がクラブを象徴する一戦。ミゲル・アンヘル・ヒル・マリンとエンリケ・セレソが共同会長として1980年代後半からクラブ運営を担っている。