Phantom byl vyvinut pro US Navy jako dálkový stíhací letoun pro každé počasí a poprvé vzlétl v květnu 1958. Do výzbroje byl zaveden v roce 1961. US Air Force si rychle uvědomilo, že námořnictvo má mnohem lepší stroj než kterýkoliv z taktických letounů letectva, a objednalo 543 kusů ve verzi F-4C. Poté následovala záplava objednávek z celého světa. V Británii byl tento typ zaveden u námořnictva i letectva, ovšem upravený pro dvouproudové motory Rolls-Royce Spey. Jeden z phantomů Royal Navy se pak zmocnil rekordu v nejrychlejším přeletu Atlantiku, který vydržel až dokud jej nepřekonal pozoruhodný letoun Blackbird.

Phantomy byly během své dlouhé služby nasazeny do bojů v mnoha válečných konfliktech. Byl to jeden z nejpoužívanějších letounů ve vleklé vietnamské válce a na Blízkém východě jej vyslalo do boje hned několik různých letectev. F-4 dosud slouží u několika útvarů, ale už se blíží konci své dlouhé a úspěšné kariéry prvosledového bojového letounu.