Vývoj Su-27 byl zahájen v roce 1969 v rámci ambiciózního sovětského programu PFI (Perspektivnyji Frontovoj Istrebitěl), který vznikl jako přímá odpověď na americké projekty F-X (budoucí F-15 Eagle) a VFX (F-14 Tomcat). Sovětské letectvo požadovalo těžký stíhač pro vybojování vzdušné převahy, který by západní stroje překonal v manévrovatelnosti, doletu i zbraňové kapacitě.
První prototyp, označený T-10-1, vzlétl 20. května 1977. Tento stroj se však od finální podoby letounu zásadně lišil: disponoval křídly s prohnutou náběžnou hranou, svislými ocasními plochami umístěnými přímo nad osou motorů a brzdicími štíty integrovanými do podvozkových šachet.
Zkušební lety a počítačové simulace však odhalily šokující skutečnost – původní design T-10 nesplňoval stanovené požadavky a v reálném střetu by za americkým F-15 výrazně zaostával v obratnosti i doletu. Tehdejší hlavní konstruktér Michail Simonov proto v roce 1979 učinil v sovětském systému naprosto bezprecedentní a politicky riskantní rozhodnutí: zastavil již běžící přípravu sériové výroby a nechal letoun prakticky od základu přepracovat. Nová, radikálně změněná varianta T-10S (S jako Serijnyj) dostala křídlo s rovnou náběžnou hranou a automatickými sloty, svislé ocasní plochy se přesunuly na postranní nosníky vně motorů a rozměrný brzdicí štít se přemístil na hřbet trupu. Právě tento „druhý pokus“ se stal základem pro sériový Su-27 a zajistil mu aerodynamickou převahu, kterou prototyp T-10 nikdy nemohl nabídnout.
Su-27 byl do služby zařazen jako náhrada za starší přepadové stíhače Su-15 a MiG-23/25. V současnosti je v ruském letectvu nahrazován modernizovanými verzemi Su-30SM a Su-35S, případně stealth letounem Su-57, a to z důvodu potřeby víceúčelovosti a moderní digitální avioniky.