Xenakis werd in bet Roemeense Braila geboren uit het huwelijk van Griekse ouders, en ontving zijn eerste muzieklessen van zijn moeder, die echter overleed toen hij nog maar vijf jaar oud was.
Daarna moest hij het met een aantal gouvernantes doen tot hij op zijn tiende in een Grieks internaat werd ondergebracht, waar hij zijn verdere muzikale opleiding ontving en in het jongenskoor kennismaakte met werken van Palestrina en Mozart.
Na zijn eindexamen verhuisde hij op zijn zestiende naar Athene waar hij, naast zijn verdere studie in de muziek, werd toegelaten tot de Nationale Technische Universiteit om architectuur en wiskunde te studeren, maar zijn opleiding daar werd in 1940 afgebroken door het uitbreken van de Grieks-Italiaanse oorlog, die de Grieken aanvankelijk leken te winnen maar die werd verloren omdat de Duitsers zich ermee gingen bemoeien.
Xenakis werd na de oorlog lid van de communistische partij, nam deel aan het gewapende verzet en raakte verzeild in een straatgevecht tegen Britse tanks, waarbij hij door een granaatinslag zo ernstig aan zijn gezicht werd verwond dat hij een zware verminking opliep en een oog verloor, maar hij er toch beter van afkwam dan de strijdmakker naast hem ‘wiens hersenen tegen de muur zaten geplakt’.
Na zijn afstuderen aan de technische universiteit vluchtte hij in 1947 weg uit Griekenland naar Parijs, omdat het rechtse kolonels-bewind de leden van de linkse verzetsbeweging begon te vervolgen en op te sluiten. Hij werd bij afwezigheid veroordeeld tot de dood, wat eerst werd omgezet in tien jaar gevangenisstraf om pas 23 jaar later, na de val van het kolonelsbewind, van alle vervolging te worden ontslagen.
Zijn vlucht uit Griekenland is hij zichzelf altijd kwalijk blijven nemen en het was voor hem ook de reden zich intensief met muziek te gaan bezighouden: ‘Jarenlang heb ik mij er schuldig over gevoeld het land waarvoor ik gevochten had te zijn ontvlucht. Ik heb mijn vrienden in de steek gelaten – sommigen waren gevangen, anderen waren dood en sommigen waren erin geslaagd te vluchten. Ik voelde me tegenover hen schuldig en vond dat ik die schuld terug moest betalen. En ik voelde dat ik een opdracht had. Ik moest iets zinvols doen waardoor ik het recht op het leven terugverdiende. Het ging niet alleen om muziek – het was iets veel belangrijkers.’
Hoewel hij illegaal in Parijs verbleef, kreeg Xenakis een baantje bij het architectenbureau van Le Corbusier waar hij snel carrière maakte en aan belangrijke projecten kon werken, waaronder het Philipspaviljoen op de Expo van 1958 in Brussel, dat hij vanwege zijn architectonische en wiskundige opleiding van parabolische en hyperbolische wanden kon voorzien, waarbinnen de elektronische muziek van Varèse werd uitgevoerd. Ook Xenakis baseerde zijn composities, waaronder het vroege Metastasis, direct op de architectonische concepten: hij schreef niet alleen muziek bij bestaande ruimtes maar ontwierp ook ruimtes bij bestaande muziek.
Voor zijn composities zocht hij begeleiding van een goede leraar, maar die was aanvankelijk moeilijk te vinden: Honegger vond zijn scheppingen ‘geen muziek’ en ook Milhaud zag er weinig in. Maar bij Messiaen oogstte hij meer succes: ‘Ik begreep meteen dat hij anders was dan de anderen. Hij is buitengewoon intelligent. Toen deed ik iets vreselijks wat ik nog nooit bij andere studenten had gedaan, omdat ik vind dat er altijd harmonieleer en contrapunt gestudeerd moet worden. Maar dit was zo’n buitengewone man dat ik zei: “Nee, je bent bijna dertig, jc hebt het geluk Grieks te zijn, en daarbij een architect en een wiskundige. Doe daar je voordeel mee en pas dat toe in je muziek.’”
Onder invloed van Messiaen – en zijn medestudent Stockhausen – leerde Xenakis het serialisme kennen en componeerde op basis daarvan zijn eerste grootschalige werk, Anastenaria, een triptiek voor koor en orkest, gebaseerd op een klassiek dionysisch ritueel. Ook ondersteunde Messiaen zijn lidmaatschap van de Groupe de Recherches de Musique Concrète, een variante stroming in de aleatorische toevalsmuziek die, met verwijzing naar de futuristische ‘lawaaimachines’, propageerde om natuurlijke omgevingsgeluiden’ op te nemen en daarmee aan dc slag te gaan in plaats van zelf onnatuurlijke elektronische geluiden te genereren.
Ondanks zijn ernstig gehavende gezicht trouwde Xenakis in 1956 met Fran^oise Gargouïl, en hij verliet kort daarna de studio van Le Corbusier en ging zich erop toeleggen om bij het door hem opgerichte Centre d’Etudes de Mathématique et Automatique Musica-les computergegenereerde composities te maken. Na het voltooien van zijn zwanenzang Omega voor slagwerk en kamerorkest in 1997 was zijn gezondheidstoestand intussen zo verslechterd dat hij niet meer in staat was om te componeren.
Hij bleef nog een aantal jaren ernstig ziek voor hij in zijn Parijse huis in coma wegzonk en overleed. Hoewel hij bij het componeren zijn muziek direct in verband bracht met architectuur en overvloedig gebruikmaakte van wiskundige en natuurkundige theorieën zoals waarschijnlijkheidsleer – Diamorphoses statistische mechanica – Pithoprakta -, groepentheorie – Nomos Alpha verzamelingenleer – Herma en Eonta – en speltheorie – Duel et Strategie en zijn partituren er op het eerste gezicht eerder uitzagen als bouwtekeningen of bladzijden uit een wiskundeboek dan als bladmuziek, heeft hij altijd juist de esthetische en poëtische relevantie ervan benadrukt.