Hij begon zijn carrière bij het Franse Toulouse FC, maar verhuisde op zijn zestiende naar AJ Auxerre. Mexès debuteerde op zijn zeventiende in de hoofdmacht van AJ Auxerre. In de zomer van 2004 verhuisde hij naar AS Roma. Hij tekende bij Roma terwijl hij nog een contract had bij Auxerre. Hiervoor werd hij door de UEFA een tijdlang geschorst. Omdat hij al voor Roma had gespeeld moest Roma zeven miljoen euro als transfergeld betalen. Bovendien kreeg Roma een transferverbod voor een jaar door de FDRC opgelegd, dit werd door de TAS teruggebracht tot zes maanden. In mei 2011 bereikte hij een akkoord met AC Milan, dat hem transfervrij overnam van AS Roma. In 2016 kreeg Mexes te horen dat zijn contract niet werd verlengd bij AC Milan. Na meer dan een jaar zoeken naar een nieuwe club, maakte hij in november 2017 bekend te stoppen met voetballen.
Mexès debuteerde in 2002 in het Frans voetbalelftal, tegen Litouwen. Hij speelde in 2003 mee in de Confederations Cup. Bondscoach Raymond Domenech besloot hem niet mee te nemen naar het EK in 2004 en het WK in 2006. Toen Frankrijk in 2008 speelde tegen Oostenrijk (3-2 verlies) maakte Mexès een eigen goal en veroorzaakte hij een strafschop en een vrije trap waaruit gescoord zou worden. Domenech nam het voor hem op, nadat hij zijn spijt betuigd had tegenover de fans. Een wedstrijd erna herpakte Mexès zich door twee keer op de lat te koppen en eenmaal op de paal te schieten. Hij werd niet geselecteerd voor het WK in Zuid-Afrika. Op woensdag 11 augustus speelde Mexès zijn eerste interland onder bondscoach Laurent Blanc, tegen Noorwegen. Mexès was in dit duel de aanvoerder wegens de afwezigheid van de voltallige WK-selectie.