NBA-pályafutása előtt az Ohiói Állami Egyetem játékosa volt, első évében csapatával megnyerte a Big Ten főcsoportot és az NCAA-torna döntőjéig jutott. Teljesítményeiért beválasztották az All-Big Ten első csapatába és McDonald’s All-American elismerést is kapott. Ezt követően jelentette be, hogy részt fog venni a 2007-es NBA-drafton csapattársával, a később első helyen választott Greg Odennel.[1]
A Memphis Grizzlies a negyedik helyen választotta az irányítót, Oden, Kevin Durant és Al Horford mögött. Újonc évében 9,4 pontot és 4,2 gólpasszt átlagolt.[2] 2009-ben lett egyre fontosabb szerepe a csapatban, miután Kyle Lowry elhagyta Memphist. 2010-ben öt év után először a Grizzlies a rájátszásba jutott, az első fordulóban 4–2-re legyőzték a főcsoport legjobb csapatát, a San Antonio Spurst.[3] A következő évek is viszonylag sikeresek voltak, 2012-ben a csapat történetében először főcsoportdöntőbe jutottak, Conley védekezéséért elismeréseket kapott.[4] A következő években a Grizzlies általában az első fordulóban kiesett a rájátszásból vagy be se jutott, a siker elkerülte a csapatot. Conley ezek mellett több sérülést is szenvedett.[5][6] 2019-ben Conley a Grizzlies története egyik legjobb játékosaként és legjobb pontszerzőjeként hagyta el a csapatot.[7]
2019 nyarán a Utah Jazz csapatába küldték, Grayson Allenért, Jae Crowderért, Kyle Korverért, Darius Bazley draftjogáért és egy első köri választásért cserében.[8] Első évében csapata az első fordulóban kiesett a rájátszásból, míg 2021-ben először All Star lett.[9] A következő évek is hasonlóak voltak a Jazz számára, általában csak az első fordulóig jutottak el. 2023-ban, miután egy évvel korábban a Jazz úgy döntött, hogy más csapatokba küldi két sztárját, Donovan Mitchellt és Rudy Gobert-t, Conley is hasonló sorsra jutott, a francia centert követve Minnesotába.[10] Segítségével a Timberwolves kiemelkedő szezont zárt, Conley az évad közben szerződés hosszabbítást kapott a csapattól.[11]