Rodio se kao dijete francuskih imigranata na Manattanu u New Yorku. Cousy je košarkašku karijeru počeo još u srednjoj školi, a dobre igre osigurale su mu stipendiju na Koledžu Svetog križa, čije je Crusaderse vodio do završnice NCAA prvenstva1948. i 1950. godine te je tri godine za radom dobivao nagrade od strane NCAA-a. Na draftu 1950. godine, Cousyja su izvorno odabrali Tri-Cities Blachawks, ali nakon što se Cousy nije pojavio u klubu, preuzeli su ga Boston Celticsi, iako njihov trener Red Auerbach nije bio oduševljen Cousyjem. Međutim, Cousy je imao iznimno uspješnu karijeru u Celticsima. Rekordnih je osam sezona za redom bio najbolji asistent lige (i danas je najbolji asistent Celticsa svih vremena), osvojio je šest naslova NBA prvaka te je čak 13 puta izabiran u NBA All-Star momčad u svojih 13 sezona sa Celticsima. Također je u 12 navrata imenovan u najbolje prve i druge momčadi lige, a 1957. godine dobio je Nagradu za MVP-a lige.[1]
U svom rekordnom nizu asistencija, Cousy je uspio stvoriti novi blend kontrole lopte i dodavanja, koji mu je kasnije osigurao nadimak "Houdini s parketa" (engl. "The Houdini of the Hardwood").[2] Jedan od nadimaka bio mu je i "Cooz", a u Boston Gardenu je redovito najavljivan kao "Gospodin Košarka" (engl. "Mr. Basketball"). Nakon igračkog umirovljenja i sveučilišne trenerske karijere, nekoliko je godina vodio Royalse, za koje je u dobi od 41 godine čak i odigrao sedam utakmica u sezoni 1969./1970.