Ermeni kökenli bir ailenin oğlu olarak 22 Mayıs 1924'te Paris'te dünyaya gelen Aznavour'un Fransa’ya Gürcistan’dan göç eden babası Michael Aznavourian şarkıcı, İzmir'den göç eden annesi Knar Baghdasarian ise oyuncuydu.  Sanatçı bir aileden geldiğinden küçük yaşta tiyatroyla tanışan Aznavour henüz dokuz yaşındayken oyunlarda rol alıp şarkı söylemeye başladı. Küçük kumpanyalarda şarkı söyleyerek başlayan kariyerinin dönüm noktası ünlü Fransız şarkıcı Edith Piaf'la tanışması oldu. Piaf’la birlikte Amerika’ya ve Avrupa’nın çeşitli kentlerine düzenledikleri turneler sonucu dünyaca ünlü bir şarkıcı haline geldi.