Ali Farka Touré est originaire de Kanau, un village proche du fleuve Niger, à environ 65 km de Tombouctou. Il appartient à une famille noble de l?ethnie Djerma, elle-même issue de l?ethnie Songhaï. Son père était un militaire, il décède pendant la Seconde Guerre mondiale. Sa famille s?installe alors à Niafunké (250 km au sud-ouest de Tombouctou). Il ne fréquente pas l?école, il passe ses journées à travailler aux champs. Déjà, il s?intéresse à la musique, et plus particulièrement à certains instruments : le gurkel, petite guitare traditionnelle, le njarka, violon populaire, la flûte peul ou le luth ngoni à quatre cordes.
En 1956, il assiste au concert de Fodéba Keïta, musicien guinéen. Parallèlement à sa profession (il est chauffeur), il reprend des airs traditionnels. Il rencontre l?écrivain Amadou Hampâté Bâ avec qui il parcourt le Mali à la découverte des musiques traditionnelles. En 1960, Ali Farka Touré fonde et dirige son premier groupe, La Troupe 117 avec laquelle il parcourt le Mali à travers les festivals. En 1968, il effectue son premier voyage hors d?Afrique pour se rendre au festival international des arts à Sofia (Bulgarie). Il entre en 1970 dans l?orchestre de Radio Mali tout en travaillant comme ingénieur du son dans la même radio. En 1973, l?orchestre est dissous par le gouvernement.
Farka Touré commence alors une carrière solo en donnant des concerts dans toute l?Afrique de l?Ouest. Son premier disque "Farka" sort en 1976. Dans les années 1980, il effectue plusieurs tournées internationales en Europe, au Japon et aux États-Unis. Après quelques albums à succès, il enregistre en 1991 "The Source" avec le bluesman Taj Mahal et s?ouvre ainsi à la fusion de la World music. La sortie en 1993 de l?album "Talking Timbuktu" en duo avec Ry Cooder, le guitariste américain, le propulsera sur la scène internationale avec succès : il reçoit un Grammy Award pour cet album.
En 1996, un album en songhaï, en peul et en tamasheq qu?il intitule "Radio Mali" est publié. Il réunit des titres sélectionnés parmi de nombreuses bandes enregistrées et diffusées à la radio nationale malienne en 1973-1978. En 1997, Ali Farka Touré annonce qu?il veut se consacrer à l?agriculture dans son village, Niafunké. Son investissement principal sera de faire installer des pompes à eau puisant dans le Niger pour l?irrigation des champs alentour. Son investissement pour le développement local fera qu?il sera élu maire de la ville de Niafunké sur une liste de l?Union pour la république et la démocratie. En corollaire, il sort l?album intitulé "Niafunké", où il abordera à travers les chansons le travail de la terre, l?éducation, la justice et l?apartheid.
En 2005, Ali Farka Touré publie "In the Heart of the Moon", avec Toumani Diabaté. Cet album obtient le 8 février 2006 le Grammy Award du meilleur album traditionnel de musique du monde, offrant ainsi à Ali un deuxième Grammy Award. En avril 2005, il crée une fondation portant son nom qui a pour but d?organiser un festival biannuel de jazz à Niafunké et créer un centre de formation de jeunes artistes en instruments traditionnels locaux.
Ali Farka Touré décède le 7 mars 2006, au matin, à Bamako. Il souffrait d?un cancer depuis plusieurs années et était paralysé depuis quelques temps. Il est inhumé à Niafunké.
Selon sa maison d?édition, World Circuit, Ali Farka Touré venait de terminer le travail sur un dernier album en solo. Ce sera "Savane", album posthume, héritage d?Ali Farka Touré que Ry Cooder qualifie « d?absolument parfait ».
En 2002, Ai Du, morceau extrait de "Talking Timbuktu", est choisi pour faire partie de la bande originale du film L'AUBRERGE ESPAGNOLE de Cédric Klapisch. En 2008, un de ses morceaux a été utilisé pour le film ivoirien AMOUR & TRAHISON de Hervé Éric Lengani.