L'association a longtemps regroupé seulement des conservateurs des Archives nationales et des directeurs d'Archives départementales, tous formés à l'École nationale des chartes et tous fonctionnaires de l'État, dont elle essayait de défendre les intérêts matériels auprès de l'administration. Elle était très liée à la Direction des archives de France, jusqu'à en devenir, à une certaine époque, une sorte de relais officieux.
Ce n'est que dans les années 1970 que l'éventail des services d'archives représentés s'est ouvert avec l'adhésion massive d'archivistes municipaux, puis d'archivistes exerçant dans des organismes de droit privé tels que des entreprises, des syndicats ou des fondations.
L’association a pris à compter du 23 juin 1969 le titre d’Association des Archivistes Français. Parallèlement, elle s'est donnée des objectifs plus ambitieux que la simple information de ses membres : intervention dans tous les débats publics intéressant les archives, formation permanente du personnel des services d'archives, coopération avec les professions voisines, promotion du métier d'archiviste après des pouvoirs publics et de la société.
Elle compte actuellement un millier d'adhérents, dont les deux tiers environ exercent dans le secteur public et un tiers dans le secteur privé.