Innerhalb des VdA sind bisher acht Fachgruppen nach Archivsparten gebildet worden, um den unterschiedlichen Schwerpunkten und Interessen der verschiedenen Archive gerecht werden zu können. Diese Fachgruppen halten regelmäßig Sitzungen im Rahmen der Deutschen Archivtage ab, können darüber hinaus aber auch Veranstaltungen anbieten.

Aus den gewählten VertreterInnen der Fachgruppen - Wahl ist alle vier Jahre - wird der Gesamtvorstand des VdA gebildet. Dabei stellt jede Fachgruppe je nach Mitgliederzahl ein bis fünf Mitglieder.