אחד האוספים המרגשים בארכיון צה"ל ומערכת הביטחון הוא האוסף הקולי. כאן נשמעים הרגעים הגדולים של ההיסטוריה, למשל, מצוקת החיילים במלחמת יום הכיפורים ובקשת המפקדים לתגבור והזזת כוחות; קולותיהם של גיבורי הסיירות בתחקירים אודות המבצעים הגדולים של צה"ל; נאומים של גדולי האומה ועוד ועוד.
אוסף התיעוד הקולי בארכיון צה"ל נוסד בשנת 1967, מיד לאחר מלחמת ששת הימים, כאשר נוצר הצורך בתיעוד רשומות מוקלטות, כגון תדריכים, רשתות קשר, תחקירים והפקת לקחים.
האוסף – שכולל את רשתות הקשר במלחמת ששת הימים, במלחמת יום הכיפורים ובמלחמת שלום הגליל; תחקירים מבצעיים, דיוני מטכ"ל וסקירות, ראיונות, נאומים ועוד – משמש בעיקר לצורכי מחקר, במקביל לעיון בתמלול ובתיקים הענייניים.
מקורותיו העיקריים של אוסף התיעוד הקולי הם מזכירות הפיקוד העליון, מחלקות ההיסטוריה, חיל הקשר, וכן תיעוד יזום של הארכיון.
התיעוד היזום כולל ראיונות אישים בצה"ל ובמערכת הביטחון במגוון נושאים, כמו הקמת צה"ל, הקמת יחידת הצנחנים והתפתחותה, עדויות ממבצעים שונים, ראיונות בנושא לוחמים יהודים בצבאות העולם, בריחה והעפלה, הצלת יהודים ועלייתם ארצה וכו'.
בנוסף מכיל האוסף תיעוד של שרי הביטחון, ביניהם דוד בן-גוריון, משה דיין, שמעון פרס, עזר ויצמן, יצחק רבין, אריאל שרון.
אוסף מיוחד נוסף הוא תיעוד עדויות לוחמים מתקופת טרום המדינה, מלחמת העצמאות ועד למלחמת ששת הימים.
בארכיון שמורים גם הקלטות של תכניות גלי צה"ל, בעיקר משנות ה-80-60 של המאה שעברה.
מטבע הדברים, מרביתו של האוסף הוא חסוי, אך עובדי הארכיון שוקדים על הנגשת ההקלטות לציבור הרחב, במקביל לתהליך העוסק בשימור ובדיגיטציה.
נכון לשנת 2015, האוסף מכיל למעלה מ-96,000 קלטות, כשמתוכן למעלה מ-200 ערוצים הפתוחים לציבור.
בחדר העיון של הארכיון ניתן להאזין להקלטות ולרכוש קטעי שמע על-פי התעריפים המקובלים במקום.