חודשים אחדים לפני ועידת 'אחדות העבודה' בחוות כנרת נעשו שני ניסיונות להקים ארגון הגנה ארצי. ב-10 בינואר 1920 הוקם 'ועד מתחיל' לשם כך, בהשתתפות נציגים מארגון 'השומר', מן 'הגדוד הראשון ליהודה', מ'אחדות העבודה' וממפלגת 'הפועל הצעיר', שאליהם צורף גם טרומפלדור. נראה כי כוונת הוועד הייתה להקים ארגון הגנה פדרטיבי שיתבסס על ועדי הגנה מקומיים שהחלו להתארגן ביישובים העבריים הכפריים ובערים לאחר הכיבוש הבריטי. הניסיון השני החל ביזמת 'ועד הצירים', שהטיל על ז'בוטינסקי להקים ועד הגנה כלל-יישובי. בישיבה הראשונה של ועד הגנה זה, שהתקיימה בסוף פברואר 1920, השתתפו בנוסף לז'בוטינסקי גם פנחס רוטנברג, רחל ינאית בן-צבי, אליהו גולומב, דב הוז ומשה סמילנסקי (חקלאי וסופר, מן הבולטים באישי הציבור של המושבות, שהתגייס לגדוד הארצישראלי בגיל 44). שני ניסיונות אלה לא הגיעו לכלל מימוש עד התכנסות ועידת 'אחדות העבודה' ביוני: בפני 'הוועד המתחיל' עמד למכשול העימות בין הדוקטרינה המצמצמת של נציגי 'השומר' לזו המרחיבה של נציגי הגדוד; ועבודתו של ועד ההגנה מטעם 'ועד הצירים' נפגעה קשות עקב מאסרו של ז'בוטינסקי בתחילת אפריל.
כחלק מן ההחלטה בדבר ארגון 'הסתדרות ההגנה' קבעה ועידת 'אחדות העבודה' כי על כל חברי המפלגה 'להענות במשמעת מוחלטת' לדרישות המתחייבות מכך. עוד נקבע כי 'ההגנה' צריכה להיות 'מאורגנת כך, שהיא תהיה כ[ו]לה ברשות המשתתפים בה, ותשאוף להכניס אל תוכה כל איש מוכשר לעבודות-ההגנה ומקבל על עצמו את עולן'. היה בכך שילוב או מיצוע בין עמדת ותיקי 'השומר', שהעדיפו שאנשי הביטחון יהיו אחראים לענייני הביטחון וכי רק אנשים מתאימים יתקבלו לעבודת הביטחון ביישוב, לבין גישת גולומב, הוז וראשי 'אחדות העבודה' שטענו בזכות אחריות ומרות ציבורית על ארגון ההגנה הכלל-ארצי ופתיחת שורותיו למתנדבים בעלי הכרה מקרב הציבור היישובי הרחב.
חוות כנרת, מקום כינוסה של ועידת 'אחדות העבודה' ביוני 1920
'ההגנה' אמנם הוקמה כארגון הגנה כלל-יישובי, אך בידי מפלגה – לא בידי 'ההסתדרות הציונית', שהייתה ההנהגה הרשמית של התנועה הציונית ושל היישוב החדש בארץ. בשלב זה ההנהגה הציונית אמנם כבר התפכחה מן הרעיון שהגדודים העבריים ישמשו גרעין לכוח מגן לגאלי של היישוב, אך חששה כי למעורבותה בארגון הגנה מחתרתי יהיו השלכות שליליות על הגשמת הצהרת בלפור בידי בריטניה. לאור ההבנה כי 'ההגנה' זקוקה לחסות ופיקוח ציבוריים רחבים יותר ולתקציב גדול יותר ממה שיכלה לספק לה 'אחדות העבודה', ולאחר מאמצי שכנוע לא קלים, קיבלה על עצמה 'הסתדרות העובדים העברים בארץ-ישראל' עם ייסודה בדצמבר 1920 את האחריות על 'ההגנה'. רק בעקבות 'מאורעות תרפ"ט' (1929) שהעצימו את ההכרה בנחיצותו, פיתוחו וביסוסו של כוח מגן עברי כלל-ארצי ומחתרתי, קיבלו המוסדות הנבחרים של התנועה הציונית והיישוב את האחריות על 'ההגנה', והארגון סר מעתה למרותם של 'הסוכנות היהודית לארץ-ישראל' – הזרוע הביצועית של 'ההסתדרות הציונית' – ושל 'הוועד הלאומי לכנסת ישראל', הרשות המבצעת של אסיפת הנבחרים ביישוב.
הערה: הציטוטים מן המקורות נמסרו כלשונם למעט הוספת אִמות קריאה. הוספות על הכתוב והנהרות שלו ניתנו בסוגריים מרובעים [ ].
כתב, אצר וערך: שמרי סלומון, הארכיון לתולדות 'ההגנה'