נולד למשפחה יהודית מסורתית ולמד בתלמוד תורה. כבר בגיל צעיר הצטרף לתנועת פועלי ציון. בשנת 1903 השתתף בפעילות של "הגנה עצמית" של יהודים ובשנת 1905 עלה לארץ ישראל ושינה את שמו ל"גלעדי". עבד במושבות השומרון (זיכרון יעקב והסביבה) ובגליל.

היה מבין מייסדי ארגון השמירה העברי הראשון בארץ ישראל, ארגון "בר גיורא" בסג'רה בשנת 1907. היה מבין מייסדי הקולקטיב הראשון להתיישבות פועלים, מראשוני ארגון השומר (וממלא מקומו של ישראל שוחט, מפקד הארגון) ומראשי הסתדרות הפועלים החקלאיים בגליל.

גלעדי היה איש מעשה ולא כתב את משנתו, אך מעדויות ניתן ללמוד שהיה מורה הדרך המצפוני של ארגון השומר. הוא הטיף לחברי הארגון ליטול חלק בהתיישבות באזורי הספר ובכיבוש העבודה והציב דרישות מוסריות גבוהות לצורך התקבלות חברים לארגון השומר. חלומו היה הקמת כפרי שומרים בגבולות הארץ, בהם תשתלב השמירה בעבודת האדמה, והחברים יגנו על הגבול.

במלחמת העולם הראשונה ניסה לעלות עם קבוצה להתיישבות בתל עדשים, אך סכסוכים אילצו אותו ואת חבריו לעזוב. עקב כך עזבו גם את "השומר" ועברו למסחה, שם קיבלו את השמירה ובאוקטובר 1916 עלו לשמירה במטולה ובמקביל הקימו כפר בסמוך, כפר "בר גיורא". המשטר הטורקי חשד באנשי הכפר שהם מסייעים לארגון החשאי ניל"י ובאוקטובר 1917 נהרס הכפר וגלעדי וחלק מחבריו נאסרו לתקופה קצרה. עם שחרורם הקימו מחדש את הכפר. באותה תקופה יושבו הסכסוכים בינו ובין אנשי ה"שומר" והוא חזר להנהגת הארגון, תוך שפרש ממפלגת "פועלי ציון".

בדרכו לקבוצת כנרת לאספה של הסתדרות פועלי הגליל, חלה בשפעת ספרדית ונפטר ב-2 באוקטובר 1918. לאחר מותו שונה שמו של כפר בר גיורא לכפר גלעדי.