كما كان للشيخ القسام دروس في المسجد تقام عادة بين الصلوات المفروضة، وقد جعل منها وسيلة لإعداد المجاهدين وصقل نفوسهم وتهيئتها للقتال، معتمداً اختيار الكيفية دون الكمية.
عمل على تأسيس جمعية الشبان المسلمين عندما استفحل الخطر البريطاني في فلسطين وانتشرت الجمعيات التبشيرية التي تدعو إلى تنصير المسلمين، وقام القسام من خلال نشاطه في الجمعية بتربية جيل من الشباب المسلم، الذين أنقذهم من دائرة الانحراف والضياع بسبب قسوة الظروف الاقتصادية والسياسية، وأدخلهم في دائرة العمل الجاد لصالح الوطن ... كما أنه وثق اتصالاته بقيادات المدن الفلسطينية الأخرى، وكسب عدداً من شباب المناطق المختلفة للانضمام إلى تنظيم الجهاد. وقد واظب القسام خلال وجوده في الجمعية على إعطاء محاضرة دينية مساء كل يوم جمعة، وكان يذهب كل أسبوع بمجموعة من الأعضاء إلى القرى، ينصح ويرشد ويعود إلى مقره. وقد تمكن من إنشاء عدة فروع للجمعية في أكثر قرى اللواء الشمالي من فلسطين، وكانت الفرصة للّقاء بالقرويين وإعدادهم للدفاع عن أراضيهم.
عمل القسام مأذوناً شرعياً لدى محكمة حيفا الشرعية سنة ١٩٣٠، وقد كانت هذه الوظيفة للقسام وسيلة من الوسائل التي اتصل عن طريقها بمختلف فئات المواطنين من شباب وشيوخ، وعمال وفلاحين، وطلاب وموظفين، وتجار وحرفيين، وتحدث إليهم وأقام معهم علاقات قوية كان لها أثر كبير في اتساع دائرة حركته الجهادية.
يعتبر القسام صاحب دعوة مستقلة وأسلوب متميز وحركة جهادية رائدة سبقت جميع الاتجاهات في ميدان الجهاد المعاصر في فلسطين.
ويتلخص هذا الأسلوب في تربية جيل من المجاهدين، فكان يعقد اجتماعات سرية مكتومة في بيته وفي بيوت بعض أصدقائه، يحضرها عدد من الأشخاص المغمورين (غير البارزين أو المعروفين في ميدان الحركة الوطنية) ، وكان يختارهم من الذين يحضرون دروسه ومواعظه، ويقوم بتهيئتهم وإعدادهم للجهاد، ويكوّن منهم خلايا جهادية، تقتصر عضويتها على نفر من المؤمنين الصادقين الذين لديهم الاستعداد الكامل للتضحية والفداء.
وعندما تم إنشاء القوة المجاهدة بشكل متكامل، كانت مقسمة إلى وحدات مختلفة المهام، حيث لكل وحدة دور خاص بها تتولاه، وهذه الوحدات هي:
الأولى: وحدة خاصة بشراء السلاح.
الثانية: وحدة خاصة للاستخبارات ومراقبة تحركات العدو البريطاني واليهودي.
الثالثة: وحدة خاصة بالتدريب العسكري.
الرابعة: وحدة خاصة للدعاية في المساجد والمجتمعات، وأبرز أعمالها الدعوة إلى الجهاد.
الخامسة: وحدة العمل الجماهيري والاتصالات السياسية.
السادسة: وحدة جمع المال من الأعضاء والأنصار، ورعاية أسر المعتقلين والشهداء.