بدأت العصابات الصهيونية بقصف مدفعي لقرية عين الزيتون منذ فجر يوم الثاني من أيار، الحق بوابل من القنابل اليدوية، الأمر الذي جعل المتطوعين العرب الذين كانوا متحصنين في القرية إلى مغادرتها بشكل فوري، أما اهالي القرية فلم يغادروا القرية، بعد عدة ساعات دخل الجنود الصهاينة القرية، وأخرجوا جميع سكانها إلى ساحة القرية،  معتقلين بعض الرجال، ويذكر المؤرخ "الإسرائيلي" بني موريس أن عدد الأسرى من أهالي عين الزيتون بلغ حوال 37 رجلاً، في حين طردوا باقي أهالي القرية، بعد أن اقتادوا ما يقارب الـ 70 شخصاً من أهالي القرية موزعين بين رجال ونساء وأطفال جمعوهم في مسجد القرية ثم أطلقوا القنابل والمدافع على المسجد الذي هُدِمَ فوق رؤوسهم، ومنذ ذلك الوقت باتت هذه الحادثة تُعرف باسم مجزرة عين الزيتون.