М. А. Гершензон родился в Одессе, окончил гимназию, три года учился на естественном отделении Новороссийского университета. Увлёкшись литературой, в 1921 году поступил в Высший литературно-художественный институт (ВЛХИ). По окончании в 1925 году был оставлен при институте для научной работы, вёл там практикум по строфике, подготовил к публикации книги «Композиция стихотворного материала» и «Теория художественного перевода» (в связи с закрытием ВЛХИ они остались неизданными). Член Союза писателей СССР с 1934 года. Работал редактором детской литературы в Госиздате, затем в Детгизе. Опубликовал повесть «Робин Гуд» по мотивам средневекового английского фольклора, книгу занимательных задач «Головоломки профессора Головоломки», «Две жизни Госсека» о композиторе Франсуа Жозефе Госсеке и Великой французской революции.
С июля 1941 года политработник, переводчик 8-й Московской стрелковой дивизии 5-й армии Западного фронта. 8 августа 1942 года был тяжело ранен в бою и вскоре умер в госпитале.
Похоронен Гершензон в братской могиле в селе Никольское, Шаховского района Московской области.