日本機械学会賞は本会創立60周年（昭和32年）記念事業の一つとして「日本の機械工学・工業の発展を奨励する」ことを目的として昭和33年に設けられ、表彰は毎年4月の総会で行うこととした（第１回表彰は昭和34年4月の第36期総会）。
当初この賞の運営に要する資金は、創立60周年記念事業資金として会員から寄付された資金の一部（1,000万円）によって運営された。この寄付金は大蔵省の指定寄付金（免税）となっていたので、その運営に際して受賞対象は「会員以外も含めた論文と製品」となっており、また寄付金の1,000万円は10年間の表彰で使用することが条件となっていた。なお受賞論文・製品については総会会場において概要発表及び製品展示を行った。（昭和35年度）
10年経過後の昭和43年度からの表彰については、検討の結果継続して行うこととなり、その運営資金は今後学会の通常経費（公益会計）から支出することとなった。そしてこの年度から受賞対象を「会員に限定した論文と技術」へと変更した。
昭和52年度からは、論文賞の対象は単一論文とし、また同年には創立80周年記念事業後援会から公益会計へ寄付（3,600万円）を受け、その寄付金により特別会計（日本機械学会賞会計）を設置した。昭和53年度からは同会計における利子収入を公益会計で受け入れ、日本機械学会賞の運営経費を賄って来た。昭和57年度からは若手会員顕賞のため奨励賞の新設（平成2年度より研究と技術奨励賞に分化）、平成3年度から技術功績賞の新設、学会賞全体への応募数の増大等によって、昭和63年度からは日本機械学会賞会計の基金を取り崩して運営してきた。
平成8年度には、日本機械学会賞の体系を、技術功績賞・論文賞・技術賞は日本機械学会賞（技術功績、論文、技術）とし、研究奨励賞・技術奨励賞は日本機械学会奨励賞（研究、技術）に変更した。また、論文集の投稿数増大を背景に、論文の受賞枠を１５件に拡大した。平成9年度には創立100周年記念募金後援会から特別会計（日本機械学会賞基金）に１億円を補填頂き、「日本機械学会賞基金運営規程」を制定して運用している。
なお、平成15年度より、論文賞の受賞枠が１５件から１６件へと拡大され、日本機械学会賞受賞枠は、技術功績５件、論文１６件、技術８件、日本機械学会奨励賞は各２０件、日本機械学会教育賞１０件となっている。