ロータリエンジンは，過去さまざまな形式が考案されてきたが，エンジンとして実用化されているのは，２節ペリトロコイド曲線とトロコイド内包絡線との組合せで構成されるいわゆるバンケル型ロータリエンジンである．
作動室は，ペリトロコイド曲線を内周面に持つロータハウジングと，その内包絡線を外郭形状とするロータ，さらにそれらの両側面に配置されたサイドハウジングにより構成される．ロータは出力軸および歯車比3：2のロータ歯車と固定歯車によって姿勢を規制され，公転しながら自転を行う．出力軸３回転の間にロータは１回転し，その周囲の三つの作動室それぞれは吸入，圧縮，膨張，排気の各行程を完了する．作動室の気密を保持するために，ロータの頂点にアペックスシール，側面にサイドシール，両者の接合部にコーナシールが配置されている．各シールともばねによりしゅう動面に対し予圧が与えられており，作動中はさらにシール背面にかかるガス圧により加圧される．ロータを潤滑油で冷却する形式のものでは，ロータ側面のサイドシールより内側の位置に，環状のシールリングとOリング，ばねより構成されるオイルシールが配置されている．吸気ポートにはロータハウジングのトロコイド面に開口するペリフェラルポートと，サイドハウジングしゅう動面に開口するサイドポート，両者を組合せたコンビポートがある．排気ポートには一般的にペリフェラルポートが用いられる．点火プラグはトロコイド短軸付近に設けられるが，燃焼室形状，圧縮比により最適位置が選ばれる．
バンケル型ロータリエンジンの基本となるペリトロコイド曲線は次式で与えられる．
　　X＝e cos θ＋R cos (θ/3)
　　Y＝e sin θ＋R sin (θ/3)
　　e：偏心量，R：創成半径，
　　θ：偏心軸回転角度
R/eをトロコイド定数と呼び，R/eが大きくなればトロコイド形状が大きくなりエンジンの容積利用効率が悪くなる．一方R/eが小さくなればトロコイド形状が小さくなるが圧縮比が低下し熱効率などの面で不利となる．現用ガソリンエンジンの場合一般に６～８にとられる．
ロータリエンジンの長所としては，①往復運動部分がなく，回転運動部分だけで構成されるため，完全に不釣合いを解消でき，振動・騒音の発生が少ない．②吸排気弁機構がないため構造が簡単で部品点数が少なく，同出力のレシプロエンジンに比べ小型で軽量．③吸入行程が長いため高回転でも体積効率が高く，高比出力化が容易．一方，レシプロエンジンに比べ燃焼室のS/V比が大きいことからHC排出が多いなどの課題を持っている．