テッセレーション(mental ray for Maya では近似)は、NURBS サーフェス(またはディスプレイスメント マップ ポリゴン メッシュ)を三角形に変換するためにレンダラが行う処理です。ユーザ(カメラ)に近い距離でオブジェクトがどれだけ滑らかに見えるかは、三角形によって決まります。テッセレーションが悪いオブジェクトは、カメラ近くではたくさんの小さな平面でできているように見えます。遠い場合はそのようには見えません。
(ほとんどの)レンダラがレンダーできるのは三角形だけなので、テッセレーションはレンダー時に必要な手順で、自動的に実行されます。ただし、オブジェクトがカメラに近くなる場合やオブジェクトがディスプレイスメント マッピングされた場合などは、オブジェクトの滑らかさが足りないことがあるため、テッセレーション設定を調整する必要があります。
テッセレーション設定は、使用する三角形の数、三角形を集中させる場所、三角形のサイズを定義します。三角形が非常に多く、ある場所に集中していると、レンダラのメモリ要件が増え(このためパフォーマンスが悪化し)てしまうため、テッセレーション設定を調整して、カメラに近いオブジェクトのエッジの滑らかさ(精度)とレンダラのパフォーマンス(レンダーにかかる時間)のバランスを取らなければなりません。
テッセレーションの戦略は必ず、滑らかなサーフェスを実現するのに十分な高さにだけ、(全体的にではなく)オブジェクトごとに設定を調整することです。あまり重要でない遠くのオブジェクトのテッセレーション設定は、カメラに近いオブジェクトよりも低くします。