横から失礼します。
わたしはコミスタを持っていないため
コミスタのぼかしツールがどういうものかは分かりませんが、
拡大縮小回転したあとのジャギを軽減したいのでしたら
「レイヤ」→「レイヤの変換」で一度グレースケールにして
拡大などを行ったあとで「フィルタ」→「ぼかし」の「ガウスぼかし」を
適当な強度で使用してからもう一度「レイヤの変換」でモノクロに戻してみてはいかがでしょう？
－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－
1.まずクリスタを立ち上げ、「ファイル」→「新規」や
「ファイル」→「開く」で拡大などを行いたいファイルを作成（または開く）します。
2.次に普段どおり「編集」→「変形」から「拡大縮小回転」や「自由変形」などで変形します。
3.変形できたら次に「レイヤ」→「レイヤの変換」で
表現色を「グレー」（「カラーでも可」）に変更して「OK」します。
4.表現色を変更したことでフィルタの各種ぼかしが使えるようになりますので
「フィルタ」→「ぼかし」の「ガウスぼかし」や「ぼかし」を使用して
適当にエッジをぼかします。
（ガウスぼかしの場合はダイアログ右下の「プレビュー」にチェックを入れることで
結果をプレビューできますので、ちょうどいい強度でOKしてください）
5.あとは「レイヤ」→「レイヤの変換」でもう一度表現色を「モノクロ」に戻せば完了です。
実際にこの方法を使用してみると以下のようになります。
（元は上向きの矢印だったものを２倍に拡大して-45度回転しています。
また、そのままでは黒+黒で分かりにくいため、加工したほうにだけ
上に新規レイヤを作成してクリムゾンレーキ（RGB 203.19.27 (#cb131b)）で
ベタ塗りしたあと「下のレイヤにクリッピング」しています。
（矢印自体はどちらもモノクロのままです））
－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－－
ただ…この方法ではジャギの軽減にガウスぼかしを使用するため、
先のとがった部分などがどうしても丸くなってしまいます。
（ぼかしの強度によってはモノクロに戻した際に細かい部分が消えてしまうことも…）
そのため必要ならモノクロに戻したあとでドットペンツールなどで
適当に修正してあげてください。
以上、取り留めの無いことをだらだらと述べてきましたが、
少しでも参考になりましたら幸いです。
それと乱文失礼いたしました。
ぼかしツールを使用され、滑らかにする作業を行われていたという事で
よろしいでしょうか。
その場合はCLIP STUDIO PAINTの色混ぜツールのサブツール[ぼかし]では
同じ動作とはならず、ご確認頂いている状況となります。
現状はComicStudioと同様にモノクロの表現色のレイヤーに対して、同様
の効果を得られるツールはご用意がない為、今後の開発にて対応を検討
してまいります。
よろしくお願いいたします。