時間外労働と年次有給休暇を相殺することはできるのでしょうか。

年次有給休暇は法律で「休暇」として定められているため、「暦日単位」で付与する
事になります。
仮に労働基準法で禁止されていない場合であっても、本来は時間単位で付与する性質の
ものではありません。

(例外的な運用として、改正労基法上で労使協定の締結により時間単位の年休付与が
認められています。)

業務上必要があって命じたはずの時間外労働と年次有給休暇を相殺するというのは
現実問題として考えにくいものです。
また、時間外割増部分の関係で年次有給休暇と支給される賃金額は一致せず
完全に相殺することも不可能です。