Herczeg v minulosti zastupoval například akcionáře IPB, podle kterých se vedení Československé obchodní banky po převzetí Investiční a Poštovní banky dopustilo zpronevěry a porušování povinnosti při správě cizího majetku. Pracoval v advokátní kanceláři White & Case.

Podle médií na sebe Herczeg nejvíc upozornil v souvislosti s korupční kauzou, kvůli níž skončil před soudem bývalý středočeský hejtman David Rath. Herczegův odborný text z roku 2009 byl oporou pro odvolací senát Vrchního soudu v Praze, který zrušil odsuzující verdikt nad Rathem. Podle vrchního soudu byly odposlechy Ratha, které byly hlavním východiskem pro jeho odsouzení, získány nezákonně.

Herczeg se zaměřoval na hospodářské trestní právo, ústavní právo, ochranu základních lidských práv a svobod a řízení před Ústavním soudem ČR a Evropským soudem pro lidská práva. Za publikaci Meze svobody projevu obdržel v roce 2005 Bolzanovu cenu, autorsky se podílel na učebnicích trestního práva hmotného i procesního. Na Univerzitě Karlově vystudoval Matematicko-fyzikální fakultu a Právnickou fakultu.