@betram:
Ich bin kein Programmierer (zumindest nicht mehr als notwendig...), insofern ahbe ich da wenig Ahnung, was eine 16Bit Unterstützung oder andere Dateiformate für euer Tool bedeuten würden.
An automatisierbaren "Kaschierungen" fällt mir zuerst einmal künstliches monochromes Korn ein, das lässt die Sprünge etwas weniger stark auffallen (und tut z.B. auch stark entrauschten Bildern gut, die dann etwas weniger steril und weich wirken, oder auch etwas unscharfen Bilder, da es dem Auge Details vorgaukelt, die nicht da sind).
Man könnte auch versuchen einfarbige Flächen (wo die Abrisse besonders auffallen) von Schärfungsalgorithmen auszunehmen oder eher hohe Schwellenwerte beim Schärfen zu verwenden, um so die Abrisse zumindets nicht unnötig zu betonen.
Automatisierte Weichzeichner zum Entfernen stelle ich mir schwer vor, da die Wecihzeichnung recht heftig sein muss und - wenn etwas ungenau angewendet - auch andere Details zerstört.