StrongHaloGhostDeconvolution.avs

[Emulgator]

Herewith I open a separate thread about abovementioned script which helped getting rid of disgusting ghosting halos.
Dont take the given values as granted to work with your particular video, these have worked for one special case only.
It takes lengthy manual tailoring, but delivers outstanding results. Maybe it can be developed further.

#€€€€€€€€€€€€€€€€€€€€€€€€   Start of Emulgator's Avisynth Bergwerk "StrongHaloGhostDeConvolution.avs" from 2021-03-26   €€€€€€€€€€€€€€€€€€€€€€€€€€€
# ------------------------- (This is the snippet by .mp4guy from where it started) ----------
# string1 = string(" 0 -20 28 -32 36 36 128 128 72 -56 12 12 -4 ")
# mt_convolution(horizontal=" "+string(string1)+" ", vertical=" 1 ", u=3, v=3)
# ----------------------------------------------------------------------------------------
# StrongHaloGhostDeConvolution.avs
# 2021-03-26 by Emulgator
#
# Das vorliegende Script arbeitet in AviSynth64 (getestet ab 3.6.2) mit 16 bit Auflösung und befaßt sich erfolgreich mit der Auskompensation
# von besonders groben Schärfungs-oder Echoartefakten, wie sie bei Video-Aufzeichnungen früher Analog-Camcorder auftraten.
# Die Anwendung bisher üblicher De-Halo-Algorithmen konnte dort nicht befriedigen, da diese i.d.R. nicht imstande sind,
# Halos größerer Ausdehnung ohne starken Detailverlust zu bekämpfen.
# ----------------------
# Lösungsansatz: Verwendung von Punkt für Punkt manuell angepaßten Faltungsfiltern größerer Länge.
# In der Regel treten Analog-Schärfungs-oder Echoartefakte kausalitätsbedingt zeitlich immer nach einem auslösenden Ereignis auf,
# bei rechtslaufender Scanrichtung also einer Kante rechts nachfolgend.
# Damit ist ein asymmetrischer Korrekturkernel zu erwarten, welcher hauptsächlich Anzapfungsfaktoren links vom aktuellen Pixel besetzt.
# (Eine analytische Lösung wird hier nicht a priori versucht, steht aber jedem offen, der dies versuchen will.)
#
# Eine prinzipbedingte Eigenheit der mt_convolution unter AviSynth ergibt, daß das Ergebnisvideo in YUV keine negativen Werte enthalten kann.
# Daraus ergab sich die Notwendigkeit einer betragsorientierten Aufteilung der Korrektur in 2 Kompensationsvorgänge:
# Der erste Korrekturgang arbeitet mit den Beträgen der positiv ausfallenden 1. horizontalen Ableitungen,
# der zweite mit den Beträgen der negativ ausfallenden 1. horizontalen Ableitungen.
# Dies bedient 1. die Notwendigkeit der vollständigen vorherigen Auskompensation
# der ansonsten erneut fehlereinbringenden Rückgangsflanken der Fehlerantwort aus positiven Gradienten.
# Erst dann kann im 2. Pass die Suche nach "echten" (im gewünschten Bildinhalt befindlichen) negativen Gradienten beginnen. 
# (Das Problem existiert umgekehrt zwar auch, tritt aber in dieser Reihenfolge nicht so prominent auf.)
# 2. Dabei erarbeitet man sich  "en passant" den Luxus der nun für positive und negative Gradienten getrennt verfügbaren Parametrierung.
# --------------------------
# Ermitteln der geeigneten Filterfolge:
# Quellvideo -> Abspalten Hilfsvideo -> Farbraum-Reduktion auf Y16
# -> Bilden der Beträge der positiv ausfallenden räumlichen 1.Ableitung in horizontaler Richtung = scharfes positives Ableitungsvideo
# -> Manuelles Vorformen einer primitiven Kompensationsfunktion durch Faltungsvektor
# -> Globale Vor-Skalierung des Überlagerungsfaktors per Gain = geglättetes positives Ableitungsvideo
# -> probeweise Überlagerung (Overlay) des geglätteten positiven Ableitungsvideos auf das Quellvideo
# -> Probeweises Schieben über die passende x-Bezugsspalte <-> Ausprobieren der Anzapfungsorte im Faltungsvektor 
# <-> probeweise x-Verschiebungskorrektur im Overlay <-> finale Anpassung der Anzapfungspegel im Faltungsvektor unter Kontrolle im Overlay.
# ---------------------------
# Vorbereitung: Ermitteln der Halofehler-Ausdehnung d, danach die Faltungs-Matrix und Größe mindestens (2*d)+1  vorgeben.
# Ersteckt sich also ein Halofehler horizontal über 14 Pixel, gibt man einen 29 Parameter langen Vektor in x-Richtung vor.
# Dann werden die Anzapfungwerte sukzessiv durch Probieren mit Anfangswert Mittelanzapfung = 1 ermittelt.
# Erst wenn der erste Teil perfekt auskompensiert ist, wird der 2.Teil gelingen !
# ---------------------------
# Bildfehleranalyse
# Die unbekannte Videoquelle war vermutlich eine frühe Amateur-SONY im Handtaschenformat.
# Diese Cam A wird "PAL-Stronghalo" benannt.
# Einer der zuerst auszukompensierenden Hauptfehler des vorliegenden PAL-Videos:
# Der zu kompensierende Fehler taucht nur in der Y-Komponente auf
# und folgt der 1.Ableitung von Y, die invertiert 7 Pixel später als negiertes und verschmiertes Echo auftaucht.
# Positive und negative Gradienten tauchen verschieden verschmiert auf, die Gesamtfehlerlänge erstreckt sich jeweils über 14 horizontale Pixel.
# Fehlerlänge 1% der PAL-Zeilenlänge Zeilenfrequenz 1MHz/64 = 15625Hz 64µs = 640ns.
# Pixelrate PAL: 720x576 = 414720 Pixel * 25 = 10.368.000 pix/s Netto.
# Es ist aber ein 625-Zeilen-System, also Scan-Timing 720x625x25 = 1/11.250.000s = 88ns/Pixel * 7 =620ns Delay Duration / 1240ns Fault Duration.
#
# Beschreibung der horizontalen Halo-Fehler an frame 924
# Ein Dunkel->Hell Eingangssprung von Sollwert Y=16 auf Sollwert Y=106 (deltaY=+90) ergibt eine 14 Pixel lange Impulsantwort !
# Anstiegsflanke beginnend bei x=9,Y=16: 
# Folge der Abtastwerte 16,62,106,121,111,106,96,86,81,84,86,90,94,98,104,106, Zielwert 106
# Überschwingantwort mit Maximum nach 3 Pixeln, eingeschwungen nach 5 Pixeln:
# x+1: -> Y/2;  x+2 -> Y+0;  x+3 -> Y+10..15;  x+4 -> Y+5;  x+5 -> Y+0
# Unterschwingantwort mit Maximum nach 8 Pixeln ab x+6 bis x+14 länger negativ gerichtet:
# x+6 -> Y-10, x+7 -> Y-20,  x+8  -> -25, x+9 -> Y-22,  x+10 -> Y-20, x+11 -> Y-16 , x+12 -> Y-12 , x+13 -> Y-8 , x+14 -> Y -2, x+15 -> Y-0
#-------
# Ein Hell->Dunkel Eingangssprung von Sollwert Y=150 auf Sollwert Y=20 (deltaY=-130) ergibt eine 14 Pixel lange Impulsantwort !
# Abfallflanke in Zeile 414, beginnend bei x=425: (x=425,y=414): 
# Folge der Abtastwerte 150,130,107,88,63,46,38,40,51,62,64,58,30,24,22,20,  Zielwert 20
# Unterschwingantwort mit 1.Zwischenminimum nach 6 Pixeln,
# Rückschlag mit Maximum Y+44 nach 10 Pixeln, eingeschwungen auf Endwert nach 15 Pixeln 
#
# Probier-Methodik: Vorbereitung: Ermitteln der Halofehler-Ausdehnung d
# Nun die Matrix mindestens genau so groß vorgeben. Da sie auto-zentriert berechnet wird, je 1x in jede Richtung.
# Soll das Quellbild Teil der Faltung sein, ist der mittlere Koeffizient <>0, also Länge (2*d)+1. 
# Ersteckt sich der Halofehler horizontal über 14 Pixel, gibt man also einen 29 Parameter langen Vektor vor.
#
# Jetzt gehts los !
SetFilterMTMode("DEFAULT_MT_MODE", 2)
SetFilterMTMode("LWLibavVideoSource", 3)
ShowCurve3=false
ShowQTGMCSettings=false
#va=AviSource("D:\source.avi").ConvertBits(bits=16).AssumeTFF()
#aa=AviSource("D:\source.avi")
va=FFVideoSource("D:\source.avi").ConvertBits(bits=16).AssumeTFF()
aa=FFAudioSource("D:\source.avi")
#va=LWLibavVideoSource("D:\source.avi", prefer_hw=1, format="YUV422P16").AssumeTFF()
#aa=LWLibavAudioSource("D:\source.avi")
AudioDub(va,aa)
SeparateFields()
bobby=last
#bobby=last.SuperXBR(str=5, fwidth=720)
#bobby=last.SuperResXBR(passes=5, str=1, fwidth=720)
#bobby=last.SuperRes(fwidth=720, str=1, upscale ="""nnedi3_rpow2(2, cshift="Spline16Resize")""")
bobbw=bobby.ConvertToY()
# Wir arbeiten ausschließlich in Y. Die beschriebenen Halos existieren meist nur in Y. (U und V bieten kaum hinreichend Auflösung, um störende Überschwinger zu ermöglichen.)
#
# Übungsabschnitt ! mt_convolution ist autoscaling, vergibt es also, wenn man die Regel der Summe = 1 nicht beachtet.
# Probeweise alle Positionen mit 0 besetzen. Ein YUV-Video ergäbe die illegale Farbe 0,0,0 (in der Preview als Grün wiedergegeben).
# Vorher auf Y16 konvertieren, dann ergibt es legale Farben. In der AvsPmod-Preview sollte sich ein schwarzes Y16-Bild mit der Farbe 0,-1,-1 ergeben.
string000 = string("0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0")
test000=mt_convolution(bobbw, horizontal=" "+string(string000)+" ", vertical=" 1 ", u=3, v=3)
# Probeweises Einsetzen einer mittleren 1 sollte das Originalbild in Y16 ergeben.
string010 = string("0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0")
test010=mt_convolution(bobbw, horizontal=" "+string(string010)+" ", vertical=" 1 ", u=3, v=3)
# Probeweises Einsetzen zweier 1 einmal links, einmal rechts sollte zwei verschobene Y16-Originalbilder mit je halber Leuchtkraft ergeben.
string101= string("1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1")
test101=mt_convolution(bobbw, horizontal=" "+string(string101)+" ", vertical=" 1 ", u=3, v=3)
# Probeweise die mittleren Positionen mit -1+1 besetzen. Es sollte in der AvsPmod-Preview die Y16-Abbildung der positiven Gradienten in weiß auf schwarz  ergeben.
stringn1p1 = string("0 0 0 0 0 0 0 0 0 0 0 0 0 -1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0")
testn1p1=mt_convolution(bobbw, horizontal=" "+string(stringn1p1)+" ", vertical=" 1 ", u=3, v=3)
# Probeweise die mittleren Positionen mit +1-1 besetzen. Es sollte in der AvsPmod-Preview die Y16-Abbildung der negativen Gradienten in weiß auf schwarz  ergeben.
stringp1n1 = string("0 0 0 0 0 0 0 0 0 0 0 0 0 1 -1 0 0 0 0 0 0 0 0 0 0 0 0 0 0")
testp1n1=mt_convolution(bobbw, horizontal=" "+string(stringp1n1)+" ", vertical=" 1 ", u=3, v=3)
#return(weave(test000))
#return(weave(test010))
#return(weave(test101))
#return(weave(testn1p1))
#return(weave(testp1n1))
#
# Jetzt gehts aber echt los !
#
derivkernpos = string("-1 1 0") # ergibt die Beträge der positiv ausfallenden 1. Ableitungen. Gibt man einen 2er Kernel vor, wird dieser rechts mit einer Null aufgefüllt)
derivkernneg = string("1 -1 0") # ergibt die Beträge der negativ ausfallenden 1. Ableitungen
################################################
# Cam A is the "Amateur" cam, oversaturated grainy picture with strong halos:  positive gradients give a smooth dark echo 5..14 pixels later, negative gradients give a bright echo 6..9 pixels later
aderivpos=mt_convolution(bobbw, horizontal=" "+string(derivkernpos)+" ", vertical=" 1 ", u=3, v=3, saturate=true)
# Vorgabe der horizontalen Glättungsfunktion für die zur Abdunklung von Überschwingern verwendeten positiven horizontalen Ableitungen
asmoothkernposdark = string("0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0") #damit machen wir bei diesem Video nichts. Ist für später.
ahaloposdark=mt_convolution(aderivpos, horizontal=" "+string(asmoothkernposdark)+" ", vertical=" 1 ", u=3, v=3)
ahaloposdarkup=SmoothCurve16(ConvertToStacked(ahaloposdark), HQ=true, interp=100, Ycurve="0-0;15360-30720;65535-65535", Ucurve="0-0;65535-65535", Vcurve="0-0;65535-65535").ConvertFromStacked()
# Vorgabe der horizontalen Glättungsfunktion für die zur Aufhellung von Unterschwingern verwendeten positive horizontale Ableitungen
# Probeweises Besetzen mit einer zentralen 1 und Verschieben, bis man den Rhythmus des Halos trifft. 
# Dann Werte links hinzufügen, auch mal rechts. Koeffizienten abstufen, bis die zwei verschobenen Originalbilder sich passend mischen.
# In der Regel treten Analog-Schärfungs-oder Echoartefakte prinzipbedingt immer rechts nach einer Kante auf.
# Damit werden zur Korrektur nur Faktoren links vom aktuellen Pixel benötigt.
asmoothkernposbright = string("0.08, 0.12, 0.18, 0.24, 0.36, 0.48, 0.6, 0.7, 0.8, 1.0, 1.2, 1.0, 0.8, 0.6, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0")
ahaloposbright=mt_convolution(aderivpos, horizontal=" "+string(asmoothkernposbright)+" ", vertical=" 1 ", u=3, v=3)
ahaloposbrightup=SmoothCurve16(ConvertToStacked(ahaloposbright), HQ=true, interp=100, Ycurve="0-0;15360-30720;65535-65535", Ucurve="0-0;65535-65535", Vcurve="0-0;65535-65535").ConvertFromStacked()
apd=Overlay(bobby, ahaloposdarkup, x=0,opacity=0.0,mode="subtract")
# Zur Kompensation von Überschwingern werden aus positiven Ableitungen resultierende Y-Werte subtrahierend (abdunkelnd) überlagert,  Erhöhen von x schiebt das Overlay nach rechts.
apb=Overlay(apd, ahaloposbrightup, x=2,opacity=1.0,mode="add")
# Zur Kompensation von Unterschwingern werden aus positiven Ableitungen resultierende Y-Werte addierend (aufhellend) überlagert,  Erhöhen von x schiebt das Overlay nach rechts.
apy=ConvertToY(apb)
aderivneg=mt_convolution(apy, horizontal=" "+string(derivkernneg)+" ", vertical=" 1 ", u=3, v=3, saturate=true)
asmoothkernneg = string("0, 0, 0, 0, 0, 0, 0, 0, 0.3, 0.4, 0.5, 0.6, 0.7, 0.8, 0.9, 1.0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0")
# Gibt die horizontale Glättungsfunktion für die negative horizontale Ableitung vor: linke Seite abklingende Flanke, rechte Seite ansteigende Flanke 
ahaloneg=mt_convolution(aderivneg, horizontal=" "+string(asmoothkernneg)+" ", vertical=" 1 ", u=3, v=3)
ahalonegup=SmoothCurve16(ConvertToStacked(ahaloneg), HQ=true, interp=100, Ycurve="0-0;15360-30720;65535-65535", Ucurve="0-0;65535-65535", Vcurve="0-0;65535-65535").ConvertFromStacked()
camadehalo=Overlay(apb, ahalonegup, x=5,opacity=1.0,mode="subtract")
# Hier werden aus negativen Ableitungen resultierende Y-Werte subtrahierend (abdunkelnd) überlagert,  Erhöhen von x schiebt das Overlay nach rechts.
camadehalocorr=SmoothCurve16(ConvertToStacked(camadehalo),HQ=true, interp=100, limiter=false, debug=ShowCurve3, screenW=1280, screenH=768, \
Ycurve="0-0;5000-7000;25000-25000;32767-32767;45000-45000;65535-65535", \
Ucurve="0-0;20000-22000;32767-32767;50000-42000;65535-62000", \
Vcurve="0-0;20000-15000;32767-32767;50000-47000;65535-65535").ConvertFromStacked()
#return(weave(bobby)) # So sah die Quelle aus.
#return(weave(bobbw)) # So sah der Schwarz-Weiß-Auszug derQuelle aus.
#return(SmoothCurve16(ConvertToStacked(weave(aderivpos)), Ycurve="0-0;15360-61440;65535-65535", Ucurve="0-0;65535-65535", Vcurve="0-0;65535-65535").ConvertFromStacked())
# 4x versteilerte Ansicht der positiven 1.Ableitung
#return(SmoothCurve16(ConvertToStacked(weave(ahaloposbrightup)), Ycurve="0-0;15360-61440;65535-65535", Ucurve="0-0;65535-65535", Vcurve="0-0;65535-65535").ConvertFromStacked())
# 4x versteilerte Ansicht der gefilterten positiven 1.Ableitung
#return(SmoothCurve16(ConvertToStacked(weave(aderivneg)), Ycurve="0-0;15360-61440;65535-65535", Ucurve="0-0;65535-65535", Vcurve="0-0;65535-65535").ConvertFromStacked())
# 4x versteilerte Ansicht der negativen 1.Ableitung
#return(SmoothCurve16(ConvertToStacked(weave(ahalonegup)),Ycurve="0-0;15360-61440;65535-65535", Ucurve="0-0;65535-65535", Vcurve="0-0;65535-65535").ConvertFromStacked())
# 4x versteilerte Ansicht der gefilterten negativen 1.Ableitung
#return(weave(apb))# Ansicht nach dem 1.Kompensationsschritt (Kompensation der Halos aus positiven Gradienten)
#return(weave(camadehalo))# Ansicht nach dem 1+2.Kompensationsschritt (Kompensation der Halos aus positiven, dann aus negativen Gradienten)
weave(camadehalocorr) # Farbkorrigiertes Kompensations-Endergebnis Camera A (Parameter sind dem Video anzupassen, hier nur als Beispiel...)
ConvertToYUV422() # Aus 4:4:4 zurück zu 4:2:2
ConvertBits(bits=10)# Von 16-bit zurück zu 10-bit
Prefetch(24)
#€€€€€€€€€€€€€€€€€€€€€€€€   End of Emulgator's Avisynth Bergwerk "StrongHaloGhostDeConvolution.avs" from 2021-03-26    €€€€€€€€€€€€€€€€€€€€€€€€€€€

After approval the picture below will show the presumed step response and the fault to be compensated as a diagram of sample values.

[StainlessS]

Emulgator,
This is an English only forum, go stand in the corner with your nose touching the wall.
1 hour should just about do it.

[geometer]

haha it's good engineering, let's see soon, how well it works!
I made a very raw suggestion in that direction, but did not touch a concept for different behavior of the positive and negative slopes of those edges, that are creating the echoes.
But I did something for the also frequent artifact in vertical direction, that comes from sharpening in the wrong domain (because interleaved).

[Mounir]

English please ?

[StainlessS]

Originally Posted by Mounir

English please ?

Part 1 [Copy/Paste]

# StrongHaloGhostDeconvolution.avs : Emulgator :: https://forum.doom9.org/showthread.php?t=182604

#€€€€€€€€€€€€€€€€€€€€€€€€   Start of Emulgator's Avisynth Bergwerk "StrongHaloGhostDeConvolution.avs" from 2021-03-26   €€€€€€€€€€€€€€€€€€€€€€€€€€€
# ------------------------- (This is the snippet by .mp4guy from where it started) ----------
# string1 = string(" 0 -20 28 -32 36 36 128 128 72 -56 12 12 -4 ")
# mt_convolution(horizontal=" "+string(string1)+" ", vertical=" 1 ", u=3, v=3)
# ----------------------------------------------------------------------------------------
# StrongHaloGhostDeConvolution.avs
# 2021-03-26 by Emulgator
#
# Das vorliegende Script arbeitet in AviSynth64 (getestet ab 3.6.2) mit 16 bit Auflösung und befaßt sich erfolgreich mit der Auskompensation
# von besonders groben Schärfungs-oder Echoartefakten, wie sie bei Video-Aufzeichnungen früher Analog-Camcorder auftraten.
# Die Anwendung bisher üblicher De-Halo-Algorithmen konnte dort nicht befriedigen, da diese i.d.R. nicht imstande sind,
# Halos größerer Ausdehnung ohne starken Detailverlust zu bekämpfen.
# ssS:
# This script works in AviSynth64 (tested from 3.6.2) with 16 bit resolution and deals successfully with the compensation
# of particularly coarse sharpening or echo artifacts, such as those that occurred with video recordings in earlier analog camcorders.
# The application of the previously common de-halo algorithms could not be satisfactory there, as these are usually not able to
# Combat halos of larger dimensions without losing a great deal of detail.
# ----------------------
# Lösungsansatz: Verwendung von Punkt für Punkt manuell angepaßten Faltungsfiltern größerer Länge.
# In der Regel treten Analog-Schärfungs-oder Echoartefakte kausalitätsbedingt zeitlich immer nach einem auslösenden Ereignis auf,
# bei rechtslaufender Scanrichtung also einer Kante rechts nachfolgend.
# Damit ist ein asymmetrischer Korrekturkernel zu erwarten, welcher hauptsächlich Anzapfungsfaktoren links vom aktuellen Pixel besetzt.
# (Eine analytische Lösung wird hier nicht a priori versucht, steht aber jedem offen, der dies versuchen will.)
# ssS:
# Approach to a solution: Use of convolution filters of greater length that are manually adapted point by point.
# As a rule, analog sharpening or echo artifacts always occur after a triggering event due to their causality,
# with a clockwise scan direction following an edge to the right.
# This means that an asymmetrical correction kernel is to be expected, which mainly occupies tapping factors to the left of the current pixel.
# (An analytical solution is not attempted a priori here, but is open to anyone who wants to try it.)
#
# Eine prinzipbedingte Eigenheit der mt_convolution unter AviSynth ergibt, daß das Ergebnisvideo in YUV keine negativen Werte enthalten kann.
# Daraus ergab sich die Notwendigkeit einer betragsorientierten Aufteilung der Korrektur in 2 Kompensationsvorgänge:
# Der erste Korrekturgang arbeitet mit den Beträgen der positiv ausfallenden 1. horizontalen Ableitungen,
# der zweite mit den Beträgen der negativ ausfallenden 1. horizontalen Ableitungen.
# Dies bedient 1. die Notwendigkeit der vollständigen vorherigen Auskompensation
# der ansonsten erneut fehlereinbringenden Rückgangsflanken der Fehlerantwort aus positiven Gradienten.
# Erst dann kann im 2. Pass die Suche nach "echten" (im gewünschten Bildinhalt befindlichen) negativen Gradienten beginnen.
# (Das Problem existiert umgekehrt zwar auch, tritt aber in dieser Reihenfolge nicht so prominent auf.)
# 2. Dabei erarbeitet man sich  "en passant" den Luxus der nun für positive und negative Gradienten getrennt verfügbaren Parametrierung.
# ssS:
# A principle-related peculiarity of mt_convolution under AviSynth shows that the result video in YUV cannot contain negative values.
# This made it necessary to divide the correction into 2 compensation processes based on the amount:
# The first correction process works with the amounts of the positive 1st horizontal derivatives,
# the second with the amounts of the negative first horizontal derivatives.
# This serves 1. the need for full prior compensation
# of the falling edges of the error response from positive gradients that would otherwise again introduce errors.
# Only then can the search for "real" negative gradients (in the desired image content) begin in the 2nd pass.
# (The problem also exists the other way round, but does not occur so prominently in this order.)
# 2. In doing so, the luxury of parameterization, which is now separately available for positive and negative gradients, is worked out "en passant".
# --------------------------
# Ermitteln der geeigneten Filterfolge:
# Quellvideo -> Abspalten Hilfsvideo -> Farbraum-Reduktion auf Y16
# -> Bilden der Beträge der positiv ausfallenden räumlichen 1.Ableitung in horizontaler Richtung = scharfes positives Ableitungsvideo
# -> Manuelles Vorformen einer primitiven Kompensationsfunktion durch Faltungsvektor
# -> Globale Vor-Skalierung des Überlagerungsfaktors per Gain = geglättetes positives Ableitungsvideo
# -> probeweise Überlagerung (Overlay) des geglätteten positiven Ableitungsvideos auf das Quellvideo
# -> Probeweises Schieben über die passende x-Bezugsspalte <-> Ausprobieren der Anzapfungsorte im Faltungsvektor
# <-> probeweise x-Verschiebungskorrektur im Overlay <-> finale Anpassung der Anzapfungspegel im Faltungsvektor unter Kontrolle im Overlay.
# ss:
# Determine the appropriate filter sequence:
# Source video -> splitting auxiliary video -> color space reduction to Y16
# -> Formation of the amounts of the positive spatial 1st derivative in the horizontal direction = sharp positive derivative video
# -> Manual preforming of a primitive compensation function using a convolution vector
# -> Global pre-scaling of the superimposition factor per gain = smoothed positive derivative video
# -> trial overlay of the smoothed positive derivative video on the source video
# -> Trial slide over the appropriate x reference column <-> Trying out the tapping locations in the convolution vector
# <-> trial x-shift correction in the overlay <-> final adjustment of the tap level in the convolution vector under control in the overlay.
# ---------------------------
# Vorbereitung: Ermitteln der Halofehler-Ausdehnung d, danach die Faltungs-Matrix und Größe mindestens (2*d)+1  vorgeben.
# Ersteckt sich also ein Halofehler horizontal über 14 Pixel, gibt man einen 29 Parameter langen Vektor in x-Richtung vor.
# Dann werden die Anzapfungwerte sukzessiv durch Probieren mit Anfangswert Mittelanzapfung = 1 ermittelt.
# Erst wenn der erste Teil perfekt auskompensiert ist, wird der 2.Teil gelingen !
# ssS:
# Preparation: Determine the halo error extension d, then specify the convolution matrix and size at least (2 * d) +1.
# If a halo error extends horizontally over 14 pixels, a 29 parameter long vector is given in the x direction.
# Then the tap values ​​are successively determined by trial and error with the initial value mean tap = 1.
# Only when the first part is perfectly compensated, the second part will succeed!
# ---------------------------
# Bildfehleranalyse
# Die unbekannte Videoquelle war vermutlich eine frühe Amateur-SONY im Handtaschenformat.
# Diese Cam A wird "PAL-Stronghalo" benannt.
# Einer der zuerst auszukompensierenden Hauptfehler des vorliegenden PAL-Videos:
# Der zu kompensierende Fehler taucht nur in der Y-Komponente auf
# und folgt der 1.Ableitung von Y, die invertiert 7 Pixel später als negiertes und verschmiertes Echo auftaucht.
# Positive und negative Gradienten tauchen verschieden verschmiert auf, die Gesamtfehlerlänge erstreckt sich jeweils über 14 horizontale Pixel.
# Fehlerlänge 1% der PAL-Zeilenlänge Zeilenfrequenz 1MHz/64 = 15625Hz 64µs = 640ns.
# Pixelrate PAL: 720x576 = 414720 Pixel * 25 = 10.368.000 pix/s Netto.
# Es ist aber ein 625-Zeilen-System, also Scan-Timing 720x625x25 = 1/11.250.000s = 88ns/Pixel * 7 =620ns Delay Duration / 1240ns Fault Duration.
# ssS:
# Image defect analysis
# The unknown video source was probably an early amateur pocket-sized SONY.
# This Cam A is named "PAL-Stronghalo".
# One of the main errors of the present PAL video to be compensated first:
# The error to be compensated only appears in the Y component
# and follows the 1st derivative of Y, which appears inverted 7 pixels later as a negated and smeared echo.
# Positive and negative gradients appear with different smears, the total length of the error extends over 14 horizontal pixels.
# Error length 1% of the PAL line length Line frequency 1MHz / 64 = 15625Hz 64µs = 640ns.
# Pixel rate PAL: 720x576 = 414720 pixels * 25 = 10,368,000 pix / s net.
# But it is a 625 line system, i.e. scan timing 720x625x25 = 1 / 11,250,000s = 88ns / pixel * 7 = 620ns delay duration / 1240ns fault duration.
#
# Beschreibung der horizontalen Halo-Fehler an frame 924
# Ein Dunkel->Hell Eingangssprung von Sollwert Y=16 auf Sollwert Y=106 (deltaY=+90) ergibt eine 14 Pixel lange Impulsantwort !
# Anstiegsflanke beginnend bei x=9,Y=16:
# Folge der Abtastwerte 16,62,106,121,111,106,96,86,81,84,86,90,94,98,104,106, Zielwert 106
# Überschwingantwort mit Maximum nach 3 Pixeln, eingeschwungen nach 5 Pixeln:
# x+1: -> Y/2;  x+2 -> Y+0;  x+3 -> Y+10..15;  x+4 -> Y+5;  x+5 -> Y+0
# Unterschwingantwort mit Maximum nach 8 Pixeln ab x+6 bis x+14 länger negativ gerichtet:
# x+6 -> Y-10, x+7 -> Y-20,  x+8  -> -25, x+9 -> Y-22,  x+10 -> Y-20, x+11 -> Y-16 , x+12 -> Y-12 , x+13 -> Y-8 , x+14 -> Y -2, x+15 -> Y-0
# ssS:
# Description of the horizontal halo errors on frame 924
# A dark-> light input jump from target value Y = 16 to target value Y = 106 (deltaY = + 90) results in a 14 pixel long impulse response!
# Rising edge starting at x = 9, Y = 16:
# Sequence of samples 16,62,106,121,111,106,96,86,81,84,86,90,94,98,104,106, target value 106
# Overshoot response with a maximum after 3 pixels, settled after 5 pixels:
# x + 1: -> Y / 2; x + 2 -> Y + 0; x + 3 -> Y + 10..15; x + 4 -> Y + 5; x + 5 -> Y + 0
# Undershoot response with a maximum after 8 pixels from x + 6 to x + 14 longer negative direction:
# x + 6 -> Y-10, x + 7 -> Y-20, x + 8 -> -25, x + 9 -> Y-22, x + 10 -> Y-20, x + 11 -> Y-16, x + 12 -> Y-12, x + 13 -> Y-8, x + 14 -> Y -2, x + 15 -> Y-0
#-------
# Ein Hell->Dunkel Eingangssprung von Sollwert Y=150 auf Sollwert Y=20 (deltaY=-130) ergibt eine 14 Pixel lange Impulsantwort !
# Abfallflanke in Zeile 414, beginnend bei x=425: (x=425,y=414):
# Folge der Abtastwerte 150,130,107,88,63,46,38,40,51,62,64,58,30,24,22,20,  Zielwert 20
# Unterschwingantwort mit 1.Zwischenminimum nach 6 Pixeln,
# Rückschlag mit Maximum Y+44 nach 10 Pixeln, eingeschwungen auf Endwert nach 15 Pixeln
# ssS:
# A light-> dark input jump from target value Y = 150 to target value Y = 20 (deltaY = -130) results in a 14 pixel long impulse response!
# Falling edge in line 414, starting at x = 425: (x = 425, y = 414):
# Sequence of samples 150,130,107,88,63,46,38,40,51,62,64,58,30,24,22,20, target value 20
# Undershoot response with 1st intermediate minimum after 6 pixels,
# Setback with maximum Y + 44 after 10 pixels, settled to final value after 15 pixels
#
# Probier-Methodik: Vorbereitung: Ermitteln der Halofehler-Ausdehnung d
# Nun die Matrix mindestens genau so groß vorgeben. Da sie auto-zentriert berechnet wird, je 1x in jede Richtung.
# Soll das Quellbild Teil der Faltung sein, ist der mittlere Koeffizient <>0, also Länge (2*d)+1.
# Ersteckt sich der Halofehler horizontal über 14 Pixel, gibt man also einen 29 Parameter langen Vektor vor.
# ssS:
# Trial methodology: Preparation: Determine the halo error expansion d
# Now specify the matrix at least as large. Since it is calculated auto-centered, 1x in each direction.
# If the source image is to be part of the convolution, the mean coefficient is <> 0, i.e. length (2 * d) +1.
# If the halo error extends horizontally over 14 pixels, a 29 parameter long vector is given.
#
# Jetzt gehts los !
# ssS:
# Here we go !
##################################

[StainlessS]

Part 2

SetFilterMTMode("DEFAULT_MT_MODE", 2)
SetFilterMTMode("LWLibavVideoSource", 3)
ShowCurve3=false
ShowQTGMCSettings=false
#va=AviSource("D:\source.avi").ConvertBits(bits=16).AssumeTFF()
#aa=AviSource("D:\source.avi")
va=FFVideoSource("D:\source.avi").ConvertBits(bits=16).AssumeTFF()
aa=FFAudioSource("D:\source.avi")
#va=LWLibavVideoSource("D:\source.avi", prefer_hw=1, format="YUV422P16").AssumeTFF()
#aa=LWLibavAudioSource("D:\source.avi")
AudioDub(va,aa)
SeparateFields()
bobby=last
#bobby=last.SuperXBR(str=5, fwidth=720)
#bobby=last.SuperResXBR(passes=5, str=1, fwidth=720)
#bobby=last.SuperRes(fwidth=720, str=1, upscale ="""nnedi3_rpow2(2, cshift="Spline16Resize")""")
bobbw=bobby.ConvertToY()
# Wir arbeiten ausschließlich in Y. Die beschriebenen Halos existieren meist nur in Y. (U und V bieten kaum hinreichend Auflösung, um störende Überschwinger zu ermöglichen.)
#
# Übungsabschnitt ! mt_convolution ist autoscaling, vergibt es also, wenn man die Regel der Summe = 1 nicht beachtet.
# Probeweise alle Positionen mit 0 besetzen. Ein YUV-Video ergäbe die illegale Farbe 0,0,0 (in der Preview als Grün wiedergegeben).
# Vorher auf Y16 konvertieren, dann ergibt es legale Farben. In der AvsPmod-Preview sollte sich ein schwarzes Y16-Bild mit der Farbe 0,-1,-1 ergeben.
# ssS:
# We work exclusively in Y. The halos described mostly only exist in Y. (U and V hardly offer sufficient resolution to allow disturbing overshoots.)
#
# Exercise section! mt_convolution is autoscaling, so it awards it if the rule of the sum = 1 is not observed.
# Fill all positions with 0 on a trial basis. A YUV video would result in the illegal color 0,0,0 (shown as green in the preview).
# Convert to Y16 beforehand, then it results in legal colors. In the AvsPmod preview you should see a black Y16 image with the color 0, -1, -1.
string000 = string("0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0")
test000=mt_convolution(bobbw, horizontal=" "+string(string000)+" ", vertical=" 1 ", u=3, v=3)
# Probeweises Einsetzen einer mittleren 1 sollte das Originalbild in Y16 ergeben.
# ssS:
# Inserting a middle 1 on a trial basis should result in the original image in Y16.
string010 = string("0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0")
test010=mt_convolution(bobbw, horizontal=" "+string(string010)+" ", vertical=" 1 ", u=3, v=3)
# Probeweises Einsetzen zweier 1 einmal links, einmal rechts sollte zwei verschobene Y16-Originalbilder mit je halber Leuchtkraft ergeben.
# ssS:
# Trial insertion of two 1, one on the left and one on the right, should result in two shifted Y16 original images, each with half the luminosity.
string101= string("1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1")
test101=mt_convolution(bobbw, horizontal=" "+string(string101)+" ", vertical=" 1 ", u=3, v=3)
# ssS:
# On a trial basis, fill the middle positions with -1 + 1. In the AvsPmod preview it should result in the Y16 mapping of the positive gradients in white on black.
stringn1p1 = string("0 0 0 0 0 0 0 0 0 0 0 0 0 -1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0")
testn1p1=mt_convolution(bobbw, horizontal=" "+string(stringn1p1)+" ", vertical=" 1 ", u=3, v=3)
# ssS:
# On a trial basis, fill the middle positions with + 1-1. In the AvsPmod preview it should result in the Y16 mapping of the negative gradients in white on black.
stringp1n1 = string("0 0 0 0 0 0 0 0 0 0 0 0 0 1 -1 0 0 0 0 0 0 0 0 0 0 0 0 0 0")
testp1n1=mt_convolution(bobbw, horizontal=" "+string(stringp1n1)+" ", vertical=" 1 ", u=3, v=3)
#return(weave(test000))
#return(weave(test010))
#return(weave(test101))
#return(weave(testn1p1))
#return(weave(testp1n1))
#
# Jetzt gehts aber echt los !
# ssS:
# Now we really start!
#
derivkernpos = string("-1 1 0") # ergibt die Beträge der positiv ausfallenden 1. Ableitungen. Gibt man einen 2er Kernel vor, wird dieser rechts mit einer Null aufgefüllt)
                                # ssS:
                                # gives the amounts of the positive 1st derivatives. If you specify a 2-kernel, this is padded with a zero on the right)
derivkernneg = string("1 -1 0") # ergibt die Beträge der negativ ausfallenden 1. Ableitungen
                                # ssS:
                                # # gives the amounts of the negative 1st derivatives

################################################
# Cam A is the "Amateur" cam, oversaturated grainy picture with strong halos:  positive gradients give a smooth dark echo 5..14 pixels later, negative gradients give a bright echo 6..9 pixels later
aderivpos=mt_convolution(bobbw, horizontal=" "+string(derivkernpos)+" ", vertical=" 1 ", u=3, v=3, saturate=true)
# Vorgabe der horizontalen Glättungsfunktion für die zur Abdunklung von Überschwingern verwendeten positiven horizontalen Ableitungen
# ssS:
# Specification of the horizontal smoothing function for the positive horizontal derivatives used to darken overshoots
asmoothkernposdark = string("0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0") #damit machen wir bei diesem Video nichts. Ist für später.
                                                                                                                     # ssS:
                                                                                                                     #We don't do anything with this video. Is for later.
ahaloposdark=mt_convolution(aderivpos, horizontal=" "+string(asmoothkernposdark)+" ", vertical=" 1 ", u=3, v=3)
ahaloposdarkup=SmoothCurve16(ConvertToStacked(ahaloposdark), HQ=true, interp=100, Ycurve="0-0;15360-30720;65535-65535", Ucurve="0-0;65535-65535", Vcurve="0-0;65535-65535").ConvertFromStacked()
# Vorgabe der horizontalen Glättungsfunktion für die zur Aufhellung von Unterschwingern verwendeten positive horizontale Ableitungen
# Probeweises Besetzen mit einer zentralen 1 und Verschieben, bis man den Rhythmus des Halos trifft.
# Dann Werte links hinzufügen, auch mal rechts. Koeffizienten abstufen, bis die zwei verschobenen Originalbilder sich passend mischen.
# In der Regel treten Analog-Schärfungs-oder Echoartefakte prinzipbedingt immer rechts nach einer Kante auf.
# Damit werden zur Korrektur nur Faktoren links vom aktuellen Pixel benötigt.
# ssS:
# Specification of the horizontal smoothing function for the positive horizontal derivatives used to brighten undershoots
# Try to fill it with a central 1 and move it until you hit the rhythm of the halo.
# Then add values ​​on the left, sometimes on the right. Gradate coefficients until the two shifted original images blend appropriately.
# As a rule, analog sharpening or echo artifacts always occur to the right of an edge due to the principle involved.
# This means that only factors to the left of the current pixel are required for correction.
asmoothkernposbright = string("0.08, 0.12, 0.18, 0.24, 0.36, 0.48, 0.6, 0.7, 0.8, 1.0, 1.2, 1.0, 0.8, 0.6, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0")
ahaloposbright=mt_convolution(aderivpos, horizontal=" "+string(asmoothkernposbright)+" ", vertical=" 1 ", u=3, v=3)
ahaloposbrightup=SmoothCurve16(ConvertToStacked(ahaloposbright), HQ=true, interp=100, Ycurve="0-0;15360-30720;65535-65535", Ucurve="0-0;65535-65535", Vcurve="0-0;65535-65535").ConvertFromStacked()
apd=Overlay(bobby, ahaloposdarkup, x=0,opacity=0.0,mode="subtract")
# Zur Kompensation von Überschwingern werden aus positiven Ableitungen resultierende Y-Werte subtrahierend (abdunkelnd) überlagert,  Erhöhen von x schiebt das Overlay nach rechts.
# ssS:
# To compensate for overshoots, Y values ​​resulting from positive derivatives are superimposed subtracting (darkening), increasing x moves the overlay to the right.
apb=Overlay(apd, ahaloposbrightup, x=2,opacity=1.0,mode="add")
# Zur Kompensation von Unterschwingern werden aus positiven Ableitungen resultierende Y-Werte addierend (aufhellend) überlagert,  Erhöhen von x schiebt das Overlay nach rechts.
# ssS:
# To compensate for undershoots, Y values ​​resulting from positive derivatives are superimposed adding (brightening), increasing x shifts the overlay to the right.
apy=ConvertToY(apb)
aderivneg=mt_convolution(apy, horizontal=" "+string(derivkernneg)+" ", vertical=" 1 ", u=3, v=3, saturate=true)
asmoothkernneg = string("0, 0, 0, 0, 0, 0, 0, 0, 0.3, 0.4, 0.5, 0.6, 0.7, 0.8, 0.9, 1.0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0")
# ssS:
# Specifies the horizontal smoothing function for the negative horizontal derivative: left side decaying edge, right side rising edge
ahaloneg=mt_convolution(aderivneg, horizontal=" "+string(asmoothkernneg)+" ", vertical=" 1 ", u=3, v=3)
ahalonegup=SmoothCurve16(ConvertToStacked(ahaloneg), HQ=true, interp=100, Ycurve="0-0;15360-30720;65535-65535", Ucurve="0-0;65535-65535", Vcurve="0-0;65535-65535").ConvertFromStacked()
camadehalo=Overlay(apb, ahalonegup, x=5,opacity=1.0,mode="subtract")
# Hier werden aus negativen Ableitungen resultierende Y-Werte subtrahierend (abdunkelnd) überlagert,  Erhöhen von x schiebt das Overlay nach rechts.
# ssS:
# Here, Y values ​​resulting from negative derivatives are superimposed subtracting (darkening), increasing x shifts the overlay to the right.
camadehalocorr=SmoothCurve16(ConvertToStacked(camadehalo),HQ=true, interp=100, limiter=false, debug=ShowCurve3, screenW=1280, screenH=768, \
Ycurve="0-0;5000-7000;25000-25000;32767-32767;45000-45000;65535-65535", \
Ucurve="0-0;20000-22000;32767-32767;50000-42000;65535-62000", \
Vcurve="0-0;20000-15000;32767-32767;50000-47000;65535-65535").ConvertFromStacked()
#return(weave(bobby)) # So sah die Quelle aus.
#return(weave(bobbw)) # So sah der Schwarz-Weiß-Auszug derQuelle aus.
#return(SmoothCurve16(ConvertToStacked(weave(aderivpos)), Ycurve="0-0;15360-61440;65535-65535", Ucurve="0-0;65535-65535", Vcurve="0-0;65535-65535").ConvertFromStacked())
# 4x versteilerte Ansicht der positiven 1.Ableitung
# ssS:
# 4x steepened view of the positive 1st derivation
#return(SmoothCurve16(ConvertToStacked(weave(ahaloposbrightup)), Ycurve="0-0;15360-61440;65535-65535", Ucurve="0-0;65535-65535", Vcurve="0-0;65535-65535").ConvertFromStacked())
# 4x versteilerte Ansicht der gefilterten positiven 1.Ableitung
# ssS:
# 4x steepened view of the filtered positive 1st derivative
#return(SmoothCurve16(ConvertToStacked(weave(aderivneg)), Ycurve="0-0;15360-61440;65535-65535", Ucurve="0-0;65535-65535", Vcurve="0-0;65535-65535").ConvertFromStacked())
# 4x versteilerte Ansicht der negativen 1.Ableitung
# ssS:
# 4x steepened view of the negative 1st derivative
#return(SmoothCurve16(ConvertToStacked(weave(ahalonegup)),Ycurve="0-0;15360-61440;65535-65535", Ucurve="0-0;65535-65535", Vcurve="0-0;65535-65535").ConvertFromStacked())
# 4x versteilerte Ansicht der gefilterten negativen 1.Ableitung
# ssS:
# 4x steepened view of the filtered negative 1st derivative
#return(weave(apb))# Ansicht nach dem 1.Kompensationsschritt (Kompensation der Halos aus positiven Gradienten)
#return(weave(camadehalo))# Ansicht nach dem 1+2.Kompensationsschritt (Kompensation der Halos aus positiven, dann aus negativen Gradienten)
weave(camadehalocorr) # Farbkorrigiertes Kompensations-Endergebnis Camera A (Parameter sind dem Video anzupassen, hier nur als Beispiel...)
                      # ssS:
                      # Color-corrected compensation final result Camera A (parameters are to be adapted to the video, here only as an example ...)
ConvertToYUV422() # Aus 4:4:4 zurück zu 4:2:2
ConvertBits(bits=10)# Von 16-bit zurück zu 10-bit
Prefetch(24)
#€€€€€€€€€€€€€€€€€€€€€€€€   End of Emulgator's Avisynth Bergwerk "StrongHaloGhostDeConvolution.avs" from 2021-03-26    €€€€€€€€€€€€€€€€€€€€€€€€€€€

EDIT: Translation [in pieces] via Google "Online Translate"
ie: https://www.google.co.uk/search?q=on...4dUDCAw&uact=5