babl: limit LUT creation for 4→8 and 4→16 bpp further.
authorJehan <jehan@girinstud.io>
Fri, 17 Feb 2023 22:27:32 +0000 (23:27 +0100)
committerJehan <jehan@girinstud.io>
Fri, 17 Feb 2023 22:39:38 +0000 (23:39 +0100)
commite58957d92b61a0f3b6aee9b6ae94faaa95cc1b73
tree575506c77f0874f7d5d862e460fdfb37a8845840
parent8bae33d8127e18d4a1312ec590bfa26a85ca8bd2
babl: limit LUT creation for 4→8 and 4→16 bpp further.

Looking at LUT conversion code, we are clearly only supporting
converting from "u8" (to "u16" or "float" respectively).

Conversions such as "YA half" to "R'G'B'A float" for instance would be
completely broken (it was trying to use only one byte of the "YA half",
assumed it was "u8" and transform it to "float"). This is why the sample
image in #85 was appearing on display as more transparent than it should
when converted to 16-bit floating point grayscale image.
babl/babl-fish-path.c