babl: adjust default BABL_TOLERANCE
authorØyvind Kolås <pippin@gimp.org>
Fri, 8 Nov 2019 12:54:15 +0000 (13:54 +0100)
committerØyvind Kolås <pippin@gimp.org>
Fri, 8 Nov 2019 12:54:15 +0000 (13:54 +0100)
commite41da81b67128a8d29d8fd106e5b1ac53da16ecb
tree2f223ed33a61145e78a53a2df7a9d5c26ca377c4
parenta5a87370c8c62a64b1fe6c64f2acd635060108ca
babl: adjust default BABL_TOLERANCE

This as a start of fixing issue #49, lower precision code gets generated
on AMD EPYC, due to use of rcpps to get a reciprocal - which has lower
precision on AMD EPYC. The conversions with AMD EPYC gets included with
a small margin - so we should not be shedding many other fast conversions
due to this.
babl/babl-fish-path.c