Mismatch in x86 10bpc itx4x4 (adst/flipadst)
$ tests/checkasm --test=itx_16bpc 2628263704 -v
checkasm: using random seed 2628263704
SSE2:
- itx_16bpc.add_4x4 [OK]
SSE4.1:
inv_txfm_add_4x4_adst_dct_1_10bpc_sse4 (../tests/checkasm/itx.c:293)
dst (4x4):
00d6 00f3 035a 00e3 00d6 00f3 035a 00e3 ....
03ff 03ff 03ff 03ff 0000 03ff 03ff 03ff x...
03ff 0044 0000 01ec 0000 0044 0000 01ec x...
0228 02ee 0343 03ff 0228 02ee 0343 03ff ....
inv_txfm_add_4x4_flipadst_dct_1_10bpc_sse4 (../tests/checkasm/itx.c:293)
dst (4x4):
0047 01b6 0297 0172 0047 01b6 0297 0172 ....
03ff 03ff 03ff 03ff 03ff 03ff 03ff 0000 ...x
0149 0000 01ad 03ff 0149 0000 01ad 0000 ...x
03ff 03ff 0062 03ff 03ff 03ff 0062 03ff ....
- itx_16bpc.add_4x4 [FAILED]
- itx_16bpc.add_4x8 [OK]
- itx_16bpc.add_4x16 [OK]
- itx_16bpc.add_8x4 [OK]
- itx_16bpc.add_8x8 [OK]
- itx_16bpc.add_8x16 [OK]
- itx_16bpc.add_8x32 [OK]
- itx_16bpc.add_16x4 [OK]
- itx_16bpc.add_16x8 [OK]
- itx_16bpc.add_16x16 [OK]
- itx_16bpc.add_16x32 [OK]
- itx_16bpc.add_16x64 [OK]
- itx_16bpc.add_32x8 [OK]
- itx_16bpc.add_32x16 [OK]
- itx_16bpc.add_32x32 [OK]
- itx_16bpc.add_32x64 [OK]
- itx_16bpc.add_64x16 [OK]
- itx_16bpc.add_64x32 [OK]
- itx_16bpc.add_64x64 [OK]
AVX2:
inv_txfm_add_4x4_adst_dct_1_10bpc_avx2 (../tests/checkasm/itx.c:293)
dst (4x4):
00d6 00f3 035a 00e3 00d6 00f3 035a 00e3 ....
03ff 03ff 03ff 03ff 0000 03ff 03ff 03ff x...
03ff 0044 0000 01ec 0000 0044 0000 01ec x...
0228 02ee 0343 03ff 0228 02ee 0343 03ff ....
inv_txfm_add_4x4_flipadst_dct_1_10bpc_avx2 (../tests/checkasm/itx.c:293)
dst (4x4):
0047 01b6 0297 0172 0047 01b6 0297 0172 ....
03ff 03ff 03ff 03ff 03ff 03ff 03ff 0000 ...x
0149 0000 01ad 03ff 0149 0000 01ad 0000 ...x
03ff 03ff 0062 03ff 03ff 03ff 0062 03ff ....
- itx_16bpc.add_4x4 [FAILED]
- itx_16bpc.add_4x8 [OK]
- itx_16bpc.add_4x16 [OK]
- itx_16bpc.add_8x4 [OK]
- itx_16bpc.add_8x8 [OK]
- itx_16bpc.add_8x16 [OK]
- itx_16bpc.add_8x32 [OK]
- itx_16bpc.add_16x4 [OK]
- itx_16bpc.add_16x8 [OK]
- itx_16bpc.add_16x16 [OK]
- itx_16bpc.add_16x32 [OK]
- itx_16bpc.add_16x64 [OK]
- itx_16bpc.add_32x8 [OK]
- itx_16bpc.add_32x16 [OK]
- itx_16bpc.add_32x32 [OK]
- itx_16bpc.add_32x64 [OK]
- itx_16bpc.add_64x16 [OK]
- itx_16bpc.add_64x32 [OK]
- itx_16bpc.add_64x64 [OK]
checkasm: 4 of 1190 tests have failed
Reported on IRC by @another.