mirror of https://github.com/xemu-project/xemu.git
target/arm: Implement MVE integer min/max across vector
Implement the MVE integer min/max across vector insns VMAXV, VMINV, VMAXAV and VMINAV, which find the maximum from the vector elements and a general purpose register, and store the maximum back into the general purpose register. These insns overlap with VRMLALDAVH (they use what would be RdaHi=0b110). Signed-off-by: Peter Maydell <peter.maydell@linaro.org> Reviewed-by: Richard Henderson <richard.henderson@linaro.org>
This commit is contained in:
parent
345910f8c1
commit
688ba4cf33
|
@ -379,6 +379,26 @@ DEF_HELPER_FLAGS_3(mve_vaddvuh, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
DEF_HELPER_FLAGS_3(mve_vaddvsw, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
DEF_HELPER_FLAGS_3(mve_vaddvsw, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
DEF_HELPER_FLAGS_3(mve_vaddvuw, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
DEF_HELPER_FLAGS_3(mve_vaddvuw, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
|
||||||
|
DEF_HELPER_FLAGS_3(mve_vmaxvsb, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
DEF_HELPER_FLAGS_3(mve_vmaxvsh, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
DEF_HELPER_FLAGS_3(mve_vmaxvsw, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
DEF_HELPER_FLAGS_3(mve_vmaxvub, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
DEF_HELPER_FLAGS_3(mve_vmaxvuh, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
DEF_HELPER_FLAGS_3(mve_vmaxvuw, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
DEF_HELPER_FLAGS_3(mve_vmaxavb, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
DEF_HELPER_FLAGS_3(mve_vmaxavh, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
DEF_HELPER_FLAGS_3(mve_vmaxavw, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
|
||||||
|
DEF_HELPER_FLAGS_3(mve_vminvsb, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
DEF_HELPER_FLAGS_3(mve_vminvsh, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
DEF_HELPER_FLAGS_3(mve_vminvsw, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
DEF_HELPER_FLAGS_3(mve_vminvub, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
DEF_HELPER_FLAGS_3(mve_vminvuh, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
DEF_HELPER_FLAGS_3(mve_vminvuw, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
DEF_HELPER_FLAGS_3(mve_vminavb, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
DEF_HELPER_FLAGS_3(mve_vminavh, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
DEF_HELPER_FLAGS_3(mve_vminavw, TCG_CALL_NO_WG, i32, env, ptr, i32)
|
||||||
|
|
||||||
DEF_HELPER_FLAGS_3(mve_vaddlv_s, TCG_CALL_NO_WG, i64, env, ptr, i64)
|
DEF_HELPER_FLAGS_3(mve_vaddlv_s, TCG_CALL_NO_WG, i64, env, ptr, i64)
|
||||||
DEF_HELPER_FLAGS_3(mve_vaddlv_u, TCG_CALL_NO_WG, i64, env, ptr, i64)
|
DEF_HELPER_FLAGS_3(mve_vaddlv_u, TCG_CALL_NO_WG, i64, env, ptr, i64)
|
||||||
|
|
||||||
|
|
|
@ -40,6 +40,7 @@
|
||||||
&vcmp qm qn size mask
|
&vcmp qm qn size mask
|
||||||
&vcmp_scalar qn rm size mask
|
&vcmp_scalar qn rm size mask
|
||||||
&shl_scalar qda rm size
|
&shl_scalar qda rm size
|
||||||
|
&vmaxv qm rda size
|
||||||
|
|
||||||
@vldr_vstr ....... . . . . l:1 rn:4 ... ...... imm:7 &vldr_vstr qd=%qd u=0
|
@vldr_vstr ....... . . . . l:1 rn:4 ... ...... imm:7 &vldr_vstr qd=%qd u=0
|
||||||
# Note that both Rn and Qd are 3 bits only (no D bit)
|
# Note that both Rn and Qd are 3 bits only (no D bit)
|
||||||
|
@ -97,6 +98,8 @@
|
||||||
@vcmp_scalar .... .... .. size:2 qn:3 . .... .... .... rm:4 &vcmp_scalar \
|
@vcmp_scalar .... .... .. size:2 qn:3 . .... .... .... rm:4 &vcmp_scalar \
|
||||||
mask=%mask_22_13
|
mask=%mask_22_13
|
||||||
|
|
||||||
|
@vmaxv .... .... .... size:2 .. rda:4 .... .... .... &vmaxv qm=%qm
|
||||||
|
|
||||||
# Vector loads and stores
|
# Vector loads and stores
|
||||||
|
|
||||||
# Widening loads and narrowing stores:
|
# Widening loads and narrowing stores:
|
||||||
|
@ -314,8 +317,19 @@ VMLALDAV_U 1111 1110 1 ... ... . ... . 1110 . 0 . 0 ... 0 @vmlaldav
|
||||||
|
|
||||||
VMLSLDAV 1110 1110 1 ... ... . ... . 1110 . 0 . 0 ... 1 @vmlaldav
|
VMLSLDAV 1110 1110 1 ... ... . ... . 1110 . 0 . 0 ... 1 @vmlaldav
|
||||||
|
|
||||||
VRMLALDAVH_S 1110 1110 1 ... ... 0 ... . 1111 . 0 . 0 ... 0 @vmlaldav_nosz
|
{
|
||||||
VRMLALDAVH_U 1111 1110 1 ... ... 0 ... . 1111 . 0 . 0 ... 0 @vmlaldav_nosz
|
VMAXV_S 1110 1110 1110 .. 10 .... 1111 0 0 . 0 ... 0 @vmaxv
|
||||||
|
VMINV_S 1110 1110 1110 .. 10 .... 1111 1 0 . 0 ... 0 @vmaxv
|
||||||
|
VMAXAV 1110 1110 1110 .. 00 .... 1111 0 0 . 0 ... 0 @vmaxv
|
||||||
|
VMINAV 1110 1110 1110 .. 00 .... 1111 1 0 . 0 ... 0 @vmaxv
|
||||||
|
VRMLALDAVH_S 1110 1110 1 ... ... 0 ... . 1111 . 0 . 0 ... 0 @vmlaldav_nosz
|
||||||
|
}
|
||||||
|
|
||||||
|
{
|
||||||
|
VMAXV_U 1111 1110 1110 .. 10 .... 1111 0 0 . 0 ... 0 @vmaxv
|
||||||
|
VMINV_U 1111 1110 1110 .. 10 .... 1111 1 0 . 0 ... 0 @vmaxv
|
||||||
|
VRMLALDAVH_U 1111 1110 1 ... ... 0 ... . 1111 . 0 . 0 ... 0 @vmlaldav_nosz
|
||||||
|
}
|
||||||
|
|
||||||
VRMLSLDAVH 1111 1110 1 ... ... 0 ... . 1110 . 0 . 0 ... 1 @vmlaldav_nosz
|
VRMLSLDAVH 1111 1110 1 ... ... 0 ... . 1110 . 0 . 0 ... 1 @vmlaldav_nosz
|
||||||
|
|
||||||
|
|
|
@ -1254,6 +1254,72 @@ DO_VADDV(vaddvub, 1, uint8_t)
|
||||||
DO_VADDV(vaddvuh, 2, uint16_t)
|
DO_VADDV(vaddvuh, 2, uint16_t)
|
||||||
DO_VADDV(vaddvuw, 4, uint32_t)
|
DO_VADDV(vaddvuw, 4, uint32_t)
|
||||||
|
|
||||||
|
/*
|
||||||
|
* Vector max/min across vector. Unlike VADDV, we must
|
||||||
|
* read ra as the element size, not its full width.
|
||||||
|
* We work with int64_t internally for simplicity.
|
||||||
|
*/
|
||||||
|
#define DO_VMAXMINV(OP, ESIZE, TYPE, RATYPE, FN) \
|
||||||
|
uint32_t HELPER(glue(mve_, OP))(CPUARMState *env, void *vm, \
|
||||||
|
uint32_t ra_in) \
|
||||||
|
{ \
|
||||||
|
uint16_t mask = mve_element_mask(env); \
|
||||||
|
unsigned e; \
|
||||||
|
TYPE *m = vm; \
|
||||||
|
int64_t ra = (RATYPE)ra_in; \
|
||||||
|
for (e = 0; e < 16 / ESIZE; e++, mask >>= ESIZE) { \
|
||||||
|
if (mask & 1) { \
|
||||||
|
ra = FN(ra, m[H##ESIZE(e)]); \
|
||||||
|
} \
|
||||||
|
} \
|
||||||
|
mve_advance_vpt(env); \
|
||||||
|
return ra; \
|
||||||
|
} \
|
||||||
|
|
||||||
|
#define DO_VMAXMINV_U(INSN, FN) \
|
||||||
|
DO_VMAXMINV(INSN##b, 1, uint8_t, uint8_t, FN) \
|
||||||
|
DO_VMAXMINV(INSN##h, 2, uint16_t, uint16_t, FN) \
|
||||||
|
DO_VMAXMINV(INSN##w, 4, uint32_t, uint32_t, FN)
|
||||||
|
#define DO_VMAXMINV_S(INSN, FN) \
|
||||||
|
DO_VMAXMINV(INSN##b, 1, int8_t, int8_t, FN) \
|
||||||
|
DO_VMAXMINV(INSN##h, 2, int16_t, int16_t, FN) \
|
||||||
|
DO_VMAXMINV(INSN##w, 4, int32_t, int32_t, FN)
|
||||||
|
|
||||||
|
/*
|
||||||
|
* Helpers for max and min of absolute values across vector:
|
||||||
|
* note that we only take the absolute value of 'm', not 'n'
|
||||||
|
*/
|
||||||
|
static int64_t do_maxa(int64_t n, int64_t m)
|
||||||
|
{
|
||||||
|
if (m < 0) {
|
||||||
|
m = -m;
|
||||||
|
}
|
||||||
|
return MAX(n, m);
|
||||||
|
}
|
||||||
|
|
||||||
|
static int64_t do_mina(int64_t n, int64_t m)
|
||||||
|
{
|
||||||
|
if (m < 0) {
|
||||||
|
m = -m;
|
||||||
|
}
|
||||||
|
return MIN(n, m);
|
||||||
|
}
|
||||||
|
|
||||||
|
DO_VMAXMINV_S(vmaxvs, DO_MAX)
|
||||||
|
DO_VMAXMINV_U(vmaxvu, DO_MAX)
|
||||||
|
DO_VMAXMINV_S(vminvs, DO_MIN)
|
||||||
|
DO_VMAXMINV_U(vminvu, DO_MIN)
|
||||||
|
/*
|
||||||
|
* VMAXAV, VMINAV treat the general purpose input as unsigned
|
||||||
|
* and the vector elements as signed.
|
||||||
|
*/
|
||||||
|
DO_VMAXMINV(vmaxavb, 1, int8_t, uint8_t, do_maxa)
|
||||||
|
DO_VMAXMINV(vmaxavh, 2, int16_t, uint16_t, do_maxa)
|
||||||
|
DO_VMAXMINV(vmaxavw, 4, int32_t, uint32_t, do_maxa)
|
||||||
|
DO_VMAXMINV(vminavb, 1, int8_t, uint8_t, do_mina)
|
||||||
|
DO_VMAXMINV(vminavh, 2, int16_t, uint16_t, do_mina)
|
||||||
|
DO_VMAXMINV(vminavw, 4, int32_t, uint32_t, do_mina)
|
||||||
|
|
||||||
#define DO_VADDLV(OP, TYPE, LTYPE) \
|
#define DO_VADDLV(OP, TYPE, LTYPE) \
|
||||||
uint64_t HELPER(glue(mve_, OP))(CPUARMState *env, void *vm, \
|
uint64_t HELPER(glue(mve_, OP))(CPUARMState *env, void *vm, \
|
||||||
uint64_t ra) \
|
uint64_t ra) \
|
||||||
|
|
|
@ -1321,3 +1321,51 @@ DO_VCMP(VCMPGE, vcmpge)
|
||||||
DO_VCMP(VCMPLT, vcmplt)
|
DO_VCMP(VCMPLT, vcmplt)
|
||||||
DO_VCMP(VCMPGT, vcmpgt)
|
DO_VCMP(VCMPGT, vcmpgt)
|
||||||
DO_VCMP(VCMPLE, vcmple)
|
DO_VCMP(VCMPLE, vcmple)
|
||||||
|
|
||||||
|
static bool do_vmaxv(DisasContext *s, arg_vmaxv *a, MVEGenVADDVFn fn)
|
||||||
|
{
|
||||||
|
/*
|
||||||
|
* MIN/MAX operations across a vector: compute the min or
|
||||||
|
* max of the initial value in a general purpose register
|
||||||
|
* and all the elements in the vector, and store it back
|
||||||
|
* into the general purpose register.
|
||||||
|
*/
|
||||||
|
TCGv_ptr qm;
|
||||||
|
TCGv_i32 rda;
|
||||||
|
|
||||||
|
if (!dc_isar_feature(aa32_mve, s) || !mve_check_qreg_bank(s, a->qm) ||
|
||||||
|
!fn || a->rda == 13 || a->rda == 15) {
|
||||||
|
/* Rda cases are UNPREDICTABLE */
|
||||||
|
return false;
|
||||||
|
}
|
||||||
|
if (!mve_eci_check(s) || !vfp_access_check(s)) {
|
||||||
|
return true;
|
||||||
|
}
|
||||||
|
|
||||||
|
qm = mve_qreg_ptr(a->qm);
|
||||||
|
rda = load_reg(s, a->rda);
|
||||||
|
fn(rda, cpu_env, qm, rda);
|
||||||
|
store_reg(s, a->rda, rda);
|
||||||
|
tcg_temp_free_ptr(qm);
|
||||||
|
mve_update_eci(s);
|
||||||
|
return true;
|
||||||
|
}
|
||||||
|
|
||||||
|
#define DO_VMAXV(INSN, FN) \
|
||||||
|
static bool trans_##INSN(DisasContext *s, arg_vmaxv *a) \
|
||||||
|
{ \
|
||||||
|
static MVEGenVADDVFn * const fns[] = { \
|
||||||
|
gen_helper_mve_##FN##b, \
|
||||||
|
gen_helper_mve_##FN##h, \
|
||||||
|
gen_helper_mve_##FN##w, \
|
||||||
|
NULL, \
|
||||||
|
}; \
|
||||||
|
return do_vmaxv(s, a, fns[a->size]); \
|
||||||
|
}
|
||||||
|
|
||||||
|
DO_VMAXV(VMAXV_S, vmaxvs)
|
||||||
|
DO_VMAXV(VMAXV_U, vmaxvu)
|
||||||
|
DO_VMAXV(VMAXAV, vmaxav)
|
||||||
|
DO_VMAXV(VMINV_S, vminvs)
|
||||||
|
DO_VMAXV(VMINV_U, vminvu)
|
||||||
|
DO_VMAXV(VMINAV, vminav)
|
||||||
|
|
Loading…
Reference in New Issue