target/mips/msa_helper.c

   1 /*
   2  * MIPS SIMD Architecture Module Instruction emulation helpers for QEMU.
   3  *
   4  * Copyright (c) 2014 Imagination Technologies
   5  *
   6  * This library is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2 of the License, or (at your option) any later version.
  10  *
  11  * This library is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with this library; if not, see <http://www.gnu.org/licenses/>.
  18  */
  19
  20 #include "qemu/osdep.h"
  21 #include "cpu.h"
  22 #include "internal.h"
  23 #include "exec/exec-all.h"
  24 #include "exec/helper-proto.h"
  25 #include "fpu/softfloat.h"
  26
  27 /* Data format min and max values */
  28 #define DF_BITS(df) (1 << ((df) + 3))
  29
  30 #define DF_MAX_INT(df)  (int64_t)((1LL << (DF_BITS(df) - 1)) - 1)
  31 #define M_MAX_INT(m)    (int64_t)((1LL << ((m)         - 1)) - 1)
  32
  33 #define DF_MIN_INT(df)  (int64_t)(-(1LL << (DF_BITS(df) - 1)))
  34 #define M_MIN_INT(m)    (int64_t)(-(1LL << ((m)         - 1)))
  35
  36 #define DF_MAX_UINT(df) (uint64_t)(-1ULL >> (64 - DF_BITS(df)))
  37 #define M_MAX_UINT(m)   (uint64_t)(-1ULL >> (64 - (m)))
  38
  39 #define UNSIGNED(x, df) ((x) & DF_MAX_UINT(df))
  40 #define SIGNED(x, df)                                                   \
  41     ((((int64_t)x) << (64 - DF_BITS(df))) >> (64 - DF_BITS(df)))
  42
  43 /* Element-by-element access macros */
  44 #define DF_ELEMENTS(df) (MSA_WRLEN / DF_BITS(df))
  45
  46
  47
  48 /*
  49  * Bit Count
  50  * ---------
  51  *
  52  * +---------------+----------------------------------------------------------+
  53  * | NLOC.B        | Vector Leading Ones Count (byte)                         |
  54  * | NLOC.H        | Vector Leading Ones Count (halfword)                     |
  55  * | NLOC.W        | Vector Leading Ones Count (word)                         |
  56  * | NLOC.D        | Vector Leading Ones Count (doubleword)                   |
  57  * | NLZC.B        | Vector Leading Zeros Count (byte)                        |
  58  * | NLZC.H        | Vector Leading Zeros Count (halfword)                    |
  59  * | NLZC.W        | Vector Leading Zeros Count (word)                        |
  60  * | NLZC.D        | Vector Leading Zeros Count (doubleword)                  |
  61  * | PCNT.B        | Vector Population Count (byte)                           |
  62  * | PCNT.H        | Vector Population Count (halfword)                       |
  63  * | PCNT.W        | Vector Population Count (word)                           |
  64  * | PCNT.D        | Vector Population Count (doubleword)                     |
  65  * +---------------+----------------------------------------------------------+
  66  */
  67
  68 static inline int64_t msa_nlzc_df(uint32_t df, int64_t arg)
  69 {
  70     uint64_t x, y;
  71     int n, c;
  72
  73     x = UNSIGNED(arg, df);
  74     n = DF_BITS(df);
  75     c = DF_BITS(df) / 2;
  76
  77     do {
  78         y = x >> c;
  79         if (y != 0) {
  80             n = n - c;
  81             x = y;
  82         }
  83         c = c >> 1;
  84     } while (c != 0);
  85
  86     return n - x;
  87 }
  88
  89 static inline int64_t msa_nloc_df(uint32_t df, int64_t arg)
  90 {
  91     return msa_nlzc_df(df, UNSIGNED((~arg), df));
  92 }
  93
  94 void helper_msa_nloc_b(CPUMIPSState *env, uint32_t wd, uint32_t ws)
  95 {
  96     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
  97     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
  98
  99     pwd->b[0]  = msa_nloc_df(DF_BYTE, pws->b[0]);
 100     pwd->b[1]  = msa_nloc_df(DF_BYTE, pws->b[1]);
 101     pwd->b[2]  = msa_nloc_df(DF_BYTE, pws->b[2]);
 102     pwd->b[3]  = msa_nloc_df(DF_BYTE, pws->b[3]);
 103     pwd->b[4]  = msa_nloc_df(DF_BYTE, pws->b[4]);
 104     pwd->b[5]  = msa_nloc_df(DF_BYTE, pws->b[5]);
 105     pwd->b[6]  = msa_nloc_df(DF_BYTE, pws->b[6]);
 106     pwd->b[7]  = msa_nloc_df(DF_BYTE, pws->b[7]);
 107     pwd->b[8]  = msa_nloc_df(DF_BYTE, pws->b[8]);
 108     pwd->b[9]  = msa_nloc_df(DF_BYTE, pws->b[9]);
 109     pwd->b[10] = msa_nloc_df(DF_BYTE, pws->b[10]);
 110     pwd->b[11] = msa_nloc_df(DF_BYTE, pws->b[11]);
 111     pwd->b[12] = msa_nloc_df(DF_BYTE, pws->b[12]);
 112     pwd->b[13] = msa_nloc_df(DF_BYTE, pws->b[13]);
 113     pwd->b[14] = msa_nloc_df(DF_BYTE, pws->b[14]);
 114     pwd->b[15] = msa_nloc_df(DF_BYTE, pws->b[15]);
 115 }
 116
 117 void helper_msa_nloc_h(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 118 {
 119     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 120     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 121
 122     pwd->h[0]  = msa_nloc_df(DF_HALF, pws->h[0]);
 123     pwd->h[1]  = msa_nloc_df(DF_HALF, pws->h[1]);
 124     pwd->h[2]  = msa_nloc_df(DF_HALF, pws->h[2]);
 125     pwd->h[3]  = msa_nloc_df(DF_HALF, pws->h[3]);
 126     pwd->h[4]  = msa_nloc_df(DF_HALF, pws->h[4]);
 127     pwd->h[5]  = msa_nloc_df(DF_HALF, pws->h[5]);
 128     pwd->h[6]  = msa_nloc_df(DF_HALF, pws->h[6]);
 129     pwd->h[7]  = msa_nloc_df(DF_HALF, pws->h[7]);
 130 }
 131
 132 void helper_msa_nloc_w(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 133 {
 134     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 135     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 136
 137     pwd->w[0]  = msa_nloc_df(DF_WORD, pws->w[0]);
 138     pwd->w[1]  = msa_nloc_df(DF_WORD, pws->w[1]);
 139     pwd->w[2]  = msa_nloc_df(DF_WORD, pws->w[2]);
 140     pwd->w[3]  = msa_nloc_df(DF_WORD, pws->w[3]);
 141 }
 142
 143 void helper_msa_nloc_d(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 144 {
 145     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 146     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 147
 148     pwd->d[0]  = msa_nloc_df(DF_DOUBLE, pws->d[0]);
 149     pwd->d[1]  = msa_nloc_df(DF_DOUBLE, pws->d[1]);
 150 }
 151
 152 void helper_msa_nlzc_b(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 153 {
 154     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 155     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 156
 157     pwd->b[0]  = msa_nlzc_df(DF_BYTE, pws->b[0]);
 158     pwd->b[1]  = msa_nlzc_df(DF_BYTE, pws->b[1]);
 159     pwd->b[2]  = msa_nlzc_df(DF_BYTE, pws->b[2]);
 160     pwd->b[3]  = msa_nlzc_df(DF_BYTE, pws->b[3]);
 161     pwd->b[4]  = msa_nlzc_df(DF_BYTE, pws->b[4]);
 162     pwd->b[5]  = msa_nlzc_df(DF_BYTE, pws->b[5]);
 163     pwd->b[6]  = msa_nlzc_df(DF_BYTE, pws->b[6]);
 164     pwd->b[7]  = msa_nlzc_df(DF_BYTE, pws->b[7]);
 165     pwd->b[8]  = msa_nlzc_df(DF_BYTE, pws->b[8]);
 166     pwd->b[9]  = msa_nlzc_df(DF_BYTE, pws->b[9]);
 167     pwd->b[10] = msa_nlzc_df(DF_BYTE, pws->b[10]);
 168     pwd->b[11] = msa_nlzc_df(DF_BYTE, pws->b[11]);
 169     pwd->b[12] = msa_nlzc_df(DF_BYTE, pws->b[12]);
 170     pwd->b[13] = msa_nlzc_df(DF_BYTE, pws->b[13]);
 171     pwd->b[14] = msa_nlzc_df(DF_BYTE, pws->b[14]);
 172     pwd->b[15] = msa_nlzc_df(DF_BYTE, pws->b[15]);
 173 }
 174
 175 void helper_msa_nlzc_h(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 176 {
 177     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 178     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 179
 180     pwd->h[0]  = msa_nlzc_df(DF_HALF, pws->h[0]);
 181     pwd->h[1]  = msa_nlzc_df(DF_HALF, pws->h[1]);
 182     pwd->h[2]  = msa_nlzc_df(DF_HALF, pws->h[2]);
 183     pwd->h[3]  = msa_nlzc_df(DF_HALF, pws->h[3]);
 184     pwd->h[4]  = msa_nlzc_df(DF_HALF, pws->h[4]);
 185     pwd->h[5]  = msa_nlzc_df(DF_HALF, pws->h[5]);
 186     pwd->h[6]  = msa_nlzc_df(DF_HALF, pws->h[6]);
 187     pwd->h[7]  = msa_nlzc_df(DF_HALF, pws->h[7]);
 188 }
 189
 190 void helper_msa_nlzc_w(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 191 {
 192     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 193     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 194
 195     pwd->w[0]  = msa_nlzc_df(DF_WORD, pws->w[0]);
 196     pwd->w[1]  = msa_nlzc_df(DF_WORD, pws->w[1]);
 197     pwd->w[2]  = msa_nlzc_df(DF_WORD, pws->w[2]);
 198     pwd->w[3]  = msa_nlzc_df(DF_WORD, pws->w[3]);
 199 }
 200
 201 void helper_msa_nlzc_d(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 202 {
 203     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 204     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 205
 206     pwd->d[0]  = msa_nlzc_df(DF_DOUBLE, pws->d[0]);
 207     pwd->d[1]  = msa_nlzc_df(DF_DOUBLE, pws->d[1]);
 208 }
 209
 210 static inline int64_t msa_pcnt_df(uint32_t df, int64_t arg)
 211 {
 212     uint64_t x;
 213
 214     x = UNSIGNED(arg, df);
 215
 216     x = (x & 0x5555555555555555ULL) + ((x >>  1) & 0x5555555555555555ULL);
 217     x = (x & 0x3333333333333333ULL) + ((x >>  2) & 0x3333333333333333ULL);
 218     x = (x & 0x0F0F0F0F0F0F0F0FULL) + ((x >>  4) & 0x0F0F0F0F0F0F0F0FULL);
 219     x = (x & 0x00FF00FF00FF00FFULL) + ((x >>  8) & 0x00FF00FF00FF00FFULL);
 220     x = (x & 0x0000FFFF0000FFFFULL) + ((x >> 16) & 0x0000FFFF0000FFFFULL);
 221     x = (x & 0x00000000FFFFFFFFULL) + ((x >> 32));
 222
 223     return x;
 224 }
 225
 226 void helper_msa_pcnt_b(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 227 {
 228     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 229     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 230
 231     pwd->b[0]  = msa_pcnt_df(DF_BYTE, pws->b[0]);
 232     pwd->b[1]  = msa_pcnt_df(DF_BYTE, pws->b[1]);
 233     pwd->b[2]  = msa_pcnt_df(DF_BYTE, pws->b[2]);
 234     pwd->b[3]  = msa_pcnt_df(DF_BYTE, pws->b[3]);
 235     pwd->b[4]  = msa_pcnt_df(DF_BYTE, pws->b[4]);
 236     pwd->b[5]  = msa_pcnt_df(DF_BYTE, pws->b[5]);
 237     pwd->b[6]  = msa_pcnt_df(DF_BYTE, pws->b[6]);
 238     pwd->b[7]  = msa_pcnt_df(DF_BYTE, pws->b[7]);
 239     pwd->b[8]  = msa_pcnt_df(DF_BYTE, pws->b[8]);
 240     pwd->b[9]  = msa_pcnt_df(DF_BYTE, pws->b[9]);
 241     pwd->b[10] = msa_pcnt_df(DF_BYTE, pws->b[10]);
 242     pwd->b[11] = msa_pcnt_df(DF_BYTE, pws->b[11]);
 243     pwd->b[12] = msa_pcnt_df(DF_BYTE, pws->b[12]);
 244     pwd->b[13] = msa_pcnt_df(DF_BYTE, pws->b[13]);
 245     pwd->b[14] = msa_pcnt_df(DF_BYTE, pws->b[14]);
 246     pwd->b[15] = msa_pcnt_df(DF_BYTE, pws->b[15]);
 247 }
 248
 249 void helper_msa_pcnt_h(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 250 {
 251     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 252     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 253
 254     pwd->h[0]  = msa_pcnt_df(DF_HALF, pws->h[0]);
 255     pwd->h[1]  = msa_pcnt_df(DF_HALF, pws->h[1]);
 256     pwd->h[2]  = msa_pcnt_df(DF_HALF, pws->h[2]);
 257     pwd->h[3]  = msa_pcnt_df(DF_HALF, pws->h[3]);
 258     pwd->h[4]  = msa_pcnt_df(DF_HALF, pws->h[4]);
 259     pwd->h[5]  = msa_pcnt_df(DF_HALF, pws->h[5]);
 260     pwd->h[6]  = msa_pcnt_df(DF_HALF, pws->h[6]);
 261     pwd->h[7]  = msa_pcnt_df(DF_HALF, pws->h[7]);
 262 }
 263
 264 void helper_msa_pcnt_w(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 265 {
 266     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 267     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 268
 269     pwd->w[0]  = msa_pcnt_df(DF_WORD, pws->w[0]);
 270     pwd->w[1]  = msa_pcnt_df(DF_WORD, pws->w[1]);
 271     pwd->w[2]  = msa_pcnt_df(DF_WORD, pws->w[2]);
 272     pwd->w[3]  = msa_pcnt_df(DF_WORD, pws->w[3]);
 273 }
 274
 275 void helper_msa_pcnt_d(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 276 {
 277     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 278     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 279
 280     pwd->d[0]  = msa_pcnt_df(DF_DOUBLE, pws->d[0]);
 281     pwd->d[1]  = msa_pcnt_df(DF_DOUBLE, pws->d[1]);
 282 }
 283
 284
 285 /*
 286  * Bit Move
 287  * --------
 288  *
 289  * +---------------+----------------------------------------------------------+
 290  * | BINSL.B       | Vector Bit Insert Left (byte)                            |
 291  * | BINSL.H       | Vector Bit Insert Left (halfword)                        |
 292  * | BINSL.W       | Vector Bit Insert Left (word)                            |
 293  * | BINSL.D       | Vector Bit Insert Left (doubleword)                      |
 294  * | BINSR.B       | Vector Bit Insert Right (byte)                           |
 295  * | BINSR.H       | Vector Bit Insert Right (halfword)                       |
 296  * | BINSR.W       | Vector Bit Insert Right (word)                           |
 297  * | BINSR.D       | Vector Bit Insert Right (doubleword)                     |
 298  * | BMNZ.V        | Vector Bit Move If Not Zero                              |
 299  * | BMZ.V         | Vector Bit Move If Zero                                  |
 300  * | BSEL.V        | Vector Bit Select                                        |
 301  * +---------------+----------------------------------------------------------+
 302  */
 303
 304 /* Data format bit position and unsigned values */
 305 #define BIT_POSITION(x, df) ((uint64_t)(x) % DF_BITS(df))
 306
 307 static inline int64_t msa_binsl_df(uint32_t df,
 308                                    int64_t dest, int64_t arg1, int64_t arg2)
 309 {
 310     uint64_t u_arg1 = UNSIGNED(arg1, df);
 311     uint64_t u_dest = UNSIGNED(dest, df);
 312     int32_t sh_d = BIT_POSITION(arg2, df) + 1;
 313     int32_t sh_a = DF_BITS(df) - sh_d;
 314     if (sh_d == DF_BITS(df)) {
 315         return u_arg1;
 316     } else {
 317         return UNSIGNED(UNSIGNED(u_dest << sh_d, df) >> sh_d, df) |
 318                UNSIGNED(UNSIGNED(u_arg1 >> sh_a, df) << sh_a, df);
 319     }
 320 }
 321
 322 void helper_msa_binsl_b(CPUMIPSState *env,
 323                         uint32_t wd, uint32_t ws, uint32_t wt)
 324 {
 325     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 326     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 327     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 328
 329     pwd->b[0]  = msa_binsl_df(DF_BYTE, pwd->b[0],  pws->b[0],  pwt->b[0]);
 330     pwd->b[1]  = msa_binsl_df(DF_BYTE, pwd->b[1],  pws->b[1],  pwt->b[1]);
 331     pwd->b[2]  = msa_binsl_df(DF_BYTE, pwd->b[2],  pws->b[2],  pwt->b[2]);
 332     pwd->b[3]  = msa_binsl_df(DF_BYTE, pwd->b[3],  pws->b[3],  pwt->b[3]);
 333     pwd->b[4]  = msa_binsl_df(DF_BYTE, pwd->b[4],  pws->b[4],  pwt->b[4]);
 334     pwd->b[5]  = msa_binsl_df(DF_BYTE, pwd->b[5],  pws->b[5],  pwt->b[5]);
 335     pwd->b[6]  = msa_binsl_df(DF_BYTE, pwd->b[6],  pws->b[6],  pwt->b[6]);
 336     pwd->b[7]  = msa_binsl_df(DF_BYTE, pwd->b[7],  pws->b[7],  pwt->b[7]);
 337     pwd->b[8]  = msa_binsl_df(DF_BYTE, pwd->b[8],  pws->b[8],  pwt->b[8]);
 338     pwd->b[9]  = msa_binsl_df(DF_BYTE, pwd->b[9],  pws->b[9],  pwt->b[9]);
 339     pwd->b[10] = msa_binsl_df(DF_BYTE, pwd->b[10], pws->b[10], pwt->b[10]);
 340     pwd->b[11] = msa_binsl_df(DF_BYTE, pwd->b[11], pws->b[11], pwt->b[11]);
 341     pwd->b[12] = msa_binsl_df(DF_BYTE, pwd->b[12], pws->b[12], pwt->b[12]);
 342     pwd->b[13] = msa_binsl_df(DF_BYTE, pwd->b[13], pws->b[13], pwt->b[13]);
 343     pwd->b[14] = msa_binsl_df(DF_BYTE, pwd->b[14], pws->b[14], pwt->b[14]);
 344     pwd->b[15] = msa_binsl_df(DF_BYTE, pwd->b[15], pws->b[15], pwt->b[15]);
 345 }
 346
 347 void helper_msa_binsl_h(CPUMIPSState *env,
 348                         uint32_t wd, uint32_t ws, uint32_t wt)
 349 {
 350     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 351     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 352     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 353
 354     pwd->h[0]  = msa_binsl_df(DF_HALF, pwd->h[0],  pws->h[0],  pwt->h[0]);
 355     pwd->h[1]  = msa_binsl_df(DF_HALF, pwd->h[1],  pws->h[1],  pwt->h[1]);
 356     pwd->h[2]  = msa_binsl_df(DF_HALF, pwd->h[2],  pws->h[2],  pwt->h[2]);
 357     pwd->h[3]  = msa_binsl_df(DF_HALF, pwd->h[3],  pws->h[3],  pwt->h[3]);
 358     pwd->h[4]  = msa_binsl_df(DF_HALF, pwd->h[4],  pws->h[4],  pwt->h[4]);
 359     pwd->h[5]  = msa_binsl_df(DF_HALF, pwd->h[5],  pws->h[5],  pwt->h[5]);
 360     pwd->h[6]  = msa_binsl_df(DF_HALF, pwd->h[6],  pws->h[6],  pwt->h[6]);
 361     pwd->h[7]  = msa_binsl_df(DF_HALF, pwd->h[7],  pws->h[7],  pwt->h[7]);
 362 }
 363
 364 void helper_msa_binsl_w(CPUMIPSState *env,
 365                         uint32_t wd, uint32_t ws, uint32_t wt)
 366 {
 367     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 368     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 369     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 370
 371     pwd->w[0]  = msa_binsl_df(DF_WORD, pwd->w[0],  pws->w[0],  pwt->w[0]);
 372     pwd->w[1]  = msa_binsl_df(DF_WORD, pwd->w[1],  pws->w[1],  pwt->w[1]);
 373     pwd->w[2]  = msa_binsl_df(DF_WORD, pwd->w[2],  pws->w[2],  pwt->w[2]);
 374     pwd->w[3]  = msa_binsl_df(DF_WORD, pwd->w[3],  pws->w[3],  pwt->w[3]);
 375 }
 376
 377 void helper_msa_binsl_d(CPUMIPSState *env,
 378                         uint32_t wd, uint32_t ws, uint32_t wt)
 379 {
 380     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 381     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 382     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 383
 384     pwd->d[0]  = msa_binsl_df(DF_DOUBLE, pwd->d[0],  pws->d[0],  pwt->d[0]);
 385     pwd->d[1]  = msa_binsl_df(DF_DOUBLE, pwd->d[1],  pws->d[1],  pwt->d[1]);
 386 }
 387
 388 static inline int64_t msa_binsr_df(uint32_t df,
 389                                    int64_t dest, int64_t arg1, int64_t arg2)
 390 {
 391     uint64_t u_arg1 = UNSIGNED(arg1, df);
 392     uint64_t u_dest = UNSIGNED(dest, df);
 393     int32_t sh_d = BIT_POSITION(arg2, df) + 1;
 394     int32_t sh_a = DF_BITS(df) - sh_d;
 395     if (sh_d == DF_BITS(df)) {
 396         return u_arg1;
 397     } else {
 398         return UNSIGNED(UNSIGNED(u_dest >> sh_d, df) << sh_d, df) |
 399                UNSIGNED(UNSIGNED(u_arg1 << sh_a, df) >> sh_a, df);
 400     }
 401 }
 402
 403 void helper_msa_binsr_b(CPUMIPSState *env,
 404                         uint32_t wd, uint32_t ws, uint32_t wt)
 405 {
 406     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 407     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 408     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 409
 410     pwd->b[0]  = msa_binsr_df(DF_BYTE, pwd->b[0],  pws->b[0],  pwt->b[0]);
 411     pwd->b[1]  = msa_binsr_df(DF_BYTE, pwd->b[1],  pws->b[1],  pwt->b[1]);
 412     pwd->b[2]  = msa_binsr_df(DF_BYTE, pwd->b[2],  pws->b[2],  pwt->b[2]);
 413     pwd->b[3]  = msa_binsr_df(DF_BYTE, pwd->b[3],  pws->b[3],  pwt->b[3]);
 414     pwd->b[4]  = msa_binsr_df(DF_BYTE, pwd->b[4],  pws->b[4],  pwt->b[4]);
 415     pwd->b[5]  = msa_binsr_df(DF_BYTE, pwd->b[5],  pws->b[5],  pwt->b[5]);
 416     pwd->b[6]  = msa_binsr_df(DF_BYTE, pwd->b[6],  pws->b[6],  pwt->b[6]);
 417     pwd->b[7]  = msa_binsr_df(DF_BYTE, pwd->b[7],  pws->b[7],  pwt->b[7]);
 418     pwd->b[8]  = msa_binsr_df(DF_BYTE, pwd->b[8],  pws->b[8],  pwt->b[8]);
 419     pwd->b[9]  = msa_binsr_df(DF_BYTE, pwd->b[9],  pws->b[9],  pwt->b[9]);
 420     pwd->b[10] = msa_binsr_df(DF_BYTE, pwd->b[10], pws->b[10], pwt->b[10]);
 421     pwd->b[11] = msa_binsr_df(DF_BYTE, pwd->b[11], pws->b[11], pwt->b[11]);
 422     pwd->b[12] = msa_binsr_df(DF_BYTE, pwd->b[12], pws->b[12], pwt->b[12]);
 423     pwd->b[13] = msa_binsr_df(DF_BYTE, pwd->b[13], pws->b[13], pwt->b[13]);
 424     pwd->b[14] = msa_binsr_df(DF_BYTE, pwd->b[14], pws->b[14], pwt->b[14]);
 425     pwd->b[15] = msa_binsr_df(DF_BYTE, pwd->b[15], pws->b[15], pwt->b[15]);
 426 }
 427
 428 void helper_msa_binsr_h(CPUMIPSState *env,
 429                         uint32_t wd, uint32_t ws, uint32_t wt)
 430 {
 431     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 432     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 433     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 434
 435     pwd->h[0]  = msa_binsr_df(DF_HALF, pwd->h[0],  pws->h[0],  pwt->h[0]);
 436     pwd->h[1]  = msa_binsr_df(DF_HALF, pwd->h[1],  pws->h[1],  pwt->h[1]);
 437     pwd->h[2]  = msa_binsr_df(DF_HALF, pwd->h[2],  pws->h[2],  pwt->h[2]);
 438     pwd->h[3]  = msa_binsr_df(DF_HALF, pwd->h[3],  pws->h[3],  pwt->h[3]);
 439     pwd->h[4]  = msa_binsr_df(DF_HALF, pwd->h[4],  pws->h[4],  pwt->h[4]);
 440     pwd->h[5]  = msa_binsr_df(DF_HALF, pwd->h[5],  pws->h[5],  pwt->h[5]);
 441     pwd->h[6]  = msa_binsr_df(DF_HALF, pwd->h[6],  pws->h[6],  pwt->h[6]);
 442     pwd->h[7]  = msa_binsr_df(DF_HALF, pwd->h[7],  pws->h[7],  pwt->h[7]);
 443 }
 444
 445 void helper_msa_binsr_w(CPUMIPSState *env,
 446                         uint32_t wd, uint32_t ws, uint32_t wt)
 447 {
 448     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 449     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 450     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 451
 452     pwd->w[0]  = msa_binsr_df(DF_WORD, pwd->w[0],  pws->w[0],  pwt->w[0]);
 453     pwd->w[1]  = msa_binsr_df(DF_WORD, pwd->w[1],  pws->w[1],  pwt->w[1]);
 454     pwd->w[2]  = msa_binsr_df(DF_WORD, pwd->w[2],  pws->w[2],  pwt->w[2]);
 455     pwd->w[3]  = msa_binsr_df(DF_WORD, pwd->w[3],  pws->w[3],  pwt->w[3]);
 456 }
 457
 458 void helper_msa_binsr_d(CPUMIPSState *env,
 459                         uint32_t wd, uint32_t ws, uint32_t wt)
 460 {
 461     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 462     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 463     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 464
 465     pwd->d[0]  = msa_binsr_df(DF_DOUBLE, pwd->d[0],  pws->d[0],  pwt->d[0]);
 466     pwd->d[1]  = msa_binsr_df(DF_DOUBLE, pwd->d[1],  pws->d[1],  pwt->d[1]);
 467 }
 468
 469 void helper_msa_bmnz_v(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 470 {
 471     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 472     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 473     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 474
 475     pwd->d[0] = UNSIGNED(                                                     \
 476         ((pwd->d[0] & (~pwt->d[0])) | (pws->d[0] & pwt->d[0])), DF_DOUBLE);
 477     pwd->d[1] = UNSIGNED(                                                     \
 478         ((pwd->d[1] & (~pwt->d[1])) | (pws->d[1] & pwt->d[1])), DF_DOUBLE);
 479 }
 480
 481 void helper_msa_bmz_v(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 482 {
 483     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 484     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 485     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 486
 487     pwd->d[0] = UNSIGNED(                                                     \
 488         ((pwd->d[0] & pwt->d[0]) | (pws->d[0] & (~pwt->d[0]))), DF_DOUBLE);
 489     pwd->d[1] = UNSIGNED(                                                     \
 490         ((pwd->d[1] & pwt->d[1]) | (pws->d[1] & (~pwt->d[1]))), DF_DOUBLE);
 491 }
 492
 493 void helper_msa_bsel_v(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 494 {
 495     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 496     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 497     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 498
 499     pwd->d[0] = UNSIGNED(                                                     \
 500         (pws->d[0] & (~pwd->d[0])) | (pwt->d[0] & pwd->d[0]), DF_DOUBLE);
 501     pwd->d[1] = UNSIGNED(                                                     \
 502         (pws->d[1] & (~pwd->d[1])) | (pwt->d[1] & pwd->d[1]), DF_DOUBLE);
 503 }
 504
 505
 506 /*
 507  * Bit Set
 508  * -------
 509  *
 510  * +---------------+----------------------------------------------------------+
 511  * | BCLR.B        | Vector Bit Clear (byte)                                  |
 512  * | BCLR.H        | Vector Bit Clear (halfword)                              |
 513  * | BCLR.W        | Vector Bit Clear (word)                                  |
 514  * | BCLR.D        | Vector Bit Clear (doubleword)                            |
 515  * | BNEG.B        | Vector Bit Negate (byte)                                 |
 516  * | BNEG.H        | Vector Bit Negate (halfword)                             |
 517  * | BNEG.W        | Vector Bit Negate (word)                                 |
 518  * | BNEG.D        | Vector Bit Negate (doubleword)                           |
 519  * | BSET.B        | Vector Bit Set (byte)                                    |
 520  * | BSET.H        | Vector Bit Set (halfword)                                |
 521  * | BSET.W        | Vector Bit Set (word)                                    |
 522  * | BSET.D        | Vector Bit Set (doubleword)                              |
 523  * +---------------+----------------------------------------------------------+
 524  */
 525
 526 static inline int64_t msa_bclr_df(uint32_t df, int64_t arg1, int64_t arg2)
 527 {
 528     int32_t b_arg2 = BIT_POSITION(arg2, df);
 529     return UNSIGNED(arg1 & (~(1LL << b_arg2)), df);
 530 }
 531
 532 void helper_msa_bclr_b(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 533 {
 534     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 535     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 536     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 537
 538     pwd->b[0]  = msa_bclr_df(DF_BYTE, pws->b[0],  pwt->b[0]);
 539     pwd->b[1]  = msa_bclr_df(DF_BYTE, pws->b[1],  pwt->b[1]);
 540     pwd->b[2]  = msa_bclr_df(DF_BYTE, pws->b[2],  pwt->b[2]);
 541     pwd->b[3]  = msa_bclr_df(DF_BYTE, pws->b[3],  pwt->b[3]);
 542     pwd->b[4]  = msa_bclr_df(DF_BYTE, pws->b[4],  pwt->b[4]);
 543     pwd->b[5]  = msa_bclr_df(DF_BYTE, pws->b[5],  pwt->b[5]);
 544     pwd->b[6]  = msa_bclr_df(DF_BYTE, pws->b[6],  pwt->b[6]);
 545     pwd->b[7]  = msa_bclr_df(DF_BYTE, pws->b[7],  pwt->b[7]);
 546     pwd->b[8]  = msa_bclr_df(DF_BYTE, pws->b[8],  pwt->b[8]);
 547     pwd->b[9]  = msa_bclr_df(DF_BYTE, pws->b[9],  pwt->b[9]);
 548     pwd->b[10] = msa_bclr_df(DF_BYTE, pws->b[10], pwt->b[10]);
 549     pwd->b[11] = msa_bclr_df(DF_BYTE, pws->b[11], pwt->b[11]);
 550     pwd->b[12] = msa_bclr_df(DF_BYTE, pws->b[12], pwt->b[12]);
 551     pwd->b[13] = msa_bclr_df(DF_BYTE, pws->b[13], pwt->b[13]);
 552     pwd->b[14] = msa_bclr_df(DF_BYTE, pws->b[14], pwt->b[14]);
 553     pwd->b[15] = msa_bclr_df(DF_BYTE, pws->b[15], pwt->b[15]);
 554 }
 555
 556 void helper_msa_bclr_h(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 557 {
 558     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 559     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 560     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 561
 562     pwd->h[0]  = msa_bclr_df(DF_HALF, pws->h[0],  pwt->h[0]);
 563     pwd->h[1]  = msa_bclr_df(DF_HALF, pws->h[1],  pwt->h[1]);
 564     pwd->h[2]  = msa_bclr_df(DF_HALF, pws->h[2],  pwt->h[2]);
 565     pwd->h[3]  = msa_bclr_df(DF_HALF, pws->h[3],  pwt->h[3]);
 566     pwd->h[4]  = msa_bclr_df(DF_HALF, pws->h[4],  pwt->h[4]);
 567     pwd->h[5]  = msa_bclr_df(DF_HALF, pws->h[5],  pwt->h[5]);
 568     pwd->h[6]  = msa_bclr_df(DF_HALF, pws->h[6],  pwt->h[6]);
 569     pwd->h[7]  = msa_bclr_df(DF_HALF, pws->h[7],  pwt->h[7]);
 570 }
 571
 572 void helper_msa_bclr_w(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 573 {
 574     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 575     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 576     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 577
 578     pwd->w[0]  = msa_bclr_df(DF_WORD, pws->w[0],  pwt->w[0]);
 579     pwd->w[1]  = msa_bclr_df(DF_WORD, pws->w[1],  pwt->w[1]);
 580     pwd->w[2]  = msa_bclr_df(DF_WORD, pws->w[2],  pwt->w[2]);
 581     pwd->w[3]  = msa_bclr_df(DF_WORD, pws->w[3],  pwt->w[3]);
 582 }
 583
 584 void helper_msa_bclr_d(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 585 {
 586     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 587     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 588     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 589
 590     pwd->d[0]  = msa_bclr_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
 591     pwd->d[1]  = msa_bclr_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
 592 }
 593
 594 static inline int64_t msa_bneg_df(uint32_t df, int64_t arg1, int64_t arg2)
 595 {
 596     int32_t b_arg2 = BIT_POSITION(arg2, df);
 597     return UNSIGNED(arg1 ^ (1LL << b_arg2), df);
 598 }
 599
 600 void helper_msa_bneg_b(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 601 {
 602     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 603     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 604     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 605
 606     pwd->b[0]  = msa_bneg_df(DF_BYTE, pws->b[0],  pwt->b[0]);
 607     pwd->b[1]  = msa_bneg_df(DF_BYTE, pws->b[1],  pwt->b[1]);
 608     pwd->b[2]  = msa_bneg_df(DF_BYTE, pws->b[2],  pwt->b[2]);
 609     pwd->b[3]  = msa_bneg_df(DF_BYTE, pws->b[3],  pwt->b[3]);
 610     pwd->b[4]  = msa_bneg_df(DF_BYTE, pws->b[4],  pwt->b[4]);
 611     pwd->b[5]  = msa_bneg_df(DF_BYTE, pws->b[5],  pwt->b[5]);
 612     pwd->b[6]  = msa_bneg_df(DF_BYTE, pws->b[6],  pwt->b[6]);
 613     pwd->b[7]  = msa_bneg_df(DF_BYTE, pws->b[7],  pwt->b[7]);
 614     pwd->b[8]  = msa_bneg_df(DF_BYTE, pws->b[8],  pwt->b[8]);
 615     pwd->b[9]  = msa_bneg_df(DF_BYTE, pws->b[9],  pwt->b[9]);
 616     pwd->b[10] = msa_bneg_df(DF_BYTE, pws->b[10], pwt->b[10]);
 617     pwd->b[11] = msa_bneg_df(DF_BYTE, pws->b[11], pwt->b[11]);
 618     pwd->b[12] = msa_bneg_df(DF_BYTE, pws->b[12], pwt->b[12]);
 619     pwd->b[13] = msa_bneg_df(DF_BYTE, pws->b[13], pwt->b[13]);
 620     pwd->b[14] = msa_bneg_df(DF_BYTE, pws->b[14], pwt->b[14]);
 621     pwd->b[15] = msa_bneg_df(DF_BYTE, pws->b[15], pwt->b[15]);
 622 }
 623
 624 void helper_msa_bneg_h(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 625 {
 626     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 627     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 628     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 629
 630     pwd->h[0]  = msa_bneg_df(DF_HALF, pws->h[0],  pwt->h[0]);
 631     pwd->h[1]  = msa_bneg_df(DF_HALF, pws->h[1],  pwt->h[1]);
 632     pwd->h[2]  = msa_bneg_df(DF_HALF, pws->h[2],  pwt->h[2]);
 633     pwd->h[3]  = msa_bneg_df(DF_HALF, pws->h[3],  pwt->h[3]);
 634     pwd->h[4]  = msa_bneg_df(DF_HALF, pws->h[4],  pwt->h[4]);
 635     pwd->h[5]  = msa_bneg_df(DF_HALF, pws->h[5],  pwt->h[5]);
 636     pwd->h[6]  = msa_bneg_df(DF_HALF, pws->h[6],  pwt->h[6]);
 637     pwd->h[7]  = msa_bneg_df(DF_HALF, pws->h[7],  pwt->h[7]);
 638 }
 639
 640 void helper_msa_bneg_w(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 641 {
 642     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 643     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 644     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 645
 646     pwd->w[0]  = msa_bneg_df(DF_WORD, pws->w[0],  pwt->w[0]);
 647     pwd->w[1]  = msa_bneg_df(DF_WORD, pws->w[1],  pwt->w[1]);
 648     pwd->w[2]  = msa_bneg_df(DF_WORD, pws->w[2],  pwt->w[2]);
 649     pwd->w[3]  = msa_bneg_df(DF_WORD, pws->w[3],  pwt->w[3]);
 650 }
 651
 652 void helper_msa_bneg_d(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 653 {
 654     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 655     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 656     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 657
 658     pwd->d[0]  = msa_bneg_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
 659     pwd->d[1]  = msa_bneg_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
 660 }
 661
 662 static inline int64_t msa_bset_df(uint32_t df, int64_t arg1,
 663         int64_t arg2)
 664 {
 665     int32_t b_arg2 = BIT_POSITION(arg2, df);
 666     return UNSIGNED(arg1 | (1LL << b_arg2), df);
 667 }
 668
 669 void helper_msa_bset_b(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 670 {
 671     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 672     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 673     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 674
 675     pwd->b[0]  = msa_bset_df(DF_BYTE, pws->b[0],  pwt->b[0]);
 676     pwd->b[1]  = msa_bset_df(DF_BYTE, pws->b[1],  pwt->b[1]);
 677     pwd->b[2]  = msa_bset_df(DF_BYTE, pws->b[2],  pwt->b[2]);
 678     pwd->b[3]  = msa_bset_df(DF_BYTE, pws->b[3],  pwt->b[3]);
 679     pwd->b[4]  = msa_bset_df(DF_BYTE, pws->b[4],  pwt->b[4]);
 680     pwd->b[5]  = msa_bset_df(DF_BYTE, pws->b[5],  pwt->b[5]);
 681     pwd->b[6]  = msa_bset_df(DF_BYTE, pws->b[6],  pwt->b[6]);
 682     pwd->b[7]  = msa_bset_df(DF_BYTE, pws->b[7],  pwt->b[7]);
 683     pwd->b[8]  = msa_bset_df(DF_BYTE, pws->b[8],  pwt->b[8]);
 684     pwd->b[9]  = msa_bset_df(DF_BYTE, pws->b[9],  pwt->b[9]);
 685     pwd->b[10] = msa_bset_df(DF_BYTE, pws->b[10], pwt->b[10]);
 686     pwd->b[11] = msa_bset_df(DF_BYTE, pws->b[11], pwt->b[11]);
 687     pwd->b[12] = msa_bset_df(DF_BYTE, pws->b[12], pwt->b[12]);
 688     pwd->b[13] = msa_bset_df(DF_BYTE, pws->b[13], pwt->b[13]);
 689     pwd->b[14] = msa_bset_df(DF_BYTE, pws->b[14], pwt->b[14]);
 690     pwd->b[15] = msa_bset_df(DF_BYTE, pws->b[15], pwt->b[15]);
 691 }
 692
 693 void helper_msa_bset_h(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 694 {
 695     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 696     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 697     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 698
 699     pwd->h[0]  = msa_bset_df(DF_HALF, pws->h[0],  pwt->h[0]);
 700     pwd->h[1]  = msa_bset_df(DF_HALF, pws->h[1],  pwt->h[1]);
 701     pwd->h[2]  = msa_bset_df(DF_HALF, pws->h[2],  pwt->h[2]);
 702     pwd->h[3]  = msa_bset_df(DF_HALF, pws->h[3],  pwt->h[3]);
 703     pwd->h[4]  = msa_bset_df(DF_HALF, pws->h[4],  pwt->h[4]);
 704     pwd->h[5]  = msa_bset_df(DF_HALF, pws->h[5],  pwt->h[5]);
 705     pwd->h[6]  = msa_bset_df(DF_HALF, pws->h[6],  pwt->h[6]);
 706     pwd->h[7]  = msa_bset_df(DF_HALF, pws->h[7],  pwt->h[7]);
 707 }
 708
 709 void helper_msa_bset_w(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 710 {
 711     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 712     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 713     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 714
 715     pwd->w[0]  = msa_bset_df(DF_WORD, pws->w[0],  pwt->w[0]);
 716     pwd->w[1]  = msa_bset_df(DF_WORD, pws->w[1],  pwt->w[1]);
 717     pwd->w[2]  = msa_bset_df(DF_WORD, pws->w[2],  pwt->w[2]);
 718     pwd->w[3]  = msa_bset_df(DF_WORD, pws->w[3],  pwt->w[3]);
 719 }
 720
 721 void helper_msa_bset_d(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 722 {
 723     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 724     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 725     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 726
 727     pwd->d[0]  = msa_bset_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
 728     pwd->d[1]  = msa_bset_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
 729 }
 730
 731
 732 /*
 733  * Fixed Multiply
 734  * --------------
 735  *
 736  * +---------------+----------------------------------------------------------+
 737  * | MADD_Q.H      | Vector Fixed-Point Multiply and Add (halfword)           |
 738  * | MADD_Q.W      | Vector Fixed-Point Multiply and Add (word)               |
 739  * | MADDR_Q.H     | Vector Fixed-Point Multiply and Add Rounded (halfword)   |
 740  * | MADDR_Q.W     | Vector Fixed-Point Multiply and Add Rounded (word)       |
 741  * | MSUB_Q.H      | Vector Fixed-Point Multiply and Subtr. (halfword)        |
 742  * | MSUB_Q.W      | Vector Fixed-Point Multiply and Subtr. (word)            |
 743  * | MSUBR_Q.H     | Vector Fixed-Point Multiply and Subtr. Rounded (halfword)|
 744  * | MSUBR_Q.W     | Vector Fixed-Point Multiply and Subtr. Rounded (word)    |
 745  * | MUL_Q.H       | Vector Fixed-Point Multiply (halfword)                   |
 746  * | MUL_Q.W       | Vector Fixed-Point Multiply (word)                       |
 747  * | MULR_Q.H      | Vector Fixed-Point Multiply Rounded (halfword)           |
 748  * | MULR_Q.W      | Vector Fixed-Point Multiply Rounded (word)               |
 749  * +---------------+----------------------------------------------------------+
 750  */
 751
 752 /* TODO: insert Fixed Multiply group helpers here */
 753
 754
 755 /*
 756  * Float Max Min
 757  * -------------
 758  *
 759  * +---------------+----------------------------------------------------------+
 760  * | FMAX_A.W      | Vector Floating-Point Maximum (Absolute) (word)          |
 761  * | FMAX_A.D      | Vector Floating-Point Maximum (Absolute) (doubleword)    |
 762  * | FMAX.W        | Vector Floating-Point Maximum (word)                     |
 763  * | FMAX.D        | Vector Floating-Point Maximum (doubleword)               |
 764  * | FMIN_A.W      | Vector Floating-Point Minimum (Absolute) (word)          |
 765  * | FMIN_A.D      | Vector Floating-Point Minimum (Absolute) (doubleword)    |
 766  * | FMIN.W        | Vector Floating-Point Minimum (word)                     |
 767  * | FMIN.D        | Vector Floating-Point Minimum (doubleword)               |
 768  * +---------------+----------------------------------------------------------+
 769  */
 770
 771 /* TODO: insert Float Max Min group helpers here */
 772
 773
 774 /*
 775  * Int Add
 776  * -------
 777  *
 778  * +---------------+----------------------------------------------------------+
 779  * | ADD_A.B       | Vector Add Absolute Values (byte)                        |
 780  * | ADD_A.H       | Vector Add Absolute Values (halfword)                    |
 781  * | ADD_A.W       | Vector Add Absolute Values (word)                        |
 782  * | ADD_A.D       | Vector Add Absolute Values (doubleword)                  |
 783  * | ADDS_A.B      | Vector Signed Saturated Add (of Absolute) (byte)         |
 784  * | ADDS_A.H      | Vector Signed Saturated Add (of Absolute) (halfword)     |
 785  * | ADDS_A.W      | Vector Signed Saturated Add (of Absolute) (word)         |
 786  * | ADDS_A.D      | Vector Signed Saturated Add (of Absolute) (doubleword)   |
 787  * | ADDS_S.B      | Vector Signed Saturated Add (of Signed) (byte)           |
 788  * | ADDS_S.H      | Vector Signed Saturated Add (of Signed) (halfword)       |
 789  * | ADDS_S.W      | Vector Signed Saturated Add (of Signed) (word)           |
 790  * | ADDS_S.D      | Vector Signed Saturated Add (of Signed) (doubleword)     |
 791  * | ADDS_U.B      | Vector Unsigned Saturated Add (of Unsigned) (byte)       |
 792  * | ADDS_U.H      | Vector Unsigned Saturated Add (of Unsigned) (halfword)   |
 793  * | ADDS_U.W      | Vector Unsigned Saturated Add (of Unsigned) (word)       |
 794  * | ADDS_U.D      | Vector Unsigned Saturated Add (of Unsigned) (doubleword) |
 795  * | ADDV.B        | Vector Add (byte)                                        |
 796  * | ADDV.H        | Vector Add (halfword)                                    |
 797  * | ADDV.W        | Vector Add (word)                                        |
 798  * | ADDV.D        | Vector Add (doubleword)                                  |
 799  * | HADD_S.H      | Vector Signed Horizontal Add (halfword)                  |
 800  * | HADD_S.W      | Vector Signed Horizontal Add (word)                      |
 801  * | HADD_S.D      | Vector Signed Horizontal Add (doubleword)                |
 802  * | HADD_U.H      | Vector Unigned Horizontal Add (halfword)                 |
 803  * | HADD_U.W      | Vector Unigned Horizontal Add (word)                     |
 804  * | HADD_U.D      | Vector Unigned Horizontal Add (doubleword)               |
 805  * +---------------+----------------------------------------------------------+
 806  */
 807
 808
 809 static inline int64_t msa_add_a_df(uint32_t df, int64_t arg1, int64_t arg2)
 810 {
 811     uint64_t abs_arg1 = arg1 >= 0 ? arg1 : -arg1;
 812     uint64_t abs_arg2 = arg2 >= 0 ? arg2 : -arg2;
 813     return abs_arg1 + abs_arg2;
 814 }
 815
 816 void helper_msa_add_a_b(CPUMIPSState *env,
 817                         uint32_t wd, uint32_t ws, uint32_t wt)
 818 {
 819     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 820     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 821     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 822
 823     pwd->b[0]  = msa_add_a_df(DF_BYTE, pws->b[0],  pwt->b[0]);
 824     pwd->b[1]  = msa_add_a_df(DF_BYTE, pws->b[1],  pwt->b[1]);
 825     pwd->b[2]  = msa_add_a_df(DF_BYTE, pws->b[2],  pwt->b[2]);
 826     pwd->b[3]  = msa_add_a_df(DF_BYTE, pws->b[3],  pwt->b[3]);
 827     pwd->b[4]  = msa_add_a_df(DF_BYTE, pws->b[4],  pwt->b[4]);
 828     pwd->b[5]  = msa_add_a_df(DF_BYTE, pws->b[5],  pwt->b[5]);
 829     pwd->b[6]  = msa_add_a_df(DF_BYTE, pws->b[6],  pwt->b[6]);
 830     pwd->b[7]  = msa_add_a_df(DF_BYTE, pws->b[7],  pwt->b[7]);
 831     pwd->b[8]  = msa_add_a_df(DF_BYTE, pws->b[8],  pwt->b[8]);
 832     pwd->b[9]  = msa_add_a_df(DF_BYTE, pws->b[9],  pwt->b[9]);
 833     pwd->b[10] = msa_add_a_df(DF_BYTE, pws->b[10], pwt->b[10]);
 834     pwd->b[11] = msa_add_a_df(DF_BYTE, pws->b[11], pwt->b[11]);
 835     pwd->b[12] = msa_add_a_df(DF_BYTE, pws->b[12], pwt->b[12]);
 836     pwd->b[13] = msa_add_a_df(DF_BYTE, pws->b[13], pwt->b[13]);
 837     pwd->b[14] = msa_add_a_df(DF_BYTE, pws->b[14], pwt->b[14]);
 838     pwd->b[15] = msa_add_a_df(DF_BYTE, pws->b[15], pwt->b[15]);
 839 }
 840
 841 void helper_msa_add_a_h(CPUMIPSState *env,
 842                         uint32_t wd, uint32_t ws, uint32_t wt)
 843 {
 844     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 845     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 846     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 847
 848     pwd->h[0]  = msa_add_a_df(DF_HALF, pws->h[0],  pwt->h[0]);
 849     pwd->h[1]  = msa_add_a_df(DF_HALF, pws->h[1],  pwt->h[1]);
 850     pwd->h[2]  = msa_add_a_df(DF_HALF, pws->h[2],  pwt->h[2]);
 851     pwd->h[3]  = msa_add_a_df(DF_HALF, pws->h[3],  pwt->h[3]);
 852     pwd->h[4]  = msa_add_a_df(DF_HALF, pws->h[4],  pwt->h[4]);
 853     pwd->h[5]  = msa_add_a_df(DF_HALF, pws->h[5],  pwt->h[5]);
 854     pwd->h[6]  = msa_add_a_df(DF_HALF, pws->h[6],  pwt->h[6]);
 855     pwd->h[7]  = msa_add_a_df(DF_HALF, pws->h[7],  pwt->h[7]);
 856 }
 857
 858 void helper_msa_add_a_w(CPUMIPSState *env,
 859                         uint32_t wd, uint32_t ws, uint32_t wt)
 860 {
 861     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 862     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 863     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 864
 865     pwd->w[0]  = msa_add_a_df(DF_WORD, pws->w[0],  pwt->w[0]);
 866     pwd->w[1]  = msa_add_a_df(DF_WORD, pws->w[1],  pwt->w[1]);
 867     pwd->w[2]  = msa_add_a_df(DF_WORD, pws->w[2],  pwt->w[2]);
 868     pwd->w[3]  = msa_add_a_df(DF_WORD, pws->w[3],  pwt->w[3]);
 869 }
 870
 871 void helper_msa_add_a_d(CPUMIPSState *env,
 872                         uint32_t wd, uint32_t ws, uint32_t wt)
 873 {
 874     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 875     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 876     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 877
 878     pwd->d[0]  = msa_add_a_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
 879     pwd->d[1]  = msa_add_a_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
 880 }
 881
 882
 883 static inline int64_t msa_adds_a_df(uint32_t df, int64_t arg1, int64_t arg2)
 884 {
 885     uint64_t max_int = (uint64_t)DF_MAX_INT(df);
 886     uint64_t abs_arg1 = arg1 >= 0 ? arg1 : -arg1;
 887     uint64_t abs_arg2 = arg2 >= 0 ? arg2 : -arg2;
 888     if (abs_arg1 > max_int || abs_arg2 > max_int) {
 889         return (int64_t)max_int;
 890     } else {
 891         return (abs_arg1 < max_int - abs_arg2) ? abs_arg1 + abs_arg2 : max_int;
 892     }
 893 }
 894
 895 void helper_msa_adds_a_b(CPUMIPSState *env,
 896                          uint32_t wd, uint32_t ws, uint32_t wt)
 897 {
 898     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 899     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 900     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 901
 902     pwd->b[0]  = msa_adds_a_df(DF_BYTE, pws->b[0],  pwt->b[0]);
 903     pwd->b[1]  = msa_adds_a_df(DF_BYTE, pws->b[1],  pwt->b[1]);
 904     pwd->b[2]  = msa_adds_a_df(DF_BYTE, pws->b[2],  pwt->b[2]);
 905     pwd->b[3]  = msa_adds_a_df(DF_BYTE, pws->b[3],  pwt->b[3]);
 906     pwd->b[4]  = msa_adds_a_df(DF_BYTE, pws->b[4],  pwt->b[4]);
 907     pwd->b[5]  = msa_adds_a_df(DF_BYTE, pws->b[5],  pwt->b[5]);
 908     pwd->b[6]  = msa_adds_a_df(DF_BYTE, pws->b[6],  pwt->b[6]);
 909     pwd->b[7]  = msa_adds_a_df(DF_BYTE, pws->b[7],  pwt->b[7]);
 910     pwd->b[8]  = msa_adds_a_df(DF_BYTE, pws->b[8],  pwt->b[8]);
 911     pwd->b[9]  = msa_adds_a_df(DF_BYTE, pws->b[9],  pwt->b[9]);
 912     pwd->b[10] = msa_adds_a_df(DF_BYTE, pws->b[10], pwt->b[10]);
 913     pwd->b[11] = msa_adds_a_df(DF_BYTE, pws->b[11], pwt->b[11]);
 914     pwd->b[12] = msa_adds_a_df(DF_BYTE, pws->b[12], pwt->b[12]);
 915     pwd->b[13] = msa_adds_a_df(DF_BYTE, pws->b[13], pwt->b[13]);
 916     pwd->b[14] = msa_adds_a_df(DF_BYTE, pws->b[14], pwt->b[14]);
 917     pwd->b[15] = msa_adds_a_df(DF_BYTE, pws->b[15], pwt->b[15]);
 918 }
 919
 920 void helper_msa_adds_a_h(CPUMIPSState *env,
 921                          uint32_t wd, uint32_t ws, uint32_t wt)
 922 {
 923     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 924     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 925     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 926
 927     pwd->h[0]  = msa_adds_a_df(DF_HALF, pws->h[0],  pwt->h[0]);
 928     pwd->h[1]  = msa_adds_a_df(DF_HALF, pws->h[1],  pwt->h[1]);
 929     pwd->h[2]  = msa_adds_a_df(DF_HALF, pws->h[2],  pwt->h[2]);
 930     pwd->h[3]  = msa_adds_a_df(DF_HALF, pws->h[3],  pwt->h[3]);
 931     pwd->h[4]  = msa_adds_a_df(DF_HALF, pws->h[4],  pwt->h[4]);
 932     pwd->h[5]  = msa_adds_a_df(DF_HALF, pws->h[5],  pwt->h[5]);
 933     pwd->h[6]  = msa_adds_a_df(DF_HALF, pws->h[6],  pwt->h[6]);
 934     pwd->h[7]  = msa_adds_a_df(DF_HALF, pws->h[7],  pwt->h[7]);
 935 }
 936
 937 void helper_msa_adds_a_w(CPUMIPSState *env,
 938                          uint32_t wd, uint32_t ws, uint32_t wt)
 939 {
 940     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 941     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 942     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 943
 944     pwd->w[0]  = msa_adds_a_df(DF_WORD, pws->w[0],  pwt->w[0]);
 945     pwd->w[1]  = msa_adds_a_df(DF_WORD, pws->w[1],  pwt->w[1]);
 946     pwd->w[2]  = msa_adds_a_df(DF_WORD, pws->w[2],  pwt->w[2]);
 947     pwd->w[3]  = msa_adds_a_df(DF_WORD, pws->w[3],  pwt->w[3]);
 948 }
 949
 950 void helper_msa_adds_a_d(CPUMIPSState *env,
 951                          uint32_t wd, uint32_t ws, uint32_t wt)
 952 {
 953     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 954     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 955     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 956
 957     pwd->d[0]  = msa_adds_a_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
 958     pwd->d[1]  = msa_adds_a_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
 959 }
 960
 961
 962 static inline int64_t msa_adds_s_df(uint32_t df, int64_t arg1, int64_t arg2)
 963 {
 964     int64_t max_int = DF_MAX_INT(df);
 965     int64_t min_int = DF_MIN_INT(df);
 966     if (arg1 < 0) {
 967         return (min_int - arg1 < arg2) ? arg1 + arg2 : min_int;
 968     } else {
 969         return (arg2 < max_int - arg1) ? arg1 + arg2 : max_int;
 970     }
 971 }
 972
 973 void helper_msa_adds_s_b(CPUMIPSState *env,
 974                          uint32_t wd, uint32_t ws, uint32_t wt)
 975 {
 976     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 977     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 978     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 979
 980     pwd->b[0]  = msa_adds_s_df(DF_BYTE, pws->b[0],  pwt->b[0]);
 981     pwd->b[1]  = msa_adds_s_df(DF_BYTE, pws->b[1],  pwt->b[1]);
 982     pwd->b[2]  = msa_adds_s_df(DF_BYTE, pws->b[2],  pwt->b[2]);
 983     pwd->b[3]  = msa_adds_s_df(DF_BYTE, pws->b[3],  pwt->b[3]);
 984     pwd->b[4]  = msa_adds_s_df(DF_BYTE, pws->b[4],  pwt->b[4]);
 985     pwd->b[5]  = msa_adds_s_df(DF_BYTE, pws->b[5],  pwt->b[5]);
 986     pwd->b[6]  = msa_adds_s_df(DF_BYTE, pws->b[6],  pwt->b[6]);
 987     pwd->b[7]  = msa_adds_s_df(DF_BYTE, pws->b[7],  pwt->b[7]);
 988     pwd->b[8]  = msa_adds_s_df(DF_BYTE, pws->b[8],  pwt->b[8]);
 989     pwd->b[9]  = msa_adds_s_df(DF_BYTE, pws->b[9],  pwt->b[9]);
 990     pwd->b[10] = msa_adds_s_df(DF_BYTE, pws->b[10], pwt->b[10]);
 991     pwd->b[11] = msa_adds_s_df(DF_BYTE, pws->b[11], pwt->b[11]);
 992     pwd->b[12] = msa_adds_s_df(DF_BYTE, pws->b[12], pwt->b[12]);
 993     pwd->b[13] = msa_adds_s_df(DF_BYTE, pws->b[13], pwt->b[13]);
 994     pwd->b[14] = msa_adds_s_df(DF_BYTE, pws->b[14], pwt->b[14]);
 995     pwd->b[15] = msa_adds_s_df(DF_BYTE, pws->b[15], pwt->b[15]);
 996 }
 997
 998 void helper_msa_adds_s_h(CPUMIPSState *env,
 999                          uint32_t wd, uint32_t ws, uint32_t wt)
1000 {
1001     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1002     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1003     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1004
1005     pwd->h[0]  = msa_adds_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
1006     pwd->h[1]  = msa_adds_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
1007     pwd->h[2]  = msa_adds_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
1008     pwd->h[3]  = msa_adds_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
1009     pwd->h[4]  = msa_adds_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
1010     pwd->h[5]  = msa_adds_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
1011     pwd->h[6]  = msa_adds_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
1012     pwd->h[7]  = msa_adds_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
1013 }
1014
1015 void helper_msa_adds_s_w(CPUMIPSState *env,
1016                          uint32_t wd, uint32_t ws, uint32_t wt)
1017 {
1018     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1019     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1020     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1021
1022     pwd->w[0]  = msa_adds_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
1023     pwd->w[1]  = msa_adds_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
1024     pwd->w[2]  = msa_adds_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
1025     pwd->w[3]  = msa_adds_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
1026 }
1027
1028 void helper_msa_adds_s_d(CPUMIPSState *env,
1029                          uint32_t wd, uint32_t ws, uint32_t wt)
1030 {
1031     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1032     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1033     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1034
1035     pwd->d[0]  = msa_adds_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1036     pwd->d[1]  = msa_adds_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1037 }
1038
1039
1040 static inline uint64_t msa_adds_u_df(uint32_t df, uint64_t arg1, uint64_t arg2)
1041 {
1042     uint64_t max_uint = DF_MAX_UINT(df);
1043     uint64_t u_arg1 = UNSIGNED(arg1, df);
1044     uint64_t u_arg2 = UNSIGNED(arg2, df);
1045     return (u_arg1 < max_uint - u_arg2) ? u_arg1 + u_arg2 : max_uint;
1046 }
1047
1048 void helper_msa_adds_u_b(CPUMIPSState *env,
1049                          uint32_t wd, uint32_t ws, uint32_t wt)
1050 {
1051     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1052     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1053     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1054
1055     pwd->b[0]  = msa_adds_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1056     pwd->b[1]  = msa_adds_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1057     pwd->b[2]  = msa_adds_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1058     pwd->b[3]  = msa_adds_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1059     pwd->b[4]  = msa_adds_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1060     pwd->b[5]  = msa_adds_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1061     pwd->b[6]  = msa_adds_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1062     pwd->b[7]  = msa_adds_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1063     pwd->b[8]  = msa_adds_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1064     pwd->b[9]  = msa_adds_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1065     pwd->b[10] = msa_adds_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
1066     pwd->b[11] = msa_adds_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
1067     pwd->b[12] = msa_adds_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
1068     pwd->b[13] = msa_adds_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
1069     pwd->b[14] = msa_adds_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
1070     pwd->b[15] = msa_adds_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
1071 }
1072
1073 void helper_msa_adds_u_h(CPUMIPSState *env,
1074                          uint32_t wd, uint32_t ws, uint32_t wt)
1075 {
1076     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1077     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1078     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1079
1080     pwd->h[0]  = msa_adds_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
1081     pwd->h[1]  = msa_adds_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
1082     pwd->h[2]  = msa_adds_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
1083     pwd->h[3]  = msa_adds_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
1084     pwd->h[4]  = msa_adds_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
1085     pwd->h[5]  = msa_adds_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
1086     pwd->h[6]  = msa_adds_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
1087     pwd->h[7]  = msa_adds_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
1088 }
1089
1090 void helper_msa_adds_u_w(CPUMIPSState *env,
1091                          uint32_t wd, uint32_t ws, uint32_t wt)
1092 {
1093     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1094     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1095     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1096
1097     pwd->w[0]  = msa_adds_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
1098     pwd->w[1]  = msa_adds_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
1099     pwd->w[2]  = msa_adds_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
1100     pwd->w[3]  = msa_adds_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
1101 }
1102
1103 void helper_msa_adds_u_d(CPUMIPSState *env,
1104                          uint32_t wd, uint32_t ws, uint32_t wt)
1105 {
1106     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1107     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1108     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1109
1110     pwd->d[0]  = msa_adds_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1111     pwd->d[1]  = msa_adds_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1112 }
1113
1114
1115 static inline int64_t msa_addv_df(uint32_t df, int64_t arg1, int64_t arg2)
1116 {
1117     return arg1 + arg2;
1118 }
1119
1120 void helper_msa_addv_b(CPUMIPSState *env,
1121                        uint32_t wd, uint32_t ws, uint32_t wt)
1122 {
1123     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1124     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1125     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1126
1127     pwd->b[0]  = msa_addv_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1128     pwd->b[1]  = msa_addv_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1129     pwd->b[2]  = msa_addv_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1130     pwd->b[3]  = msa_addv_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1131     pwd->b[4]  = msa_addv_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1132     pwd->b[5]  = msa_addv_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1133     pwd->b[6]  = msa_addv_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1134     pwd->b[7]  = msa_addv_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1135     pwd->b[8]  = msa_addv_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1136     pwd->b[9]  = msa_addv_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1137     pwd->b[10] = msa_addv_df(DF_BYTE, pws->b[10], pwt->b[10]);
1138     pwd->b[11] = msa_addv_df(DF_BYTE, pws->b[11], pwt->b[11]);
1139     pwd->b[12] = msa_addv_df(DF_BYTE, pws->b[12], pwt->b[12]);
1140     pwd->b[13] = msa_addv_df(DF_BYTE, pws->b[13], pwt->b[13]);
1141     pwd->b[14] = msa_addv_df(DF_BYTE, pws->b[14], pwt->b[14]);
1142     pwd->b[15] = msa_addv_df(DF_BYTE, pws->b[15], pwt->b[15]);
1143 }
1144
1145 void helper_msa_addv_h(CPUMIPSState *env,
1146                        uint32_t wd, uint32_t ws, uint32_t wt)
1147 {
1148     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1149     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1150     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1151
1152     pwd->h[0]  = msa_addv_df(DF_HALF, pws->h[0],  pwt->h[0]);
1153     pwd->h[1]  = msa_addv_df(DF_HALF, pws->h[1],  pwt->h[1]);
1154     pwd->h[2]  = msa_addv_df(DF_HALF, pws->h[2],  pwt->h[2]);
1155     pwd->h[3]  = msa_addv_df(DF_HALF, pws->h[3],  pwt->h[3]);
1156     pwd->h[4]  = msa_addv_df(DF_HALF, pws->h[4],  pwt->h[4]);
1157     pwd->h[5]  = msa_addv_df(DF_HALF, pws->h[5],  pwt->h[5]);
1158     pwd->h[6]  = msa_addv_df(DF_HALF, pws->h[6],  pwt->h[6]);
1159     pwd->h[7]  = msa_addv_df(DF_HALF, pws->h[7],  pwt->h[7]);
1160 }
1161
1162 void helper_msa_addv_w(CPUMIPSState *env,
1163                        uint32_t wd, uint32_t ws, uint32_t wt)
1164 {
1165     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1166     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1167     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1168
1169     pwd->w[0]  = msa_addv_df(DF_WORD, pws->w[0],  pwt->w[0]);
1170     pwd->w[1]  = msa_addv_df(DF_WORD, pws->w[1],  pwt->w[1]);
1171     pwd->w[2]  = msa_addv_df(DF_WORD, pws->w[2],  pwt->w[2]);
1172     pwd->w[3]  = msa_addv_df(DF_WORD, pws->w[3],  pwt->w[3]);
1173 }
1174
1175 void helper_msa_addv_d(CPUMIPSState *env,
1176                        uint32_t wd, uint32_t ws, uint32_t wt)
1177 {
1178     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1179     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1180     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1181
1182     pwd->d[0]  = msa_addv_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1183     pwd->d[1]  = msa_addv_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1184 }
1185
1186
1187 /*
1188  * Int Average
1189  * -----------
1190  *
1191  * +---------------+----------------------------------------------------------+
1192  * | AVE_S.B       | Vector Signed Average (byte)                             |
1193  * | AVE_S.H       | Vector Signed Average (halfword)                         |
1194  * | AVE_S.W       | Vector Signed Average (word)                             |
1195  * | AVE_S.D       | Vector Signed Average (doubleword)                       |
1196  * | AVE_U.B       | Vector Unsigned Average (byte)                           |
1197  * | AVE_U.H       | Vector Unsigned Average (halfword)                       |
1198  * | AVE_U.W       | Vector Unsigned Average (word)                           |
1199  * | AVE_U.D       | Vector Unsigned Average (doubleword)                     |
1200  * | AVER_S.B      | Vector Signed Average Rounded (byte)                     |
1201  * | AVER_S.H      | Vector Signed Average Rounded (halfword)                 |
1202  * | AVER_S.W      | Vector Signed Average Rounded (word)                     |
1203  * | AVER_S.D      | Vector Signed Average Rounded (doubleword)               |
1204  * | AVER_U.B      | Vector Unsigned Average Rounded (byte)                   |
1205  * | AVER_U.H      | Vector Unsigned Average Rounded (halfword)               |
1206  * | AVER_U.W      | Vector Unsigned Average Rounded (word)                   |
1207  * | AVER_U.D      | Vector Unsigned Average Rounded (doubleword)             |
1208  * +---------------+----------------------------------------------------------+
1209  */
1210
1211 static inline int64_t msa_ave_s_df(uint32_t df, int64_t arg1, int64_t arg2)
1212 {
1213     /* signed shift */
1214     return (arg1 >> 1) + (arg2 >> 1) + (arg1 & arg2 & 1);
1215 }
1216
1217 void helper_msa_ave_s_b(CPUMIPSState *env,
1218                         uint32_t wd, uint32_t ws, uint32_t wt)
1219 {
1220     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1221     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1222     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1223
1224     pwd->b[0]  = msa_ave_s_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1225     pwd->b[1]  = msa_ave_s_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1226     pwd->b[2]  = msa_ave_s_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1227     pwd->b[3]  = msa_ave_s_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1228     pwd->b[4]  = msa_ave_s_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1229     pwd->b[5]  = msa_ave_s_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1230     pwd->b[6]  = msa_ave_s_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1231     pwd->b[7]  = msa_ave_s_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1232     pwd->b[8]  = msa_ave_s_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1233     pwd->b[9]  = msa_ave_s_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1234     pwd->b[10] = msa_ave_s_df(DF_BYTE, pws->b[10], pwt->b[10]);
1235     pwd->b[11] = msa_ave_s_df(DF_BYTE, pws->b[11], pwt->b[11]);
1236     pwd->b[12] = msa_ave_s_df(DF_BYTE, pws->b[12], pwt->b[12]);
1237     pwd->b[13] = msa_ave_s_df(DF_BYTE, pws->b[13], pwt->b[13]);
1238     pwd->b[14] = msa_ave_s_df(DF_BYTE, pws->b[14], pwt->b[14]);
1239     pwd->b[15] = msa_ave_s_df(DF_BYTE, pws->b[15], pwt->b[15]);
1240 }
1241
1242 void helper_msa_ave_s_h(CPUMIPSState *env,
1243                         uint32_t wd, uint32_t ws, uint32_t wt)
1244 {
1245     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1246     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1247     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1248
1249     pwd->h[0]  = msa_ave_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
1250     pwd->h[1]  = msa_ave_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
1251     pwd->h[2]  = msa_ave_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
1252     pwd->h[3]  = msa_ave_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
1253     pwd->h[4]  = msa_ave_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
1254     pwd->h[5]  = msa_ave_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
1255     pwd->h[6]  = msa_ave_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
1256     pwd->h[7]  = msa_ave_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
1257 }
1258
1259 void helper_msa_ave_s_w(CPUMIPSState *env,
1260                         uint32_t wd, uint32_t ws, uint32_t wt)
1261 {
1262     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1263     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1264     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1265
1266     pwd->w[0]  = msa_ave_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
1267     pwd->w[1]  = msa_ave_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
1268     pwd->w[2]  = msa_ave_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
1269     pwd->w[3]  = msa_ave_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
1270 }
1271
1272 void helper_msa_ave_s_d(CPUMIPSState *env,
1273                         uint32_t wd, uint32_t ws, uint32_t wt)
1274 {
1275     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1276     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1277     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1278
1279     pwd->d[0]  = msa_ave_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1280     pwd->d[1]  = msa_ave_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1281 }
1282
1283 static inline uint64_t msa_ave_u_df(uint32_t df, uint64_t arg1, uint64_t arg2)
1284 {
1285     uint64_t u_arg1 = UNSIGNED(arg1, df);
1286     uint64_t u_arg2 = UNSIGNED(arg2, df);
1287     /* unsigned shift */
1288     return (u_arg1 >> 1) + (u_arg2 >> 1) + (u_arg1 & u_arg2 & 1);
1289 }
1290
1291 void helper_msa_ave_u_b(CPUMIPSState *env,
1292                         uint32_t wd, uint32_t ws, uint32_t wt)
1293 {
1294     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1295     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1296     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1297
1298     pwd->b[0]  = msa_ave_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1299     pwd->b[1]  = msa_ave_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1300     pwd->b[2]  = msa_ave_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1301     pwd->b[3]  = msa_ave_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1302     pwd->b[4]  = msa_ave_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1303     pwd->b[5]  = msa_ave_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1304     pwd->b[6]  = msa_ave_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1305     pwd->b[7]  = msa_ave_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1306     pwd->b[8]  = msa_ave_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1307     pwd->b[9]  = msa_ave_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1308     pwd->b[10] = msa_ave_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
1309     pwd->b[11] = msa_ave_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
1310     pwd->b[12] = msa_ave_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
1311     pwd->b[13] = msa_ave_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
1312     pwd->b[14] = msa_ave_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
1313     pwd->b[15] = msa_ave_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
1314 }
1315
1316 void helper_msa_ave_u_h(CPUMIPSState *env,
1317                         uint32_t wd, uint32_t ws, uint32_t wt)
1318 {
1319     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1320     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1321     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1322
1323     pwd->h[0]  = msa_ave_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
1324     pwd->h[1]  = msa_ave_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
1325     pwd->h[2]  = msa_ave_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
1326     pwd->h[3]  = msa_ave_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
1327     pwd->h[4]  = msa_ave_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
1328     pwd->h[5]  = msa_ave_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
1329     pwd->h[6]  = msa_ave_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
1330     pwd->h[7]  = msa_ave_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
1331 }
1332
1333 void helper_msa_ave_u_w(CPUMIPSState *env,
1334                         uint32_t wd, uint32_t ws, uint32_t wt)
1335 {
1336     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1337     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1338     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1339
1340     pwd->w[0]  = msa_ave_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
1341     pwd->w[1]  = msa_ave_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
1342     pwd->w[2]  = msa_ave_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
1343     pwd->w[3]  = msa_ave_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
1344 }
1345
1346 void helper_msa_ave_u_d(CPUMIPSState *env,
1347                         uint32_t wd, uint32_t ws, uint32_t wt)
1348 {
1349     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1350     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1351     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1352
1353     pwd->d[0]  = msa_ave_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1354     pwd->d[1]  = msa_ave_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1355 }
1356
1357 static inline int64_t msa_aver_s_df(uint32_t df, int64_t arg1, int64_t arg2)
1358 {
1359     /* signed shift */
1360     return (arg1 >> 1) + (arg2 >> 1) + ((arg1 | arg2) & 1);
1361 }
1362
1363 void helper_msa_aver_s_b(CPUMIPSState *env,
1364                          uint32_t wd, uint32_t ws, uint32_t wt)
1365 {
1366     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1367     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1368     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1369
1370     pwd->b[0]  = msa_aver_s_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1371     pwd->b[1]  = msa_aver_s_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1372     pwd->b[2]  = msa_aver_s_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1373     pwd->b[3]  = msa_aver_s_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1374     pwd->b[4]  = msa_aver_s_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1375     pwd->b[5]  = msa_aver_s_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1376     pwd->b[6]  = msa_aver_s_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1377     pwd->b[7]  = msa_aver_s_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1378     pwd->b[8]  = msa_aver_s_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1379     pwd->b[9]  = msa_aver_s_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1380     pwd->b[10] = msa_aver_s_df(DF_BYTE, pws->b[10], pwt->b[10]);
1381     pwd->b[11] = msa_aver_s_df(DF_BYTE, pws->b[11], pwt->b[11]);
1382     pwd->b[12] = msa_aver_s_df(DF_BYTE, pws->b[12], pwt->b[12]);
1383     pwd->b[13] = msa_aver_s_df(DF_BYTE, pws->b[13], pwt->b[13]);
1384     pwd->b[14] = msa_aver_s_df(DF_BYTE, pws->b[14], pwt->b[14]);
1385     pwd->b[15] = msa_aver_s_df(DF_BYTE, pws->b[15], pwt->b[15]);
1386 }
1387
1388 void helper_msa_aver_s_h(CPUMIPSState *env,
1389                          uint32_t wd, uint32_t ws, uint32_t wt)
1390 {
1391     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1392     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1393     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1394
1395     pwd->h[0]  = msa_aver_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
1396     pwd->h[1]  = msa_aver_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
1397     pwd->h[2]  = msa_aver_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
1398     pwd->h[3]  = msa_aver_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
1399     pwd->h[4]  = msa_aver_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
1400     pwd->h[5]  = msa_aver_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
1401     pwd->h[6]  = msa_aver_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
1402     pwd->h[7]  = msa_aver_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
1403 }
1404
1405 void helper_msa_aver_s_w(CPUMIPSState *env,
1406                          uint32_t wd, uint32_t ws, uint32_t wt)
1407 {
1408     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1409     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1410     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1411
1412     pwd->w[0]  = msa_aver_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
1413     pwd->w[1]  = msa_aver_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
1414     pwd->w[2]  = msa_aver_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
1415     pwd->w[3]  = msa_aver_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
1416 }
1417
1418 void helper_msa_aver_s_d(CPUMIPSState *env,
1419                          uint32_t wd, uint32_t ws, uint32_t wt)
1420 {
1421     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1422     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1423     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1424
1425     pwd->d[0]  = msa_aver_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1426     pwd->d[1]  = msa_aver_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1427 }
1428
1429 static inline uint64_t msa_aver_u_df(uint32_t df, uint64_t arg1, uint64_t arg2)
1430 {
1431     uint64_t u_arg1 = UNSIGNED(arg1, df);
1432     uint64_t u_arg2 = UNSIGNED(arg2, df);
1433     /* unsigned shift */
1434     return (u_arg1 >> 1) + (u_arg2 >> 1) + ((u_arg1 | u_arg2) & 1);
1435 }
1436
1437 void helper_msa_aver_u_b(CPUMIPSState *env,
1438                          uint32_t wd, uint32_t ws, uint32_t wt)
1439 {
1440     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1441     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1442     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1443
1444     pwd->b[0]  = msa_aver_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1445     pwd->b[1]  = msa_aver_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1446     pwd->b[2]  = msa_aver_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1447     pwd->b[3]  = msa_aver_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1448     pwd->b[4]  = msa_aver_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1449     pwd->b[5]  = msa_aver_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1450     pwd->b[6]  = msa_aver_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1451     pwd->b[7]  = msa_aver_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1452     pwd->b[8]  = msa_aver_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1453     pwd->b[9]  = msa_aver_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1454     pwd->b[10] = msa_aver_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
1455     pwd->b[11] = msa_aver_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
1456     pwd->b[12] = msa_aver_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
1457     pwd->b[13] = msa_aver_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
1458     pwd->b[14] = msa_aver_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
1459     pwd->b[15] = msa_aver_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
1460 }
1461
1462 void helper_msa_aver_u_h(CPUMIPSState *env,
1463                          uint32_t wd, uint32_t ws, uint32_t wt)
1464 {
1465     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1466     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1467     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1468
1469     pwd->h[0]  = msa_aver_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
1470     pwd->h[1]  = msa_aver_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
1471     pwd->h[2]  = msa_aver_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
1472     pwd->h[3]  = msa_aver_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
1473     pwd->h[4]  = msa_aver_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
1474     pwd->h[5]  = msa_aver_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
1475     pwd->h[6]  = msa_aver_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
1476     pwd->h[7]  = msa_aver_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
1477 }
1478
1479 void helper_msa_aver_u_w(CPUMIPSState *env,
1480                          uint32_t wd, uint32_t ws, uint32_t wt)
1481 {
1482     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1483     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1484     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1485
1486     pwd->w[0]  = msa_aver_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
1487     pwd->w[1]  = msa_aver_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
1488     pwd->w[2]  = msa_aver_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
1489     pwd->w[3]  = msa_aver_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
1490 }
1491
1492 void helper_msa_aver_u_d(CPUMIPSState *env,
1493                          uint32_t wd, uint32_t ws, uint32_t wt)
1494 {
1495     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1496     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1497     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1498
1499     pwd->d[0]  = msa_aver_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1500     pwd->d[1]  = msa_aver_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1501 }
1502
1503
1504 /*
1505  * Int Compare
1506  * -----------
1507  *
1508  * +---------------+----------------------------------------------------------+
1509  * | CEQ.B         | Vector Compare Equal (byte)                              |
1510  * | CEQ.H         | Vector Compare Equal (halfword)                          |
1511  * | CEQ.W         | Vector Compare Equal (word)                              |
1512  * | CEQ.D         | Vector Compare Equal (doubleword)                        |
1513  * | CLE_S.B       | Vector Compare Signed Less Than or Equal (byte)          |
1514  * | CLE_S.H       | Vector Compare Signed Less Than or Equal (halfword)      |
1515  * | CLE_S.W       | Vector Compare Signed Less Than or Equal (word)          |
1516  * | CLE_S.D       | Vector Compare Signed Less Than or Equal (doubleword)    |
1517  * | CLE_U.B       | Vector Compare Unsigned Less Than or Equal (byte)        |
1518  * | CLE_U.H       | Vector Compare Unsigned Less Than or Equal (halfword)    |
1519  * | CLE_U.W       | Vector Compare Unsigned Less Than or Equal (word)        |
1520  * | CLE_U.D       | Vector Compare Unsigned Less Than or Equal (doubleword)  |
1521  * | CLT_S.B       | Vector Compare Signed Less Than (byte)                   |
1522  * | CLT_S.H       | Vector Compare Signed Less Than (halfword)               |
1523  * | CLT_S.W       | Vector Compare Signed Less Than (word)                   |
1524  * | CLT_S.D       | Vector Compare Signed Less Than (doubleword)             |
1525  * | CLT_U.B       | Vector Compare Unsigned Less Than (byte)                 |
1526  * | CLT_U.H       | Vector Compare Unsigned Less Than (halfword)             |
1527  * | CLT_U.W       | Vector Compare Unsigned Less Than (word)                 |
1528  * | CLT_U.D       | Vector Compare Unsigned Less Than (doubleword)           |
1529  * +---------------+----------------------------------------------------------+
1530  */
1531
1532 static inline int64_t msa_ceq_df(uint32_t df, int64_t arg1, int64_t arg2)
1533 {
1534     return arg1 == arg2 ? -1 : 0;
1535 }
1536
1537 void helper_msa_ceq_b(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
1538 {
1539     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1540     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1541     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1542
1543     pwd->b[0]  = msa_ceq_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1544     pwd->b[1]  = msa_ceq_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1545     pwd->b[2]  = msa_ceq_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1546     pwd->b[3]  = msa_ceq_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1547     pwd->b[4]  = msa_ceq_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1548     pwd->b[5]  = msa_ceq_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1549     pwd->b[6]  = msa_ceq_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1550     pwd->b[7]  = msa_ceq_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1551     pwd->b[8]  = msa_ceq_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1552     pwd->b[9]  = msa_ceq_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1553     pwd->b[10] = msa_ceq_df(DF_BYTE, pws->b[10], pwt->b[10]);
1554     pwd->b[11] = msa_ceq_df(DF_BYTE, pws->b[11], pwt->b[11]);
1555     pwd->b[12] = msa_ceq_df(DF_BYTE, pws->b[12], pwt->b[12]);
1556     pwd->b[13] = msa_ceq_df(DF_BYTE, pws->b[13], pwt->b[13]);
1557     pwd->b[14] = msa_ceq_df(DF_BYTE, pws->b[14], pwt->b[14]);
1558     pwd->b[15] = msa_ceq_df(DF_BYTE, pws->b[15], pwt->b[15]);
1559 }
1560
1561 void helper_msa_ceq_h(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
1562 {
1563     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1564     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1565     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1566
1567     pwd->h[0]  = msa_ceq_df(DF_HALF, pws->h[0],  pwt->h[0]);
1568     pwd->h[1]  = msa_ceq_df(DF_HALF, pws->h[1],  pwt->h[1]);
1569     pwd->h[2]  = msa_ceq_df(DF_HALF, pws->h[2],  pwt->h[2]);
1570     pwd->h[3]  = msa_ceq_df(DF_HALF, pws->h[3],  pwt->h[3]);
1571     pwd->h[4]  = msa_ceq_df(DF_HALF, pws->h[4],  pwt->h[4]);
1572     pwd->h[5]  = msa_ceq_df(DF_HALF, pws->h[5],  pwt->h[5]);
1573     pwd->h[6]  = msa_ceq_df(DF_HALF, pws->h[6],  pwt->h[6]);
1574     pwd->h[7]  = msa_ceq_df(DF_HALF, pws->h[7],  pwt->h[7]);
1575 }
1576
1577 void helper_msa_ceq_w(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
1578 {
1579     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1580     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1581     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1582
1583     pwd->w[0]  = msa_ceq_df(DF_WORD, pws->w[0],  pwt->w[0]);
1584     pwd->w[1]  = msa_ceq_df(DF_WORD, pws->w[1],  pwt->w[1]);
1585     pwd->w[2]  = msa_ceq_df(DF_WORD, pws->w[2],  pwt->w[2]);
1586     pwd->w[3]  = msa_ceq_df(DF_WORD, pws->w[3],  pwt->w[3]);
1587 }
1588
1589 void helper_msa_ceq_d(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
1590 {
1591     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1592     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1593     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1594
1595     pwd->d[0]  = msa_ceq_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1596     pwd->d[1]  = msa_ceq_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1597 }
1598
1599 static inline int64_t msa_cle_s_df(uint32_t df, int64_t arg1, int64_t arg2)
1600 {
1601     return arg1 <= arg2 ? -1 : 0;
1602 }
1603
1604 void helper_msa_cle_s_b(CPUMIPSState *env,
1605                         uint32_t wd, uint32_t ws, uint32_t wt)
1606 {
1607     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1608     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1609     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1610
1611     pwd->b[0]  = msa_cle_s_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1612     pwd->b[1]  = msa_cle_s_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1613     pwd->b[2]  = msa_cle_s_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1614     pwd->b[3]  = msa_cle_s_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1615     pwd->b[4]  = msa_cle_s_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1616     pwd->b[5]  = msa_cle_s_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1617     pwd->b[6]  = msa_cle_s_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1618     pwd->b[7]  = msa_cle_s_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1619     pwd->b[8]  = msa_cle_s_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1620     pwd->b[9]  = msa_cle_s_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1621     pwd->b[10] = msa_cle_s_df(DF_BYTE, pws->b[10], pwt->b[10]);
1622     pwd->b[11] = msa_cle_s_df(DF_BYTE, pws->b[11], pwt->b[11]);
1623     pwd->b[12] = msa_cle_s_df(DF_BYTE, pws->b[12], pwt->b[12]);
1624     pwd->b[13] = msa_cle_s_df(DF_BYTE, pws->b[13], pwt->b[13]);
1625     pwd->b[14] = msa_cle_s_df(DF_BYTE, pws->b[14], pwt->b[14]);
1626     pwd->b[15] = msa_cle_s_df(DF_BYTE, pws->b[15], pwt->b[15]);
1627 }
1628
1629 void helper_msa_cle_s_h(CPUMIPSState *env,
1630                         uint32_t wd, uint32_t ws, uint32_t wt)
1631 {
1632     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1633     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1634     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1635
1636     pwd->h[0]  = msa_cle_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
1637     pwd->h[1]  = msa_cle_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
1638     pwd->h[2]  = msa_cle_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
1639     pwd->h[3]  = msa_cle_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
1640     pwd->h[4]  = msa_cle_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
1641     pwd->h[5]  = msa_cle_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
1642     pwd->h[6]  = msa_cle_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
1643     pwd->h[7]  = msa_cle_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
1644 }
1645
1646 void helper_msa_cle_s_w(CPUMIPSState *env,
1647                         uint32_t wd, uint32_t ws, uint32_t wt)
1648 {
1649     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1650     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1651     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1652
1653     pwd->w[0]  = msa_cle_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
1654     pwd->w[1]  = msa_cle_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
1655     pwd->w[2]  = msa_cle_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
1656     pwd->w[3]  = msa_cle_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
1657 }
1658
1659 void helper_msa_cle_s_d(CPUMIPSState *env,
1660                         uint32_t wd, uint32_t ws, uint32_t wt)
1661 {
1662     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1663     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1664     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1665
1666     pwd->d[0]  = msa_cle_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1667     pwd->d[1]  = msa_cle_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1668 }
1669
1670 static inline int64_t msa_cle_u_df(uint32_t df, int64_t arg1, int64_t arg2)
1671 {
1672     uint64_t u_arg1 = UNSIGNED(arg1, df);
1673     uint64_t u_arg2 = UNSIGNED(arg2, df);
1674     return u_arg1 <= u_arg2 ? -1 : 0;
1675 }
1676
1677 void helper_msa_cle_u_b(CPUMIPSState *env,
1678                         uint32_t wd, uint32_t ws, uint32_t wt)
1679 {
1680     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1681     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1682     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1683
1684     pwd->b[0]  = msa_cle_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1685     pwd->b[1]  = msa_cle_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1686     pwd->b[2]  = msa_cle_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1687     pwd->b[3]  = msa_cle_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1688     pwd->b[4]  = msa_cle_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1689     pwd->b[5]  = msa_cle_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1690     pwd->b[6]  = msa_cle_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1691     pwd->b[7]  = msa_cle_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1692     pwd->b[8]  = msa_cle_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1693     pwd->b[9]  = msa_cle_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1694     pwd->b[10] = msa_cle_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
1695     pwd->b[11] = msa_cle_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
1696     pwd->b[12] = msa_cle_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
1697     pwd->b[13] = msa_cle_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
1698     pwd->b[14] = msa_cle_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
1699     pwd->b[15] = msa_cle_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
1700 }
1701
1702 void helper_msa_cle_u_h(CPUMIPSState *env,
1703                         uint32_t wd, uint32_t ws, uint32_t wt)
1704 {
1705     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1706     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1707     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1708
1709     pwd->h[0]  = msa_cle_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
1710     pwd->h[1]  = msa_cle_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
1711     pwd->h[2]  = msa_cle_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
1712     pwd->h[3]  = msa_cle_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
1713     pwd->h[4]  = msa_cle_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
1714     pwd->h[5]  = msa_cle_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
1715     pwd->h[6]  = msa_cle_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
1716     pwd->h[7]  = msa_cle_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
1717 }
1718
1719 void helper_msa_cle_u_w(CPUMIPSState *env,
1720                         uint32_t wd, uint32_t ws, uint32_t wt)
1721 {
1722     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1723     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1724     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1725
1726     pwd->w[0]  = msa_cle_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
1727     pwd->w[1]  = msa_cle_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
1728     pwd->w[2]  = msa_cle_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
1729     pwd->w[3]  = msa_cle_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
1730 }
1731
1732 void helper_msa_cle_u_d(CPUMIPSState *env,
1733                         uint32_t wd, uint32_t ws, uint32_t wt)
1734 {
1735     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1736     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1737     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1738
1739     pwd->d[0]  = msa_cle_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1740     pwd->d[1]  = msa_cle_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1741 }
1742
1743 static inline int64_t msa_clt_s_df(uint32_t df, int64_t arg1, int64_t arg2)
1744 {
1745     return arg1 < arg2 ? -1 : 0;
1746 }
1747
1748 void helper_msa_clt_s_b(CPUMIPSState *env,
1749                         uint32_t wd, uint32_t ws, uint32_t wt)
1750 {
1751     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1752     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1753     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1754
1755     pwd->b[0]  = msa_clt_s_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1756     pwd->b[1]  = msa_clt_s_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1757     pwd->b[2]  = msa_clt_s_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1758     pwd->b[3]  = msa_clt_s_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1759     pwd->b[4]  = msa_clt_s_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1760     pwd->b[5]  = msa_clt_s_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1761     pwd->b[6]  = msa_clt_s_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1762     pwd->b[7]  = msa_clt_s_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1763     pwd->b[8]  = msa_clt_s_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1764     pwd->b[9]  = msa_clt_s_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1765     pwd->b[10] = msa_clt_s_df(DF_BYTE, pws->b[10], pwt->b[10]);
1766     pwd->b[11] = msa_clt_s_df(DF_BYTE, pws->b[11], pwt->b[11]);
1767     pwd->b[12] = msa_clt_s_df(DF_BYTE, pws->b[12], pwt->b[12]);
1768     pwd->b[13] = msa_clt_s_df(DF_BYTE, pws->b[13], pwt->b[13]);
1769     pwd->b[14] = msa_clt_s_df(DF_BYTE, pws->b[14], pwt->b[14]);
1770     pwd->b[15] = msa_clt_s_df(DF_BYTE, pws->b[15], pwt->b[15]);
1771 }
1772
1773 void helper_msa_clt_s_h(CPUMIPSState *env,
1774                         uint32_t wd, uint32_t ws, uint32_t wt)
1775 {
1776     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1777     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1778     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1779
1780     pwd->h[0]  = msa_clt_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
1781     pwd->h[1]  = msa_clt_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
1782     pwd->h[2]  = msa_clt_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
1783     pwd->h[3]  = msa_clt_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
1784     pwd->h[4]  = msa_clt_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
1785     pwd->h[5]  = msa_clt_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
1786     pwd->h[6]  = msa_clt_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
1787     pwd->h[7]  = msa_clt_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
1788 }
1789
1790 void helper_msa_clt_s_w(CPUMIPSState *env,
1791                         uint32_t wd, uint32_t ws, uint32_t wt)
1792 {
1793     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1794     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1795     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1796
1797     pwd->w[0]  = msa_clt_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
1798     pwd->w[1]  = msa_clt_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
1799     pwd->w[2]  = msa_clt_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
1800     pwd->w[3]  = msa_clt_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
1801 }
1802
1803 void helper_msa_clt_s_d(CPUMIPSState *env,
1804                         uint32_t wd, uint32_t ws, uint32_t wt)
1805 {
1806     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1807     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1808     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1809
1810     pwd->d[0]  = msa_clt_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1811     pwd->d[1]  = msa_clt_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1812 }
1813
1814 static inline int64_t msa_clt_u_df(uint32_t df, int64_t arg1, int64_t arg2)
1815 {
1816     uint64_t u_arg1 = UNSIGNED(arg1, df);
1817     uint64_t u_arg2 = UNSIGNED(arg2, df);
1818     return u_arg1 < u_arg2 ? -1 : 0;
1819 }
1820
1821 void helper_msa_clt_u_b(CPUMIPSState *env,
1822                         uint32_t wd, uint32_t ws, uint32_t wt)
1823 {
1824     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1825     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1826     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1827
1828     pwd->b[0]  = msa_clt_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1829     pwd->b[1]  = msa_clt_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1830     pwd->b[2]  = msa_clt_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1831     pwd->b[3]  = msa_clt_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1832     pwd->b[4]  = msa_clt_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1833     pwd->b[5]  = msa_clt_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1834     pwd->b[6]  = msa_clt_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1835     pwd->b[7]  = msa_clt_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1836     pwd->b[8]  = msa_clt_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1837     pwd->b[9]  = msa_clt_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1838     pwd->b[10] = msa_clt_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
1839     pwd->b[11] = msa_clt_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
1840     pwd->b[12] = msa_clt_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
1841     pwd->b[13] = msa_clt_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
1842     pwd->b[14] = msa_clt_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
1843     pwd->b[15] = msa_clt_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
1844 }
1845
1846 void helper_msa_clt_u_h(CPUMIPSState *env,
1847                         uint32_t wd, uint32_t ws, uint32_t wt)
1848 {
1849     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1850     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1851     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1852
1853     pwd->h[0]  = msa_clt_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
1854     pwd->h[1]  = msa_clt_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
1855     pwd->h[2]  = msa_clt_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
1856     pwd->h[3]  = msa_clt_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
1857     pwd->h[4]  = msa_clt_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
1858     pwd->h[5]  = msa_clt_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
1859     pwd->h[6]  = msa_clt_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
1860     pwd->h[7]  = msa_clt_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
1861 }
1862
1863 void helper_msa_clt_u_w(CPUMIPSState *env,
1864                         uint32_t wd, uint32_t ws, uint32_t wt)
1865 {
1866     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1867     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1868     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1869
1870     pwd->w[0]  = msa_clt_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
1871     pwd->w[1]  = msa_clt_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
1872     pwd->w[2]  = msa_clt_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
1873     pwd->w[3]  = msa_clt_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
1874 }
1875
1876 void helper_msa_clt_u_d(CPUMIPSState *env,
1877                         uint32_t wd, uint32_t ws, uint32_t wt)
1878 {
1879     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1880     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1881     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1882
1883     pwd->d[0]  = msa_clt_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1884     pwd->d[1]  = msa_clt_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1885 }
1886
1887
1888 /*
1889  * Int Divide
1890  * ----------
1891  *
1892  * +---------------+----------------------------------------------------------+
1893  * | DIV_S.B       | Vector Signed Divide (byte)                              |
1894  * | DIV_S.H       | Vector Signed Divide (halfword)                          |
1895  * | DIV_S.W       | Vector Signed Divide (word)                              |
1896  * | DIV_S.D       | Vector Signed Divide (doubleword)                        |
1897  * | DIV_U.B       | Vector Unsigned Divide (byte)                            |
1898  * | DIV_U.H       | Vector Unsigned Divide (halfword)                        |
1899  * | DIV_U.W       | Vector Unsigned Divide (word)                            |
1900  * | DIV_U.D       | Vector Unsigned Divide (doubleword)                      |
1901  * +---------------+----------------------------------------------------------+
1902  */
1903
1904
1905 static inline int64_t msa_div_s_df(uint32_t df, int64_t arg1, int64_t arg2)
1906 {
1907     if (arg1 == DF_MIN_INT(df) && arg2 == -1) {
1908         return DF_MIN_INT(df);
1909     }
1910     return arg2 ? arg1 / arg2
1911                 : arg1 >= 0 ? -1 : 1;
1912 }
1913
1914 void helper_msa_div_s_b(CPUMIPSState *env,
1915                         uint32_t wd, uint32_t ws, uint32_t wt)
1916 {
1917     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1918     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1919     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1920
1921     pwd->b[0]  = msa_div_s_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1922     pwd->b[1]  = msa_div_s_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1923     pwd->b[2]  = msa_div_s_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1924     pwd->b[3]  = msa_div_s_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1925     pwd->b[4]  = msa_div_s_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1926     pwd->b[5]  = msa_div_s_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1927     pwd->b[6]  = msa_div_s_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1928     pwd->b[7]  = msa_div_s_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1929     pwd->b[8]  = msa_div_s_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1930     pwd->b[9]  = msa_div_s_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1931     pwd->b[10] = msa_div_s_df(DF_BYTE, pws->b[10], pwt->b[10]);
1932     pwd->b[11] = msa_div_s_df(DF_BYTE, pws->b[11], pwt->b[11]);
1933     pwd->b[12] = msa_div_s_df(DF_BYTE, pws->b[12], pwt->b[12]);
1934     pwd->b[13] = msa_div_s_df(DF_BYTE, pws->b[13], pwt->b[13]);
1935     pwd->b[14] = msa_div_s_df(DF_BYTE, pws->b[14], pwt->b[14]);
1936     pwd->b[15] = msa_div_s_df(DF_BYTE, pws->b[15], pwt->b[15]);
1937 }
1938
1939 void helper_msa_div_s_h(CPUMIPSState *env,
1940                         uint32_t wd, uint32_t ws, uint32_t wt)
1941 {
1942     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1943     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1944     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1945
1946     pwd->h[0]  = msa_div_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
1947     pwd->h[1]  = msa_div_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
1948     pwd->h[2]  = msa_div_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
1949     pwd->h[3]  = msa_div_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
1950     pwd->h[4]  = msa_div_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
1951     pwd->h[5]  = msa_div_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
1952     pwd->h[6]  = msa_div_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
1953     pwd->h[7]  = msa_div_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
1954 }
1955
1956 void helper_msa_div_s_w(CPUMIPSState *env,
1957                         uint32_t wd, uint32_t ws, uint32_t wt)
1958 {
1959     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1960     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1961     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1962
1963     pwd->w[0]  = msa_div_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
1964     pwd->w[1]  = msa_div_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
1965     pwd->w[2]  = msa_div_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
1966     pwd->w[3]  = msa_div_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
1967 }
1968
1969 void helper_msa_div_s_d(CPUMIPSState *env,
1970                         uint32_t wd, uint32_t ws, uint32_t wt)
1971 {
1972     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1973     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1974     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1975
1976     pwd->d[0]  = msa_div_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1977     pwd->d[1]  = msa_div_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1978 }
1979
1980 static inline int64_t msa_div_u_df(uint32_t df, int64_t arg1, int64_t arg2)
1981 {
1982     uint64_t u_arg1 = UNSIGNED(arg1, df);
1983     uint64_t u_arg2 = UNSIGNED(arg2, df);
1984     return arg2 ? u_arg1 / u_arg2 : -1;
1985 }
1986
1987 void helper_msa_div_u_b(CPUMIPSState *env,
1988                         uint32_t wd, uint32_t ws, uint32_t wt)
1989 {
1990     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1991     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1992     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1993
1994     pwd->b[0]  = msa_div_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1995     pwd->b[1]  = msa_div_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1996     pwd->b[2]  = msa_div_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1997     pwd->b[3]  = msa_div_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1998     pwd->b[4]  = msa_div_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1999     pwd->b[5]  = msa_div_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2000     pwd->b[6]  = msa_div_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2001     pwd->b[7]  = msa_div_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2002     pwd->b[8]  = msa_div_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2003     pwd->b[9]  = msa_div_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2004     pwd->b[10] = msa_div_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
2005     pwd->b[11] = msa_div_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
2006     pwd->b[12] = msa_div_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
2007     pwd->b[13] = msa_div_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
2008     pwd->b[14] = msa_div_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
2009     pwd->b[15] = msa_div_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
2010 }
2011
2012 void helper_msa_div_u_h(CPUMIPSState *env,
2013                         uint32_t wd, uint32_t ws, uint32_t wt)
2014 {
2015     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2016     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2017     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2018
2019     pwd->h[0]  = msa_div_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
2020     pwd->h[1]  = msa_div_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
2021     pwd->h[2]  = msa_div_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
2022     pwd->h[3]  = msa_div_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
2023     pwd->h[4]  = msa_div_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
2024     pwd->h[5]  = msa_div_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
2025     pwd->h[6]  = msa_div_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
2026     pwd->h[7]  = msa_div_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
2027 }
2028
2029 void helper_msa_div_u_w(CPUMIPSState *env,
2030                         uint32_t wd, uint32_t ws, uint32_t wt)
2031 {
2032     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2033     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2034     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2035
2036     pwd->w[0]  = msa_div_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
2037     pwd->w[1]  = msa_div_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
2038     pwd->w[2]  = msa_div_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
2039     pwd->w[3]  = msa_div_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
2040 }
2041
2042 void helper_msa_div_u_d(CPUMIPSState *env,
2043                         uint32_t wd, uint32_t ws, uint32_t wt)
2044 {
2045     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2046     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2047     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2048
2049     pwd->d[0]  = msa_div_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2050     pwd->d[1]  = msa_div_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2051 }
2052
2053
2054 /*
2055  * Int Dot Product
2056  * ---------------
2057  *
2058  * +---------------+----------------------------------------------------------+
2059  * | DOTP_S.H      | Vector Signed Dot Product (halfword)                     |
2060  * | DOTP_S.W      | Vector Signed Dot Product (word)                         |
2061  * | DOTP_S.D      | Vector Signed Dot Product (doubleword)                   |
2062  * | DOTP_U.H      | Vector Unsigned Dot Product (halfword)                   |
2063  * | DOTP_U.W      | Vector Unsigned Dot Product (word)                       |
2064  * | DOTP_U.D      | Vector Unsigned Dot Product (doubleword)                 |
2065  * | DPADD_S.H     | Vector Signed Dot Product (halfword)                     |
2066  * | DPADD_S.W     | Vector Signed Dot Product (word)                         |
2067  * | DPADD_S.D     | Vector Signed Dot Product (doubleword)                   |
2068  * | DPADD_U.H     | Vector Unsigned Dot Product (halfword)                   |
2069  * | DPADD_U.W     | Vector Unsigned Dot Product (word)                       |
2070  * | DPADD_U.D     | Vector Unsigned Dot Product (doubleword)                 |
2071  * | DPSUB_S.H     | Vector Signed Dot Product (halfword)                     |
2072  * | DPSUB_S.W     | Vector Signed Dot Product (word)                         |
2073  * | DPSUB_S.D     | Vector Signed Dot Product (doubleword)                   |
2074  * | DPSUB_U.H     | Vector Unsigned Dot Product (halfword)                   |
2075  * | DPSUB_U.W     | Vector Unsigned Dot Product (word)                       |
2076  * | DPSUB_U.D     | Vector Unsigned Dot Product (doubleword)                 |
2077  * +---------------+----------------------------------------------------------+
2078  */
2079
2080 /* TODO: insert Int Dot Product group helpers here */
2081
2082
2083 /*
2084  * Int Max Min
2085  * -----------
2086  *
2087  * +---------------+----------------------------------------------------------+
2088  * | MAX_A.B       | Vector Maximum Based on Absolute Value (byte)            |
2089  * | MAX_A.H       | Vector Maximum Based on Absolute Value (halfword)        |
2090  * | MAX_A.W       | Vector Maximum Based on Absolute Value (word)            |
2091  * | MAX_A.D       | Vector Maximum Based on Absolute Value (doubleword)      |
2092  * | MAX_S.B       | Vector Signed Maximum (byte)                             |
2093  * | MAX_S.H       | Vector Signed Maximum (halfword)                         |
2094  * | MAX_S.W       | Vector Signed Maximum (word)                             |
2095  * | MAX_S.D       | Vector Signed Maximum (doubleword)                       |
2096  * | MAX_U.B       | Vector Unsigned Maximum (byte)                           |
2097  * | MAX_U.H       | Vector Unsigned Maximum (halfword)                       |
2098  * | MAX_U.W       | Vector Unsigned Maximum (word)                           |
2099  * | MAX_U.D       | Vector Unsigned Maximum (doubleword)                     |
2100  * | MIN_A.B       | Vector Minimum Based on Absolute Value (byte)            |
2101  * | MIN_A.H       | Vector Minimum Based on Absolute Value (halfword)        |
2102  * | MIN_A.W       | Vector Minimum Based on Absolute Value (word)            |
2103  * | MIN_A.D       | Vector Minimum Based on Absolute Value (doubleword)      |
2104  * | MIN_S.B       | Vector Signed Minimum (byte)                             |
2105  * | MIN_S.H       | Vector Signed Minimum (halfword)                         |
2106  * | MIN_S.W       | Vector Signed Minimum (word)                             |
2107  * | MIN_S.D       | Vector Signed Minimum (doubleword)                       |
2108  * | MIN_U.B       | Vector Unsigned Minimum (byte)                           |
2109  * | MIN_U.H       | Vector Unsigned Minimum (halfword)                       |
2110  * | MIN_U.W       | Vector Unsigned Minimum (word)                           |
2111  * | MIN_U.D       | Vector Unsigned Minimum (doubleword)                     |
2112  * +---------------+----------------------------------------------------------+
2113  */
2114
2115 static inline int64_t msa_max_a_df(uint32_t df, int64_t arg1, int64_t arg2)
2116 {
2117     uint64_t abs_arg1 = arg1 >= 0 ? arg1 : -arg1;
2118     uint64_t abs_arg2 = arg2 >= 0 ? arg2 : -arg2;
2119     return abs_arg1 > abs_arg2 ? arg1 : arg2;
2120 }
2121
2122 void helper_msa_max_a_b(CPUMIPSState *env,
2123                         uint32_t wd, uint32_t ws, uint32_t wt)
2124 {
2125     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2126     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2127     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2128
2129     pwd->b[0]  = msa_max_a_df(DF_BYTE, pws->b[0],  pwt->b[0]);
2130     pwd->b[1]  = msa_max_a_df(DF_BYTE, pws->b[1],  pwt->b[1]);
2131     pwd->b[2]  = msa_max_a_df(DF_BYTE, pws->b[2],  pwt->b[2]);
2132     pwd->b[3]  = msa_max_a_df(DF_BYTE, pws->b[3],  pwt->b[3]);
2133     pwd->b[4]  = msa_max_a_df(DF_BYTE, pws->b[4],  pwt->b[4]);
2134     pwd->b[5]  = msa_max_a_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2135     pwd->b[6]  = msa_max_a_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2136     pwd->b[7]  = msa_max_a_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2137     pwd->b[8]  = msa_max_a_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2138     pwd->b[9]  = msa_max_a_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2139     pwd->b[10] = msa_max_a_df(DF_BYTE, pws->b[10], pwt->b[10]);
2140     pwd->b[11] = msa_max_a_df(DF_BYTE, pws->b[11], pwt->b[11]);
2141     pwd->b[12] = msa_max_a_df(DF_BYTE, pws->b[12], pwt->b[12]);
2142     pwd->b[13] = msa_max_a_df(DF_BYTE, pws->b[13], pwt->b[13]);
2143     pwd->b[14] = msa_max_a_df(DF_BYTE, pws->b[14], pwt->b[14]);
2144     pwd->b[15] = msa_max_a_df(DF_BYTE, pws->b[15], pwt->b[15]);
2145 }
2146
2147 void helper_msa_max_a_h(CPUMIPSState *env,
2148                         uint32_t wd, uint32_t ws, uint32_t wt)
2149 {
2150     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2151     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2152     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2153
2154     pwd->h[0]  = msa_max_a_df(DF_HALF, pws->h[0],  pwt->h[0]);
2155     pwd->h[1]  = msa_max_a_df(DF_HALF, pws->h[1],  pwt->h[1]);
2156     pwd->h[2]  = msa_max_a_df(DF_HALF, pws->h[2],  pwt->h[2]);
2157     pwd->h[3]  = msa_max_a_df(DF_HALF, pws->h[3],  pwt->h[3]);
2158     pwd->h[4]  = msa_max_a_df(DF_HALF, pws->h[4],  pwt->h[4]);
2159     pwd->h[5]  = msa_max_a_df(DF_HALF, pws->h[5],  pwt->h[5]);
2160     pwd->h[6]  = msa_max_a_df(DF_HALF, pws->h[6],  pwt->h[6]);
2161     pwd->h[7]  = msa_max_a_df(DF_HALF, pws->h[7],  pwt->h[7]);
2162 }
2163
2164 void helper_msa_max_a_w(CPUMIPSState *env,
2165                         uint32_t wd, uint32_t ws, uint32_t wt)
2166 {
2167     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2168     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2169     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2170
2171     pwd->w[0]  = msa_max_a_df(DF_WORD, pws->w[0],  pwt->w[0]);
2172     pwd->w[1]  = msa_max_a_df(DF_WORD, pws->w[1],  pwt->w[1]);
2173     pwd->w[2]  = msa_max_a_df(DF_WORD, pws->w[2],  pwt->w[2]);
2174     pwd->w[3]  = msa_max_a_df(DF_WORD, pws->w[3],  pwt->w[3]);
2175 }
2176
2177 void helper_msa_max_a_d(CPUMIPSState *env,
2178                         uint32_t wd, uint32_t ws, uint32_t wt)
2179 {
2180     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2181     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2182     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2183
2184     pwd->d[0]  = msa_max_a_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2185     pwd->d[1]  = msa_max_a_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2186 }
2187
2188
2189 static inline int64_t msa_max_s_df(uint32_t df, int64_t arg1, int64_t arg2)
2190 {
2191     return arg1 > arg2 ? arg1 : arg2;
2192 }
2193
2194 void helper_msa_max_s_b(CPUMIPSState *env,
2195                         uint32_t wd, uint32_t ws, uint32_t wt)
2196 {
2197     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2198     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2199     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2200
2201     pwd->b[0]  = msa_max_s_df(DF_BYTE, pws->b[0],  pwt->b[0]);
2202     pwd->b[1]  = msa_max_s_df(DF_BYTE, pws->b[1],  pwt->b[1]);
2203     pwd->b[2]  = msa_max_s_df(DF_BYTE, pws->b[2],  pwt->b[2]);
2204     pwd->b[3]  = msa_max_s_df(DF_BYTE, pws->b[3],  pwt->b[3]);
2205     pwd->b[4]  = msa_max_s_df(DF_BYTE, pws->b[4],  pwt->b[4]);
2206     pwd->b[5]  = msa_max_s_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2207     pwd->b[6]  = msa_max_s_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2208     pwd->b[7]  = msa_max_s_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2209     pwd->b[8]  = msa_max_s_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2210     pwd->b[9]  = msa_max_s_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2211     pwd->b[10] = msa_max_s_df(DF_BYTE, pws->b[10], pwt->b[10]);
2212     pwd->b[11] = msa_max_s_df(DF_BYTE, pws->b[11], pwt->b[11]);
2213     pwd->b[12] = msa_max_s_df(DF_BYTE, pws->b[12], pwt->b[12]);
2214     pwd->b[13] = msa_max_s_df(DF_BYTE, pws->b[13], pwt->b[13]);
2215     pwd->b[14] = msa_max_s_df(DF_BYTE, pws->b[14], pwt->b[14]);
2216     pwd->b[15] = msa_max_s_df(DF_BYTE, pws->b[15], pwt->b[15]);
2217 }
2218
2219 void helper_msa_max_s_h(CPUMIPSState *env,
2220                         uint32_t wd, uint32_t ws, uint32_t wt)
2221 {
2222     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2223     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2224     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2225
2226     pwd->h[0]  = msa_max_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
2227     pwd->h[1]  = msa_max_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
2228     pwd->h[2]  = msa_max_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
2229     pwd->h[3]  = msa_max_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
2230     pwd->h[4]  = msa_max_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
2231     pwd->h[5]  = msa_max_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
2232     pwd->h[6]  = msa_max_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
2233     pwd->h[7]  = msa_max_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
2234 }
2235
2236 void helper_msa_max_s_w(CPUMIPSState *env,
2237                         uint32_t wd, uint32_t ws, uint32_t wt)
2238 {
2239     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2240     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2241     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2242
2243     pwd->w[0]  = msa_max_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
2244     pwd->w[1]  = msa_max_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
2245     pwd->w[2]  = msa_max_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
2246     pwd->w[3]  = msa_max_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
2247 }
2248
2249 void helper_msa_max_s_d(CPUMIPSState *env,
2250                         uint32_t wd, uint32_t ws, uint32_t wt)
2251 {
2252     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2253     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2254     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2255
2256     pwd->d[0]  = msa_max_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2257     pwd->d[1]  = msa_max_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2258 }
2259
2260
2261 static inline int64_t msa_max_u_df(uint32_t df, int64_t arg1, int64_t arg2)
2262 {
2263     uint64_t u_arg1 = UNSIGNED(arg1, df);
2264     uint64_t u_arg2 = UNSIGNED(arg2, df);
2265     return u_arg1 > u_arg2 ? arg1 : arg2;
2266 }
2267
2268 void helper_msa_max_u_b(CPUMIPSState *env,
2269                         uint32_t wd, uint32_t ws, uint32_t wt)
2270 {
2271     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2272     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2273     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2274
2275     pwd->b[0]  = msa_max_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
2276     pwd->b[1]  = msa_max_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
2277     pwd->b[2]  = msa_max_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
2278     pwd->b[3]  = msa_max_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
2279     pwd->b[4]  = msa_max_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
2280     pwd->b[5]  = msa_max_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2281     pwd->b[6]  = msa_max_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2282     pwd->b[7]  = msa_max_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2283     pwd->b[8]  = msa_max_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2284     pwd->b[9]  = msa_max_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2285     pwd->b[10] = msa_max_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
2286     pwd->b[11] = msa_max_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
2287     pwd->b[12] = msa_max_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
2288     pwd->b[13] = msa_max_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
2289     pwd->b[14] = msa_max_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
2290     pwd->b[15] = msa_max_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
2291 }
2292
2293 void helper_msa_max_u_h(CPUMIPSState *env,
2294                         uint32_t wd, uint32_t ws, uint32_t wt)
2295 {
2296     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2297     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2298     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2299
2300     pwd->h[0]  = msa_max_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
2301     pwd->h[1]  = msa_max_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
2302     pwd->h[2]  = msa_max_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
2303     pwd->h[3]  = msa_max_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
2304     pwd->h[4]  = msa_max_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
2305     pwd->h[5]  = msa_max_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
2306     pwd->h[6]  = msa_max_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
2307     pwd->h[7]  = msa_max_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
2308 }
2309
2310 void helper_msa_max_u_w(CPUMIPSState *env,
2311                         uint32_t wd, uint32_t ws, uint32_t wt)
2312 {
2313     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2314     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2315     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2316
2317     pwd->w[0]  = msa_max_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
2318     pwd->w[1]  = msa_max_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
2319     pwd->w[2]  = msa_max_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
2320     pwd->w[3]  = msa_max_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
2321 }
2322
2323 void helper_msa_max_u_d(CPUMIPSState *env,
2324                         uint32_t wd, uint32_t ws, uint32_t wt)
2325 {
2326     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2327     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2328     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2329
2330     pwd->d[0]  = msa_max_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2331     pwd->d[1]  = msa_max_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2332 }
2333
2334
2335 static inline int64_t msa_min_a_df(uint32_t df, int64_t arg1, int64_t arg2)
2336 {
2337     uint64_t abs_arg1 = arg1 >= 0 ? arg1 : -arg1;
2338     uint64_t abs_arg2 = arg2 >= 0 ? arg2 : -arg2;
2339     return abs_arg1 < abs_arg2 ? arg1 : arg2;
2340 }
2341
2342 void helper_msa_min_a_b(CPUMIPSState *env,
2343                         uint32_t wd, uint32_t ws, uint32_t wt)
2344 {
2345     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2346     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2347     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2348
2349     pwd->b[0]  = msa_min_a_df(DF_BYTE, pws->b[0],  pwt->b[0]);
2350     pwd->b[1]  = msa_min_a_df(DF_BYTE, pws->b[1],  pwt->b[1]);
2351     pwd->b[2]  = msa_min_a_df(DF_BYTE, pws->b[2],  pwt->b[2]);
2352     pwd->b[3]  = msa_min_a_df(DF_BYTE, pws->b[3],  pwt->b[3]);
2353     pwd->b[4]  = msa_min_a_df(DF_BYTE, pws->b[4],  pwt->b[4]);
2354     pwd->b[5]  = msa_min_a_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2355     pwd->b[6]  = msa_min_a_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2356     pwd->b[7]  = msa_min_a_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2357     pwd->b[8]  = msa_min_a_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2358     pwd->b[9]  = msa_min_a_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2359     pwd->b[10] = msa_min_a_df(DF_BYTE, pws->b[10], pwt->b[10]);
2360     pwd->b[11] = msa_min_a_df(DF_BYTE, pws->b[11], pwt->b[11]);
2361     pwd->b[12] = msa_min_a_df(DF_BYTE, pws->b[12], pwt->b[12]);
2362     pwd->b[13] = msa_min_a_df(DF_BYTE, pws->b[13], pwt->b[13]);
2363     pwd->b[14] = msa_min_a_df(DF_BYTE, pws->b[14], pwt->b[14]);
2364     pwd->b[15] = msa_min_a_df(DF_BYTE, pws->b[15], pwt->b[15]);
2365 }
2366
2367 void helper_msa_min_a_h(CPUMIPSState *env,
2368                         uint32_t wd, uint32_t ws, uint32_t wt)
2369 {
2370     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2371     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2372     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2373
2374     pwd->h[0]  = msa_min_a_df(DF_HALF, pws->h[0],  pwt->h[0]);
2375     pwd->h[1]  = msa_min_a_df(DF_HALF, pws->h[1],  pwt->h[1]);
2376     pwd->h[2]  = msa_min_a_df(DF_HALF, pws->h[2],  pwt->h[2]);
2377     pwd->h[3]  = msa_min_a_df(DF_HALF, pws->h[3],  pwt->h[3]);
2378     pwd->h[4]  = msa_min_a_df(DF_HALF, pws->h[4],  pwt->h[4]);
2379     pwd->h[5]  = msa_min_a_df(DF_HALF, pws->h[5],  pwt->h[5]);
2380     pwd->h[6]  = msa_min_a_df(DF_HALF, pws->h[6],  pwt->h[6]);
2381     pwd->h[7]  = msa_min_a_df(DF_HALF, pws->h[7],  pwt->h[7]);
2382 }
2383
2384 void helper_msa_min_a_w(CPUMIPSState *env,
2385                         uint32_t wd, uint32_t ws, uint32_t wt)
2386 {
2387     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2388     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2389     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2390
2391     pwd->w[0]  = msa_min_a_df(DF_WORD, pws->w[0],  pwt->w[0]);
2392     pwd->w[1]  = msa_min_a_df(DF_WORD, pws->w[1],  pwt->w[1]);
2393     pwd->w[2]  = msa_min_a_df(DF_WORD, pws->w[2],  pwt->w[2]);
2394     pwd->w[3]  = msa_min_a_df(DF_WORD, pws->w[3],  pwt->w[3]);
2395 }
2396
2397 void helper_msa_min_a_d(CPUMIPSState *env,
2398                         uint32_t wd, uint32_t ws, uint32_t wt)
2399 {
2400     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2401     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2402     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2403
2404     pwd->d[0]  = msa_min_a_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2405     pwd->d[1]  = msa_min_a_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2406 }
2407
2408
2409 static inline int64_t msa_min_s_df(uint32_t df, int64_t arg1, int64_t arg2)
2410 {
2411     return arg1 < arg2 ? arg1 : arg2;
2412 }
2413
2414 void helper_msa_min_s_b(CPUMIPSState *env,
2415                         uint32_t wd, uint32_t ws, uint32_t wt)
2416 {
2417     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2418     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2419     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2420
2421     pwd->b[0]  = msa_min_s_df(DF_BYTE, pws->b[0],  pwt->b[0]);
2422     pwd->b[1]  = msa_min_s_df(DF_BYTE, pws->b[1],  pwt->b[1]);
2423     pwd->b[2]  = msa_min_s_df(DF_BYTE, pws->b[2],  pwt->b[2]);
2424     pwd->b[3]  = msa_min_s_df(DF_BYTE, pws->b[3],  pwt->b[3]);
2425     pwd->b[4]  = msa_min_s_df(DF_BYTE, pws->b[4],  pwt->b[4]);
2426     pwd->b[5]  = msa_min_s_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2427     pwd->b[6]  = msa_min_s_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2428     pwd->b[7]  = msa_min_s_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2429     pwd->b[8]  = msa_min_s_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2430     pwd->b[9]  = msa_min_s_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2431     pwd->b[10] = msa_min_s_df(DF_BYTE, pws->b[10], pwt->b[10]);
2432     pwd->b[11] = msa_min_s_df(DF_BYTE, pws->b[11], pwt->b[11]);
2433     pwd->b[12] = msa_min_s_df(DF_BYTE, pws->b[12], pwt->b[12]);
2434     pwd->b[13] = msa_min_s_df(DF_BYTE, pws->b[13], pwt->b[13]);
2435     pwd->b[14] = msa_min_s_df(DF_BYTE, pws->b[14], pwt->b[14]);
2436     pwd->b[15] = msa_min_s_df(DF_BYTE, pws->b[15], pwt->b[15]);
2437 }
2438
2439 void helper_msa_min_s_h(CPUMIPSState *env,
2440                         uint32_t wd, uint32_t ws, uint32_t wt)
2441 {
2442     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2443     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2444     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2445
2446     pwd->h[0]  = msa_min_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
2447     pwd->h[1]  = msa_min_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
2448     pwd->h[2]  = msa_min_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
2449     pwd->h[3]  = msa_min_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
2450     pwd->h[4]  = msa_min_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
2451     pwd->h[5]  = msa_min_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
2452     pwd->h[6]  = msa_min_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
2453     pwd->h[7]  = msa_min_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
2454 }
2455
2456 void helper_msa_min_s_w(CPUMIPSState *env,
2457                         uint32_t wd, uint32_t ws, uint32_t wt)
2458 {
2459     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2460     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2461     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2462
2463     pwd->w[0]  = msa_min_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
2464     pwd->w[1]  = msa_min_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
2465     pwd->w[2]  = msa_min_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
2466     pwd->w[3]  = msa_min_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
2467 }
2468
2469 void helper_msa_min_s_d(CPUMIPSState *env,
2470                         uint32_t wd, uint32_t ws, uint32_t wt)
2471 {
2472     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2473     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2474     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2475
2476     pwd->d[0]  = msa_min_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2477     pwd->d[1]  = msa_min_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2478 }
2479
2480
2481 static inline int64_t msa_min_u_df(uint32_t df, int64_t arg1, int64_t arg2)
2482 {
2483     uint64_t u_arg1 = UNSIGNED(arg1, df);
2484     uint64_t u_arg2 = UNSIGNED(arg2, df);
2485     return u_arg1 < u_arg2 ? arg1 : arg2;
2486 }
2487
2488 void helper_msa_min_u_b(CPUMIPSState *env,
2489                         uint32_t wd, uint32_t ws, uint32_t wt)
2490 {
2491     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2492     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2493     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2494
2495     pwd->b[0]  = msa_min_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
2496     pwd->b[1]  = msa_min_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
2497     pwd->b[2]  = msa_min_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
2498     pwd->b[3]  = msa_min_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
2499     pwd->b[4]  = msa_min_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
2500     pwd->b[5]  = msa_min_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2501     pwd->b[6]  = msa_min_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2502     pwd->b[7]  = msa_min_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2503     pwd->b[8]  = msa_min_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2504     pwd->b[9]  = msa_min_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2505     pwd->b[10] = msa_min_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
2506     pwd->b[11] = msa_min_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
2507     pwd->b[12] = msa_min_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
2508     pwd->b[13] = msa_min_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
2509     pwd->b[14] = msa_min_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
2510     pwd->b[15] = msa_min_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
2511 }
2512
2513 void helper_msa_min_u_h(CPUMIPSState *env,
2514                         uint32_t wd, uint32_t ws, uint32_t wt)
2515 {
2516     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2517     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2518     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2519
2520     pwd->h[0]  = msa_min_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
2521     pwd->h[1]  = msa_min_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
2522     pwd->h[2]  = msa_min_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
2523     pwd->h[3]  = msa_min_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
2524     pwd->h[4]  = msa_min_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
2525     pwd->h[5]  = msa_min_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
2526     pwd->h[6]  = msa_min_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
2527     pwd->h[7]  = msa_min_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
2528 }
2529
2530 void helper_msa_min_u_w(CPUMIPSState *env,
2531                         uint32_t wd, uint32_t ws, uint32_t wt)
2532 {
2533     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2534     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2535     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2536
2537     pwd->w[0]  = msa_min_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
2538     pwd->w[1]  = msa_min_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
2539     pwd->w[2]  = msa_min_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
2540     pwd->w[3]  = msa_min_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
2541 }
2542
2543 void helper_msa_min_u_d(CPUMIPSState *env,
2544                         uint32_t wd, uint32_t ws, uint32_t wt)
2545 {
2546     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2547     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2548     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2549
2550     pwd->d[0]  = msa_min_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2551     pwd->d[1]  = msa_min_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2552 }
2553
2554
2555 /*
2556  * Int Modulo
2557  * ----------
2558  *
2559  * +---------------+----------------------------------------------------------+
2560  * | MOD_S.B       | Vector Signed Modulo (byte)                              |
2561  * | MOD_S.H       | Vector Signed Modulo (halfword)                          |
2562  * | MOD_S.W       | Vector Signed Modulo (word)                              |
2563  * | MOD_S.D       | Vector Signed Modulo (doubleword)                        |
2564  * | MOD_U.B       | Vector Unsigned Modulo (byte)                            |
2565  * | MOD_U.H       | Vector Unsigned Modulo (halfword)                        |
2566  * | MOD_U.W       | Vector Unsigned Modulo (word)                            |
2567  * | MOD_U.D       | Vector Unsigned Modulo (doubleword)                      |
2568  * +---------------+----------------------------------------------------------+
2569  */
2570
2571 static inline int64_t msa_mod_s_df(uint32_t df, int64_t arg1, int64_t arg2)
2572 {
2573     if (arg1 == DF_MIN_INT(df) && arg2 == -1) {
2574         return 0;
2575     }
2576     return arg2 ? arg1 % arg2 : arg1;
2577 }
2578
2579 void helper_msa_mod_s_b(CPUMIPSState *env,
2580                         uint32_t wd, uint32_t ws, uint32_t wt)
2581 {
2582     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2583     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2584     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2585
2586     pwd->b[0]  = msa_mod_s_df(DF_BYTE, pws->b[0],  pwt->b[0]);
2587     pwd->b[1]  = msa_mod_s_df(DF_BYTE, pws->b[1],  pwt->b[1]);
2588     pwd->b[2]  = msa_mod_s_df(DF_BYTE, pws->b[2],  pwt->b[2]);
2589     pwd->b[3]  = msa_mod_s_df(DF_BYTE, pws->b[3],  pwt->b[3]);
2590     pwd->b[4]  = msa_mod_s_df(DF_BYTE, pws->b[4],  pwt->b[4]);
2591     pwd->b[5]  = msa_mod_s_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2592     pwd->b[6]  = msa_mod_s_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2593     pwd->b[7]  = msa_mod_s_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2594     pwd->b[8]  = msa_mod_s_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2595     pwd->b[9]  = msa_mod_s_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2596     pwd->b[10] = msa_mod_s_df(DF_BYTE, pws->b[10], pwt->b[10]);
2597     pwd->b[11] = msa_mod_s_df(DF_BYTE, pws->b[11], pwt->b[11]);
2598     pwd->b[12] = msa_mod_s_df(DF_BYTE, pws->b[12], pwt->b[12]);
2599     pwd->b[13] = msa_mod_s_df(DF_BYTE, pws->b[13], pwt->b[13]);
2600     pwd->b[14] = msa_mod_s_df(DF_BYTE, pws->b[14], pwt->b[14]);
2601     pwd->b[15] = msa_mod_s_df(DF_BYTE, pws->b[15], pwt->b[15]);
2602 }
2603
2604 void helper_msa_mod_s_h(CPUMIPSState *env,
2605                         uint32_t wd, uint32_t ws, uint32_t wt)
2606 {
2607     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2608     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2609     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2610
2611     pwd->h[0]  = msa_mod_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
2612     pwd->h[1]  = msa_mod_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
2613     pwd->h[2]  = msa_mod_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
2614     pwd->h[3]  = msa_mod_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
2615     pwd->h[4]  = msa_mod_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
2616     pwd->h[5]  = msa_mod_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
2617     pwd->h[6]  = msa_mod_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
2618     pwd->h[7]  = msa_mod_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
2619 }
2620
2621 void helper_msa_mod_s_w(CPUMIPSState *env,
2622                         uint32_t wd, uint32_t ws, uint32_t wt)
2623 {
2624     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2625     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2626     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2627
2628     pwd->w[0]  = msa_mod_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
2629     pwd->w[1]  = msa_mod_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
2630     pwd->w[2]  = msa_mod_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
2631     pwd->w[3]  = msa_mod_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
2632 }
2633
2634 void helper_msa_mod_s_d(CPUMIPSState *env,
2635                         uint32_t wd, uint32_t ws, uint32_t wt)
2636 {
2637     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2638     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2639     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2640
2641     pwd->d[0]  = msa_mod_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2642     pwd->d[1]  = msa_mod_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2643 }
2644
2645 static inline int64_t msa_mod_u_df(uint32_t df, int64_t arg1, int64_t arg2)
2646 {
2647     uint64_t u_arg1 = UNSIGNED(arg1, df);
2648     uint64_t u_arg2 = UNSIGNED(arg2, df);
2649     return u_arg2 ? u_arg1 % u_arg2 : u_arg1;
2650 }
2651
2652 void helper_msa_mod_u_b(CPUMIPSState *env,
2653                         uint32_t wd, uint32_t ws, uint32_t wt)
2654 {
2655     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2656     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2657     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2658
2659     pwd->b[0]  = msa_mod_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
2660     pwd->b[1]  = msa_mod_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
2661     pwd->b[2]  = msa_mod_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
2662     pwd->b[3]  = msa_mod_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
2663     pwd->b[4]  = msa_mod_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
2664     pwd->b[5]  = msa_mod_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2665     pwd->b[6]  = msa_mod_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2666     pwd->b[7]  = msa_mod_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2667     pwd->b[8]  = msa_mod_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2668     pwd->b[9]  = msa_mod_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2669     pwd->b[10] = msa_mod_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
2670     pwd->b[11] = msa_mod_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
2671     pwd->b[12] = msa_mod_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
2672     pwd->b[13] = msa_mod_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
2673     pwd->b[14] = msa_mod_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
2674     pwd->b[15] = msa_mod_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
2675 }
2676
2677 void helper_msa_mod_u_h(CPUMIPSState *env,
2678                         uint32_t wd, uint32_t ws, uint32_t wt)
2679 {
2680     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2681     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2682     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2683
2684     pwd->h[0]  = msa_mod_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
2685     pwd->h[1]  = msa_mod_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
2686     pwd->h[2]  = msa_mod_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
2687     pwd->h[3]  = msa_mod_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
2688     pwd->h[4]  = msa_mod_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
2689     pwd->h[5]  = msa_mod_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
2690     pwd->h[6]  = msa_mod_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
2691     pwd->h[7]  = msa_mod_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
2692 }
2693
2694 void helper_msa_mod_u_w(CPUMIPSState *env,
2695                         uint32_t wd, uint32_t ws, uint32_t wt)
2696 {
2697     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2698     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2699     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2700
2701     pwd->w[0]  = msa_mod_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
2702     pwd->w[1]  = msa_mod_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
2703     pwd->w[2]  = msa_mod_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
2704     pwd->w[3]  = msa_mod_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
2705 }
2706
2707 void helper_msa_mod_u_d(CPUMIPSState *env,
2708                         uint32_t wd, uint32_t ws, uint32_t wt)
2709 {
2710     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2711     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2712     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2713
2714     pwd->d[0]  = msa_mod_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2715     pwd->d[1]  = msa_mod_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2716 }
2717
2718
2719 /*
2720  * Int Multiply
2721  * ------------
2722  *
2723  * +---------------+----------------------------------------------------------+
2724  * | MADDV.B       | Vector Multiply and Add (byte)                           |
2725  * | MADDV.H       | Vector Multiply and Add (halfword)                       |
2726  * | MADDV.W       | Vector Multiply and Add (word)                           |
2727  * | MADDV.D       | Vector Multiply and Add (doubleword)                     |
2728  * | MSUBV.B       | Vector Multiply and Subtract (byte)                      |
2729  * | MSUBV.H       | Vector Multiply and Subtract (halfword)                  |
2730  * | MSUBV.W       | Vector Multiply and Subtract (word)                      |
2731  * | MSUBV.D       | Vector Multiply and Subtract (doubleword)                |
2732  * | MULV.B        | Vector Multiply (byte)                                   |
2733  * | MULV.H        | Vector Multiply (halfword)                               |
2734  * | MULV.W        | Vector Multiply (word)                                   |
2735  * | MULV.D        | Vector Multiply (doubleword)                             |
2736  * +---------------+----------------------------------------------------------+
2737  */
2738
2739 /* TODO: insert Int Multiply group helpers here */
2740
2741
2742 /*
2743  * Int Subtract
2744  * ------------
2745  *
2746  * +---------------+----------------------------------------------------------+
2747  * | ASUB_S.B      | Vector Absolute Values of Signed Subtract (byte)         |
2748  * | ASUB_S.H      | Vector Absolute Values of Signed Subtract (halfword)     |
2749  * | ASUB_S.W      | Vector Absolute Values of Signed Subtract (word)         |
2750  * | ASUB_S.D      | Vector Absolute Values of Signed Subtract (doubleword)   |
2751  * | ASUB_U.B      | Vector Absolute Values of Unsigned Subtract (byte)       |
2752  * | ASUB_U.H      | Vector Absolute Values of Unsigned Subtract (halfword)   |
2753  * | ASUB_U.W      | Vector Absolute Values of Unsigned Subtract (word)       |
2754  * | ASUB_U.D      | Vector Absolute Values of Unsigned Subtract (doubleword) |
2755  * | HSUB_S.H      | Vector Signed Horizontal Subtract (halfword)             |
2756  * | HSUB_S.W      | Vector Signed Horizontal Subtract (word)                 |
2757  * | HSUB_S.D      | Vector Signed Horizontal Subtract (doubleword)           |
2758  * | HSUB_U.H      | Vector Unigned Horizontal Subtract (halfword)            |
2759  * | HSUB_U.W      | Vector Unigned Horizontal Subtract (word)                |
2760  * | HSUB_U.D      | Vector Unigned Horizontal Subtract (doubleword)          |
2761  * | SUBS_S.B      | Vector Signed Saturated Subtract (of Signed) (byte)      |
2762  * | SUBS_S.H      | Vector Signed Saturated Subtract (of Signed) (halfword)  |
2763  * | SUBS_S.W      | Vector Signed Saturated Subtract (of Signed) (word)      |
2764  * | SUBS_S.D      | Vector Signed Saturated Subtract (of Signed) (doubleword)|
2765  * | SUBS_U.B      | Vector Unsigned Saturated Subtract (of Uns.) (byte)      |
2766  * | SUBS_U.H      | Vector Unsigned Saturated Subtract (of Uns.) (halfword)  |
2767  * | SUBS_U.W      | Vector Unsigned Saturated Subtract (of Uns.) (word)      |
2768  * | SUBS_U.D      | Vector Unsigned Saturated Subtract (of Uns.) (doubleword)|
2769  * | SUBSUS_U.B    | Vector Uns. Sat. Subtract (of S. from Uns.) (byte)       |
2770  * | SUBSUS_U.H    | Vector Uns. Sat. Subtract (of S. from Uns.) (halfword)   |
2771  * | SUBSUS_U.W    | Vector Uns. Sat. Subtract (of S. from Uns.) (word)       |
2772  * | SUBSUS_U.D    | Vector Uns. Sat. Subtract (of S. from Uns.) (doubleword) |
2773  * | SUBSUU_S.B    | Vector Signed Saturated Subtract (of Uns.) (byte)        |
2774  * | SUBSUU_S.H    | Vector Signed Saturated Subtract (of Uns.) (halfword)    |
2775  * | SUBSUU_S.W    | Vector Signed Saturated Subtract (of Uns.) (word)        |
2776  * | SUBSUU_S.D    | Vector Signed Saturated Subtract (of Uns.) (doubleword)  |
2777  * | SUBV.B        | Vector Subtract (byte)                                   |
2778  * | SUBV.H        | Vector Subtract (halfword)                               |
2779  * | SUBV.W        | Vector Subtract (word)                                   |
2780  * | SUBV.D        | Vector Subtract (doubleword)                             |
2781  * +---------------+----------------------------------------------------------+
2782  */
2783
2784 /* TODO: insert Int Subtract group helpers here */
2785
2786
2787 /*
2788  * Interleave
2789  * ----------
2790  *
2791  * +---------------+----------------------------------------------------------+
2792  * | ILVEV.B       | Vector Interleave Even (byte)                            |
2793  * | ILVEV.H       | Vector Interleave Even (halfword)                        |
2794  * | ILVEV.W       | Vector Interleave Even (word)                            |
2795  * | ILVEV.D       | Vector Interleave Even (doubleword)                      |
2796  * | ILVOD.B       | Vector Interleave Odd (byte)                             |
2797  * | ILVOD.H       | Vector Interleave Odd (halfword)                         |
2798  * | ILVOD.W       | Vector Interleave Odd (word)                             |
2799  * | ILVOD.D       | Vector Interleave Odd (doubleword)                       |
2800  * | ILVL.B        | Vector Interleave Left (byte)                            |
2801  * | ILVL.H        | Vector Interleave Left (halfword)                        |
2802  * | ILVL.W        | Vector Interleave Left (word)                            |
2803  * | ILVL.D        | Vector Interleave Left (doubleword)                      |
2804  * | ILVR.B        | Vector Interleave Right (byte)                           |
2805  * | ILVR.H        | Vector Interleave Right (halfword)                       |
2806  * | ILVR.W        | Vector Interleave Right (word)                           |
2807  * | ILVR.D        | Vector Interleave Right (doubleword)                     |
2808  * +---------------+----------------------------------------------------------+
2809  */
2810
2811
2812 void helper_msa_ilvev_b(CPUMIPSState *env,
2813                         uint32_t wd, uint32_t ws, uint32_t wt)
2814 {
2815     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2816     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2817     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2818
2819 #if defined(HOST_WORDS_BIGENDIAN)
2820     pwd->b[8]  = pws->b[9];
2821     pwd->b[9]  = pwt->b[9];
2822     pwd->b[10] = pws->b[11];
2823     pwd->b[11] = pwt->b[11];
2824     pwd->b[12] = pws->b[13];
2825     pwd->b[13] = pwt->b[13];
2826     pwd->b[14] = pws->b[15];
2827     pwd->b[15] = pwt->b[15];
2828     pwd->b[0]  = pws->b[1];
2829     pwd->b[1]  = pwt->b[1];
2830     pwd->b[2]  = pws->b[3];
2831     pwd->b[3]  = pwt->b[3];
2832     pwd->b[4]  = pws->b[5];
2833     pwd->b[5]  = pwt->b[5];
2834     pwd->b[6]  = pws->b[7];
2835     pwd->b[7]  = pwt->b[7];
2836 #else
2837     pwd->b[15] = pws->b[14];
2838     pwd->b[14] = pwt->b[14];
2839     pwd->b[13] = pws->b[12];
2840     pwd->b[12] = pwt->b[12];
2841     pwd->b[11] = pws->b[10];
2842     pwd->b[10] = pwt->b[10];
2843     pwd->b[9]  = pws->b[8];
2844     pwd->b[8]  = pwt->b[8];
2845     pwd->b[7]  = pws->b[6];
2846     pwd->b[6]  = pwt->b[6];
2847     pwd->b[5]  = pws->b[4];
2848     pwd->b[4]  = pwt->b[4];
2849     pwd->b[3]  = pws->b[2];
2850     pwd->b[2]  = pwt->b[2];
2851     pwd->b[1]  = pws->b[0];
2852     pwd->b[0]  = pwt->b[0];
2853 #endif
2854 }
2855
2856 void helper_msa_ilvev_h(CPUMIPSState *env,
2857                         uint32_t wd, uint32_t ws, uint32_t wt)
2858 {
2859     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2860     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2861     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2862
2863 #if defined(HOST_WORDS_BIGENDIAN)
2864     pwd->h[4] = pws->h[5];
2865     pwd->h[5] = pwt->h[5];
2866     pwd->h[6] = pws->h[7];
2867     pwd->h[7] = pwt->h[7];
2868     pwd->h[0] = pws->h[1];
2869     pwd->h[1] = pwt->h[1];
2870     pwd->h[2] = pws->h[3];
2871     pwd->h[3] = pwt->h[3];
2872 #else
2873     pwd->h[7] = pws->h[6];
2874     pwd->h[6] = pwt->h[6];
2875     pwd->h[5] = pws->h[4];
2876     pwd->h[4] = pwt->h[4];
2877     pwd->h[3] = pws->h[2];
2878     pwd->h[2] = pwt->h[2];
2879     pwd->h[1] = pws->h[0];
2880     pwd->h[0] = pwt->h[0];
2881 #endif
2882 }
2883
2884 void helper_msa_ilvev_w(CPUMIPSState *env,
2885                         uint32_t wd, uint32_t ws, uint32_t wt)
2886 {
2887     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2888     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2889     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2890
2891 #if defined(HOST_WORDS_BIGENDIAN)
2892     pwd->w[2] = pws->w[3];
2893     pwd->w[3] = pwt->w[3];
2894     pwd->w[0] = pws->w[1];
2895     pwd->w[1] = pwt->w[1];
2896 #else
2897     pwd->w[3] = pws->w[2];
2898     pwd->w[2] = pwt->w[2];
2899     pwd->w[1] = pws->w[0];
2900     pwd->w[0] = pwt->w[0];
2901 #endif
2902 }
2903
2904 void helper_msa_ilvev_d(CPUMIPSState *env,
2905                         uint32_t wd, uint32_t ws, uint32_t wt)
2906 {
2907     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2908     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2909     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2910
2911     pwd->d[1] = pws->d[0];
2912     pwd->d[0] = pwt->d[0];
2913 }
2914
2915
2916 void helper_msa_ilvod_b(CPUMIPSState *env,
2917                         uint32_t wd, uint32_t ws, uint32_t wt)
2918 {
2919     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2920     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2921     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2922
2923 #if defined(HOST_WORDS_BIGENDIAN)
2924     pwd->b[7]  = pwt->b[6];
2925     pwd->b[6]  = pws->b[6];
2926     pwd->b[5]  = pwt->b[4];
2927     pwd->b[4]  = pws->b[4];
2928     pwd->b[3]  = pwt->b[2];
2929     pwd->b[2]  = pws->b[2];
2930     pwd->b[1]  = pwt->b[0];
2931     pwd->b[0]  = pws->b[0];
2932     pwd->b[15] = pwt->b[14];
2933     pwd->b[14] = pws->b[14];
2934     pwd->b[13] = pwt->b[12];
2935     pwd->b[12] = pws->b[12];
2936     pwd->b[11] = pwt->b[10];
2937     pwd->b[10] = pws->b[10];
2938     pwd->b[9]  = pwt->b[8];
2939     pwd->b[8]  = pws->b[8];
2940 #else
2941     pwd->b[0]  = pwt->b[1];
2942     pwd->b[1]  = pws->b[1];
2943     pwd->b[2]  = pwt->b[3];
2944     pwd->b[3]  = pws->b[3];
2945     pwd->b[4]  = pwt->b[5];
2946     pwd->b[5]  = pws->b[5];
2947     pwd->b[6]  = pwt->b[7];
2948     pwd->b[7]  = pws->b[7];
2949     pwd->b[8]  = pwt->b[9];
2950     pwd->b[9]  = pws->b[9];
2951     pwd->b[10] = pwt->b[11];
2952     pwd->b[11] = pws->b[11];
2953     pwd->b[12] = pwt->b[13];
2954     pwd->b[13] = pws->b[13];
2955     pwd->b[14] = pwt->b[15];
2956     pwd->b[15] = pws->b[15];
2957 #endif
2958 }
2959
2960 void helper_msa_ilvod_h(CPUMIPSState *env,
2961                         uint32_t wd, uint32_t ws, uint32_t wt)
2962 {
2963     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2964     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2965     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2966
2967 #if defined(HOST_WORDS_BIGENDIAN)
2968     pwd->h[3] = pwt->h[2];
2969     pwd->h[2] = pws->h[2];
2970     pwd->h[1] = pwt->h[0];
2971     pwd->h[0] = pws->h[0];
2972     pwd->h[7] = pwt->h[6];
2973     pwd->h[6] = pws->h[6];
2974     pwd->h[5] = pwt->h[4];
2975     pwd->h[4] = pws->h[4];
2976 #else
2977     pwd->h[0] = pwt->h[1];
2978     pwd->h[1] = pws->h[1];
2979     pwd->h[2] = pwt->h[3];
2980     pwd->h[3] = pws->h[3];
2981     pwd->h[4] = pwt->h[5];
2982     pwd->h[5] = pws->h[5];
2983     pwd->h[6] = pwt->h[7];
2984     pwd->h[7] = pws->h[7];
2985 #endif
2986 }
2987
2988 void helper_msa_ilvod_w(CPUMIPSState *env,
2989                         uint32_t wd, uint32_t ws, uint32_t wt)
2990 {
2991     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2992     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2993     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2994
2995 #if defined(HOST_WORDS_BIGENDIAN)
2996     pwd->w[1] = pwt->w[0];
2997     pwd->w[0] = pws->w[0];
2998     pwd->w[3] = pwt->w[2];
2999     pwd->w[2] = pws->w[2];
3000 #else
3001     pwd->w[0] = pwt->w[1];
3002     pwd->w[1] = pws->w[1];
3003     pwd->w[2] = pwt->w[3];
3004     pwd->w[3] = pws->w[3];
3005 #endif
3006 }
3007
3008 void helper_msa_ilvod_d(CPUMIPSState *env,
3009                         uint32_t wd, uint32_t ws, uint32_t wt)
3010 {
3011     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3012     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3013     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3014
3015     pwd->d[0] = pwt->d[1];
3016     pwd->d[1] = pws->d[1];
3017 }
3018
3019
3020 void helper_msa_ilvl_b(CPUMIPSState *env,
3021                        uint32_t wd, uint32_t ws, uint32_t wt)
3022 {
3023     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3024     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3025     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3026
3027 #if defined(HOST_WORDS_BIGENDIAN)
3028     pwd->b[7]  = pwt->b[15];
3029     pwd->b[6]  = pws->b[15];
3030     pwd->b[5]  = pwt->b[14];
3031     pwd->b[4]  = pws->b[14];
3032     pwd->b[3]  = pwt->b[13];
3033     pwd->b[2]  = pws->b[13];
3034     pwd->b[1]  = pwt->b[12];
3035     pwd->b[0]  = pws->b[12];
3036     pwd->b[15] = pwt->b[11];
3037     pwd->b[14] = pws->b[11];
3038     pwd->b[13] = pwt->b[10];
3039     pwd->b[12] = pws->b[10];
3040     pwd->b[11] = pwt->b[9];
3041     pwd->b[10] = pws->b[9];
3042     pwd->b[9]  = pwt->b[8];
3043     pwd->b[8]  = pws->b[8];
3044 #else
3045     pwd->b[0]  = pwt->b[8];
3046     pwd->b[1]  = pws->b[8];
3047     pwd->b[2]  = pwt->b[9];
3048     pwd->b[3]  = pws->b[9];
3049     pwd->b[4]  = pwt->b[10];
3050     pwd->b[5]  = pws->b[10];
3051     pwd->b[6]  = pwt->b[11];
3052     pwd->b[7]  = pws->b[11];
3053     pwd->b[8]  = pwt->b[12];
3054     pwd->b[9]  = pws->b[12];
3055     pwd->b[10] = pwt->b[13];
3056     pwd->b[11] = pws->b[13];
3057     pwd->b[12] = pwt->b[14];
3058     pwd->b[13] = pws->b[14];
3059     pwd->b[14] = pwt->b[15];
3060     pwd->b[15] = pws->b[15];
3061 #endif
3062 }
3063
3064 void helper_msa_ilvl_h(CPUMIPSState *env,
3065                        uint32_t wd, uint32_t ws, uint32_t wt)
3066 {
3067     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3068     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3069     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3070
3071 #if defined(HOST_WORDS_BIGENDIAN)
3072     pwd->h[3] = pwt->h[7];
3073     pwd->h[2] = pws->h[7];
3074     pwd->h[1] = pwt->h[6];
3075     pwd->h[0] = pws->h[6];
3076     pwd->h[7] = pwt->h[5];
3077     pwd->h[6] = pws->h[5];
3078     pwd->h[5] = pwt->h[4];
3079     pwd->h[4] = pws->h[4];
3080 #else
3081     pwd->h[0] = pwt->h[4];
3082     pwd->h[1] = pws->h[4];
3083     pwd->h[2] = pwt->h[5];
3084     pwd->h[3] = pws->h[5];
3085     pwd->h[4] = pwt->h[6];
3086     pwd->h[5] = pws->h[6];
3087     pwd->h[6] = pwt->h[7];
3088     pwd->h[7] = pws->h[7];
3089 #endif
3090 }
3091
3092 void helper_msa_ilvl_w(CPUMIPSState *env,
3093                        uint32_t wd, uint32_t ws, uint32_t wt)
3094 {
3095     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3096     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3097     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3098
3099 #if defined(HOST_WORDS_BIGENDIAN)
3100     pwd->w[1] = pwt->w[3];
3101     pwd->w[0] = pws->w[3];
3102     pwd->w[3] = pwt->w[2];
3103     pwd->w[2] = pws->w[2];
3104 #else
3105     pwd->w[0] = pwt->w[2];
3106     pwd->w[1] = pws->w[2];
3107     pwd->w[2] = pwt->w[3];
3108     pwd->w[3] = pws->w[3];
3109 #endif
3110 }
3111
3112 void helper_msa_ilvl_d(CPUMIPSState *env,
3113                        uint32_t wd, uint32_t ws, uint32_t wt)
3114 {
3115     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3116     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3117     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3118
3119     pwd->d[0] = pwt->d[1];
3120     pwd->d[1] = pws->d[1];
3121 }
3122
3123
3124 void helper_msa_ilvr_b(CPUMIPSState *env,
3125                        uint32_t wd, uint32_t ws, uint32_t wt)
3126 {
3127     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3128     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3129     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3130
3131 #if defined(HOST_WORDS_BIGENDIAN)
3132     pwd->b[8]  = pws->b[0];
3133     pwd->b[9]  = pwt->b[0];
3134     pwd->b[10] = pws->b[1];
3135     pwd->b[11] = pwt->b[1];
3136     pwd->b[12] = pws->b[2];
3137     pwd->b[13] = pwt->b[2];
3138     pwd->b[14] = pws->b[3];
3139     pwd->b[15] = pwt->b[3];
3140     pwd->b[0]  = pws->b[4];
3141     pwd->b[1]  = pwt->b[4];
3142     pwd->b[2]  = pws->b[5];
3143     pwd->b[3]  = pwt->b[5];
3144     pwd->b[4]  = pws->b[6];
3145     pwd->b[5]  = pwt->b[6];
3146     pwd->b[6]  = pws->b[7];
3147     pwd->b[7]  = pwt->b[7];
3148 #else
3149     pwd->b[15] = pws->b[7];
3150     pwd->b[14] = pwt->b[7];
3151     pwd->b[13] = pws->b[6];
3152     pwd->b[12] = pwt->b[6];
3153     pwd->b[11] = pws->b[5];
3154     pwd->b[10] = pwt->b[5];
3155     pwd->b[9]  = pws->b[4];
3156     pwd->b[8]  = pwt->b[4];
3157     pwd->b[7]  = pws->b[3];
3158     pwd->b[6]  = pwt->b[3];
3159     pwd->b[5]  = pws->b[2];
3160     pwd->b[4]  = pwt->b[2];
3161     pwd->b[3]  = pws->b[1];
3162     pwd->b[2]  = pwt->b[1];
3163     pwd->b[1]  = pws->b[0];
3164     pwd->b[0]  = pwt->b[0];
3165 #endif
3166 }
3167
3168 void helper_msa_ilvr_h(CPUMIPSState *env,
3169                        uint32_t wd, uint32_t ws, uint32_t wt)
3170 {
3171     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3172     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3173     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3174
3175 #if defined(HOST_WORDS_BIGENDIAN)
3176     pwd->h[4] = pws->h[0];
3177     pwd->h[5] = pwt->h[0];
3178     pwd->h[6] = pws->h[1];
3179     pwd->h[7] = pwt->h[1];
3180     pwd->h[0] = pws->h[2];
3181     pwd->h[1] = pwt->h[2];
3182     pwd->h[2] = pws->h[3];
3183     pwd->h[3] = pwt->h[3];
3184 #else
3185     pwd->h[7] = pws->h[3];
3186     pwd->h[6] = pwt->h[3];
3187     pwd->h[5] = pws->h[2];
3188     pwd->h[4] = pwt->h[2];
3189     pwd->h[3] = pws->h[1];
3190     pwd->h[2] = pwt->h[1];
3191     pwd->h[1] = pws->h[0];
3192     pwd->h[0] = pwt->h[0];
3193 #endif
3194 }
3195
3196 void helper_msa_ilvr_w(CPUMIPSState *env,
3197                        uint32_t wd, uint32_t ws, uint32_t wt)
3198 {
3199     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3200     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3201     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3202
3203 #if defined(HOST_WORDS_BIGENDIAN)
3204     pwd->w[2] = pws->w[0];
3205     pwd->w[3] = pwt->w[0];
3206     pwd->w[0] = pws->w[1];
3207     pwd->w[1] = pwt->w[1];
3208 #else
3209     pwd->w[3] = pws->w[1];
3210     pwd->w[2] = pwt->w[1];
3211     pwd->w[1] = pws->w[0];
3212     pwd->w[0] = pwt->w[0];
3213 #endif
3214 }
3215
3216 void helper_msa_ilvr_d(CPUMIPSState *env,
3217                        uint32_t wd, uint32_t ws, uint32_t wt)
3218 {
3219     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3220     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3221     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3222
3223     pwd->d[1] = pws->d[0];
3224     pwd->d[0] = pwt->d[0];
3225 }
3226
3227
3228 /*
3229  * Logic
3230  * -----
3231  *
3232  * +---------------+----------------------------------------------------------+
3233  * | AND.V         | Vector Logical And                                       |
3234  * | NOR.V         | Vector Logical Negated Or                                |
3235  * | OR.V          | Vector Logical Or                                        |
3236  * | XOR.V         | Vector Logical Exclusive Or                              |
3237  * +---------------+----------------------------------------------------------+
3238  */
3239
3240
3241 void helper_msa_and_v(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
3242 {
3243     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3244     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3245     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3246
3247     pwd->d[0] = pws->d[0] & pwt->d[0];
3248     pwd->d[1] = pws->d[1] & pwt->d[1];
3249 }
3250
3251 void helper_msa_nor_v(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
3252 {
3253     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3254     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3255     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3256
3257     pwd->d[0] = ~(pws->d[0] | pwt->d[0]);
3258     pwd->d[1] = ~(pws->d[1] | pwt->d[1]);
3259 }
3260
3261 void helper_msa_or_v(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
3262 {
3263     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3264     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3265     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3266
3267     pwd->d[0] = pws->d[0] | pwt->d[0];
3268     pwd->d[1] = pws->d[1] | pwt->d[1];
3269 }
3270
3271 void helper_msa_xor_v(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
3272 {
3273     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3274     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3275     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3276
3277     pwd->d[0] = pws->d[0] ^ pwt->d[0];
3278     pwd->d[1] = pws->d[1] ^ pwt->d[1];
3279 }
3280
3281
3282 /*
3283  * Move
3284  * ----
3285  *
3286  * +---------------+----------------------------------------------------------+
3287  * | MOVE.V        | Vector Move                                              |
3288  * +---------------+----------------------------------------------------------+
3289  */
3290
3291 static inline void msa_move_v(wr_t *pwd, wr_t *pws)
3292 {
3293     pwd->d[0] = pws->d[0];
3294     pwd->d[1] = pws->d[1];
3295 }
3296
3297 void helper_msa_move_v(CPUMIPSState *env, uint32_t wd, uint32_t ws)
3298 {
3299     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3300     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3301
3302     msa_move_v(pwd, pws);
3303 }
3304
3305
3306 /*
3307  * Pack
3308  * ----
3309  *
3310  * +---------------+----------------------------------------------------------+
3311  * | PCKEV.B       | Vector Pack Even (byte)                                  |
3312  * | PCKEV.H       | Vector Pack Even (halfword)                              |
3313  * | PCKEV.W       | Vector Pack Even (word)                                  |
3314  * | PCKEV.D       | Vector Pack Even (doubleword)                            |
3315  * | PCKOD.B       | Vector Pack Odd (byte)                                   |
3316  * | PCKOD.H       | Vector Pack Odd (halfword)                               |
3317  * | PCKOD.W       | Vector Pack Odd (word)                                   |
3318  * | PCKOD.D       | Vector Pack Odd (doubleword)                             |
3319  * | VSHF.B        | Vector Data Preserving Shuffle (byte)                    |
3320  * | VSHF.H        | Vector Data Preserving Shuffle (halfword)                |
3321  * | VSHF.W        | Vector Data Preserving Shuffle (word)                    |
3322  * | VSHF.D        | Vector Data Preserving Shuffle (doubleword)              |
3323  * +---------------+----------------------------------------------------------+
3324  */
3325
3326 /* TODO: insert Pack group helpers here */
3327
3328
3329 /*
3330  * Shift
3331  * -----
3332  *
3333  * +---------------+----------------------------------------------------------+
3334  * | SLL.B         | Vector Shift Left (byte)                                 |
3335  * | SLL.H         | Vector Shift Left (halfword)                             |
3336  * | SLL.W         | Vector Shift Left (word)                                 |
3337  * | SLL.D         | Vector Shift Left (doubleword)                           |
3338  * | SRA.B         | Vector Shift Right Arithmetic (byte)                     |
3339  * | SRA.H         | Vector Shift Right Arithmetic (halfword)                 |
3340  * | SRA.W         | Vector Shift Right Arithmetic (word)                     |
3341  * | SRA.D         | Vector Shift Right Arithmetic (doubleword)               |
3342  * | SRAR.B        | Vector Shift Right Arithmetic Rounded (byte)             |
3343  * | SRAR.H        | Vector Shift Right Arithmetic Rounded (halfword)         |
3344  * | SRAR.W        | Vector Shift Right Arithmetic Rounded (word)             |
3345  * | SRAR.D        | Vector Shift Right Arithmetic Rounded (doubleword)       |
3346  * | SRL.B         | Vector Shift Right Logical (byte)                        |
3347  * | SRL.H         | Vector Shift Right Logical (halfword)                    |
3348  * | SRL.W         | Vector Shift Right Logical (word)                        |
3349  * | SRL.D         | Vector Shift Right Logical (doubleword)                  |
3350  * | SRLR.B        | Vector Shift Right Logical Rounded (byte)                |
3351  * | SRLR.H        | Vector Shift Right Logical Rounded (halfword)            |
3352  * | SRLR.W        | Vector Shift Right Logical Rounded (word)                |
3353  * | SRLR.D        | Vector Shift Right Logical Rounded (doubleword)          |
3354  * +---------------+----------------------------------------------------------+
3355  */
3356
3357 /* TODO: insert Shift group helpers here */
3358
3359
3360 #define MSA_FN_IMM8(FUNC, DEST, OPERATION)                              \
3361 void helper_msa_ ## FUNC(CPUMIPSState *env, uint32_t wd, uint32_t ws,   \
3362         uint32_t i8)                                                    \
3363 {                                                                       \
3364     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);                          \
3365     wr_t *pws = &(env->active_fpu.fpr[ws].wr);                          \
3366     uint32_t i;                                                         \
3367     for (i = 0; i < DF_ELEMENTS(DF_BYTE); i++) {                        \
3368         DEST = OPERATION;                                               \
3369     }                                                                   \
3370 }
3371
3372 MSA_FN_IMM8(andi_b, pwd->b[i], pws->b[i] & i8)
3373 MSA_FN_IMM8(ori_b, pwd->b[i], pws->b[i] | i8)
3374 MSA_FN_IMM8(nori_b, pwd->b[i], ~(pws->b[i] | i8))
3375 MSA_FN_IMM8(xori_b, pwd->b[i], pws->b[i] ^ i8)
3376
3377 #define BIT_MOVE_IF_NOT_ZERO(dest, arg1, arg2, df) \
3378             UNSIGNED(((dest & (~arg2)) | (arg1 & arg2)), df)
3379 MSA_FN_IMM8(bmnzi_b, pwd->b[i],
3380         BIT_MOVE_IF_NOT_ZERO(pwd->b[i], pws->b[i], i8, DF_BYTE))
3381
3382 #define BIT_MOVE_IF_ZERO(dest, arg1, arg2, df) \
3383             UNSIGNED((dest & arg2) | (arg1 & (~arg2)), df)
3384 MSA_FN_IMM8(bmzi_b, pwd->b[i],
3385         BIT_MOVE_IF_ZERO(pwd->b[i], pws->b[i], i8, DF_BYTE))
3386
3387 #define BIT_SELECT(dest, arg1, arg2, df) \
3388             UNSIGNED((arg1 & (~dest)) | (arg2 & dest), df)
3389 MSA_FN_IMM8(bseli_b, pwd->b[i],
3390         BIT_SELECT(pwd->b[i], pws->b[i], i8, DF_BYTE))
3391
3392 #undef BIT_SELECT
3393 #undef BIT_MOVE_IF_ZERO
3394 #undef BIT_MOVE_IF_NOT_ZERO
3395 #undef MSA_FN_IMM8
3396
3397 #define SHF_POS(i, imm) (((i) & 0xfc) + (((imm) >> (2 * ((i) & 0x03))) & 0x03))
3398
3399 void helper_msa_shf_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
3400                        uint32_t ws, uint32_t imm)
3401 {
3402     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3403     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3404     wr_t wx, *pwx = &wx;
3405     uint32_t i;
3406
3407     switch (df) {
3408     case DF_BYTE:
3409         for (i = 0; i < DF_ELEMENTS(DF_BYTE); i++) {
3410             pwx->b[i] = pws->b[SHF_POS(i, imm)];
3411         }
3412         break;
3413     case DF_HALF:
3414         for (i = 0; i < DF_ELEMENTS(DF_HALF); i++) {
3415             pwx->h[i] = pws->h[SHF_POS(i, imm)];
3416         }
3417         break;
3418     case DF_WORD:
3419         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
3420             pwx->w[i] = pws->w[SHF_POS(i, imm)];
3421         }
3422         break;
3423     default:
3424         assert(0);
3425     }
3426     msa_move_v(pwd, pwx);
3427 }
3428
3429 static inline int64_t msa_subv_df(uint32_t df, int64_t arg1, int64_t arg2)
3430 {
3431     return arg1 - arg2;
3432 }
3433
3434 #define MSA_BINOP_IMM_DF(helper, func)                                  \
3435 void helper_msa_ ## helper ## _df(CPUMIPSState *env, uint32_t df,       \
3436                         uint32_t wd, uint32_t ws, int32_t u5)           \
3437 {                                                                       \
3438     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);                          \
3439     wr_t *pws = &(env->active_fpu.fpr[ws].wr);                          \
3440     uint32_t i;                                                         \
3441                                                                         \
3442     switch (df) {                                                       \
3443     case DF_BYTE:                                                       \
3444         for (i = 0; i < DF_ELEMENTS(DF_BYTE); i++) {                    \
3445             pwd->b[i] = msa_ ## func ## _df(df, pws->b[i], u5);         \
3446         }                                                               \
3447         break;                                                          \
3448     case DF_HALF:                                                       \
3449         for (i = 0; i < DF_ELEMENTS(DF_HALF); i++) {                    \
3450             pwd->h[i] = msa_ ## func ## _df(df, pws->h[i], u5);         \
3451         }                                                               \
3452         break;                                                          \
3453     case DF_WORD:                                                       \
3454         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {                    \
3455             pwd->w[i] = msa_ ## func ## _df(df, pws->w[i], u5);         \
3456         }                                                               \
3457         break;                                                          \
3458     case DF_DOUBLE:                                                     \
3459         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {                  \
3460             pwd->d[i] = msa_ ## func ## _df(df, pws->d[i], u5);         \
3461         }                                                               \
3462         break;                                                          \
3463     default:                                                            \
3464         assert(0);                                                      \
3465     }                                                                   \
3466 }
3467
3468 MSA_BINOP_IMM_DF(addvi, addv)
3469 MSA_BINOP_IMM_DF(subvi, subv)
3470 MSA_BINOP_IMM_DF(ceqi, ceq)
3471 MSA_BINOP_IMM_DF(clei_s, cle_s)
3472 MSA_BINOP_IMM_DF(clei_u, cle_u)
3473 MSA_BINOP_IMM_DF(clti_s, clt_s)
3474 MSA_BINOP_IMM_DF(clti_u, clt_u)
3475 MSA_BINOP_IMM_DF(maxi_s, max_s)
3476 MSA_BINOP_IMM_DF(maxi_u, max_u)
3477 MSA_BINOP_IMM_DF(mini_s, min_s)
3478 MSA_BINOP_IMM_DF(mini_u, min_u)
3479 #undef MSA_BINOP_IMM_DF
3480
3481 void helper_msa_ldi_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
3482                        int32_t s10)
3483 {
3484     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3485     uint32_t i;
3486
3487     switch (df) {
3488     case DF_BYTE:
3489         for (i = 0; i < DF_ELEMENTS(DF_BYTE); i++) {
3490             pwd->b[i] = (int8_t)s10;
3491         }
3492         break;
3493     case DF_HALF:
3494         for (i = 0; i < DF_ELEMENTS(DF_HALF); i++) {
3495             pwd->h[i] = (int16_t)s10;
3496         }
3497         break;
3498     case DF_WORD:
3499         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
3500             pwd->w[i] = (int32_t)s10;
3501         }
3502         break;
3503     case DF_DOUBLE:
3504         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
3505             pwd->d[i] = (int64_t)s10;
3506         }
3507        break;
3508     default:
3509         assert(0);
3510     }
3511 }
3512
3513 static inline int64_t msa_sll_df(uint32_t df, int64_t arg1, int64_t arg2)
3514 {
3515     int32_t b_arg2 = BIT_POSITION(arg2, df);
3516     return arg1 << b_arg2;
3517 }
3518
3519 static inline int64_t msa_sra_df(uint32_t df, int64_t arg1, int64_t arg2)
3520 {
3521     int32_t b_arg2 = BIT_POSITION(arg2, df);
3522     return arg1 >> b_arg2;
3523 }
3524
3525 static inline int64_t msa_srl_df(uint32_t df, int64_t arg1, int64_t arg2)
3526 {
3527     uint64_t u_arg1 = UNSIGNED(arg1, df);
3528     int32_t b_arg2 = BIT_POSITION(arg2, df);
3529     return u_arg1 >> b_arg2;
3530 }
3531
3532 static inline int64_t msa_sat_s_df(uint32_t df, int64_t arg, uint32_t m)
3533 {
3534     return arg < M_MIN_INT(m + 1) ? M_MIN_INT(m + 1) :
3535                                     arg > M_MAX_INT(m + 1) ? M_MAX_INT(m + 1) :
3536                                                              arg;
3537 }
3538
3539 static inline int64_t msa_sat_u_df(uint32_t df, int64_t arg, uint32_t m)
3540 {
3541     uint64_t u_arg = UNSIGNED(arg, df);
3542     return  u_arg < M_MAX_UINT(m + 1) ? u_arg :
3543                                         M_MAX_UINT(m + 1);
3544 }
3545
3546 static inline int64_t msa_srar_df(uint32_t df, int64_t arg1, int64_t arg2)
3547 {
3548     int32_t b_arg2 = BIT_POSITION(arg2, df);
3549     if (b_arg2 == 0) {
3550         return arg1;
3551     } else {
3552         int64_t r_bit = (arg1 >> (b_arg2 - 1)) & 1;
3553         return (arg1 >> b_arg2) + r_bit;
3554     }
3555 }
3556
3557 static inline int64_t msa_srlr_df(uint32_t df, int64_t arg1, int64_t arg2)
3558 {
3559     uint64_t u_arg1 = UNSIGNED(arg1, df);
3560     int32_t b_arg2 = BIT_POSITION(arg2, df);
3561     if (b_arg2 == 0) {
3562         return u_arg1;
3563     } else {
3564         uint64_t r_bit = (u_arg1 >> (b_arg2 - 1)) & 1;
3565         return (u_arg1 >> b_arg2) + r_bit;
3566     }
3567 }
3568
3569 #define MSA_BINOP_IMMU_DF(helper, func)                                  \
3570 void helper_msa_ ## helper ## _df(CPUMIPSState *env, uint32_t df, uint32_t wd, \
3571                        uint32_t ws, uint32_t u5)                        \
3572 {                                                                       \
3573     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);                          \
3574     wr_t *pws = &(env->active_fpu.fpr[ws].wr);                          \
3575     uint32_t i;                                                         \
3576                                                                         \
3577     switch (df) {                                                       \
3578     case DF_BYTE:                                                       \
3579         for (i = 0; i < DF_ELEMENTS(DF_BYTE); i++) {                    \
3580             pwd->b[i] = msa_ ## func ## _df(df, pws->b[i], u5);         \
3581         }                                                               \
3582         break;                                                          \
3583     case DF_HALF:                                                       \
3584         for (i = 0; i < DF_ELEMENTS(DF_HALF); i++) {                    \
3585             pwd->h[i] = msa_ ## func ## _df(df, pws->h[i], u5);         \
3586         }                                                               \
3587         break;                                                          \
3588     case DF_WORD:                                                       \
3589         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {                    \
3590             pwd->w[i] = msa_ ## func ## _df(df, pws->w[i], u5);         \
3591         }                                                               \
3592         break;                                                          \
3593     case DF_DOUBLE:                                                     \
3594         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {                  \
3595             pwd->d[i] = msa_ ## func ## _df(df, pws->d[i], u5);         \
3596         }                                                               \
3597         break;                                                          \
3598     default:                                                            \
3599         assert(0);                                                      \
3600     }                                                                   \
3601 }
3602
3603 MSA_BINOP_IMMU_DF(slli, sll)
3604 MSA_BINOP_IMMU_DF(srai, sra)
3605 MSA_BINOP_IMMU_DF(srli, srl)
3606 MSA_BINOP_IMMU_DF(bclri, bclr)
3607 MSA_BINOP_IMMU_DF(bseti, bset)
3608 MSA_BINOP_IMMU_DF(bnegi, bneg)
3609 MSA_BINOP_IMMU_DF(sat_s, sat_s)
3610 MSA_BINOP_IMMU_DF(sat_u, sat_u)
3611 MSA_BINOP_IMMU_DF(srari, srar)
3612 MSA_BINOP_IMMU_DF(srlri, srlr)
3613 #undef MSA_BINOP_IMMU_DF
3614
3615 #define MSA_TEROP_IMMU_DF(helper, func)                                  \
3616 void helper_msa_ ## helper ## _df(CPUMIPSState *env, uint32_t df,       \
3617                                   uint32_t wd, uint32_t ws, uint32_t u5) \
3618 {                                                                       \
3619     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);                          \
3620     wr_t *pws = &(env->active_fpu.fpr[ws].wr);                          \
3621     uint32_t i;                                                         \
3622                                                                         \
3623     switch (df) {                                                       \
3624     case DF_BYTE:                                                       \
3625         for (i = 0; i < DF_ELEMENTS(DF_BYTE); i++) {                    \
3626             pwd->b[i] = msa_ ## func ## _df(df, pwd->b[i], pws->b[i],   \
3627                                             u5);                        \
3628         }                                                               \
3629         break;                                                          \
3630     case DF_HALF:                                                       \
3631         for (i = 0; i < DF_ELEMENTS(DF_HALF); i++) {                    \
3632             pwd->h[i] = msa_ ## func ## _df(df, pwd->h[i], pws->h[i],   \
3633                                             u5);                        \
3634         }                                                               \
3635         break;                                                          \
3636     case DF_WORD:                                                       \
3637         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {                    \
3638             pwd->w[i] = msa_ ## func ## _df(df, pwd->w[i], pws->w[i],   \
3639                                             u5);                        \
3640         }                                                               \
3641         break;                                                          \
3642     case DF_DOUBLE:                                                     \
3643         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {                  \
3644             pwd->d[i] = msa_ ## func ## _df(df, pwd->d[i], pws->d[i],   \
3645                                             u5);                        \
3646         }                                                               \
3647         break;                                                          \
3648     default:                                                            \
3649         assert(0);                                                      \
3650     }                                                                   \
3651 }
3652
3653 MSA_TEROP_IMMU_DF(binsli, binsl)
3654 MSA_TEROP_IMMU_DF(binsri, binsr)
3655 #undef MSA_TEROP_IMMU_DF
3656
3657 static inline int64_t msa_subs_s_df(uint32_t df, int64_t arg1, int64_t arg2)
3658 {
3659     int64_t max_int = DF_MAX_INT(df);
3660     int64_t min_int = DF_MIN_INT(df);
3661     if (arg2 > 0) {
3662         return (min_int + arg2 < arg1) ? arg1 - arg2 : min_int;
3663     } else {
3664         return (arg1 < max_int + arg2) ? arg1 - arg2 : max_int;
3665     }
3666 }
3667
3668 static inline int64_t msa_subs_u_df(uint32_t df, int64_t arg1, int64_t arg2)
3669 {
3670     uint64_t u_arg1 = UNSIGNED(arg1, df);
3671     uint64_t u_arg2 = UNSIGNED(arg2, df);
3672     return (u_arg1 > u_arg2) ? u_arg1 - u_arg2 : 0;
3673 }
3674
3675 static inline int64_t msa_subsus_u_df(uint32_t df, int64_t arg1, int64_t arg2)
3676 {
3677     uint64_t u_arg1 = UNSIGNED(arg1, df);
3678     uint64_t max_uint = DF_MAX_UINT(df);
3679     if (arg2 >= 0) {
3680         uint64_t u_arg2 = (uint64_t)arg2;
3681         return (u_arg1 > u_arg2) ?
3682             (int64_t)(u_arg1 - u_arg2) :
3683             0;
3684     } else {
3685         uint64_t u_arg2 = (uint64_t)(-arg2);
3686         return (u_arg1 < max_uint - u_arg2) ?
3687             (int64_t)(u_arg1 + u_arg2) :
3688             (int64_t)max_uint;
3689     }
3690 }
3691
3692 static inline int64_t msa_subsuu_s_df(uint32_t df, int64_t arg1, int64_t arg2)
3693 {
3694     uint64_t u_arg1 = UNSIGNED(arg1, df);
3695     uint64_t u_arg2 = UNSIGNED(arg2, df);
3696     int64_t max_int = DF_MAX_INT(df);
3697     int64_t min_int = DF_MIN_INT(df);
3698     if (u_arg1 > u_arg2) {
3699         return u_arg1 - u_arg2 < (uint64_t)max_int ?
3700             (int64_t)(u_arg1 - u_arg2) :
3701             max_int;
3702     } else {
3703         return u_arg2 - u_arg1 < (uint64_t)(-min_int) ?
3704             (int64_t)(u_arg1 - u_arg2) :
3705             min_int;
3706     }
3707 }
3708
3709 static inline int64_t msa_asub_s_df(uint32_t df, int64_t arg1, int64_t arg2)
3710 {
3711     /* signed compare */
3712     return (arg1 < arg2) ?
3713         (uint64_t)(arg2 - arg1) : (uint64_t)(arg1 - arg2);
3714 }
3715
3716 static inline uint64_t msa_asub_u_df(uint32_t df, uint64_t arg1, uint64_t arg2)
3717 {
3718     uint64_t u_arg1 = UNSIGNED(arg1, df);
3719     uint64_t u_arg2 = UNSIGNED(arg2, df);
3720     /* unsigned compare */
3721     return (u_arg1 < u_arg2) ?
3722         (uint64_t)(u_arg2 - u_arg1) : (uint64_t)(u_arg1 - u_arg2);
3723 }
3724
3725 static inline int64_t msa_mulv_df(uint32_t df, int64_t arg1, int64_t arg2)
3726 {
3727     return arg1 * arg2;
3728 }
3729
3730 #define SIGNED_EVEN(a, df) \
3731         ((((int64_t)(a)) << (64 - DF_BITS(df) / 2)) >> (64 - DF_BITS(df) / 2))
3732
3733 #define UNSIGNED_EVEN(a, df) \
3734         ((((uint64_t)(a)) << (64 - DF_BITS(df) / 2)) >> (64 - DF_BITS(df) / 2))
3735
3736 #define SIGNED_ODD(a, df) \
3737         ((((int64_t)(a)) << (64 - DF_BITS(df))) >> (64 - DF_BITS(df) / 2))
3738
3739 #define UNSIGNED_ODD(a, df) \
3740         ((((uint64_t)(a)) << (64 - DF_BITS(df))) >> (64 - DF_BITS(df) / 2))
3741
3742 #define SIGNED_EXTRACT(e, o, a, df)     \
3743     do {                                \
3744         e = SIGNED_EVEN(a, df);         \
3745         o = SIGNED_ODD(a, df);          \
3746     } while (0)
3747
3748 #define UNSIGNED_EXTRACT(e, o, a, df)   \
3749     do {                                \
3750         e = UNSIGNED_EVEN(a, df);       \
3751         o = UNSIGNED_ODD(a, df);        \
3752     } while (0)
3753
3754 static inline int64_t msa_dotp_s_df(uint32_t df, int64_t arg1, int64_t arg2)
3755 {
3756     int64_t even_arg1;
3757     int64_t even_arg2;
3758     int64_t odd_arg1;
3759     int64_t odd_arg2;
3760     SIGNED_EXTRACT(even_arg1, odd_arg1, arg1, df);
3761     SIGNED_EXTRACT(even_arg2, odd_arg2, arg2, df);
3762     return (even_arg1 * even_arg2) + (odd_arg1 * odd_arg2);
3763 }
3764
3765 static inline int64_t msa_dotp_u_df(uint32_t df, int64_t arg1, int64_t arg2)
3766 {
3767     int64_t even_arg1;
3768     int64_t even_arg2;
3769     int64_t odd_arg1;
3770     int64_t odd_arg2;
3771     UNSIGNED_EXTRACT(even_arg1, odd_arg1, arg1, df);
3772     UNSIGNED_EXTRACT(even_arg2, odd_arg2, arg2, df);
3773     return (even_arg1 * even_arg2) + (odd_arg1 * odd_arg2);
3774 }
3775
3776 #define CONCATENATE_AND_SLIDE(s, k)             \
3777     do {                                        \
3778         for (i = 0; i < s; i++) {               \
3779             v[i]     = pws->b[s * k + i];       \
3780             v[i + s] = pwd->b[s * k + i];       \
3781         }                                       \
3782         for (i = 0; i < s; i++) {               \
3783             pwd->b[s * k + i] = v[i + n];       \
3784         }                                       \
3785     } while (0)
3786
3787 static inline void msa_sld_df(uint32_t df, wr_t *pwd,
3788                               wr_t *pws, target_ulong rt)
3789 {
3790     uint32_t n = rt % DF_ELEMENTS(df);
3791     uint8_t v[64];
3792     uint32_t i, k;
3793
3794     switch (df) {
3795     case DF_BYTE:
3796         CONCATENATE_AND_SLIDE(DF_ELEMENTS(DF_BYTE), 0);
3797         break;
3798     case DF_HALF:
3799         for (k = 0; k < 2; k++) {
3800             CONCATENATE_AND_SLIDE(DF_ELEMENTS(DF_HALF), k);
3801         }
3802         break;
3803     case DF_WORD:
3804         for (k = 0; k < 4; k++) {
3805             CONCATENATE_AND_SLIDE(DF_ELEMENTS(DF_WORD), k);
3806         }
3807         break;
3808     case DF_DOUBLE:
3809         for (k = 0; k < 8; k++) {
3810             CONCATENATE_AND_SLIDE(DF_ELEMENTS(DF_DOUBLE), k);
3811         }
3812         break;
3813     default:
3814         assert(0);
3815     }
3816 }
3817
3818 static inline int64_t msa_hadd_s_df(uint32_t df, int64_t arg1, int64_t arg2)
3819 {
3820     return SIGNED_ODD(arg1, df) + SIGNED_EVEN(arg2, df);
3821 }
3822
3823 static inline int64_t msa_hadd_u_df(uint32_t df, int64_t arg1, int64_t arg2)
3824 {
3825     return UNSIGNED_ODD(arg1, df) + UNSIGNED_EVEN(arg2, df);
3826 }
3827
3828 static inline int64_t msa_hsub_s_df(uint32_t df, int64_t arg1, int64_t arg2)
3829 {
3830     return SIGNED_ODD(arg1, df) - SIGNED_EVEN(arg2, df);
3831 }
3832
3833 static inline int64_t msa_hsub_u_df(uint32_t df, int64_t arg1, int64_t arg2)
3834 {
3835     return UNSIGNED_ODD(arg1, df) - UNSIGNED_EVEN(arg2, df);
3836 }
3837
3838 static inline int64_t msa_mul_q_df(uint32_t df, int64_t arg1, int64_t arg2)
3839 {
3840     int64_t q_min = DF_MIN_INT(df);
3841     int64_t q_max = DF_MAX_INT(df);
3842
3843     if (arg1 == q_min && arg2 == q_min) {
3844         return q_max;
3845     }
3846     return (arg1 * arg2) >> (DF_BITS(df) - 1);
3847 }
3848
3849 static inline int64_t msa_mulr_q_df(uint32_t df, int64_t arg1, int64_t arg2)
3850 {
3851     int64_t q_min = DF_MIN_INT(df);
3852     int64_t q_max = DF_MAX_INT(df);
3853     int64_t r_bit = 1 << (DF_BITS(df) - 2);
3854
3855     if (arg1 == q_min && arg2 == q_min) {
3856         return q_max;
3857     }
3858     return (arg1 * arg2 + r_bit) >> (DF_BITS(df) - 1);
3859 }
3860
3861 #define MSA_BINOP_DF(func) \
3862 void helper_msa_ ## func ## _df(CPUMIPSState *env, uint32_t df,         \
3863                                 uint32_t wd, uint32_t ws, uint32_t wt)  \
3864 {                                                                       \
3865     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);                          \
3866     wr_t *pws = &(env->active_fpu.fpr[ws].wr);                          \
3867     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);                          \
3868                                                                         \
3869     switch (df) {                                                       \
3870     case DF_BYTE:                                                       \
3871         pwd->b[0]  = msa_ ## func ## _df(df, pws->b[0],  pwt->b[0]);    \
3872         pwd->b[1]  = msa_ ## func ## _df(df, pws->b[1],  pwt->b[1]);    \
3873         pwd->b[2]  = msa_ ## func ## _df(df, pws->b[2],  pwt->b[2]);    \
3874         pwd->b[3]  = msa_ ## func ## _df(df, pws->b[3],  pwt->b[3]);    \
3875         pwd->b[4]  = msa_ ## func ## _df(df, pws->b[4],  pwt->b[4]);    \
3876         pwd->b[5]  = msa_ ## func ## _df(df, pws->b[5],  pwt->b[5]);    \
3877         pwd->b[6]  = msa_ ## func ## _df(df, pws->b[6],  pwt->b[6]);    \
3878         pwd->b[7]  = msa_ ## func ## _df(df, pws->b[7],  pwt->b[7]);    \
3879         pwd->b[8]  = msa_ ## func ## _df(df, pws->b[8],  pwt->b[8]);    \
3880         pwd->b[9]  = msa_ ## func ## _df(df, pws->b[9],  pwt->b[9]);    \
3881         pwd->b[10] = msa_ ## func ## _df(df, pws->b[10], pwt->b[10]);   \
3882         pwd->b[11] = msa_ ## func ## _df(df, pws->b[11], pwt->b[11]);   \
3883         pwd->b[12] = msa_ ## func ## _df(df, pws->b[12], pwt->b[12]);   \
3884         pwd->b[13] = msa_ ## func ## _df(df, pws->b[13], pwt->b[13]);   \
3885         pwd->b[14] = msa_ ## func ## _df(df, pws->b[14], pwt->b[14]);   \
3886         pwd->b[15] = msa_ ## func ## _df(df, pws->b[15], pwt->b[15]);   \
3887         break;                                                          \
3888     case DF_HALF:                                                       \
3889         pwd->h[0] = msa_ ## func ## _df(df, pws->h[0], pwt->h[0]);      \
3890         pwd->h[1] = msa_ ## func ## _df(df, pws->h[1], pwt->h[1]);      \
3891         pwd->h[2] = msa_ ## func ## _df(df, pws->h[2], pwt->h[2]);      \
3892         pwd->h[3] = msa_ ## func ## _df(df, pws->h[3], pwt->h[3]);      \
3893         pwd->h[4] = msa_ ## func ## _df(df, pws->h[4], pwt->h[4]);      \
3894         pwd->h[5] = msa_ ## func ## _df(df, pws->h[5], pwt->h[5]);      \
3895         pwd->h[6] = msa_ ## func ## _df(df, pws->h[6], pwt->h[6]);      \
3896         pwd->h[7] = msa_ ## func ## _df(df, pws->h[7], pwt->h[7]);      \
3897         break;                                                          \
3898     case DF_WORD:                                                       \
3899         pwd->w[0] = msa_ ## func ## _df(df, pws->w[0], pwt->w[0]);      \
3900         pwd->w[1] = msa_ ## func ## _df(df, pws->w[1], pwt->w[1]);      \
3901         pwd->w[2] = msa_ ## func ## _df(df, pws->w[2], pwt->w[2]);      \
3902         pwd->w[3] = msa_ ## func ## _df(df, pws->w[3], pwt->w[3]);      \
3903         break;                                                          \
3904     case DF_DOUBLE:                                                     \
3905         pwd->d[0] = msa_ ## func ## _df(df, pws->d[0], pwt->d[0]);      \
3906         pwd->d[1] = msa_ ## func ## _df(df, pws->d[1], pwt->d[1]);      \
3907         break;                                                          \
3908     default:                                                            \
3909         assert(0);                                                      \
3910     }                                                                   \
3911 }
3912
3913 MSA_BINOP_DF(sll)
3914 MSA_BINOP_DF(sra)
3915 MSA_BINOP_DF(srl)
3916 MSA_BINOP_DF(subv)
3917 MSA_BINOP_DF(subs_s)
3918 MSA_BINOP_DF(subs_u)
3919 MSA_BINOP_DF(subsus_u)
3920 MSA_BINOP_DF(subsuu_s)
3921 MSA_BINOP_DF(asub_s)
3922 MSA_BINOP_DF(asub_u)
3923 MSA_BINOP_DF(mulv)
3924 MSA_BINOP_DF(dotp_s)
3925 MSA_BINOP_DF(dotp_u)
3926 MSA_BINOP_DF(srar)
3927 MSA_BINOP_DF(srlr)
3928 MSA_BINOP_DF(hadd_s)
3929 MSA_BINOP_DF(hadd_u)
3930 MSA_BINOP_DF(hsub_s)
3931 MSA_BINOP_DF(hsub_u)
3932
3933 MSA_BINOP_DF(mul_q)
3934 MSA_BINOP_DF(mulr_q)
3935 #undef MSA_BINOP_DF
3936
3937 void helper_msa_sld_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
3938                        uint32_t ws, uint32_t rt)
3939 {
3940     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3941     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3942
3943     msa_sld_df(df, pwd, pws, env->active_tc.gpr[rt]);
3944 }
3945
3946 static inline int64_t msa_maddv_df(uint32_t df, int64_t dest, int64_t arg1,
3947                                    int64_t arg2)
3948 {
3949     return dest + arg1 * arg2;
3950 }
3951
3952 static inline int64_t msa_msubv_df(uint32_t df, int64_t dest, int64_t arg1,
3953                                    int64_t arg2)
3954 {
3955     return dest - arg1 * arg2;
3956 }
3957
3958 static inline int64_t msa_dpadd_s_df(uint32_t df, int64_t dest, int64_t arg1,
3959                                      int64_t arg2)
3960 {
3961     int64_t even_arg1;
3962     int64_t even_arg2;
3963     int64_t odd_arg1;
3964     int64_t odd_arg2;
3965     SIGNED_EXTRACT(even_arg1, odd_arg1, arg1, df);
3966     SIGNED_EXTRACT(even_arg2, odd_arg2, arg2, df);
3967     return dest + (even_arg1 * even_arg2) + (odd_arg1 * odd_arg2);
3968 }
3969
3970 static inline int64_t msa_dpadd_u_df(uint32_t df, int64_t dest, int64_t arg1,
3971                                      int64_t arg2)
3972 {
3973     int64_t even_arg1;
3974     int64_t even_arg2;
3975     int64_t odd_arg1;
3976     int64_t odd_arg2;
3977     UNSIGNED_EXTRACT(even_arg1, odd_arg1, arg1, df);
3978     UNSIGNED_EXTRACT(even_arg2, odd_arg2, arg2, df);
3979     return dest + (even_arg1 * even_arg2) + (odd_arg1 * odd_arg2);
3980 }
3981
3982 static inline int64_t msa_dpsub_s_df(uint32_t df, int64_t dest, int64_t arg1,
3983                                      int64_t arg2)
3984 {
3985     int64_t even_arg1;
3986     int64_t even_arg2;
3987     int64_t odd_arg1;
3988     int64_t odd_arg2;
3989     SIGNED_EXTRACT(even_arg1, odd_arg1, arg1, df);
3990     SIGNED_EXTRACT(even_arg2, odd_arg2, arg2, df);
3991     return dest - ((even_arg1 * even_arg2) + (odd_arg1 * odd_arg2));
3992 }
3993
3994 static inline int64_t msa_dpsub_u_df(uint32_t df, int64_t dest, int64_t arg1,
3995                                      int64_t arg2)
3996 {
3997     int64_t even_arg1;
3998     int64_t even_arg2;
3999     int64_t odd_arg1;
4000     int64_t odd_arg2;
4001     UNSIGNED_EXTRACT(even_arg1, odd_arg1, arg1, df);
4002     UNSIGNED_EXTRACT(even_arg2, odd_arg2, arg2, df);
4003     return dest - ((even_arg1 * even_arg2) + (odd_arg1 * odd_arg2));
4004 }
4005
4006 static inline int64_t msa_madd_q_df(uint32_t df, int64_t dest, int64_t arg1,
4007                                     int64_t arg2)
4008 {
4009     int64_t q_prod, q_ret;
4010
4011     int64_t q_max = DF_MAX_INT(df);
4012     int64_t q_min = DF_MIN_INT(df);
4013
4014     q_prod = arg1 * arg2;
4015     q_ret = ((dest << (DF_BITS(df) - 1)) + q_prod) >> (DF_BITS(df) - 1);
4016
4017     return (q_ret < q_min) ? q_min : (q_max < q_ret) ? q_max : q_ret;
4018 }
4019
4020 static inline int64_t msa_msub_q_df(uint32_t df, int64_t dest, int64_t arg1,
4021                                     int64_t arg2)
4022 {
4023     int64_t q_prod, q_ret;
4024
4025     int64_t q_max = DF_MAX_INT(df);
4026     int64_t q_min = DF_MIN_INT(df);
4027
4028     q_prod = arg1 * arg2;
4029     q_ret = ((dest << (DF_BITS(df) - 1)) - q_prod) >> (DF_BITS(df) - 1);
4030
4031     return (q_ret < q_min) ? q_min : (q_max < q_ret) ? q_max : q_ret;
4032 }
4033
4034 static inline int64_t msa_maddr_q_df(uint32_t df, int64_t dest, int64_t arg1,
4035                                      int64_t arg2)
4036 {
4037     int64_t q_prod, q_ret;
4038
4039     int64_t q_max = DF_MAX_INT(df);
4040     int64_t q_min = DF_MIN_INT(df);
4041     int64_t r_bit = 1 << (DF_BITS(df) - 2);
4042
4043     q_prod = arg1 * arg2;
4044     q_ret = ((dest << (DF_BITS(df) - 1)) + q_prod + r_bit) >> (DF_BITS(df) - 1);
4045
4046     return (q_ret < q_min) ? q_min : (q_max < q_ret) ? q_max : q_ret;
4047 }
4048
4049 static inline int64_t msa_msubr_q_df(uint32_t df, int64_t dest, int64_t arg1,
4050                                      int64_t arg2)
4051 {
4052     int64_t q_prod, q_ret;
4053
4054     int64_t q_max = DF_MAX_INT(df);
4055     int64_t q_min = DF_MIN_INT(df);
4056     int64_t r_bit = 1 << (DF_BITS(df) - 2);
4057
4058     q_prod = arg1 * arg2;
4059     q_ret = ((dest << (DF_BITS(df) - 1)) - q_prod + r_bit) >> (DF_BITS(df) - 1);
4060
4061     return (q_ret < q_min) ? q_min : (q_max < q_ret) ? q_max : q_ret;
4062 }
4063
4064 #define MSA_TEROP_DF(func) \
4065 void helper_msa_ ## func ## _df(CPUMIPSState *env, uint32_t df, uint32_t wd,  \
4066                                 uint32_t ws, uint32_t wt)                     \
4067 {                                                                             \
4068     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);                                \
4069     wr_t *pws = &(env->active_fpu.fpr[ws].wr);                                \
4070     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);                                \
4071                                                                               \
4072     switch (df) {                                                             \
4073     case DF_BYTE:                                                             \
4074         pwd->b[0]  = msa_ ## func ## _df(df, pwd->b[0],  pws->b[0],           \
4075                                              pwt->b[0]);                      \
4076         pwd->b[1]  = msa_ ## func ## _df(df, pwd->b[1],  pws->b[1],           \
4077                                              pwt->b[1]);                      \
4078         pwd->b[2]  = msa_ ## func ## _df(df, pwd->b[2],  pws->b[2],           \
4079                                              pwt->b[2]);                      \
4080         pwd->b[3]  = msa_ ## func ## _df(df, pwd->b[3],  pws->b[3],           \
4081                                              pwt->b[3]);                      \
4082         pwd->b[4]  = msa_ ## func ## _df(df, pwd->b[4],  pws->b[4],           \
4083                                              pwt->b[4]);                      \
4084         pwd->b[5]  = msa_ ## func ## _df(df, pwd->b[5],  pws->b[5],           \
4085                                              pwt->b[5]);                      \
4086         pwd->b[6]  = msa_ ## func ## _df(df, pwd->b[6],  pws->b[6],           \
4087                                              pwt->b[6]);                      \
4088         pwd->b[7]  = msa_ ## func ## _df(df, pwd->b[7],  pws->b[7],           \
4089                                              pwt->b[7]);                      \
4090         pwd->b[8]  = msa_ ## func ## _df(df, pwd->b[8],  pws->b[8],           \
4091                                              pwt->b[8]);                      \
4092         pwd->b[9]  = msa_ ## func ## _df(df, pwd->b[9],  pws->b[9],           \
4093                                              pwt->b[9]);                      \
4094         pwd->b[10] = msa_ ## func ## _df(df, pwd->b[10], pws->b[10],          \
4095                                              pwt->b[10]);                     \
4096         pwd->b[11] = msa_ ## func ## _df(df, pwd->b[11], pws->b[11],          \
4097                                              pwt->b[11]);                     \
4098         pwd->b[12] = msa_ ## func ## _df(df, pwd->b[12], pws->b[12],          \
4099                                              pwt->b[12]);                     \
4100         pwd->b[13] = msa_ ## func ## _df(df, pwd->b[13], pws->b[13],          \
4101                                              pwt->b[13]);                     \
4102         pwd->b[14] = msa_ ## func ## _df(df, pwd->b[14], pws->b[14],          \
4103                                              pwt->b[14]);                     \
4104         pwd->b[15] = msa_ ## func ## _df(df, pwd->b[15], pws->b[15],          \
4105                                              pwt->b[15]);                     \
4106         break;                                                                \
4107     case DF_HALF:                                                             \
4108         pwd->h[0] = msa_ ## func ## _df(df, pwd->h[0], pws->h[0], pwt->h[0]); \
4109         pwd->h[1] = msa_ ## func ## _df(df, pwd->h[1], pws->h[1], pwt->h[1]); \
4110         pwd->h[2] = msa_ ## func ## _df(df, pwd->h[2], pws->h[2], pwt->h[2]); \
4111         pwd->h[3] = msa_ ## func ## _df(df, pwd->h[3], pws->h[3], pwt->h[3]); \
4112         pwd->h[4] = msa_ ## func ## _df(df, pwd->h[4], pws->h[4], pwt->h[4]); \
4113         pwd->h[5] = msa_ ## func ## _df(df, pwd->h[5], pws->h[5], pwt->h[5]); \
4114         pwd->h[6] = msa_ ## func ## _df(df, pwd->h[6], pws->h[6], pwt->h[6]); \
4115         pwd->h[7] = msa_ ## func ## _df(df, pwd->h[7], pws->h[7], pwt->h[7]); \
4116         break;                                                                \
4117     case DF_WORD:                                                             \
4118         pwd->w[0] = msa_ ## func ## _df(df, pwd->w[0], pws->w[0], pwt->w[0]); \
4119         pwd->w[1] = msa_ ## func ## _df(df, pwd->w[1], pws->w[1], pwt->w[1]); \
4120         pwd->w[2] = msa_ ## func ## _df(df, pwd->w[2], pws->w[2], pwt->w[2]); \
4121         pwd->w[3] = msa_ ## func ## _df(df, pwd->w[3], pws->w[3], pwt->w[3]); \
4122         break;                                                                \
4123     case DF_DOUBLE:                                                           \
4124         pwd->d[0] = msa_ ## func ## _df(df, pwd->d[0], pws->d[0], pwt->d[0]); \
4125         pwd->d[1] = msa_ ## func ## _df(df, pwd->d[1], pws->d[1], pwt->d[1]); \
4126         break;                                                                \
4127     default:                                                                  \
4128         assert(0);                                                            \
4129     }                                                                         \
4130 }
4131
4132 MSA_TEROP_DF(maddv)
4133 MSA_TEROP_DF(msubv)
4134 MSA_TEROP_DF(dpadd_s)
4135 MSA_TEROP_DF(dpadd_u)
4136 MSA_TEROP_DF(dpsub_s)
4137 MSA_TEROP_DF(dpsub_u)
4138 MSA_TEROP_DF(binsl)
4139 MSA_TEROP_DF(binsr)
4140 MSA_TEROP_DF(madd_q)
4141 MSA_TEROP_DF(msub_q)
4142 MSA_TEROP_DF(maddr_q)
4143 MSA_TEROP_DF(msubr_q)
4144 #undef MSA_TEROP_DF
4145
4146 static inline void msa_splat_df(uint32_t df, wr_t *pwd,
4147                                 wr_t *pws, target_ulong rt)
4148 {
4149     uint32_t n = rt % DF_ELEMENTS(df);
4150     uint32_t i;
4151
4152     switch (df) {
4153     case DF_BYTE:
4154         for (i = 0; i < DF_ELEMENTS(DF_BYTE); i++) {
4155             pwd->b[i] = pws->b[n];
4156         }
4157         break;
4158     case DF_HALF:
4159         for (i = 0; i < DF_ELEMENTS(DF_HALF); i++) {
4160             pwd->h[i] = pws->h[n];
4161         }
4162         break;
4163     case DF_WORD:
4164         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
4165             pwd->w[i] = pws->w[n];
4166         }
4167         break;
4168     case DF_DOUBLE:
4169         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
4170             pwd->d[i] = pws->d[n];
4171         }
4172        break;
4173     default:
4174         assert(0);
4175     }
4176 }
4177
4178 void helper_msa_splat_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
4179                          uint32_t ws, uint32_t rt)
4180 {
4181     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4182     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4183
4184     msa_splat_df(df, pwd, pws, env->active_tc.gpr[rt]);
4185 }
4186
4187 #define MSA_DO_B MSA_DO(b)
4188 #define MSA_DO_H MSA_DO(h)
4189 #define MSA_DO_W MSA_DO(w)
4190 #define MSA_DO_D MSA_DO(d)
4191
4192 #define MSA_LOOP_B MSA_LOOP(B)
4193 #define MSA_LOOP_H MSA_LOOP(H)
4194 #define MSA_LOOP_W MSA_LOOP(W)
4195 #define MSA_LOOP_D MSA_LOOP(D)
4196
4197 #define MSA_LOOP_COND_B MSA_LOOP_COND(DF_BYTE)
4198 #define MSA_LOOP_COND_H MSA_LOOP_COND(DF_HALF)
4199 #define MSA_LOOP_COND_W MSA_LOOP_COND(DF_WORD)
4200 #define MSA_LOOP_COND_D MSA_LOOP_COND(DF_DOUBLE)
4201
4202 #define MSA_LOOP(DF) \
4203     do { \
4204         for (i = 0; i < (MSA_LOOP_COND_ ## DF) ; i++) { \
4205             MSA_DO_ ## DF; \
4206         } \
4207     } while (0)
4208
4209 #define MSA_FN_DF(FUNC)                                             \
4210 void helper_msa_##FUNC(CPUMIPSState *env, uint32_t df, uint32_t wd, \
4211         uint32_t ws, uint32_t wt)                                   \
4212 {                                                                   \
4213     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);                      \
4214     wr_t *pws = &(env->active_fpu.fpr[ws].wr);                      \
4215     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);                      \
4216     wr_t wx, *pwx = &wx;                                            \
4217     uint32_t i;                                                     \
4218     switch (df) {                                                   \
4219     case DF_BYTE:                                                   \
4220         MSA_LOOP_B;                                                 \
4221         break;                                                      \
4222     case DF_HALF:                                                   \
4223         MSA_LOOP_H;                                                 \
4224         break;                                                      \
4225     case DF_WORD:                                                   \
4226         MSA_LOOP_W;                                                 \
4227         break;                                                      \
4228     case DF_DOUBLE:                                                 \
4229         MSA_LOOP_D;                                                 \
4230         break;                                                      \
4231     default:                                                        \
4232         assert(0);                                                  \
4233     }                                                               \
4234     msa_move_v(pwd, pwx);                                           \
4235 }
4236
4237 #define MSA_LOOP_COND(DF) \
4238             (DF_ELEMENTS(DF) / 2)
4239
4240 #define Rb(pwr, i) (pwr->b[i])
4241 #define Lb(pwr, i) (pwr->b[i + DF_ELEMENTS(DF_BYTE) / 2])
4242 #define Rh(pwr, i) (pwr->h[i])
4243 #define Lh(pwr, i) (pwr->h[i + DF_ELEMENTS(DF_HALF) / 2])
4244 #define Rw(pwr, i) (pwr->w[i])
4245 #define Lw(pwr, i) (pwr->w[i + DF_ELEMENTS(DF_WORD) / 2])
4246 #define Rd(pwr, i) (pwr->d[i])
4247 #define Ld(pwr, i) (pwr->d[i + DF_ELEMENTS(DF_DOUBLE) / 2])
4248
4249 #undef MSA_LOOP_COND
4250
4251 #define MSA_LOOP_COND(DF) \
4252             (DF_ELEMENTS(DF))
4253
4254 #define MSA_DO(DF)                                                          \
4255     do {                                                                    \
4256         uint32_t n = DF_ELEMENTS(df);                                       \
4257         uint32_t k = (pwd->DF[i] & 0x3f) % (2 * n);                         \
4258         pwx->DF[i] =                                                        \
4259             (pwd->DF[i] & 0xc0) ? 0 : k < n ? pwt->DF[k] : pws->DF[k - n];  \
4260     } while (0)
4261 MSA_FN_DF(vshf_df)
4262 #undef MSA_DO
4263 #undef MSA_LOOP_COND
4264 #undef MSA_FN_DF
4265
4266
4267 void helper_msa_pckev_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
4268                          uint32_t ws, uint32_t wt)
4269 {
4270     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4271     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4272     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4273
4274     switch (df) {
4275     case DF_BYTE:
4276 #if defined(HOST_WORDS_BIGENDIAN)
4277         pwd->b[8]  = pws->b[9];
4278         pwd->b[10] = pws->b[13];
4279         pwd->b[12] = pws->b[1];
4280         pwd->b[14] = pws->b[5];
4281         pwd->b[0]  = pwt->b[9];
4282         pwd->b[2]  = pwt->b[13];
4283         pwd->b[4]  = pwt->b[1];
4284         pwd->b[6]  = pwt->b[5];
4285         pwd->b[9]  = pws->b[11];
4286         pwd->b[13] = pws->b[3];
4287         pwd->b[1]  = pwt->b[11];
4288         pwd->b[5]  = pwt->b[3];
4289         pwd->b[11] = pws->b[15];
4290         pwd->b[3]  = pwt->b[15];
4291         pwd->b[15] = pws->b[7];
4292         pwd->b[7]  = pwt->b[7];
4293 #else
4294         pwd->b[15] = pws->b[14];
4295         pwd->b[13] = pws->b[10];
4296         pwd->b[11] = pws->b[6];
4297         pwd->b[9]  = pws->b[2];
4298         pwd->b[7]  = pwt->b[14];
4299         pwd->b[5]  = pwt->b[10];
4300         pwd->b[3]  = pwt->b[6];
4301         pwd->b[1]  = pwt->b[2];
4302         pwd->b[14] = pws->b[12];
4303         pwd->b[10] = pws->b[4];
4304         pwd->b[6]  = pwt->b[12];
4305         pwd->b[2]  = pwt->b[4];
4306         pwd->b[12] = pws->b[8];
4307         pwd->b[4]  = pwt->b[8];
4308         pwd->b[8]  = pws->b[0];
4309         pwd->b[0]  = pwt->b[0];
4310 #endif
4311         break;
4312     case DF_HALF:
4313 #if defined(HOST_WORDS_BIGENDIAN)
4314         pwd->h[4] = pws->h[5];
4315         pwd->h[6] = pws->h[1];
4316         pwd->h[0] = pwt->h[5];
4317         pwd->h[2] = pwt->h[1];
4318         pwd->h[5] = pws->h[7];
4319         pwd->h[1] = pwt->h[7];
4320         pwd->h[7] = pws->h[3];
4321         pwd->h[3] = pwt->h[3];
4322 #else
4323         pwd->h[7] = pws->h[6];
4324         pwd->h[5] = pws->h[2];
4325         pwd->h[3] = pwt->h[6];
4326         pwd->h[1] = pwt->h[2];
4327         pwd->h[6] = pws->h[4];
4328         pwd->h[2] = pwt->h[4];
4329         pwd->h[4] = pws->h[0];
4330         pwd->h[0] = pwt->h[0];
4331 #endif
4332         break;
4333     case DF_WORD:
4334 #if defined(HOST_WORDS_BIGENDIAN)
4335         pwd->w[2] = pws->w[3];
4336         pwd->w[0] = pwt->w[3];
4337         pwd->w[3] = pws->w[1];
4338         pwd->w[1] = pwt->w[1];
4339 #else
4340         pwd->w[3] = pws->w[2];
4341         pwd->w[1] = pwt->w[2];
4342         pwd->w[2] = pws->w[0];
4343         pwd->w[0] = pwt->w[0];
4344 #endif
4345         break;
4346     case DF_DOUBLE:
4347         pwd->d[1] = pws->d[0];
4348         pwd->d[0] = pwt->d[0];
4349         break;
4350     default:
4351         assert(0);
4352     }
4353 }
4354
4355 void helper_msa_pckod_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
4356                          uint32_t ws, uint32_t wt)
4357 {
4358     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4359     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4360     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4361
4362     switch (df) {
4363     case DF_BYTE:
4364 #if defined(HOST_WORDS_BIGENDIAN)
4365         pwd->b[7]  = pwt->b[6];
4366         pwd->b[5]  = pwt->b[2];
4367         pwd->b[3]  = pwt->b[14];
4368         pwd->b[1]  = pwt->b[10];
4369         pwd->b[15] = pws->b[6];
4370         pwd->b[13] = pws->b[2];
4371         pwd->b[11] = pws->b[14];
4372         pwd->b[9]  = pws->b[10];
4373         pwd->b[6]  = pwt->b[4];
4374         pwd->b[2]  = pwt->b[12];
4375         pwd->b[14] = pws->b[4];
4376         pwd->b[10] = pws->b[12];
4377         pwd->b[4]  = pwt->b[0];
4378         pwd->b[12] = pws->b[0];
4379         pwd->b[0]  = pwt->b[8];
4380         pwd->b[8]  = pws->b[8];
4381 #else
4382         pwd->b[0]  = pwt->b[1];
4383         pwd->b[2]  = pwt->b[5];
4384         pwd->b[4]  = pwt->b[9];
4385         pwd->b[6]  = pwt->b[13];
4386         pwd->b[8]  = pws->b[1];
4387         pwd->b[10] = pws->b[5];
4388         pwd->b[12] = pws->b[9];
4389         pwd->b[14] = pws->b[13];
4390         pwd->b[1]  = pwt->b[3];
4391         pwd->b[5]  = pwt->b[11];
4392         pwd->b[9]  = pws->b[3];
4393         pwd->b[13] = pws->b[11];
4394         pwd->b[3]  = pwt->b[7];
4395         pwd->b[11] = pws->b[7];
4396         pwd->b[7]  = pwt->b[15];
4397         pwd->b[15] = pws->b[15];
4398 #endif
4399         break;
4400     case DF_HALF:
4401 #if defined(HOST_WORDS_BIGENDIAN)
4402         pwd->h[3] = pwt->h[2];
4403         pwd->h[1] = pwt->h[6];
4404         pwd->h[7] = pws->h[2];
4405         pwd->h[5] = pws->h[6];
4406         pwd->h[2] = pwt->h[0];
4407         pwd->h[6] = pws->h[0];
4408         pwd->h[0] = pwt->h[4];
4409         pwd->h[4] = pws->h[4];
4410 #else
4411         pwd->h[0] = pwt->h[1];
4412         pwd->h[2] = pwt->h[5];
4413         pwd->h[4] = pws->h[1];
4414         pwd->h[6] = pws->h[5];
4415         pwd->h[1] = pwt->h[3];
4416         pwd->h[5] = pws->h[3];
4417         pwd->h[3] = pwt->h[7];
4418         pwd->h[7] = pws->h[7];
4419 #endif
4420         break;
4421     case DF_WORD:
4422 #if defined(HOST_WORDS_BIGENDIAN)
4423         pwd->w[1] = pwt->w[0];
4424         pwd->w[3] = pws->w[0];
4425         pwd->w[0] = pwt->w[2];
4426         pwd->w[2] = pws->w[2];
4427 #else
4428         pwd->w[0] = pwt->w[1];
4429         pwd->w[2] = pws->w[1];
4430         pwd->w[1] = pwt->w[3];
4431         pwd->w[3] = pws->w[3];
4432 #endif
4433         break;
4434     case DF_DOUBLE:
4435         pwd->d[0] = pwt->d[1];
4436         pwd->d[1] = pws->d[1];
4437         break;
4438     default:
4439         assert(0);
4440     }
4441 }
4442
4443
4444 void helper_msa_sldi_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
4445                         uint32_t ws, uint32_t n)
4446 {
4447     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4448     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4449
4450     msa_sld_df(df, pwd, pws, n);
4451 }
4452
4453 void helper_msa_splati_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
4454                           uint32_t ws, uint32_t n)
4455 {
4456     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4457     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4458
4459     msa_splat_df(df, pwd, pws, n);
4460 }
4461
4462 void helper_msa_copy_s_b(CPUMIPSState *env, uint32_t rd,
4463                          uint32_t ws, uint32_t n)
4464 {
4465     n %= 16;
4466 #if defined(HOST_WORDS_BIGENDIAN)
4467     if (n < 8) {
4468         n = 8 - n - 1;
4469     } else {
4470         n = 24 - n - 1;
4471     }
4472 #endif
4473     env->active_tc.gpr[rd] = (int8_t)env->active_fpu.fpr[ws].wr.b[n];
4474 }
4475
4476 void helper_msa_copy_s_h(CPUMIPSState *env, uint32_t rd,
4477                          uint32_t ws, uint32_t n)
4478 {
4479     n %= 8;
4480 #if defined(HOST_WORDS_BIGENDIAN)
4481     if (n < 4) {
4482         n = 4 - n - 1;
4483     } else {
4484         n = 12 - n - 1;
4485     }
4486 #endif
4487     env->active_tc.gpr[rd] = (int16_t)env->active_fpu.fpr[ws].wr.h[n];
4488 }
4489
4490 void helper_msa_copy_s_w(CPUMIPSState *env, uint32_t rd,
4491                          uint32_t ws, uint32_t n)
4492 {
4493     n %= 4;
4494 #if defined(HOST_WORDS_BIGENDIAN)
4495     if (n < 2) {
4496         n = 2 - n - 1;
4497     } else {
4498         n = 6 - n - 1;
4499     }
4500 #endif
4501     env->active_tc.gpr[rd] = (int32_t)env->active_fpu.fpr[ws].wr.w[n];
4502 }
4503
4504 void helper_msa_copy_s_d(CPUMIPSState *env, uint32_t rd,
4505                          uint32_t ws, uint32_t n)
4506 {
4507     n %= 2;
4508     env->active_tc.gpr[rd] = (int64_t)env->active_fpu.fpr[ws].wr.d[n];
4509 }
4510
4511 void helper_msa_copy_u_b(CPUMIPSState *env, uint32_t rd,
4512                          uint32_t ws, uint32_t n)
4513 {
4514     n %= 16;
4515 #if defined(HOST_WORDS_BIGENDIAN)
4516     if (n < 8) {
4517         n = 8 - n - 1;
4518     } else {
4519         n = 24 - n - 1;
4520     }
4521 #endif
4522     env->active_tc.gpr[rd] = (uint8_t)env->active_fpu.fpr[ws].wr.b[n];
4523 }
4524
4525 void helper_msa_copy_u_h(CPUMIPSState *env, uint32_t rd,
4526                          uint32_t ws, uint32_t n)
4527 {
4528     n %= 8;
4529 #if defined(HOST_WORDS_BIGENDIAN)
4530     if (n < 4) {
4531         n = 4 - n - 1;
4532     } else {
4533         n = 12 - n - 1;
4534     }
4535 #endif
4536     env->active_tc.gpr[rd] = (uint16_t)env->active_fpu.fpr[ws].wr.h[n];
4537 }
4538
4539 void helper_msa_copy_u_w(CPUMIPSState *env, uint32_t rd,
4540                          uint32_t ws, uint32_t n)
4541 {
4542     n %= 4;
4543 #if defined(HOST_WORDS_BIGENDIAN)
4544     if (n < 2) {
4545         n = 2 - n - 1;
4546     } else {
4547         n = 6 - n - 1;
4548     }
4549 #endif
4550     env->active_tc.gpr[rd] = (uint32_t)env->active_fpu.fpr[ws].wr.w[n];
4551 }
4552
4553 void helper_msa_insert_b(CPUMIPSState *env, uint32_t wd,
4554                           uint32_t rs_num, uint32_t n)
4555 {
4556     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4557     target_ulong rs = env->active_tc.gpr[rs_num];
4558     n %= 16;
4559 #if defined(HOST_WORDS_BIGENDIAN)
4560     if (n < 8) {
4561         n = 8 - n - 1;
4562     } else {
4563         n = 24 - n - 1;
4564     }
4565 #endif
4566     pwd->b[n] = (int8_t)rs;
4567 }
4568
4569 void helper_msa_insert_h(CPUMIPSState *env, uint32_t wd,
4570                           uint32_t rs_num, uint32_t n)
4571 {
4572     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4573     target_ulong rs = env->active_tc.gpr[rs_num];
4574     n %= 8;
4575 #if defined(HOST_WORDS_BIGENDIAN)
4576     if (n < 4) {
4577         n = 4 - n - 1;
4578     } else {
4579         n = 12 - n - 1;
4580     }
4581 #endif
4582     pwd->h[n] = (int16_t)rs;
4583 }
4584
4585 void helper_msa_insert_w(CPUMIPSState *env, uint32_t wd,
4586                           uint32_t rs_num, uint32_t n)
4587 {
4588     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4589     target_ulong rs = env->active_tc.gpr[rs_num];
4590     n %= 4;
4591 #if defined(HOST_WORDS_BIGENDIAN)
4592     if (n < 2) {
4593         n = 2 - n - 1;
4594     } else {
4595         n = 6 - n - 1;
4596     }
4597 #endif
4598     pwd->w[n] = (int32_t)rs;
4599 }
4600
4601 void helper_msa_insert_d(CPUMIPSState *env, uint32_t wd,
4602                           uint32_t rs_num, uint32_t n)
4603 {
4604     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4605     target_ulong rs = env->active_tc.gpr[rs_num];
4606     n %= 2;
4607     pwd->d[n] = (int64_t)rs;
4608 }
4609
4610 void helper_msa_insve_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
4611                          uint32_t ws, uint32_t n)
4612 {
4613     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4614     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4615
4616     switch (df) {
4617     case DF_BYTE:
4618         pwd->b[n] = (int8_t)pws->b[0];
4619         break;
4620     case DF_HALF:
4621         pwd->h[n] = (int16_t)pws->h[0];
4622         break;
4623     case DF_WORD:
4624         pwd->w[n] = (int32_t)pws->w[0];
4625         break;
4626     case DF_DOUBLE:
4627         pwd->d[n] = (int64_t)pws->d[0];
4628         break;
4629     default:
4630         assert(0);
4631     }
4632 }
4633
4634 void helper_msa_ctcmsa(CPUMIPSState *env, target_ulong elm, uint32_t cd)
4635 {
4636     switch (cd) {
4637     case 0:
4638         break;
4639     case 1:
4640         env->active_tc.msacsr = (int32_t)elm & MSACSR_MASK;
4641         restore_msa_fp_status(env);
4642         /* check exception */
4643         if ((GET_FP_ENABLE(env->active_tc.msacsr) | FP_UNIMPLEMENTED)
4644             & GET_FP_CAUSE(env->active_tc.msacsr)) {
4645             do_raise_exception(env, EXCP_MSAFPE, GETPC());
4646         }
4647         break;
4648     }
4649 }
4650
4651 target_ulong helper_msa_cfcmsa(CPUMIPSState *env, uint32_t cs)
4652 {
4653     switch (cs) {
4654     case 0:
4655         return env->msair;
4656     case 1:
4657         return env->active_tc.msacsr & MSACSR_MASK;
4658     }
4659     return 0;
4660 }
4661
4662 void helper_msa_fill_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
4663                         uint32_t rs)
4664 {
4665     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4666     uint32_t i;
4667
4668     switch (df) {
4669     case DF_BYTE:
4670         for (i = 0; i < DF_ELEMENTS(DF_BYTE); i++) {
4671             pwd->b[i] = (int8_t)env->active_tc.gpr[rs];
4672         }
4673         break;
4674     case DF_HALF:
4675         for (i = 0; i < DF_ELEMENTS(DF_HALF); i++) {
4676             pwd->h[i] = (int16_t)env->active_tc.gpr[rs];
4677         }
4678         break;
4679     case DF_WORD:
4680         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
4681             pwd->w[i] = (int32_t)env->active_tc.gpr[rs];
4682         }
4683         break;
4684     case DF_DOUBLE:
4685         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
4686             pwd->d[i] = (int64_t)env->active_tc.gpr[rs];
4687         }
4688        break;
4689     default:
4690         assert(0);
4691     }
4692 }
4693
4694
4695 #define FLOAT_ONE32 make_float32(0x3f8 << 20)
4696 #define FLOAT_ONE64 make_float64(0x3ffULL << 52)
4697
4698 #define FLOAT_SNAN16(s) (float16_default_nan(s) ^ 0x0220)
4699         /* 0x7c20 */
4700 #define FLOAT_SNAN32(s) (float32_default_nan(s) ^ 0x00400020)
4701         /* 0x7f800020 */
4702 #define FLOAT_SNAN64(s) (float64_default_nan(s) ^ 0x0008000000000020ULL)
4703         /* 0x7ff0000000000020 */
4704
4705 static inline void clear_msacsr_cause(CPUMIPSState *env)
4706 {
4707     SET_FP_CAUSE(env->active_tc.msacsr, 0);
4708 }
4709
4710 static inline void check_msacsr_cause(CPUMIPSState *env, uintptr_t retaddr)
4711 {
4712     if ((GET_FP_CAUSE(env->active_tc.msacsr) &
4713             (GET_FP_ENABLE(env->active_tc.msacsr) | FP_UNIMPLEMENTED)) == 0) {
4714         UPDATE_FP_FLAGS(env->active_tc.msacsr,
4715                 GET_FP_CAUSE(env->active_tc.msacsr));
4716     } else {
4717         do_raise_exception(env, EXCP_MSAFPE, retaddr);
4718     }
4719 }
4720
4721 /* Flush-to-zero use cases for update_msacsr() */
4722 #define CLEAR_FS_UNDERFLOW 1
4723 #define CLEAR_IS_INEXACT   2
4724 #define RECIPROCAL_INEXACT 4
4725
4726 static inline int update_msacsr(CPUMIPSState *env, int action, int denormal)
4727 {
4728     int ieee_ex;
4729
4730     int c;
4731     int cause;
4732     int enable;
4733
4734     ieee_ex = get_float_exception_flags(&env->active_tc.msa_fp_status);
4735
4736     /* QEMU softfloat does not signal all underflow cases */
4737     if (denormal) {
4738         ieee_ex |= float_flag_underflow;
4739     }
4740
4741     c = ieee_ex_to_mips(ieee_ex);
4742     enable = GET_FP_ENABLE(env->active_tc.msacsr) | FP_UNIMPLEMENTED;
4743
4744     /* Set Inexact (I) when flushing inputs to zero */
4745     if ((ieee_ex & float_flag_input_denormal) &&
4746             (env->active_tc.msacsr & MSACSR_FS_MASK) != 0) {
4747         if (action & CLEAR_IS_INEXACT) {
4748             c &= ~FP_INEXACT;
4749         } else {
4750             c |=  FP_INEXACT;
4751         }
4752     }
4753
4754     /* Set Inexact (I) and Underflow (U) when flushing outputs to zero */
4755     if ((ieee_ex & float_flag_output_denormal) &&
4756             (env->active_tc.msacsr & MSACSR_FS_MASK) != 0) {
4757         c |= FP_INEXACT;
4758         if (action & CLEAR_FS_UNDERFLOW) {
4759             c &= ~FP_UNDERFLOW;
4760         } else {
4761             c |=  FP_UNDERFLOW;
4762         }
4763     }
4764
4765     /* Set Inexact (I) when Overflow (O) is not enabled */
4766     if ((c & FP_OVERFLOW) != 0 && (enable & FP_OVERFLOW) == 0) {
4767         c |= FP_INEXACT;
4768     }
4769
4770     /* Clear Exact Underflow when Underflow (U) is not enabled */
4771     if ((c & FP_UNDERFLOW) != 0 && (enable & FP_UNDERFLOW) == 0 &&
4772             (c & FP_INEXACT) == 0) {
4773         c &= ~FP_UNDERFLOW;
4774     }
4775
4776     /*
4777      * Reciprocal operations set only Inexact when valid and not
4778      * divide by zero
4779      */
4780     if ((action & RECIPROCAL_INEXACT) &&
4781             (c & (FP_INVALID | FP_DIV0)) == 0) {
4782         c = FP_INEXACT;
4783     }
4784
4785     cause = c & enable;    /* all current enabled exceptions */
4786
4787     if (cause == 0) {
4788         /*
4789          * No enabled exception, update the MSACSR Cause
4790          * with all current exceptions
4791          */
4792         SET_FP_CAUSE(env->active_tc.msacsr,
4793                 (GET_FP_CAUSE(env->active_tc.msacsr) | c));
4794     } else {
4795         /* Current exceptions are enabled */
4796         if ((env->active_tc.msacsr & MSACSR_NX_MASK) == 0) {
4797             /*
4798              * Exception(s) will trap, update MSACSR Cause
4799              * with all enabled exceptions
4800              */
4801             SET_FP_CAUSE(env->active_tc.msacsr,
4802                     (GET_FP_CAUSE(env->active_tc.msacsr) | c));
4803         }
4804     }
4805
4806     return c;
4807 }
4808
4809 static inline int get_enabled_exceptions(const CPUMIPSState *env, int c)
4810 {
4811     int enable = GET_FP_ENABLE(env->active_tc.msacsr) | FP_UNIMPLEMENTED;
4812     return c & enable;
4813 }
4814
4815 static inline float16 float16_from_float32(int32_t a, flag ieee,
4816                                            float_status *status)
4817 {
4818       float16 f_val;
4819
4820       f_val = float32_to_float16((float32)a, ieee, status);
4821
4822       return a < 0 ? (f_val | (1 << 15)) : f_val;
4823 }
4824
4825 static inline float32 float32_from_float64(int64_t a, float_status *status)
4826 {
4827       float32 f_val;
4828
4829       f_val = float64_to_float32((float64)a, status);
4830
4831       return a < 0 ? (f_val | (1 << 31)) : f_val;
4832 }
4833
4834 static inline float32 float32_from_float16(int16_t a, flag ieee,
4835                                            float_status *status)
4836 {
4837       float32 f_val;
4838
4839       f_val = float16_to_float32((float16)a, ieee, status);
4840
4841       return a < 0 ? (f_val | (1 << 31)) : f_val;
4842 }
4843
4844 static inline float64 float64_from_float32(int32_t a, float_status *status)
4845 {
4846       float64 f_val;
4847
4848       f_val = float32_to_float64((float64)a, status);
4849
4850       return a < 0 ? (f_val | (1ULL << 63)) : f_val;
4851 }
4852
4853 static inline float32 float32_from_q16(int16_t a, float_status *status)
4854 {
4855     float32 f_val;
4856
4857     /* conversion as integer and scaling */
4858     f_val = int32_to_float32(a, status);
4859     f_val = float32_scalbn(f_val, -15, status);
4860
4861     return f_val;
4862 }
4863
4864 static inline float64 float64_from_q32(int32_t a, float_status *status)
4865 {
4866     float64 f_val;
4867
4868     /* conversion as integer and scaling */
4869     f_val = int32_to_float64(a, status);
4870     f_val = float64_scalbn(f_val, -31, status);
4871
4872     return f_val;
4873 }
4874
4875 static inline int16_t float32_to_q16(float32 a, float_status *status)
4876 {
4877     int32_t q_val;
4878     int32_t q_min = 0xffff8000;
4879     int32_t q_max = 0x00007fff;
4880
4881     int ieee_ex;
4882
4883     if (float32_is_any_nan(a)) {
4884         float_raise(float_flag_invalid, status);
4885         return 0;
4886     }
4887
4888     /* scaling */
4889     a = float32_scalbn(a, 15, status);
4890
4891     ieee_ex = get_float_exception_flags(status);
4892     set_float_exception_flags(ieee_ex & (~float_flag_underflow)
4893                              , status);
4894
4895     if (ieee_ex & float_flag_overflow) {
4896         float_raise(float_flag_inexact, status);
4897         return (int32_t)a < 0 ? q_min : q_max;
4898     }
4899
4900     /* conversion to int */
4901     q_val = float32_to_int32(a, status);
4902
4903     ieee_ex = get_float_exception_flags(status);
4904     set_float_exception_flags(ieee_ex & (~float_flag_underflow)
4905                              , status);
4906
4907     if (ieee_ex & float_flag_invalid) {
4908         set_float_exception_flags(ieee_ex & (~float_flag_invalid)
4909                                , status);
4910         float_raise(float_flag_overflow | float_flag_inexact, status);
4911         return (int32_t)a < 0 ? q_min : q_max;
4912     }
4913
4914     if (q_val < q_min) {
4915         float_raise(float_flag_overflow | float_flag_inexact, status);
4916         return (int16_t)q_min;
4917     }
4918
4919     if (q_max < q_val) {
4920         float_raise(float_flag_overflow | float_flag_inexact, status);
4921         return (int16_t)q_max;
4922     }
4923
4924     return (int16_t)q_val;
4925 }
4926
4927 static inline int32_t float64_to_q32(float64 a, float_status *status)
4928 {
4929     int64_t q_val;
4930     int64_t q_min = 0xffffffff80000000LL;
4931     int64_t q_max = 0x000000007fffffffLL;
4932
4933     int ieee_ex;
4934
4935     if (float64_is_any_nan(a)) {
4936         float_raise(float_flag_invalid, status);
4937         return 0;
4938     }
4939
4940     /* scaling */
4941     a = float64_scalbn(a, 31, status);
4942
4943     ieee_ex = get_float_exception_flags(status);
4944     set_float_exception_flags(ieee_ex & (~float_flag_underflow)
4945            , status);
4946
4947     if (ieee_ex & float_flag_overflow) {
4948         float_raise(float_flag_inexact, status);
4949         return (int64_t)a < 0 ? q_min : q_max;
4950     }
4951
4952     /* conversion to integer */
4953     q_val = float64_to_int64(a, status);
4954
4955     ieee_ex = get_float_exception_flags(status);
4956     set_float_exception_flags(ieee_ex & (~float_flag_underflow)
4957            , status);
4958
4959     if (ieee_ex & float_flag_invalid) {
4960         set_float_exception_flags(ieee_ex & (~float_flag_invalid)
4961                , status);
4962         float_raise(float_flag_overflow | float_flag_inexact, status);
4963         return (int64_t)a < 0 ? q_min : q_max;
4964     }
4965
4966     if (q_val < q_min) {
4967         float_raise(float_flag_overflow | float_flag_inexact, status);
4968         return (int32_t)q_min;
4969     }
4970
4971     if (q_max < q_val) {
4972         float_raise(float_flag_overflow | float_flag_inexact, status);
4973         return (int32_t)q_max;
4974     }
4975
4976     return (int32_t)q_val;
4977 }
4978
4979 #define MSA_FLOAT_COND(DEST, OP, ARG1, ARG2, BITS, QUIET)                   \
4980     do {                                                                    \
4981         float_status *status = &env->active_tc.msa_fp_status;               \
4982         int c;                                                              \
4983         int64_t cond;                                                       \
4984         set_float_exception_flags(0, status);                               \
4985         if (!QUIET) {                                                       \
4986             cond = float ## BITS ## _ ## OP(ARG1, ARG2, status);            \
4987         } else {                                                            \
4988             cond = float ## BITS ## _ ## OP ## _quiet(ARG1, ARG2, status);  \
4989         }                                                                   \
4990         DEST = cond ? M_MAX_UINT(BITS) : 0;                                 \
4991         c = update_msacsr(env, CLEAR_IS_INEXACT, 0);                        \
4992                                                                             \
4993         if (get_enabled_exceptions(env, c)) {                               \
4994             DEST = ((FLOAT_SNAN ## BITS(status) >> 6) << 6) | c;            \
4995         }                                                                   \
4996     } while (0)
4997
4998 #define MSA_FLOAT_AF(DEST, ARG1, ARG2, BITS, QUIET)                 \
4999     do {                                                            \
5000         MSA_FLOAT_COND(DEST, eq, ARG1, ARG2, BITS, QUIET);          \
5001         if ((DEST & M_MAX_UINT(BITS)) == M_MAX_UINT(BITS)) {        \
5002             DEST = 0;                                               \
5003         }                                                           \
5004     } while (0)
5005
5006 #define MSA_FLOAT_UEQ(DEST, ARG1, ARG2, BITS, QUIET)                \
5007     do {                                                            \
5008         MSA_FLOAT_COND(DEST, unordered, ARG1, ARG2, BITS, QUIET);   \
5009         if (DEST == 0) {                                            \
5010             MSA_FLOAT_COND(DEST, eq, ARG1, ARG2, BITS, QUIET);      \
5011         }                                                           \
5012     } while (0)
5013
5014 #define MSA_FLOAT_NE(DEST, ARG1, ARG2, BITS, QUIET)                 \
5015     do {                                                            \
5016         MSA_FLOAT_COND(DEST, lt, ARG1, ARG2, BITS, QUIET);          \
5017         if (DEST == 0) {                                            \
5018             MSA_FLOAT_COND(DEST, lt, ARG2, ARG1, BITS, QUIET);      \
5019         }                                                           \
5020     } while (0)
5021
5022 #define MSA_FLOAT_UNE(DEST, ARG1, ARG2, BITS, QUIET)                \
5023     do {                                                            \
5024         MSA_FLOAT_COND(DEST, unordered, ARG1, ARG2, BITS, QUIET);   \
5025         if (DEST == 0) {                                            \
5026             MSA_FLOAT_COND(DEST, lt, ARG1, ARG2, BITS, QUIET);      \
5027             if (DEST == 0) {                                        \
5028                 MSA_FLOAT_COND(DEST, lt, ARG2, ARG1, BITS, QUIET);  \
5029             }                                                       \
5030         }                                                           \
5031     } while (0)
5032
5033 #define MSA_FLOAT_ULE(DEST, ARG1, ARG2, BITS, QUIET)                \
5034     do {                                                            \
5035         MSA_FLOAT_COND(DEST, unordered, ARG1, ARG2, BITS, QUIET);   \
5036         if (DEST == 0) {                                            \
5037             MSA_FLOAT_COND(DEST, le, ARG1, ARG2, BITS, QUIET);      \
5038         }                                                           \
5039     } while (0)
5040
5041 #define MSA_FLOAT_ULT(DEST, ARG1, ARG2, BITS, QUIET)                \
5042     do {                                                            \
5043         MSA_FLOAT_COND(DEST, unordered, ARG1, ARG2, BITS, QUIET);   \
5044         if (DEST == 0) {                                            \
5045             MSA_FLOAT_COND(DEST, lt, ARG1, ARG2, BITS, QUIET);      \
5046         }                                                           \
5047     } while (0)
5048
5049 #define MSA_FLOAT_OR(DEST, ARG1, ARG2, BITS, QUIET)                 \
5050     do {                                                            \
5051         MSA_FLOAT_COND(DEST, le, ARG1, ARG2, BITS, QUIET);          \
5052         if (DEST == 0) {                                            \
5053             MSA_FLOAT_COND(DEST, le, ARG2, ARG1, BITS, QUIET);      \
5054         }                                                           \
5055     } while (0)
5056
5057 static inline void compare_af(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
5058                               wr_t *pwt, uint32_t df, int quiet,
5059                               uintptr_t retaddr)
5060 {
5061     wr_t wx, *pwx = &wx;
5062     uint32_t i;
5063
5064     clear_msacsr_cause(env);
5065
5066     switch (df) {
5067     case DF_WORD:
5068         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5069             MSA_FLOAT_AF(pwx->w[i], pws->w[i], pwt->w[i], 32, quiet);
5070         }
5071         break;
5072     case DF_DOUBLE:
5073         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5074             MSA_FLOAT_AF(pwx->d[i], pws->d[i], pwt->d[i], 64, quiet);
5075         }
5076         break;
5077     default:
5078         assert(0);
5079     }
5080
5081     check_msacsr_cause(env, retaddr);
5082
5083     msa_move_v(pwd, pwx);
5084 }
5085
5086 static inline void compare_un(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
5087                               wr_t *pwt, uint32_t df, int quiet,
5088                               uintptr_t retaddr)
5089 {
5090     wr_t wx, *pwx = &wx;
5091     uint32_t i;
5092
5093     clear_msacsr_cause(env);
5094
5095     switch (df) {
5096     case DF_WORD:
5097         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5098             MSA_FLOAT_COND(pwx->w[i], unordered, pws->w[i], pwt->w[i], 32,
5099                     quiet);
5100         }
5101         break;
5102     case DF_DOUBLE:
5103         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5104             MSA_FLOAT_COND(pwx->d[i], unordered, pws->d[i], pwt->d[i], 64,
5105                     quiet);
5106         }
5107         break;
5108     default:
5109         assert(0);
5110     }
5111
5112     check_msacsr_cause(env, retaddr);
5113
5114     msa_move_v(pwd, pwx);
5115 }
5116
5117 static inline void compare_eq(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
5118                               wr_t *pwt, uint32_t df, int quiet,
5119                               uintptr_t retaddr)
5120 {
5121     wr_t wx, *pwx = &wx;
5122     uint32_t i;
5123
5124     clear_msacsr_cause(env);
5125
5126     switch (df) {
5127     case DF_WORD:
5128         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5129             MSA_FLOAT_COND(pwx->w[i], eq, pws->w[i], pwt->w[i], 32, quiet);
5130         }
5131         break;
5132     case DF_DOUBLE:
5133         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5134             MSA_FLOAT_COND(pwx->d[i], eq, pws->d[i], pwt->d[i], 64, quiet);
5135         }
5136         break;
5137     default:
5138         assert(0);
5139     }
5140
5141     check_msacsr_cause(env, retaddr);
5142
5143     msa_move_v(pwd, pwx);
5144 }
5145
5146 static inline void compare_ueq(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
5147                                wr_t *pwt, uint32_t df, int quiet,
5148                                uintptr_t retaddr)
5149 {
5150     wr_t wx, *pwx = &wx;
5151     uint32_t i;
5152
5153     clear_msacsr_cause(env);
5154
5155     switch (df) {
5156     case DF_WORD:
5157         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5158             MSA_FLOAT_UEQ(pwx->w[i], pws->w[i], pwt->w[i], 32, quiet);
5159         }
5160         break;
5161     case DF_DOUBLE:
5162         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5163             MSA_FLOAT_UEQ(pwx->d[i], pws->d[i], pwt->d[i], 64, quiet);
5164         }
5165         break;
5166     default:
5167         assert(0);
5168     }
5169
5170     check_msacsr_cause(env, retaddr);
5171
5172     msa_move_v(pwd, pwx);
5173 }
5174
5175 static inline void compare_lt(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
5176                               wr_t *pwt, uint32_t df, int quiet,
5177                               uintptr_t retaddr)
5178 {
5179     wr_t wx, *pwx = &wx;
5180     uint32_t i;
5181
5182     clear_msacsr_cause(env);
5183
5184     switch (df) {
5185     case DF_WORD:
5186         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5187             MSA_FLOAT_COND(pwx->w[i], lt, pws->w[i], pwt->w[i], 32, quiet);
5188         }
5189         break;
5190     case DF_DOUBLE:
5191         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5192             MSA_FLOAT_COND(pwx->d[i], lt, pws->d[i], pwt->d[i], 64, quiet);
5193         }
5194         break;
5195     default:
5196         assert(0);
5197     }
5198
5199     check_msacsr_cause(env, retaddr);
5200
5201     msa_move_v(pwd, pwx);
5202 }
5203
5204 static inline void compare_ult(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
5205                                wr_t *pwt, uint32_t df, int quiet,
5206                                uintptr_t retaddr)
5207 {
5208     wr_t wx, *pwx = &wx;
5209     uint32_t i;
5210
5211     clear_msacsr_cause(env);
5212
5213     switch (df) {
5214     case DF_WORD:
5215         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5216             MSA_FLOAT_ULT(pwx->w[i], pws->w[i], pwt->w[i], 32, quiet);
5217         }
5218         break;
5219     case DF_DOUBLE:
5220         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5221             MSA_FLOAT_ULT(pwx->d[i], pws->d[i], pwt->d[i], 64, quiet);
5222         }
5223         break;
5224     default:
5225         assert(0);
5226     }
5227
5228     check_msacsr_cause(env, retaddr);
5229
5230     msa_move_v(pwd, pwx);
5231 }
5232
5233 static inline void compare_le(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
5234                               wr_t *pwt, uint32_t df, int quiet,
5235                               uintptr_t retaddr)
5236 {
5237     wr_t wx, *pwx = &wx;
5238     uint32_t i;
5239
5240     clear_msacsr_cause(env);
5241
5242     switch (df) {
5243     case DF_WORD:
5244         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5245             MSA_FLOAT_COND(pwx->w[i], le, pws->w[i], pwt->w[i], 32, quiet);
5246         }
5247         break;
5248     case DF_DOUBLE:
5249         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5250             MSA_FLOAT_COND(pwx->d[i], le, pws->d[i], pwt->d[i], 64, quiet);
5251         }
5252         break;
5253     default:
5254         assert(0);
5255     }
5256
5257     check_msacsr_cause(env, retaddr);
5258
5259     msa_move_v(pwd, pwx);
5260 }
5261
5262 static inline void compare_ule(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
5263                                wr_t *pwt, uint32_t df, int quiet,
5264                                uintptr_t retaddr)
5265 {
5266     wr_t wx, *pwx = &wx;
5267     uint32_t i;
5268
5269     clear_msacsr_cause(env);
5270
5271     switch (df) {
5272     case DF_WORD:
5273         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5274             MSA_FLOAT_ULE(pwx->w[i], pws->w[i], pwt->w[i], 32, quiet);
5275         }
5276         break;
5277     case DF_DOUBLE:
5278         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5279             MSA_FLOAT_ULE(pwx->d[i], pws->d[i], pwt->d[i], 64, quiet);
5280         }
5281         break;
5282     default:
5283         assert(0);
5284     }
5285
5286     check_msacsr_cause(env, retaddr);
5287
5288     msa_move_v(pwd, pwx);
5289 }
5290
5291 static inline void compare_or(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
5292                               wr_t *pwt, uint32_t df, int quiet,
5293                               uintptr_t retaddr)
5294 {
5295     wr_t wx, *pwx = &wx;
5296     uint32_t i;
5297
5298     clear_msacsr_cause(env);
5299
5300     switch (df) {
5301     case DF_WORD:
5302         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5303             MSA_FLOAT_OR(pwx->w[i], pws->w[i], pwt->w[i], 32, quiet);
5304         }
5305         break;
5306     case DF_DOUBLE:
5307         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5308             MSA_FLOAT_OR(pwx->d[i], pws->d[i], pwt->d[i], 64, quiet);
5309         }
5310         break;
5311     default:
5312         assert(0);
5313     }
5314
5315     check_msacsr_cause(env, retaddr);
5316
5317     msa_move_v(pwd, pwx);
5318 }
5319
5320 static inline void compare_une(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
5321                                wr_t *pwt, uint32_t df, int quiet,
5322                                uintptr_t retaddr)
5323 {
5324     wr_t wx, *pwx = &wx;
5325     uint32_t i;
5326
5327     clear_msacsr_cause(env);
5328
5329     switch (df) {
5330     case DF_WORD:
5331         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5332             MSA_FLOAT_UNE(pwx->w[i], pws->w[i], pwt->w[i], 32, quiet);
5333         }
5334         break;
5335     case DF_DOUBLE:
5336         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5337             MSA_FLOAT_UNE(pwx->d[i], pws->d[i], pwt->d[i], 64, quiet);
5338         }
5339         break;
5340     default:
5341         assert(0);
5342     }
5343
5344     check_msacsr_cause(env, retaddr);
5345
5346     msa_move_v(pwd, pwx);
5347 }
5348
5349 static inline void compare_ne(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
5350                               wr_t *pwt, uint32_t df, int quiet,
5351                               uintptr_t retaddr)
5352 {
5353     wr_t wx, *pwx = &wx;
5354     uint32_t i;
5355
5356     clear_msacsr_cause(env);
5357
5358     switch (df) {
5359     case DF_WORD:
5360         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5361             MSA_FLOAT_NE(pwx->w[i], pws->w[i], pwt->w[i], 32, quiet);
5362         }
5363         break;
5364     case DF_DOUBLE:
5365         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5366             MSA_FLOAT_NE(pwx->d[i], pws->d[i], pwt->d[i], 64, quiet);
5367         }
5368         break;
5369     default:
5370         assert(0);
5371     }
5372
5373     check_msacsr_cause(env, retaddr);
5374
5375     msa_move_v(pwd, pwx);
5376 }
5377
5378 void helper_msa_fcaf_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5379                         uint32_t ws, uint32_t wt)
5380 {
5381     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5382     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5383     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5384     compare_af(env, pwd, pws, pwt, df, 1, GETPC());
5385 }
5386
5387 void helper_msa_fcun_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5388                         uint32_t ws, uint32_t wt)
5389 {
5390     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5391     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5392     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5393     compare_un(env, pwd, pws, pwt, df, 1, GETPC());
5394 }
5395
5396 void helper_msa_fceq_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5397                         uint32_t ws, uint32_t wt)
5398 {
5399     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5400     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5401     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5402     compare_eq(env, pwd, pws, pwt, df, 1, GETPC());
5403 }
5404
5405 void helper_msa_fcueq_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5406                          uint32_t ws, uint32_t wt)
5407 {
5408     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5409     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5410     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5411     compare_ueq(env, pwd, pws, pwt, df, 1, GETPC());
5412 }
5413
5414 void helper_msa_fclt_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5415                         uint32_t ws, uint32_t wt)
5416 {
5417     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5418     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5419     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5420     compare_lt(env, pwd, pws, pwt, df, 1, GETPC());
5421 }
5422
5423 void helper_msa_fcult_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5424                          uint32_t ws, uint32_t wt)
5425 {
5426     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5427     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5428     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5429     compare_ult(env, pwd, pws, pwt, df, 1, GETPC());
5430 }
5431
5432 void helper_msa_fcle_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5433                         uint32_t ws, uint32_t wt)
5434 {
5435     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5436     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5437     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5438     compare_le(env, pwd, pws, pwt, df, 1, GETPC());
5439 }
5440
5441 void helper_msa_fcule_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5442                          uint32_t ws, uint32_t wt)
5443 {
5444     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5445     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5446     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5447     compare_ule(env, pwd, pws, pwt, df, 1, GETPC());
5448 }
5449
5450 void helper_msa_fsaf_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5451                         uint32_t ws, uint32_t wt)
5452 {
5453     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5454     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5455     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5456     compare_af(env, pwd, pws, pwt, df, 0, GETPC());
5457 }
5458
5459 void helper_msa_fsun_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5460                         uint32_t ws, uint32_t wt)
5461 {
5462     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5463     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5464     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5465     compare_un(env, pwd, pws, pwt, df, 0, GETPC());
5466 }
5467
5468 void helper_msa_fseq_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5469                         uint32_t ws, uint32_t wt)
5470 {
5471     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5472     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5473     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5474     compare_eq(env, pwd, pws, pwt, df, 0, GETPC());
5475 }
5476
5477 void helper_msa_fsueq_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5478                          uint32_t ws, uint32_t wt)
5479 {
5480     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5481     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5482     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5483     compare_ueq(env, pwd, pws, pwt, df, 0, GETPC());
5484 }
5485
5486 void helper_msa_fslt_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5487                         uint32_t ws, uint32_t wt)
5488 {
5489     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5490     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5491     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5492     compare_lt(env, pwd, pws, pwt, df, 0, GETPC());
5493 }
5494
5495 void helper_msa_fsult_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5496                          uint32_t ws, uint32_t wt)
5497 {
5498     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5499     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5500     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5501     compare_ult(env, pwd, pws, pwt, df, 0, GETPC());
5502 }
5503
5504 void helper_msa_fsle_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5505                         uint32_t ws, uint32_t wt)
5506 {
5507     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5508     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5509     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5510     compare_le(env, pwd, pws, pwt, df, 0, GETPC());
5511 }
5512
5513 void helper_msa_fsule_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5514                          uint32_t ws, uint32_t wt)
5515 {
5516     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5517     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5518     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5519     compare_ule(env, pwd, pws, pwt, df, 0, GETPC());
5520 }
5521
5522 void helper_msa_fcor_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5523                         uint32_t ws, uint32_t wt)
5524 {
5525     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5526     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5527     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5528     compare_or(env, pwd, pws, pwt, df, 1, GETPC());
5529 }
5530
5531 void helper_msa_fcune_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5532                          uint32_t ws, uint32_t wt)
5533 {
5534     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5535     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5536     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5537     compare_une(env, pwd, pws, pwt, df, 1, GETPC());
5538 }
5539
5540 void helper_msa_fcne_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5541                         uint32_t ws, uint32_t wt)
5542 {
5543     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5544     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5545     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5546     compare_ne(env, pwd, pws, pwt, df, 1, GETPC());
5547 }
5548
5549 void helper_msa_fsor_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5550                         uint32_t ws, uint32_t wt)
5551 {
5552     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5553     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5554     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5555     compare_or(env, pwd, pws, pwt, df, 0, GETPC());
5556 }
5557
5558 void helper_msa_fsune_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5559                          uint32_t ws, uint32_t wt)
5560 {
5561     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5562     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5563     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5564     compare_une(env, pwd, pws, pwt, df, 0, GETPC());
5565 }
5566
5567 void helper_msa_fsne_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5568                         uint32_t ws, uint32_t wt)
5569 {
5570     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5571     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5572     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5573     compare_ne(env, pwd, pws, pwt, df, 0, GETPC());
5574 }
5575
5576 #define float16_is_zero(ARG) 0
5577 #define float16_is_zero_or_denormal(ARG) 0
5578
5579 #define IS_DENORMAL(ARG, BITS)                      \
5580     (!float ## BITS ## _is_zero(ARG)                \
5581     && float ## BITS ## _is_zero_or_denormal(ARG))
5582
5583 #define MSA_FLOAT_BINOP(DEST, OP, ARG1, ARG2, BITS)                         \
5584     do {                                                                    \
5585         float_status *status = &env->active_tc.msa_fp_status;               \
5586         int c;                                                              \
5587                                                                             \
5588         set_float_exception_flags(0, status);                               \
5589         DEST = float ## BITS ## _ ## OP(ARG1, ARG2, status);                \
5590         c = update_msacsr(env, 0, IS_DENORMAL(DEST, BITS));                 \
5591                                                                             \
5592         if (get_enabled_exceptions(env, c)) {                               \
5593             DEST = ((FLOAT_SNAN ## BITS(status) >> 6) << 6) | c;            \
5594         }                                                                   \
5595     } while (0)
5596
5597 void helper_msa_fadd_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5598         uint32_t ws, uint32_t wt)
5599 {
5600     wr_t wx, *pwx = &wx;
5601     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5602     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5603     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5604     uint32_t i;
5605
5606     clear_msacsr_cause(env);
5607
5608     switch (df) {
5609     case DF_WORD:
5610         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5611             MSA_FLOAT_BINOP(pwx->w[i], add, pws->w[i], pwt->w[i], 32);
5612         }
5613         break;
5614     case DF_DOUBLE:
5615         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5616             MSA_FLOAT_BINOP(pwx->d[i], add, pws->d[i], pwt->d[i], 64);
5617         }
5618         break;
5619     default:
5620         assert(0);
5621     }
5622
5623     check_msacsr_cause(env, GETPC());
5624     msa_move_v(pwd, pwx);
5625 }
5626
5627 void helper_msa_fsub_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5628         uint32_t ws, uint32_t wt)
5629 {
5630     wr_t wx, *pwx = &wx;
5631     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5632     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5633     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5634     uint32_t i;
5635
5636     clear_msacsr_cause(env);
5637
5638     switch (df) {
5639     case DF_WORD:
5640         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5641             MSA_FLOAT_BINOP(pwx->w[i], sub, pws->w[i], pwt->w[i], 32);
5642         }
5643         break;
5644     case DF_DOUBLE:
5645         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5646             MSA_FLOAT_BINOP(pwx->d[i], sub, pws->d[i], pwt->d[i], 64);
5647         }
5648         break;
5649     default:
5650         assert(0);
5651     }
5652
5653     check_msacsr_cause(env, GETPC());
5654     msa_move_v(pwd, pwx);
5655 }
5656
5657 void helper_msa_fmul_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5658         uint32_t ws, uint32_t wt)
5659 {
5660     wr_t wx, *pwx = &wx;
5661     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5662     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5663     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5664     uint32_t i;
5665
5666     clear_msacsr_cause(env);
5667
5668     switch (df) {
5669     case DF_WORD:
5670         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5671             MSA_FLOAT_BINOP(pwx->w[i], mul, pws->w[i], pwt->w[i], 32);
5672         }
5673         break;
5674     case DF_DOUBLE:
5675         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5676             MSA_FLOAT_BINOP(pwx->d[i], mul, pws->d[i], pwt->d[i], 64);
5677         }
5678         break;
5679     default:
5680         assert(0);
5681     }
5682
5683     check_msacsr_cause(env, GETPC());
5684
5685     msa_move_v(pwd, pwx);
5686 }
5687
5688 void helper_msa_fdiv_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5689         uint32_t ws, uint32_t wt)
5690 {
5691     wr_t wx, *pwx = &wx;
5692     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5693     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5694     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5695     uint32_t i;
5696
5697     clear_msacsr_cause(env);
5698
5699     switch (df) {
5700     case DF_WORD:
5701         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5702             MSA_FLOAT_BINOP(pwx->w[i], div, pws->w[i], pwt->w[i], 32);
5703         }
5704         break;
5705     case DF_DOUBLE:
5706         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5707             MSA_FLOAT_BINOP(pwx->d[i], div, pws->d[i], pwt->d[i], 64);
5708         }
5709         break;
5710     default:
5711         assert(0);
5712     }
5713
5714     check_msacsr_cause(env, GETPC());
5715
5716     msa_move_v(pwd, pwx);
5717 }
5718
5719 #define MSA_FLOAT_MULADD(DEST, ARG1, ARG2, ARG3, NEGATE, BITS)              \
5720     do {                                                                    \
5721         float_status *status = &env->active_tc.msa_fp_status;               \
5722         int c;                                                              \
5723                                                                             \
5724         set_float_exception_flags(0, status);                               \
5725         DEST = float ## BITS ## _muladd(ARG2, ARG3, ARG1, NEGATE, status);  \
5726         c = update_msacsr(env, 0, IS_DENORMAL(DEST, BITS));                 \
5727                                                                             \
5728         if (get_enabled_exceptions(env, c)) {                               \
5729             DEST = ((FLOAT_SNAN ## BITS(status) >> 6) << 6) | c;            \
5730         }                                                                   \
5731     } while (0)
5732
5733 void helper_msa_fmadd_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5734         uint32_t ws, uint32_t wt)
5735 {
5736     wr_t wx, *pwx = &wx;
5737     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5738     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5739     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5740     uint32_t i;
5741
5742     clear_msacsr_cause(env);
5743
5744     switch (df) {
5745     case DF_WORD:
5746         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5747             MSA_FLOAT_MULADD(pwx->w[i], pwd->w[i],
5748                            pws->w[i], pwt->w[i], 0, 32);
5749         }
5750         break;
5751     case DF_DOUBLE:
5752         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5753             MSA_FLOAT_MULADD(pwx->d[i], pwd->d[i],
5754                            pws->d[i], pwt->d[i], 0, 64);
5755         }
5756         break;
5757     default:
5758         assert(0);
5759     }
5760
5761     check_msacsr_cause(env, GETPC());
5762
5763     msa_move_v(pwd, pwx);
5764 }
5765
5766 void helper_msa_fmsub_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5767         uint32_t ws, uint32_t wt)
5768 {
5769     wr_t wx, *pwx = &wx;
5770     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5771     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5772     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5773     uint32_t i;
5774
5775     clear_msacsr_cause(env);
5776
5777     switch (df) {
5778     case DF_WORD:
5779         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5780             MSA_FLOAT_MULADD(pwx->w[i], pwd->w[i],
5781                            pws->w[i], pwt->w[i],
5782                            float_muladd_negate_product, 32);
5783       }
5784       break;
5785     case DF_DOUBLE:
5786         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5787             MSA_FLOAT_MULADD(pwx->d[i], pwd->d[i],
5788                            pws->d[i], pwt->d[i],
5789                            float_muladd_negate_product, 64);
5790         }
5791         break;
5792     default:
5793         assert(0);
5794     }
5795
5796     check_msacsr_cause(env, GETPC());
5797
5798     msa_move_v(pwd, pwx);
5799 }
5800
5801 void helper_msa_fexp2_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5802         uint32_t ws, uint32_t wt)
5803 {
5804     wr_t wx, *pwx = &wx;
5805     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5806     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5807     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5808     uint32_t i;
5809
5810     clear_msacsr_cause(env);
5811
5812     switch (df) {
5813     case DF_WORD:
5814         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5815             MSA_FLOAT_BINOP(pwx->w[i], scalbn, pws->w[i],
5816                             pwt->w[i] >  0x200 ?  0x200 :
5817                             pwt->w[i] < -0x200 ? -0x200 : pwt->w[i],
5818                             32);
5819         }
5820         break;
5821     case DF_DOUBLE:
5822         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5823             MSA_FLOAT_BINOP(pwx->d[i], scalbn, pws->d[i],
5824                             pwt->d[i] >  0x1000 ?  0x1000 :
5825                             pwt->d[i] < -0x1000 ? -0x1000 : pwt->d[i],
5826                             64);
5827         }
5828         break;
5829     default:
5830         assert(0);
5831     }
5832
5833     check_msacsr_cause(env, GETPC());
5834
5835     msa_move_v(pwd, pwx);
5836 }
5837
5838 #define MSA_FLOAT_UNOP(DEST, OP, ARG, BITS)                                 \
5839     do {                                                                    \
5840         float_status *status = &env->active_tc.msa_fp_status;               \
5841         int c;                                                              \
5842                                                                             \
5843         set_float_exception_flags(0, status);                               \
5844         DEST = float ## BITS ## _ ## OP(ARG, status);                       \
5845         c = update_msacsr(env, 0, IS_DENORMAL(DEST, BITS));                 \
5846                                                                             \
5847         if (get_enabled_exceptions(env, c)) {                               \
5848             DEST = ((FLOAT_SNAN ## BITS(status) >> 6) << 6) | c;            \
5849         }                                                                   \
5850     } while (0)
5851
5852 void helper_msa_fexdo_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5853                          uint32_t ws, uint32_t wt)
5854 {
5855     wr_t wx, *pwx = &wx;
5856     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5857     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5858     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5859     uint32_t i;
5860
5861     clear_msacsr_cause(env);
5862
5863     switch (df) {
5864     case DF_WORD:
5865         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5866             /*
5867              * Half precision floats come in two formats: standard
5868              * IEEE and "ARM" format.  The latter gains extra exponent
5869              * range by omitting the NaN/Inf encodings.
5870              */
5871             flag ieee = 1;
5872
5873             MSA_FLOAT_BINOP(Lh(pwx, i), from_float32, pws->w[i], ieee, 16);
5874             MSA_FLOAT_BINOP(Rh(pwx, i), from_float32, pwt->w[i], ieee, 16);
5875         }
5876         break;
5877     case DF_DOUBLE:
5878         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5879             MSA_FLOAT_UNOP(Lw(pwx, i), from_float64, pws->d[i], 32);
5880             MSA_FLOAT_UNOP(Rw(pwx, i), from_float64, pwt->d[i], 32);
5881         }
5882         break;
5883     default:
5884         assert(0);
5885     }
5886
5887     check_msacsr_cause(env, GETPC());
5888     msa_move_v(pwd, pwx);
5889 }
5890
5891 #define MSA_FLOAT_UNOP_XD(DEST, OP, ARG, BITS, XBITS)                       \
5892     do {                                                                    \
5893         float_status *status = &env->active_tc.msa_fp_status;               \
5894         int c;                                                              \
5895                                                                             \
5896         set_float_exception_flags(0, status);                               \
5897         DEST = float ## BITS ## _ ## OP(ARG, status);                       \
5898         c = update_msacsr(env, CLEAR_FS_UNDERFLOW, 0);                      \
5899                                                                             \
5900         if (get_enabled_exceptions(env, c)) {                               \
5901             DEST = ((FLOAT_SNAN ## XBITS(status) >> 6) << 6) | c;           \
5902         }                                                                   \
5903     } while (0)
5904
5905 void helper_msa_ftq_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5906                        uint32_t ws, uint32_t wt)
5907 {
5908     wr_t wx, *pwx = &wx;
5909     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5910     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5911     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5912     uint32_t i;
5913
5914     clear_msacsr_cause(env);
5915
5916     switch (df) {
5917     case DF_WORD:
5918         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5919             MSA_FLOAT_UNOP_XD(Lh(pwx, i), to_q16, pws->w[i], 32, 16);
5920             MSA_FLOAT_UNOP_XD(Rh(pwx, i), to_q16, pwt->w[i], 32, 16);
5921         }
5922         break;
5923     case DF_DOUBLE:
5924         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5925             MSA_FLOAT_UNOP_XD(Lw(pwx, i), to_q32, pws->d[i], 64, 32);
5926             MSA_FLOAT_UNOP_XD(Rw(pwx, i), to_q32, pwt->d[i], 64, 32);
5927         }
5928         break;
5929     default:
5930         assert(0);
5931     }
5932
5933     check_msacsr_cause(env, GETPC());
5934
5935     msa_move_v(pwd, pwx);
5936 }
5937
5938 #define NUMBER_QNAN_PAIR(ARG1, ARG2, BITS, STATUS)      \
5939     !float ## BITS ## _is_any_nan(ARG1)                 \
5940     && float ## BITS ## _is_quiet_nan(ARG2, STATUS)
5941
5942 #define MSA_FLOAT_MAXOP(DEST, OP, ARG1, ARG2, BITS)                         \
5943     do {                                                                    \
5944         float_status *status = &env->active_tc.msa_fp_status;               \
5945         int c;                                                              \
5946                                                                             \
5947         set_float_exception_flags(0, status);                               \
5948         DEST = float ## BITS ## _ ## OP(ARG1, ARG2, status);                \
5949         c = update_msacsr(env, 0, 0);                                       \
5950                                                                             \
5951         if (get_enabled_exceptions(env, c)) {                               \
5952             DEST = ((FLOAT_SNAN ## BITS(status) >> 6) << 6) | c;            \
5953         }                                                                   \
5954     } while (0)
5955
5956 #define FMAXMIN_A(F, G, X, _S, _T, BITS, STATUS)                    \
5957     do {                                                            \
5958         uint## BITS ##_t S = _S, T = _T;                            \
5959         uint## BITS ##_t as, at, xs, xt, xd;                        \
5960         if (NUMBER_QNAN_PAIR(S, T, BITS, STATUS)) {                 \
5961             T = S;                                                  \
5962         }                                                           \
5963         else if (NUMBER_QNAN_PAIR(T, S, BITS, STATUS)) {            \
5964             S = T;                                                  \
5965         }                                                           \
5966         as = float## BITS ##_abs(S);                                \
5967         at = float## BITS ##_abs(T);                                \
5968         MSA_FLOAT_MAXOP(xs, F,  S,  T, BITS);                       \
5969         MSA_FLOAT_MAXOP(xt, G,  S,  T, BITS);                       \
5970         MSA_FLOAT_MAXOP(xd, F, as, at, BITS);                       \
5971         X = (as == at || xd == float## BITS ##_abs(xs)) ? xs : xt;  \
5972     } while (0)
5973
5974 void helper_msa_fmin_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5975         uint32_t ws, uint32_t wt)
5976 {
5977     float_status *status = &env->active_tc.msa_fp_status;
5978     wr_t wx, *pwx = &wx;
5979     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5980     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5981     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
5982
5983     clear_msacsr_cause(env);
5984
5985     if (df == DF_WORD) {
5986
5987         if (NUMBER_QNAN_PAIR(pws->w[0], pwt->w[0], 32, status)) {
5988             MSA_FLOAT_MAXOP(pwx->w[0], min, pws->w[0], pws->w[0], 32);
5989         } else if (NUMBER_QNAN_PAIR(pwt->w[0], pws->w[0], 32, status)) {
5990             MSA_FLOAT_MAXOP(pwx->w[0], min, pwt->w[0], pwt->w[0], 32);
5991         } else {
5992             MSA_FLOAT_MAXOP(pwx->w[0], min, pws->w[0], pwt->w[0], 32);
5993         }
5994
5995         if (NUMBER_QNAN_PAIR(pws->w[1], pwt->w[1], 32, status)) {
5996             MSA_FLOAT_MAXOP(pwx->w[1], min, pws->w[1], pws->w[1], 32);
5997         } else if (NUMBER_QNAN_PAIR(pwt->w[1], pws->w[1], 32, status)) {
5998             MSA_FLOAT_MAXOP(pwx->w[1], min, pwt->w[1], pwt->w[1], 32);
5999         } else {
6000             MSA_FLOAT_MAXOP(pwx->w[1], min, pws->w[1], pwt->w[1], 32);
6001         }
6002
6003         if (NUMBER_QNAN_PAIR(pws->w[2], pwt->w[2], 32, status)) {
6004             MSA_FLOAT_MAXOP(pwx->w[2], min, pws->w[2], pws->w[2], 32);
6005         } else if (NUMBER_QNAN_PAIR(pwt->w[2], pws->w[2], 32, status)) {
6006             MSA_FLOAT_MAXOP(pwx->w[2], min, pwt->w[2], pwt->w[2], 32);
6007         } else {
6008             MSA_FLOAT_MAXOP(pwx->w[2], min, pws->w[2], pwt->w[2], 32);
6009         }
6010
6011         if (NUMBER_QNAN_PAIR(pws->w[3], pwt->w[3], 32, status)) {
6012             MSA_FLOAT_MAXOP(pwx->w[3], min, pws->w[3], pws->w[3], 32);
6013         } else if (NUMBER_QNAN_PAIR(pwt->w[3], pws->w[3], 32, status)) {
6014             MSA_FLOAT_MAXOP(pwx->w[3], min, pwt->w[3], pwt->w[3], 32);
6015         } else {
6016             MSA_FLOAT_MAXOP(pwx->w[3], min, pws->w[3], pwt->w[3], 32);
6017         }
6018
6019     } else if (df == DF_DOUBLE) {
6020
6021         if (NUMBER_QNAN_PAIR(pws->d[0], pwt->d[0], 64, status)) {
6022             MSA_FLOAT_MAXOP(pwx->d[0], min, pws->d[0], pws->d[0], 64);
6023         } else if (NUMBER_QNAN_PAIR(pwt->d[0], pws->d[0], 64, status)) {
6024             MSA_FLOAT_MAXOP(pwx->d[0], min, pwt->d[0], pwt->d[0], 64);
6025         } else {
6026             MSA_FLOAT_MAXOP(pwx->d[0], min, pws->d[0], pwt->d[0], 64);
6027         }
6028
6029         if (NUMBER_QNAN_PAIR(pws->d[1], pwt->d[1], 64, status)) {
6030             MSA_FLOAT_MAXOP(pwx->d[1], min, pws->d[1], pws->d[1], 64);
6031         } else if (NUMBER_QNAN_PAIR(pwt->d[1], pws->d[1], 64, status)) {
6032             MSA_FLOAT_MAXOP(pwx->d[1], min, pwt->d[1], pwt->d[1], 64);
6033         } else {
6034             MSA_FLOAT_MAXOP(pwx->d[1], min, pws->d[1], pwt->d[1], 64);
6035         }
6036
6037     } else {
6038
6039         assert(0);
6040
6041     }
6042
6043     check_msacsr_cause(env, GETPC());
6044
6045     msa_move_v(pwd, pwx);
6046 }
6047
6048 void helper_msa_fmin_a_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6049         uint32_t ws, uint32_t wt)
6050 {
6051     float_status *status = &env->active_tc.msa_fp_status;
6052     wr_t wx, *pwx = &wx;
6053     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6054     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6055     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6056
6057     clear_msacsr_cause(env);
6058
6059     if (df == DF_WORD) {
6060         FMAXMIN_A(min, max, pwx->w[0], pws->w[0], pwt->w[0], 32, status);
6061         FMAXMIN_A(min, max, pwx->w[1], pws->w[1], pwt->w[1], 32, status);
6062         FMAXMIN_A(min, max, pwx->w[2], pws->w[2], pwt->w[2], 32, status);
6063         FMAXMIN_A(min, max, pwx->w[3], pws->w[3], pwt->w[3], 32, status);
6064     } else if (df == DF_DOUBLE) {
6065         FMAXMIN_A(min, max, pwx->d[0], pws->d[0], pwt->d[0], 64, status);
6066         FMAXMIN_A(min, max, pwx->d[1], pws->d[1], pwt->d[1], 64, status);
6067     } else {
6068         assert(0);
6069     }
6070
6071     check_msacsr_cause(env, GETPC());
6072
6073     msa_move_v(pwd, pwx);
6074 }
6075
6076 void helper_msa_fmax_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6077         uint32_t ws, uint32_t wt)
6078 {
6079      float_status *status = &env->active_tc.msa_fp_status;
6080     wr_t wx, *pwx = &wx;
6081     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6082     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6083     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6084
6085     clear_msacsr_cause(env);
6086
6087     if (df == DF_WORD) {
6088
6089         if (NUMBER_QNAN_PAIR(pws->w[0], pwt->w[0], 32, status)) {
6090             MSA_FLOAT_MAXOP(pwx->w[0], max, pws->w[0], pws->w[0], 32);
6091         } else if (NUMBER_QNAN_PAIR(pwt->w[0], pws->w[0], 32, status)) {
6092             MSA_FLOAT_MAXOP(pwx->w[0], max, pwt->w[0], pwt->w[0], 32);
6093         } else {
6094             MSA_FLOAT_MAXOP(pwx->w[0], max, pws->w[0], pwt->w[0], 32);
6095         }
6096
6097         if (NUMBER_QNAN_PAIR(pws->w[1], pwt->w[1], 32, status)) {
6098             MSA_FLOAT_MAXOP(pwx->w[1], max, pws->w[1], pws->w[1], 32);
6099         } else if (NUMBER_QNAN_PAIR(pwt->w[1], pws->w[1], 32, status)) {
6100             MSA_FLOAT_MAXOP(pwx->w[1], max, pwt->w[1], pwt->w[1], 32);
6101         } else {
6102             MSA_FLOAT_MAXOP(pwx->w[1], max, pws->w[1], pwt->w[1], 32);
6103         }
6104
6105         if (NUMBER_QNAN_PAIR(pws->w[2], pwt->w[2], 32, status)) {
6106             MSA_FLOAT_MAXOP(pwx->w[2], max, pws->w[2], pws->w[2], 32);
6107         } else if (NUMBER_QNAN_PAIR(pwt->w[2], pws->w[2], 32, status)) {
6108             MSA_FLOAT_MAXOP(pwx->w[2], max, pwt->w[2], pwt->w[2], 32);
6109         } else {
6110             MSA_FLOAT_MAXOP(pwx->w[2], max, pws->w[2], pwt->w[2], 32);
6111         }
6112
6113         if (NUMBER_QNAN_PAIR(pws->w[3], pwt->w[3], 32, status)) {
6114             MSA_FLOAT_MAXOP(pwx->w[3], max, pws->w[3], pws->w[3], 32);
6115         } else if (NUMBER_QNAN_PAIR(pwt->w[3], pws->w[3], 32, status)) {
6116             MSA_FLOAT_MAXOP(pwx->w[3], max, pwt->w[3], pwt->w[3], 32);
6117         } else {
6118             MSA_FLOAT_MAXOP(pwx->w[3], max, pws->w[3], pwt->w[3], 32);
6119         }
6120
6121     } else if (df == DF_DOUBLE) {
6122
6123         if (NUMBER_QNAN_PAIR(pws->d[0], pwt->d[0], 64, status)) {
6124             MSA_FLOAT_MAXOP(pwx->d[0], max, pws->d[0], pws->d[0], 64);
6125         } else if (NUMBER_QNAN_PAIR(pwt->d[0], pws->d[0], 64, status)) {
6126             MSA_FLOAT_MAXOP(pwx->d[0], max, pwt->d[0], pwt->d[0], 64);
6127         } else {
6128             MSA_FLOAT_MAXOP(pwx->d[0], max, pws->d[0], pwt->d[0], 64);
6129         }
6130
6131         if (NUMBER_QNAN_PAIR(pws->d[1], pwt->d[1], 64, status)) {
6132             MSA_FLOAT_MAXOP(pwx->d[1], max, pws->d[1], pws->d[1], 64);
6133         } else if (NUMBER_QNAN_PAIR(pwt->d[1], pws->d[1], 64, status)) {
6134             MSA_FLOAT_MAXOP(pwx->d[1], max, pwt->d[1], pwt->d[1], 64);
6135         } else {
6136             MSA_FLOAT_MAXOP(pwx->d[1], max, pws->d[1], pwt->d[1], 64);
6137         }
6138
6139     } else {
6140
6141         assert(0);
6142
6143     }
6144
6145     check_msacsr_cause(env, GETPC());
6146
6147     msa_move_v(pwd, pwx);
6148 }
6149
6150 void helper_msa_fmax_a_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6151         uint32_t ws, uint32_t wt)
6152 {
6153     float_status *status = &env->active_tc.msa_fp_status;
6154     wr_t wx, *pwx = &wx;
6155     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6156     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6157     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6158
6159     clear_msacsr_cause(env);
6160
6161     if (df == DF_WORD) {
6162         FMAXMIN_A(max, min, pwx->w[0], pws->w[0], pwt->w[0], 32, status);
6163         FMAXMIN_A(max, min, pwx->w[1], pws->w[1], pwt->w[1], 32, status);
6164         FMAXMIN_A(max, min, pwx->w[2], pws->w[2], pwt->w[2], 32, status);
6165         FMAXMIN_A(max, min, pwx->w[3], pws->w[3], pwt->w[3], 32, status);
6166     } else if (df == DF_DOUBLE) {
6167         FMAXMIN_A(max, min, pwx->d[0], pws->d[0], pwt->d[0], 64, status);
6168         FMAXMIN_A(max, min, pwx->d[1], pws->d[1], pwt->d[1], 64, status);
6169     } else {
6170         assert(0);
6171     }
6172
6173     check_msacsr_cause(env, GETPC());
6174
6175     msa_move_v(pwd, pwx);
6176 }
6177
6178 void helper_msa_fclass_df(CPUMIPSState *env, uint32_t df,
6179         uint32_t wd, uint32_t ws)
6180 {
6181     float_status *status = &env->active_tc.msa_fp_status;
6182
6183     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6184     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6185     if (df == DF_WORD) {
6186         pwd->w[0] = float_class_s(pws->w[0], status);
6187         pwd->w[1] = float_class_s(pws->w[1], status);
6188         pwd->w[2] = float_class_s(pws->w[2], status);
6189         pwd->w[3] = float_class_s(pws->w[3], status);
6190     } else if (df == DF_DOUBLE) {
6191         pwd->d[0] = float_class_d(pws->d[0], status);
6192         pwd->d[1] = float_class_d(pws->d[1], status);
6193     } else {
6194         assert(0);
6195     }
6196 }
6197
6198 #define MSA_FLOAT_UNOP0(DEST, OP, ARG, BITS)                                \
6199     do {                                                                    \
6200         float_status *status = &env->active_tc.msa_fp_status;               \
6201         int c;                                                              \
6202                                                                             \
6203         set_float_exception_flags(0, status);                               \
6204         DEST = float ## BITS ## _ ## OP(ARG, status);                       \
6205         c = update_msacsr(env, CLEAR_FS_UNDERFLOW, 0);                      \
6206                                                                             \
6207         if (get_enabled_exceptions(env, c)) {                               \
6208             DEST = ((FLOAT_SNAN ## BITS(status) >> 6) << 6) | c;            \
6209         } else if (float ## BITS ## _is_any_nan(ARG)) {                     \
6210             DEST = 0;                                                       \
6211         }                                                                   \
6212     } while (0)
6213
6214 void helper_msa_ftrunc_s_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6215                             uint32_t ws)
6216 {
6217     wr_t wx, *pwx = &wx;
6218     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6219     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6220     uint32_t i;
6221
6222     clear_msacsr_cause(env);
6223
6224     switch (df) {
6225     case DF_WORD:
6226         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6227             MSA_FLOAT_UNOP0(pwx->w[i], to_int32_round_to_zero, pws->w[i], 32);
6228         }
6229         break;
6230     case DF_DOUBLE:
6231         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6232             MSA_FLOAT_UNOP0(pwx->d[i], to_int64_round_to_zero, pws->d[i], 64);
6233         }
6234         break;
6235     default:
6236         assert(0);
6237     }
6238
6239     check_msacsr_cause(env, GETPC());
6240
6241     msa_move_v(pwd, pwx);
6242 }
6243
6244 void helper_msa_ftrunc_u_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6245                             uint32_t ws)
6246 {
6247     wr_t wx, *pwx = &wx;
6248     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6249     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6250     uint32_t i;
6251
6252     clear_msacsr_cause(env);
6253
6254     switch (df) {
6255     case DF_WORD:
6256         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6257             MSA_FLOAT_UNOP0(pwx->w[i], to_uint32_round_to_zero, pws->w[i], 32);
6258         }
6259         break;
6260     case DF_DOUBLE:
6261         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6262             MSA_FLOAT_UNOP0(pwx->d[i], to_uint64_round_to_zero, pws->d[i], 64);
6263         }
6264         break;
6265     default:
6266         assert(0);
6267     }
6268
6269     check_msacsr_cause(env, GETPC());
6270
6271     msa_move_v(pwd, pwx);
6272 }
6273
6274 void helper_msa_fsqrt_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6275                          uint32_t ws)
6276 {
6277     wr_t wx, *pwx = &wx;
6278     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6279     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6280     uint32_t i;
6281
6282     clear_msacsr_cause(env);
6283
6284     switch (df) {
6285     case DF_WORD:
6286         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6287             MSA_FLOAT_UNOP(pwx->w[i], sqrt, pws->w[i], 32);
6288         }
6289         break;
6290     case DF_DOUBLE:
6291         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6292             MSA_FLOAT_UNOP(pwx->d[i], sqrt, pws->d[i], 64);
6293         }
6294         break;
6295     default:
6296         assert(0);
6297     }
6298
6299     check_msacsr_cause(env, GETPC());
6300
6301     msa_move_v(pwd, pwx);
6302 }
6303
6304 #define MSA_FLOAT_RECIPROCAL(DEST, ARG, BITS)                               \
6305     do {                                                                    \
6306         float_status *status = &env->active_tc.msa_fp_status;               \
6307         int c;                                                              \
6308                                                                             \
6309         set_float_exception_flags(0, status);                               \
6310         DEST = float ## BITS ## _ ## div(FLOAT_ONE ## BITS, ARG, status);   \
6311         c = update_msacsr(env, float ## BITS ## _is_infinity(ARG) ||        \
6312                           float ## BITS ## _is_quiet_nan(DEST, status) ?    \
6313                           0 : RECIPROCAL_INEXACT,                           \
6314                           IS_DENORMAL(DEST, BITS));                         \
6315                                                                             \
6316         if (get_enabled_exceptions(env, c)) {                               \
6317             DEST = ((FLOAT_SNAN ## BITS(status) >> 6) << 6) | c;            \
6318         }                                                                   \
6319     } while (0)
6320
6321 void helper_msa_frsqrt_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6322                           uint32_t ws)
6323 {
6324     wr_t wx, *pwx = &wx;
6325     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6326     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6327     uint32_t i;
6328
6329     clear_msacsr_cause(env);
6330
6331     switch (df) {
6332     case DF_WORD:
6333         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6334             MSA_FLOAT_RECIPROCAL(pwx->w[i], float32_sqrt(pws->w[i],
6335                     &env->active_tc.msa_fp_status), 32);
6336         }
6337         break;
6338     case DF_DOUBLE:
6339         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6340             MSA_FLOAT_RECIPROCAL(pwx->d[i], float64_sqrt(pws->d[i],
6341                     &env->active_tc.msa_fp_status), 64);
6342         }
6343         break;
6344     default:
6345         assert(0);
6346     }
6347
6348     check_msacsr_cause(env, GETPC());
6349
6350     msa_move_v(pwd, pwx);
6351 }
6352
6353 void helper_msa_frcp_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6354                         uint32_t ws)
6355 {
6356     wr_t wx, *pwx = &wx;
6357     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6358     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6359     uint32_t i;
6360
6361     clear_msacsr_cause(env);
6362
6363     switch (df) {
6364     case DF_WORD:
6365         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6366             MSA_FLOAT_RECIPROCAL(pwx->w[i], pws->w[i], 32);
6367         }
6368         break;
6369     case DF_DOUBLE:
6370         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6371             MSA_FLOAT_RECIPROCAL(pwx->d[i], pws->d[i], 64);
6372         }
6373         break;
6374     default:
6375         assert(0);
6376     }
6377
6378     check_msacsr_cause(env, GETPC());
6379
6380     msa_move_v(pwd, pwx);
6381 }
6382
6383 void helper_msa_frint_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6384                          uint32_t ws)
6385 {
6386     wr_t wx, *pwx = &wx;
6387     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6388     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6389     uint32_t i;
6390
6391     clear_msacsr_cause(env);
6392
6393     switch (df) {
6394     case DF_WORD:
6395         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6396             MSA_FLOAT_UNOP(pwx->w[i], round_to_int, pws->w[i], 32);
6397         }
6398         break;
6399     case DF_DOUBLE:
6400         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6401             MSA_FLOAT_UNOP(pwx->d[i], round_to_int, pws->d[i], 64);
6402         }
6403         break;
6404     default:
6405         assert(0);
6406     }
6407
6408     check_msacsr_cause(env, GETPC());
6409
6410     msa_move_v(pwd, pwx);
6411 }
6412
6413 #define MSA_FLOAT_LOGB(DEST, ARG, BITS)                                     \
6414     do {                                                                    \
6415         float_status *status = &env->active_tc.msa_fp_status;               \
6416         int c;                                                              \
6417                                                                             \
6418         set_float_exception_flags(0, status);                               \
6419         set_float_rounding_mode(float_round_down, status);                  \
6420         DEST = float ## BITS ## _ ## log2(ARG, status);                     \
6421         DEST = float ## BITS ## _ ## round_to_int(DEST, status);            \
6422         set_float_rounding_mode(ieee_rm[(env->active_tc.msacsr &            \
6423                                          MSACSR_RM_MASK) >> MSACSR_RM],     \
6424                                 status);                                    \
6425                                                                             \
6426         set_float_exception_flags(get_float_exception_flags(status) &       \
6427                                   (~float_flag_inexact),                    \
6428                                   status);                                  \
6429                                                                             \
6430         c = update_msacsr(env, 0, IS_DENORMAL(DEST, BITS));                 \
6431                                                                             \
6432         if (get_enabled_exceptions(env, c)) {                               \
6433             DEST = ((FLOAT_SNAN ## BITS(status) >> 6) << 6) | c;            \
6434         }                                                                   \
6435     } while (0)
6436
6437 void helper_msa_flog2_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6438                          uint32_t ws)
6439 {
6440     wr_t wx, *pwx = &wx;
6441     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6442     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6443     uint32_t i;
6444
6445     clear_msacsr_cause(env);
6446
6447     switch (df) {
6448     case DF_WORD:
6449         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6450             MSA_FLOAT_LOGB(pwx->w[i], pws->w[i], 32);
6451         }
6452         break;
6453     case DF_DOUBLE:
6454         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6455             MSA_FLOAT_LOGB(pwx->d[i], pws->d[i], 64);
6456         }
6457         break;
6458     default:
6459         assert(0);
6460     }
6461
6462     check_msacsr_cause(env, GETPC());
6463
6464     msa_move_v(pwd, pwx);
6465 }
6466
6467 void helper_msa_fexupl_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6468                           uint32_t ws)
6469 {
6470     wr_t wx, *pwx = &wx;
6471     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6472     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6473     uint32_t i;
6474
6475     clear_msacsr_cause(env);
6476
6477     switch (df) {
6478     case DF_WORD:
6479         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6480             /*
6481              * Half precision floats come in two formats: standard
6482              * IEEE and "ARM" format.  The latter gains extra exponent
6483              * range by omitting the NaN/Inf encodings.
6484              */
6485             flag ieee = 1;
6486
6487             MSA_FLOAT_BINOP(pwx->w[i], from_float16, Lh(pws, i), ieee, 32);
6488         }
6489         break;
6490     case DF_DOUBLE:
6491         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6492             MSA_FLOAT_UNOP(pwx->d[i], from_float32, Lw(pws, i), 64);
6493         }
6494         break;
6495     default:
6496         assert(0);
6497     }
6498
6499     check_msacsr_cause(env, GETPC());
6500     msa_move_v(pwd, pwx);
6501 }
6502
6503 void helper_msa_fexupr_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6504                           uint32_t ws)
6505 {
6506     wr_t wx, *pwx = &wx;
6507     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6508     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6509     uint32_t i;
6510
6511     clear_msacsr_cause(env);
6512
6513     switch (df) {
6514     case DF_WORD:
6515         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6516             /*
6517              * Half precision floats come in two formats: standard
6518              * IEEE and "ARM" format.  The latter gains extra exponent
6519              * range by omitting the NaN/Inf encodings.
6520              */
6521             flag ieee = 1;
6522
6523             MSA_FLOAT_BINOP(pwx->w[i], from_float16, Rh(pws, i), ieee, 32);
6524         }
6525         break;
6526     case DF_DOUBLE:
6527         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6528             MSA_FLOAT_UNOP(pwx->d[i], from_float32, Rw(pws, i), 64);
6529         }
6530         break;
6531     default:
6532         assert(0);
6533     }
6534
6535     check_msacsr_cause(env, GETPC());
6536     msa_move_v(pwd, pwx);
6537 }
6538
6539 void helper_msa_ffql_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6540                         uint32_t ws)
6541 {
6542     wr_t wx, *pwx = &wx;
6543     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6544     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6545     uint32_t i;
6546
6547     switch (df) {
6548     case DF_WORD:
6549         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6550             MSA_FLOAT_UNOP(pwx->w[i], from_q16, Lh(pws, i), 32);
6551         }
6552         break;
6553     case DF_DOUBLE:
6554         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6555             MSA_FLOAT_UNOP(pwx->d[i], from_q32, Lw(pws, i), 64);
6556         }
6557         break;
6558     default:
6559         assert(0);
6560     }
6561
6562     msa_move_v(pwd, pwx);
6563 }
6564
6565 void helper_msa_ffqr_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6566                         uint32_t ws)
6567 {
6568     wr_t wx, *pwx = &wx;
6569     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6570     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6571     uint32_t i;
6572
6573     switch (df) {
6574     case DF_WORD:
6575         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6576             MSA_FLOAT_UNOP(pwx->w[i], from_q16, Rh(pws, i), 32);
6577         }
6578         break;
6579     case DF_DOUBLE:
6580         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6581             MSA_FLOAT_UNOP(pwx->d[i], from_q32, Rw(pws, i), 64);
6582         }
6583         break;
6584     default:
6585         assert(0);
6586     }
6587
6588     msa_move_v(pwd, pwx);
6589 }
6590
6591 void helper_msa_ftint_s_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6592                            uint32_t ws)
6593 {
6594     wr_t wx, *pwx = &wx;
6595     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6596     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6597     uint32_t i;
6598
6599     clear_msacsr_cause(env);
6600
6601     switch (df) {
6602     case DF_WORD:
6603         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6604             MSA_FLOAT_UNOP0(pwx->w[i], to_int32, pws->w[i], 32);
6605         }
6606         break;
6607     case DF_DOUBLE:
6608         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6609             MSA_FLOAT_UNOP0(pwx->d[i], to_int64, pws->d[i], 64);
6610         }
6611         break;
6612     default:
6613         assert(0);
6614     }
6615
6616     check_msacsr_cause(env, GETPC());
6617
6618     msa_move_v(pwd, pwx);
6619 }
6620
6621 void helper_msa_ftint_u_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6622                            uint32_t ws)
6623 {
6624     wr_t wx, *pwx = &wx;
6625     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6626     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6627     uint32_t i;
6628
6629     clear_msacsr_cause(env);
6630
6631     switch (df) {
6632     case DF_WORD:
6633         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6634             MSA_FLOAT_UNOP0(pwx->w[i], to_uint32, pws->w[i], 32);
6635         }
6636         break;
6637     case DF_DOUBLE:
6638         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6639             MSA_FLOAT_UNOP0(pwx->d[i], to_uint64, pws->d[i], 64);
6640         }
6641         break;
6642     default:
6643         assert(0);
6644     }
6645
6646     check_msacsr_cause(env, GETPC());
6647
6648     msa_move_v(pwd, pwx);
6649 }
6650
6651 #define float32_from_int32 int32_to_float32
6652 #define float32_from_uint32 uint32_to_float32
6653
6654 #define float64_from_int64 int64_to_float64
6655 #define float64_from_uint64 uint64_to_float64
6656
6657 void helper_msa_ffint_s_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6658                            uint32_t ws)
6659 {
6660     wr_t wx, *pwx = &wx;
6661     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6662     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6663     uint32_t i;
6664
6665     clear_msacsr_cause(env);
6666
6667     switch (df) {
6668     case DF_WORD:
6669         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6670             MSA_FLOAT_UNOP(pwx->w[i], from_int32, pws->w[i], 32);
6671         }
6672         break;
6673     case DF_DOUBLE:
6674         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6675             MSA_FLOAT_UNOP(pwx->d[i], from_int64, pws->d[i], 64);
6676         }
6677         break;
6678     default:
6679         assert(0);
6680     }
6681
6682     check_msacsr_cause(env, GETPC());
6683
6684     msa_move_v(pwd, pwx);
6685 }
6686
6687 void helper_msa_ffint_u_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6688                            uint32_t ws)
6689 {
6690     wr_t wx, *pwx = &wx;
6691     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6692     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6693     uint32_t i;
6694
6695     clear_msacsr_cause(env);
6696
6697     switch (df) {
6698     case DF_WORD:
6699         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6700             MSA_FLOAT_UNOP(pwx->w[i], from_uint32, pws->w[i], 32);
6701         }
6702         break;
6703     case DF_DOUBLE:
6704         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6705             MSA_FLOAT_UNOP(pwx->d[i], from_uint64, pws->d[i], 64);
6706         }
6707         break;
6708     default:
6709         assert(0);
6710     }
6711
6712     check_msacsr_cause(env, GETPC());
6713
6714     msa_move_v(pwd, pwx);
6715 }