target/mips/msa_helper.c

   1 /*
   2  * MIPS SIMD Architecture Module Instruction emulation helpers for QEMU.
   3  *
   4  * Copyright (c) 2014 Imagination Technologies
   5  *
   6  * This library is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2 of the License, or (at your option) any later version.
  10  *
  11  * This library is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with this library; if not, see <http://www.gnu.org/licenses/>.
  18  */
  19
  20 #include "qemu/osdep.h"
  21 #include "cpu.h"
  22 #include "internal.h"
  23 #include "exec/exec-all.h"
  24 #include "exec/helper-proto.h"
  25 #include "fpu/softfloat.h"
  26
  27 /* Data format min and max values */
  28 #define DF_BITS(df) (1 << ((df) + 3))
  29
  30 #define DF_MAX_INT(df)  (int64_t)((1LL << (DF_BITS(df) - 1)) - 1)
  31 #define M_MAX_INT(m)    (int64_t)((1LL << ((m)         - 1)) - 1)
  32
  33 #define DF_MIN_INT(df)  (int64_t)(-(1LL << (DF_BITS(df) - 1)))
  34 #define M_MIN_INT(m)    (int64_t)(-(1LL << ((m)         - 1)))
  35
  36 #define DF_MAX_UINT(df) (uint64_t)(-1ULL >> (64 - DF_BITS(df)))
  37 #define M_MAX_UINT(m)   (uint64_t)(-1ULL >> (64 - (m)))
  38
  39 #define UNSIGNED(x, df) ((x) & DF_MAX_UINT(df))
  40 #define SIGNED(x, df)                                                   \
  41     ((((int64_t)x) << (64 - DF_BITS(df))) >> (64 - DF_BITS(df)))
  42
  43 /* Element-by-element access macros */
  44 #define DF_ELEMENTS(df) (MSA_WRLEN / DF_BITS(df))
  45
  46
  47
  48 /*
  49  * Bit Count
  50  * ---------
  51  *
  52  * +---------------+----------------------------------------------------------+
  53  * | NLOC.B        | Vector Leading Ones Count (byte)                         |
  54  * | NLOC.H        | Vector Leading Ones Count (halfword)                     |
  55  * | NLOC.W        | Vector Leading Ones Count (word)                         |
  56  * | NLOC.D        | Vector Leading Ones Count (doubleword)                   |
  57  * | NLZC.B        | Vector Leading Zeros Count (byte)                        |
  58  * | NLZC.H        | Vector Leading Zeros Count (halfword)                    |
  59  * | NLZC.W        | Vector Leading Zeros Count (word)                        |
  60  * | NLZC.D        | Vector Leading Zeros Count (doubleword)                  |
  61  * | PCNT.B        | Vector Population Count (byte)                           |
  62  * | PCNT.H        | Vector Population Count (halfword)                       |
  63  * | PCNT.W        | Vector Population Count (word)                           |
  64  * | PCNT.D        | Vector Population Count (doubleword)                     |
  65  * +---------------+----------------------------------------------------------+
  66  */
  67
  68 static inline int64_t msa_nlzc_df(uint32_t df, int64_t arg)
  69 {
  70     uint64_t x, y;
  71     int n, c;
  72
  73     x = UNSIGNED(arg, df);
  74     n = DF_BITS(df);
  75     c = DF_BITS(df) / 2;
  76
  77     do {
  78         y = x >> c;
  79         if (y != 0) {
  80             n = n - c;
  81             x = y;
  82         }
  83         c = c >> 1;
  84     } while (c != 0);
  85
  86     return n - x;
  87 }
  88
  89 static inline int64_t msa_nloc_df(uint32_t df, int64_t arg)
  90 {
  91     return msa_nlzc_df(df, UNSIGNED((~arg), df));
  92 }
  93
  94 void helper_msa_nloc_b(CPUMIPSState *env, uint32_t wd, uint32_t ws)
  95 {
  96     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
  97     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
  98
  99     pwd->b[0]  = msa_nloc_df(DF_BYTE, pws->b[0]);
 100     pwd->b[1]  = msa_nloc_df(DF_BYTE, pws->b[1]);
 101     pwd->b[2]  = msa_nloc_df(DF_BYTE, pws->b[2]);
 102     pwd->b[3]  = msa_nloc_df(DF_BYTE, pws->b[3]);
 103     pwd->b[4]  = msa_nloc_df(DF_BYTE, pws->b[4]);
 104     pwd->b[5]  = msa_nloc_df(DF_BYTE, pws->b[5]);
 105     pwd->b[6]  = msa_nloc_df(DF_BYTE, pws->b[6]);
 106     pwd->b[7]  = msa_nloc_df(DF_BYTE, pws->b[7]);
 107     pwd->b[8]  = msa_nloc_df(DF_BYTE, pws->b[8]);
 108     pwd->b[9]  = msa_nloc_df(DF_BYTE, pws->b[9]);
 109     pwd->b[10] = msa_nloc_df(DF_BYTE, pws->b[10]);
 110     pwd->b[11] = msa_nloc_df(DF_BYTE, pws->b[11]);
 111     pwd->b[12] = msa_nloc_df(DF_BYTE, pws->b[12]);
 112     pwd->b[13] = msa_nloc_df(DF_BYTE, pws->b[13]);
 113     pwd->b[14] = msa_nloc_df(DF_BYTE, pws->b[14]);
 114     pwd->b[15] = msa_nloc_df(DF_BYTE, pws->b[15]);
 115 }
 116
 117 void helper_msa_nloc_h(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 118 {
 119     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 120     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 121
 122     pwd->h[0]  = msa_nloc_df(DF_HALF, pws->h[0]);
 123     pwd->h[1]  = msa_nloc_df(DF_HALF, pws->h[1]);
 124     pwd->h[2]  = msa_nloc_df(DF_HALF, pws->h[2]);
 125     pwd->h[3]  = msa_nloc_df(DF_HALF, pws->h[3]);
 126     pwd->h[4]  = msa_nloc_df(DF_HALF, pws->h[4]);
 127     pwd->h[5]  = msa_nloc_df(DF_HALF, pws->h[5]);
 128     pwd->h[6]  = msa_nloc_df(DF_HALF, pws->h[6]);
 129     pwd->h[7]  = msa_nloc_df(DF_HALF, pws->h[7]);
 130 }
 131
 132 void helper_msa_nloc_w(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 133 {
 134     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 135     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 136
 137     pwd->w[0]  = msa_nloc_df(DF_WORD, pws->w[0]);
 138     pwd->w[1]  = msa_nloc_df(DF_WORD, pws->w[1]);
 139     pwd->w[2]  = msa_nloc_df(DF_WORD, pws->w[2]);
 140     pwd->w[3]  = msa_nloc_df(DF_WORD, pws->w[3]);
 141 }
 142
 143 void helper_msa_nloc_d(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 144 {
 145     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 146     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 147
 148     pwd->d[0]  = msa_nloc_df(DF_DOUBLE, pws->d[0]);
 149     pwd->d[1]  = msa_nloc_df(DF_DOUBLE, pws->d[1]);
 150 }
 151
 152 void helper_msa_nlzc_b(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 153 {
 154     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 155     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 156
 157     pwd->b[0]  = msa_nlzc_df(DF_BYTE, pws->b[0]);
 158     pwd->b[1]  = msa_nlzc_df(DF_BYTE, pws->b[1]);
 159     pwd->b[2]  = msa_nlzc_df(DF_BYTE, pws->b[2]);
 160     pwd->b[3]  = msa_nlzc_df(DF_BYTE, pws->b[3]);
 161     pwd->b[4]  = msa_nlzc_df(DF_BYTE, pws->b[4]);
 162     pwd->b[5]  = msa_nlzc_df(DF_BYTE, pws->b[5]);
 163     pwd->b[6]  = msa_nlzc_df(DF_BYTE, pws->b[6]);
 164     pwd->b[7]  = msa_nlzc_df(DF_BYTE, pws->b[7]);
 165     pwd->b[8]  = msa_nlzc_df(DF_BYTE, pws->b[8]);
 166     pwd->b[9]  = msa_nlzc_df(DF_BYTE, pws->b[9]);
 167     pwd->b[10] = msa_nlzc_df(DF_BYTE, pws->b[10]);
 168     pwd->b[11] = msa_nlzc_df(DF_BYTE, pws->b[11]);
 169     pwd->b[12] = msa_nlzc_df(DF_BYTE, pws->b[12]);
 170     pwd->b[13] = msa_nlzc_df(DF_BYTE, pws->b[13]);
 171     pwd->b[14] = msa_nlzc_df(DF_BYTE, pws->b[14]);
 172     pwd->b[15] = msa_nlzc_df(DF_BYTE, pws->b[15]);
 173 }
 174
 175 void helper_msa_nlzc_h(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 176 {
 177     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 178     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 179
 180     pwd->h[0]  = msa_nlzc_df(DF_HALF, pws->h[0]);
 181     pwd->h[1]  = msa_nlzc_df(DF_HALF, pws->h[1]);
 182     pwd->h[2]  = msa_nlzc_df(DF_HALF, pws->h[2]);
 183     pwd->h[3]  = msa_nlzc_df(DF_HALF, pws->h[3]);
 184     pwd->h[4]  = msa_nlzc_df(DF_HALF, pws->h[4]);
 185     pwd->h[5]  = msa_nlzc_df(DF_HALF, pws->h[5]);
 186     pwd->h[6]  = msa_nlzc_df(DF_HALF, pws->h[6]);
 187     pwd->h[7]  = msa_nlzc_df(DF_HALF, pws->h[7]);
 188 }
 189
 190 void helper_msa_nlzc_w(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 191 {
 192     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 193     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 194
 195     pwd->w[0]  = msa_nlzc_df(DF_WORD, pws->w[0]);
 196     pwd->w[1]  = msa_nlzc_df(DF_WORD, pws->w[1]);
 197     pwd->w[2]  = msa_nlzc_df(DF_WORD, pws->w[2]);
 198     pwd->w[3]  = msa_nlzc_df(DF_WORD, pws->w[3]);
 199 }
 200
 201 void helper_msa_nlzc_d(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 202 {
 203     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 204     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 205
 206     pwd->d[0]  = msa_nlzc_df(DF_DOUBLE, pws->d[0]);
 207     pwd->d[1]  = msa_nlzc_df(DF_DOUBLE, pws->d[1]);
 208 }
 209
 210 static inline int64_t msa_pcnt_df(uint32_t df, int64_t arg)
 211 {
 212     uint64_t x;
 213
 214     x = UNSIGNED(arg, df);
 215
 216     x = (x & 0x5555555555555555ULL) + ((x >>  1) & 0x5555555555555555ULL);
 217     x = (x & 0x3333333333333333ULL) + ((x >>  2) & 0x3333333333333333ULL);
 218     x = (x & 0x0F0F0F0F0F0F0F0FULL) + ((x >>  4) & 0x0F0F0F0F0F0F0F0FULL);
 219     x = (x & 0x00FF00FF00FF00FFULL) + ((x >>  8) & 0x00FF00FF00FF00FFULL);
 220     x = (x & 0x0000FFFF0000FFFFULL) + ((x >> 16) & 0x0000FFFF0000FFFFULL);
 221     x = (x & 0x00000000FFFFFFFFULL) + ((x >> 32));
 222
 223     return x;
 224 }
 225
 226 void helper_msa_pcnt_b(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 227 {
 228     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 229     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 230
 231     pwd->b[0]  = msa_pcnt_df(DF_BYTE, pws->b[0]);
 232     pwd->b[1]  = msa_pcnt_df(DF_BYTE, pws->b[1]);
 233     pwd->b[2]  = msa_pcnt_df(DF_BYTE, pws->b[2]);
 234     pwd->b[3]  = msa_pcnt_df(DF_BYTE, pws->b[3]);
 235     pwd->b[4]  = msa_pcnt_df(DF_BYTE, pws->b[4]);
 236     pwd->b[5]  = msa_pcnt_df(DF_BYTE, pws->b[5]);
 237     pwd->b[6]  = msa_pcnt_df(DF_BYTE, pws->b[6]);
 238     pwd->b[7]  = msa_pcnt_df(DF_BYTE, pws->b[7]);
 239     pwd->b[8]  = msa_pcnt_df(DF_BYTE, pws->b[8]);
 240     pwd->b[9]  = msa_pcnt_df(DF_BYTE, pws->b[9]);
 241     pwd->b[10] = msa_pcnt_df(DF_BYTE, pws->b[10]);
 242     pwd->b[11] = msa_pcnt_df(DF_BYTE, pws->b[11]);
 243     pwd->b[12] = msa_pcnt_df(DF_BYTE, pws->b[12]);
 244     pwd->b[13] = msa_pcnt_df(DF_BYTE, pws->b[13]);
 245     pwd->b[14] = msa_pcnt_df(DF_BYTE, pws->b[14]);
 246     pwd->b[15] = msa_pcnt_df(DF_BYTE, pws->b[15]);
 247 }
 248
 249 void helper_msa_pcnt_h(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 250 {
 251     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 252     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 253
 254     pwd->h[0]  = msa_pcnt_df(DF_HALF, pws->h[0]);
 255     pwd->h[1]  = msa_pcnt_df(DF_HALF, pws->h[1]);
 256     pwd->h[2]  = msa_pcnt_df(DF_HALF, pws->h[2]);
 257     pwd->h[3]  = msa_pcnt_df(DF_HALF, pws->h[3]);
 258     pwd->h[4]  = msa_pcnt_df(DF_HALF, pws->h[4]);
 259     pwd->h[5]  = msa_pcnt_df(DF_HALF, pws->h[5]);
 260     pwd->h[6]  = msa_pcnt_df(DF_HALF, pws->h[6]);
 261     pwd->h[7]  = msa_pcnt_df(DF_HALF, pws->h[7]);
 262 }
 263
 264 void helper_msa_pcnt_w(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 265 {
 266     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 267     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 268
 269     pwd->w[0]  = msa_pcnt_df(DF_WORD, pws->w[0]);
 270     pwd->w[1]  = msa_pcnt_df(DF_WORD, pws->w[1]);
 271     pwd->w[2]  = msa_pcnt_df(DF_WORD, pws->w[2]);
 272     pwd->w[3]  = msa_pcnt_df(DF_WORD, pws->w[3]);
 273 }
 274
 275 void helper_msa_pcnt_d(CPUMIPSState *env, uint32_t wd, uint32_t ws)
 276 {
 277     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 278     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 279
 280     pwd->d[0]  = msa_pcnt_df(DF_DOUBLE, pws->d[0]);
 281     pwd->d[1]  = msa_pcnt_df(DF_DOUBLE, pws->d[1]);
 282 }
 283
 284
 285 /*
 286  * Bit Move
 287  * --------
 288  *
 289  * +---------------+----------------------------------------------------------+
 290  * | BINSL.B       | Vector Bit Insert Left (byte)                            |
 291  * | BINSL.H       | Vector Bit Insert Left (halfword)                        |
 292  * | BINSL.W       | Vector Bit Insert Left (word)                            |
 293  * | BINSL.D       | Vector Bit Insert Left (doubleword)                      |
 294  * | BINSR.B       | Vector Bit Insert Right (byte)                           |
 295  * | BINSR.H       | Vector Bit Insert Right (halfword)                       |
 296  * | BINSR.W       | Vector Bit Insert Right (word)                           |
 297  * | BINSR.D       | Vector Bit Insert Right (doubleword)                     |
 298  * | BMNZ.V        | Vector Bit Move If Not Zero                              |
 299  * | BMZ.V         | Vector Bit Move If Zero                                  |
 300  * | BSEL.V        | Vector Bit Select                                        |
 301  * +---------------+----------------------------------------------------------+
 302  */
 303
 304 /* Data format bit position and unsigned values */
 305 #define BIT_POSITION(x, df) ((uint64_t)(x) % DF_BITS(df))
 306
 307 static inline int64_t msa_binsl_df(uint32_t df,
 308                                    int64_t dest, int64_t arg1, int64_t arg2)
 309 {
 310     uint64_t u_arg1 = UNSIGNED(arg1, df);
 311     uint64_t u_dest = UNSIGNED(dest, df);
 312     int32_t sh_d = BIT_POSITION(arg2, df) + 1;
 313     int32_t sh_a = DF_BITS(df) - sh_d;
 314     if (sh_d == DF_BITS(df)) {
 315         return u_arg1;
 316     } else {
 317         return UNSIGNED(UNSIGNED(u_dest << sh_d, df) >> sh_d, df) |
 318                UNSIGNED(UNSIGNED(u_arg1 >> sh_a, df) << sh_a, df);
 319     }
 320 }
 321
 322 void helper_msa_binsl_b(CPUMIPSState *env,
 323                         uint32_t wd, uint32_t ws, uint32_t wt)
 324 {
 325     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 326     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 327     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 328
 329     pwd->b[0]  = msa_binsl_df(DF_BYTE, pwd->b[0],  pws->b[0],  pwt->b[0]);
 330     pwd->b[1]  = msa_binsl_df(DF_BYTE, pwd->b[1],  pws->b[1],  pwt->b[1]);
 331     pwd->b[2]  = msa_binsl_df(DF_BYTE, pwd->b[2],  pws->b[2],  pwt->b[2]);
 332     pwd->b[3]  = msa_binsl_df(DF_BYTE, pwd->b[3],  pws->b[3],  pwt->b[3]);
 333     pwd->b[4]  = msa_binsl_df(DF_BYTE, pwd->b[4],  pws->b[4],  pwt->b[4]);
 334     pwd->b[5]  = msa_binsl_df(DF_BYTE, pwd->b[5],  pws->b[5],  pwt->b[5]);
 335     pwd->b[6]  = msa_binsl_df(DF_BYTE, pwd->b[6],  pws->b[6],  pwt->b[6]);
 336     pwd->b[7]  = msa_binsl_df(DF_BYTE, pwd->b[7],  pws->b[7],  pwt->b[7]);
 337     pwd->b[8]  = msa_binsl_df(DF_BYTE, pwd->b[8],  pws->b[8],  pwt->b[8]);
 338     pwd->b[9]  = msa_binsl_df(DF_BYTE, pwd->b[9],  pws->b[9],  pwt->b[9]);
 339     pwd->b[10] = msa_binsl_df(DF_BYTE, pwd->b[10], pws->b[10], pwt->b[10]);
 340     pwd->b[11] = msa_binsl_df(DF_BYTE, pwd->b[11], pws->b[11], pwt->b[11]);
 341     pwd->b[12] = msa_binsl_df(DF_BYTE, pwd->b[12], pws->b[12], pwt->b[12]);
 342     pwd->b[13] = msa_binsl_df(DF_BYTE, pwd->b[13], pws->b[13], pwt->b[13]);
 343     pwd->b[14] = msa_binsl_df(DF_BYTE, pwd->b[14], pws->b[14], pwt->b[14]);
 344     pwd->b[15] = msa_binsl_df(DF_BYTE, pwd->b[15], pws->b[15], pwt->b[15]);
 345 }
 346
 347 void helper_msa_binsl_h(CPUMIPSState *env,
 348                         uint32_t wd, uint32_t ws, uint32_t wt)
 349 {
 350     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 351     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 352     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 353
 354     pwd->h[0]  = msa_binsl_df(DF_HALF, pwd->h[0],  pws->h[0],  pwt->h[0]);
 355     pwd->h[1]  = msa_binsl_df(DF_HALF, pwd->h[1],  pws->h[1],  pwt->h[1]);
 356     pwd->h[2]  = msa_binsl_df(DF_HALF, pwd->h[2],  pws->h[2],  pwt->h[2]);
 357     pwd->h[3]  = msa_binsl_df(DF_HALF, pwd->h[3],  pws->h[3],  pwt->h[3]);
 358     pwd->h[4]  = msa_binsl_df(DF_HALF, pwd->h[4],  pws->h[4],  pwt->h[4]);
 359     pwd->h[5]  = msa_binsl_df(DF_HALF, pwd->h[5],  pws->h[5],  pwt->h[5]);
 360     pwd->h[6]  = msa_binsl_df(DF_HALF, pwd->h[6],  pws->h[6],  pwt->h[6]);
 361     pwd->h[7]  = msa_binsl_df(DF_HALF, pwd->h[7],  pws->h[7],  pwt->h[7]);
 362 }
 363
 364 void helper_msa_binsl_w(CPUMIPSState *env,
 365                         uint32_t wd, uint32_t ws, uint32_t wt)
 366 {
 367     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 368     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 369     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 370
 371     pwd->w[0]  = msa_binsl_df(DF_WORD, pwd->w[0],  pws->w[0],  pwt->w[0]);
 372     pwd->w[1]  = msa_binsl_df(DF_WORD, pwd->w[1],  pws->w[1],  pwt->w[1]);
 373     pwd->w[2]  = msa_binsl_df(DF_WORD, pwd->w[2],  pws->w[2],  pwt->w[2]);
 374     pwd->w[3]  = msa_binsl_df(DF_WORD, pwd->w[3],  pws->w[3],  pwt->w[3]);
 375 }
 376
 377 void helper_msa_binsl_d(CPUMIPSState *env,
 378                         uint32_t wd, uint32_t ws, uint32_t wt)
 379 {
 380     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 381     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 382     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 383
 384     pwd->d[0]  = msa_binsl_df(DF_DOUBLE, pwd->d[0],  pws->d[0],  pwt->d[0]);
 385     pwd->d[1]  = msa_binsl_df(DF_DOUBLE, pwd->d[1],  pws->d[1],  pwt->d[1]);
 386 }
 387
 388 static inline int64_t msa_binsr_df(uint32_t df,
 389                                    int64_t dest, int64_t arg1, int64_t arg2)
 390 {
 391     uint64_t u_arg1 = UNSIGNED(arg1, df);
 392     uint64_t u_dest = UNSIGNED(dest, df);
 393     int32_t sh_d = BIT_POSITION(arg2, df) + 1;
 394     int32_t sh_a = DF_BITS(df) - sh_d;
 395     if (sh_d == DF_BITS(df)) {
 396         return u_arg1;
 397     } else {
 398         return UNSIGNED(UNSIGNED(u_dest >> sh_d, df) << sh_d, df) |
 399                UNSIGNED(UNSIGNED(u_arg1 << sh_a, df) >> sh_a, df);
 400     }
 401 }
 402
 403 void helper_msa_binsr_b(CPUMIPSState *env,
 404                         uint32_t wd, uint32_t ws, uint32_t wt)
 405 {
 406     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 407     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 408     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 409
 410     pwd->b[0]  = msa_binsr_df(DF_BYTE, pwd->b[0],  pws->b[0],  pwt->b[0]);
 411     pwd->b[1]  = msa_binsr_df(DF_BYTE, pwd->b[1],  pws->b[1],  pwt->b[1]);
 412     pwd->b[2]  = msa_binsr_df(DF_BYTE, pwd->b[2],  pws->b[2],  pwt->b[2]);
 413     pwd->b[3]  = msa_binsr_df(DF_BYTE, pwd->b[3],  pws->b[3],  pwt->b[3]);
 414     pwd->b[4]  = msa_binsr_df(DF_BYTE, pwd->b[4],  pws->b[4],  pwt->b[4]);
 415     pwd->b[5]  = msa_binsr_df(DF_BYTE, pwd->b[5],  pws->b[5],  pwt->b[5]);
 416     pwd->b[6]  = msa_binsr_df(DF_BYTE, pwd->b[6],  pws->b[6],  pwt->b[6]);
 417     pwd->b[7]  = msa_binsr_df(DF_BYTE, pwd->b[7],  pws->b[7],  pwt->b[7]);
 418     pwd->b[8]  = msa_binsr_df(DF_BYTE, pwd->b[8],  pws->b[8],  pwt->b[8]);
 419     pwd->b[9]  = msa_binsr_df(DF_BYTE, pwd->b[9],  pws->b[9],  pwt->b[9]);
 420     pwd->b[10] = msa_binsr_df(DF_BYTE, pwd->b[10], pws->b[10], pwt->b[10]);
 421     pwd->b[11] = msa_binsr_df(DF_BYTE, pwd->b[11], pws->b[11], pwt->b[11]);
 422     pwd->b[12] = msa_binsr_df(DF_BYTE, pwd->b[12], pws->b[12], pwt->b[12]);
 423     pwd->b[13] = msa_binsr_df(DF_BYTE, pwd->b[13], pws->b[13], pwt->b[13]);
 424     pwd->b[14] = msa_binsr_df(DF_BYTE, pwd->b[14], pws->b[14], pwt->b[14]);
 425     pwd->b[15] = msa_binsr_df(DF_BYTE, pwd->b[15], pws->b[15], pwt->b[15]);
 426 }
 427
 428 void helper_msa_binsr_h(CPUMIPSState *env,
 429                         uint32_t wd, uint32_t ws, uint32_t wt)
 430 {
 431     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 432     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 433     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 434
 435     pwd->h[0]  = msa_binsr_df(DF_HALF, pwd->h[0],  pws->h[0],  pwt->h[0]);
 436     pwd->h[1]  = msa_binsr_df(DF_HALF, pwd->h[1],  pws->h[1],  pwt->h[1]);
 437     pwd->h[2]  = msa_binsr_df(DF_HALF, pwd->h[2],  pws->h[2],  pwt->h[2]);
 438     pwd->h[3]  = msa_binsr_df(DF_HALF, pwd->h[3],  pws->h[3],  pwt->h[3]);
 439     pwd->h[4]  = msa_binsr_df(DF_HALF, pwd->h[4],  pws->h[4],  pwt->h[4]);
 440     pwd->h[5]  = msa_binsr_df(DF_HALF, pwd->h[5],  pws->h[5],  pwt->h[5]);
 441     pwd->h[6]  = msa_binsr_df(DF_HALF, pwd->h[6],  pws->h[6],  pwt->h[6]);
 442     pwd->h[7]  = msa_binsr_df(DF_HALF, pwd->h[7],  pws->h[7],  pwt->h[7]);
 443 }
 444
 445 void helper_msa_binsr_w(CPUMIPSState *env,
 446                         uint32_t wd, uint32_t ws, uint32_t wt)
 447 {
 448     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 449     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 450     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 451
 452     pwd->w[0]  = msa_binsr_df(DF_WORD, pwd->w[0],  pws->w[0],  pwt->w[0]);
 453     pwd->w[1]  = msa_binsr_df(DF_WORD, pwd->w[1],  pws->w[1],  pwt->w[1]);
 454     pwd->w[2]  = msa_binsr_df(DF_WORD, pwd->w[2],  pws->w[2],  pwt->w[2]);
 455     pwd->w[3]  = msa_binsr_df(DF_WORD, pwd->w[3],  pws->w[3],  pwt->w[3]);
 456 }
 457
 458 void helper_msa_binsr_d(CPUMIPSState *env,
 459                         uint32_t wd, uint32_t ws, uint32_t wt)
 460 {
 461     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 462     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 463     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 464
 465     pwd->d[0]  = msa_binsr_df(DF_DOUBLE, pwd->d[0],  pws->d[0],  pwt->d[0]);
 466     pwd->d[1]  = msa_binsr_df(DF_DOUBLE, pwd->d[1],  pws->d[1],  pwt->d[1]);
 467 }
 468
 469 void helper_msa_bmnz_v(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 470 {
 471     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 472     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 473     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 474
 475     pwd->d[0] = UNSIGNED(                                                     \
 476         ((pwd->d[0] & (~pwt->d[0])) | (pws->d[0] & pwt->d[0])), DF_DOUBLE);
 477     pwd->d[1] = UNSIGNED(                                                     \
 478         ((pwd->d[1] & (~pwt->d[1])) | (pws->d[1] & pwt->d[1])), DF_DOUBLE);
 479 }
 480
 481 void helper_msa_bmz_v(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 482 {
 483     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 484     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 485     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 486
 487     pwd->d[0] = UNSIGNED(                                                     \
 488         ((pwd->d[0] & pwt->d[0]) | (pws->d[0] & (~pwt->d[0]))), DF_DOUBLE);
 489     pwd->d[1] = UNSIGNED(                                                     \
 490         ((pwd->d[1] & pwt->d[1]) | (pws->d[1] & (~pwt->d[1]))), DF_DOUBLE);
 491 }
 492
 493 void helper_msa_bsel_v(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 494 {
 495     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 496     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 497     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 498
 499     pwd->d[0] = UNSIGNED(                                                     \
 500         (pws->d[0] & (~pwd->d[0])) | (pwt->d[0] & pwd->d[0]), DF_DOUBLE);
 501     pwd->d[1] = UNSIGNED(                                                     \
 502         (pws->d[1] & (~pwd->d[1])) | (pwt->d[1] & pwd->d[1]), DF_DOUBLE);
 503 }
 504
 505
 506 /*
 507  * Bit Set
 508  * -------
 509  *
 510  * +---------------+----------------------------------------------------------+
 511  * | BCLR.B        | Vector Bit Clear (byte)                                  |
 512  * | BCLR.H        | Vector Bit Clear (halfword)                              |
 513  * | BCLR.W        | Vector Bit Clear (word)                                  |
 514  * | BCLR.D        | Vector Bit Clear (doubleword)                            |
 515  * | BNEG.B        | Vector Bit Negate (byte)                                 |
 516  * | BNEG.H        | Vector Bit Negate (halfword)                             |
 517  * | BNEG.W        | Vector Bit Negate (word)                                 |
 518  * | BNEG.D        | Vector Bit Negate (doubleword)                           |
 519  * | BSET.B        | Vector Bit Set (byte)                                    |
 520  * | BSET.H        | Vector Bit Set (halfword)                                |
 521  * | BSET.W        | Vector Bit Set (word)                                    |
 522  * | BSET.D        | Vector Bit Set (doubleword)                              |
 523  * +---------------+----------------------------------------------------------+
 524  */
 525
 526 static inline int64_t msa_bclr_df(uint32_t df, int64_t arg1, int64_t arg2)
 527 {
 528     int32_t b_arg2 = BIT_POSITION(arg2, df);
 529     return UNSIGNED(arg1 & (~(1LL << b_arg2)), df);
 530 }
 531
 532 void helper_msa_bclr_b(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 533 {
 534     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 535     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 536     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 537
 538     pwd->b[0]  = msa_bclr_df(DF_BYTE, pws->b[0],  pwt->b[0]);
 539     pwd->b[1]  = msa_bclr_df(DF_BYTE, pws->b[1],  pwt->b[1]);
 540     pwd->b[2]  = msa_bclr_df(DF_BYTE, pws->b[2],  pwt->b[2]);
 541     pwd->b[3]  = msa_bclr_df(DF_BYTE, pws->b[3],  pwt->b[3]);
 542     pwd->b[4]  = msa_bclr_df(DF_BYTE, pws->b[4],  pwt->b[4]);
 543     pwd->b[5]  = msa_bclr_df(DF_BYTE, pws->b[5],  pwt->b[5]);
 544     pwd->b[6]  = msa_bclr_df(DF_BYTE, pws->b[6],  pwt->b[6]);
 545     pwd->b[7]  = msa_bclr_df(DF_BYTE, pws->b[7],  pwt->b[7]);
 546     pwd->b[8]  = msa_bclr_df(DF_BYTE, pws->b[8],  pwt->b[8]);
 547     pwd->b[9]  = msa_bclr_df(DF_BYTE, pws->b[9],  pwt->b[9]);
 548     pwd->b[10] = msa_bclr_df(DF_BYTE, pws->b[10], pwt->b[10]);
 549     pwd->b[11] = msa_bclr_df(DF_BYTE, pws->b[11], pwt->b[11]);
 550     pwd->b[12] = msa_bclr_df(DF_BYTE, pws->b[12], pwt->b[12]);
 551     pwd->b[13] = msa_bclr_df(DF_BYTE, pws->b[13], pwt->b[13]);
 552     pwd->b[14] = msa_bclr_df(DF_BYTE, pws->b[14], pwt->b[14]);
 553     pwd->b[15] = msa_bclr_df(DF_BYTE, pws->b[15], pwt->b[15]);
 554 }
 555
 556 void helper_msa_bclr_h(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 557 {
 558     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 559     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 560     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 561
 562     pwd->h[0]  = msa_bclr_df(DF_HALF, pws->h[0],  pwt->h[0]);
 563     pwd->h[1]  = msa_bclr_df(DF_HALF, pws->h[1],  pwt->h[1]);
 564     pwd->h[2]  = msa_bclr_df(DF_HALF, pws->h[2],  pwt->h[2]);
 565     pwd->h[3]  = msa_bclr_df(DF_HALF, pws->h[3],  pwt->h[3]);
 566     pwd->h[4]  = msa_bclr_df(DF_HALF, pws->h[4],  pwt->h[4]);
 567     pwd->h[5]  = msa_bclr_df(DF_HALF, pws->h[5],  pwt->h[5]);
 568     pwd->h[6]  = msa_bclr_df(DF_HALF, pws->h[6],  pwt->h[6]);
 569     pwd->h[7]  = msa_bclr_df(DF_HALF, pws->h[7],  pwt->h[7]);
 570 }
 571
 572 void helper_msa_bclr_w(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 573 {
 574     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 575     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 576     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 577
 578     pwd->w[0]  = msa_bclr_df(DF_WORD, pws->w[0],  pwt->w[0]);
 579     pwd->w[1]  = msa_bclr_df(DF_WORD, pws->w[1],  pwt->w[1]);
 580     pwd->w[2]  = msa_bclr_df(DF_WORD, pws->w[2],  pwt->w[2]);
 581     pwd->w[3]  = msa_bclr_df(DF_WORD, pws->w[3],  pwt->w[3]);
 582 }
 583
 584 void helper_msa_bclr_d(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 585 {
 586     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 587     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 588     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 589
 590     pwd->d[0]  = msa_bclr_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
 591     pwd->d[1]  = msa_bclr_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
 592 }
 593
 594 static inline int64_t msa_bneg_df(uint32_t df, int64_t arg1, int64_t arg2)
 595 {
 596     int32_t b_arg2 = BIT_POSITION(arg2, df);
 597     return UNSIGNED(arg1 ^ (1LL << b_arg2), df);
 598 }
 599
 600 void helper_msa_bneg_b(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 601 {
 602     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 603     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 604     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 605
 606     pwd->b[0]  = msa_bneg_df(DF_BYTE, pws->b[0],  pwt->b[0]);
 607     pwd->b[1]  = msa_bneg_df(DF_BYTE, pws->b[1],  pwt->b[1]);
 608     pwd->b[2]  = msa_bneg_df(DF_BYTE, pws->b[2],  pwt->b[2]);
 609     pwd->b[3]  = msa_bneg_df(DF_BYTE, pws->b[3],  pwt->b[3]);
 610     pwd->b[4]  = msa_bneg_df(DF_BYTE, pws->b[4],  pwt->b[4]);
 611     pwd->b[5]  = msa_bneg_df(DF_BYTE, pws->b[5],  pwt->b[5]);
 612     pwd->b[6]  = msa_bneg_df(DF_BYTE, pws->b[6],  pwt->b[6]);
 613     pwd->b[7]  = msa_bneg_df(DF_BYTE, pws->b[7],  pwt->b[7]);
 614     pwd->b[8]  = msa_bneg_df(DF_BYTE, pws->b[8],  pwt->b[8]);
 615     pwd->b[9]  = msa_bneg_df(DF_BYTE, pws->b[9],  pwt->b[9]);
 616     pwd->b[10] = msa_bneg_df(DF_BYTE, pws->b[10], pwt->b[10]);
 617     pwd->b[11] = msa_bneg_df(DF_BYTE, pws->b[11], pwt->b[11]);
 618     pwd->b[12] = msa_bneg_df(DF_BYTE, pws->b[12], pwt->b[12]);
 619     pwd->b[13] = msa_bneg_df(DF_BYTE, pws->b[13], pwt->b[13]);
 620     pwd->b[14] = msa_bneg_df(DF_BYTE, pws->b[14], pwt->b[14]);
 621     pwd->b[15] = msa_bneg_df(DF_BYTE, pws->b[15], pwt->b[15]);
 622 }
 623
 624 void helper_msa_bneg_h(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 625 {
 626     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 627     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 628     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 629
 630     pwd->h[0]  = msa_bneg_df(DF_HALF, pws->h[0],  pwt->h[0]);
 631     pwd->h[1]  = msa_bneg_df(DF_HALF, pws->h[1],  pwt->h[1]);
 632     pwd->h[2]  = msa_bneg_df(DF_HALF, pws->h[2],  pwt->h[2]);
 633     pwd->h[3]  = msa_bneg_df(DF_HALF, pws->h[3],  pwt->h[3]);
 634     pwd->h[4]  = msa_bneg_df(DF_HALF, pws->h[4],  pwt->h[4]);
 635     pwd->h[5]  = msa_bneg_df(DF_HALF, pws->h[5],  pwt->h[5]);
 636     pwd->h[6]  = msa_bneg_df(DF_HALF, pws->h[6],  pwt->h[6]);
 637     pwd->h[7]  = msa_bneg_df(DF_HALF, pws->h[7],  pwt->h[7]);
 638 }
 639
 640 void helper_msa_bneg_w(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 641 {
 642     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 643     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 644     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 645
 646     pwd->w[0]  = msa_bneg_df(DF_WORD, pws->w[0],  pwt->w[0]);
 647     pwd->w[1]  = msa_bneg_df(DF_WORD, pws->w[1],  pwt->w[1]);
 648     pwd->w[2]  = msa_bneg_df(DF_WORD, pws->w[2],  pwt->w[2]);
 649     pwd->w[3]  = msa_bneg_df(DF_WORD, pws->w[3],  pwt->w[3]);
 650 }
 651
 652 void helper_msa_bneg_d(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 653 {
 654     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 655     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 656     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 657
 658     pwd->d[0]  = msa_bneg_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
 659     pwd->d[1]  = msa_bneg_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
 660 }
 661
 662 static inline int64_t msa_bset_df(uint32_t df, int64_t arg1,
 663         int64_t arg2)
 664 {
 665     int32_t b_arg2 = BIT_POSITION(arg2, df);
 666     return UNSIGNED(arg1 | (1LL << b_arg2), df);
 667 }
 668
 669 void helper_msa_bset_b(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 670 {
 671     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 672     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 673     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 674
 675     pwd->b[0]  = msa_bset_df(DF_BYTE, pws->b[0],  pwt->b[0]);
 676     pwd->b[1]  = msa_bset_df(DF_BYTE, pws->b[1],  pwt->b[1]);
 677     pwd->b[2]  = msa_bset_df(DF_BYTE, pws->b[2],  pwt->b[2]);
 678     pwd->b[3]  = msa_bset_df(DF_BYTE, pws->b[3],  pwt->b[3]);
 679     pwd->b[4]  = msa_bset_df(DF_BYTE, pws->b[4],  pwt->b[4]);
 680     pwd->b[5]  = msa_bset_df(DF_BYTE, pws->b[5],  pwt->b[5]);
 681     pwd->b[6]  = msa_bset_df(DF_BYTE, pws->b[6],  pwt->b[6]);
 682     pwd->b[7]  = msa_bset_df(DF_BYTE, pws->b[7],  pwt->b[7]);
 683     pwd->b[8]  = msa_bset_df(DF_BYTE, pws->b[8],  pwt->b[8]);
 684     pwd->b[9]  = msa_bset_df(DF_BYTE, pws->b[9],  pwt->b[9]);
 685     pwd->b[10] = msa_bset_df(DF_BYTE, pws->b[10], pwt->b[10]);
 686     pwd->b[11] = msa_bset_df(DF_BYTE, pws->b[11], pwt->b[11]);
 687     pwd->b[12] = msa_bset_df(DF_BYTE, pws->b[12], pwt->b[12]);
 688     pwd->b[13] = msa_bset_df(DF_BYTE, pws->b[13], pwt->b[13]);
 689     pwd->b[14] = msa_bset_df(DF_BYTE, pws->b[14], pwt->b[14]);
 690     pwd->b[15] = msa_bset_df(DF_BYTE, pws->b[15], pwt->b[15]);
 691 }
 692
 693 void helper_msa_bset_h(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 694 {
 695     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 696     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 697     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 698
 699     pwd->h[0]  = msa_bset_df(DF_HALF, pws->h[0],  pwt->h[0]);
 700     pwd->h[1]  = msa_bset_df(DF_HALF, pws->h[1],  pwt->h[1]);
 701     pwd->h[2]  = msa_bset_df(DF_HALF, pws->h[2],  pwt->h[2]);
 702     pwd->h[3]  = msa_bset_df(DF_HALF, pws->h[3],  pwt->h[3]);
 703     pwd->h[4]  = msa_bset_df(DF_HALF, pws->h[4],  pwt->h[4]);
 704     pwd->h[5]  = msa_bset_df(DF_HALF, pws->h[5],  pwt->h[5]);
 705     pwd->h[6]  = msa_bset_df(DF_HALF, pws->h[6],  pwt->h[6]);
 706     pwd->h[7]  = msa_bset_df(DF_HALF, pws->h[7],  pwt->h[7]);
 707 }
 708
 709 void helper_msa_bset_w(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 710 {
 711     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 712     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 713     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 714
 715     pwd->w[0]  = msa_bset_df(DF_WORD, pws->w[0],  pwt->w[0]);
 716     pwd->w[1]  = msa_bset_df(DF_WORD, pws->w[1],  pwt->w[1]);
 717     pwd->w[2]  = msa_bset_df(DF_WORD, pws->w[2],  pwt->w[2]);
 718     pwd->w[3]  = msa_bset_df(DF_WORD, pws->w[3],  pwt->w[3]);
 719 }
 720
 721 void helper_msa_bset_d(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
 722 {
 723     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 724     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 725     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 726
 727     pwd->d[0]  = msa_bset_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
 728     pwd->d[1]  = msa_bset_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
 729 }
 730
 731
 732 /*
 733  * Fixed Multiply
 734  * --------------
 735  *
 736  * +---------------+----------------------------------------------------------+
 737  * | MADD_Q.H      | Vector Fixed-Point Multiply and Add (halfword)           |
 738  * | MADD_Q.W      | Vector Fixed-Point Multiply and Add (word)               |
 739  * | MADDR_Q.H     | Vector Fixed-Point Multiply and Add Rounded (halfword)   |
 740  * | MADDR_Q.W     | Vector Fixed-Point Multiply and Add Rounded (word)       |
 741  * | MSUB_Q.H      | Vector Fixed-Point Multiply and Subtr. (halfword)        |
 742  * | MSUB_Q.W      | Vector Fixed-Point Multiply and Subtr. (word)            |
 743  * | MSUBR_Q.H     | Vector Fixed-Point Multiply and Subtr. Rounded (halfword)|
 744  * | MSUBR_Q.W     | Vector Fixed-Point Multiply and Subtr. Rounded (word)    |
 745  * | MUL_Q.H       | Vector Fixed-Point Multiply (halfword)                   |
 746  * | MUL_Q.W       | Vector Fixed-Point Multiply (word)                       |
 747  * | MULR_Q.H      | Vector Fixed-Point Multiply Rounded (halfword)           |
 748  * | MULR_Q.W      | Vector Fixed-Point Multiply Rounded (word)               |
 749  * +---------------+----------------------------------------------------------+
 750  */
 751
 752 /* TODO: insert Fixed Multiply group helpers here */
 753
 754
 755 /*
 756  * Float Max Min
 757  * -------------
 758  *
 759  * +---------------+----------------------------------------------------------+
 760  * | FMAX_A.W      | Vector Floating-Point Maximum (Absolute) (word)          |
 761  * | FMAX_A.D      | Vector Floating-Point Maximum (Absolute) (doubleword)    |
 762  * | FMAX.W        | Vector Floating-Point Maximum (word)                     |
 763  * | FMAX.D        | Vector Floating-Point Maximum (doubleword)               |
 764  * | FMIN_A.W      | Vector Floating-Point Minimum (Absolute) (word)          |
 765  * | FMIN_A.D      | Vector Floating-Point Minimum (Absolute) (doubleword)    |
 766  * | FMIN.W        | Vector Floating-Point Minimum (word)                     |
 767  * | FMIN.D        | Vector Floating-Point Minimum (doubleword)               |
 768  * +---------------+----------------------------------------------------------+
 769  */
 770
 771 /* TODO: insert Float Max Min group helpers here */
 772
 773
 774 /*
 775  * Int Add
 776  * -------
 777  *
 778  * +---------------+----------------------------------------------------------+
 779  * | ADD_A.B       | Vector Add Absolute Values (byte)                        |
 780  * | ADD_A.H       | Vector Add Absolute Values (halfword)                    |
 781  * | ADD_A.W       | Vector Add Absolute Values (word)                        |
 782  * | ADD_A.D       | Vector Add Absolute Values (doubleword)                  |
 783  * | ADDS_A.B      | Vector Signed Saturated Add (of Absolute) (byte)         |
 784  * | ADDS_A.H      | Vector Signed Saturated Add (of Absolute) (halfword)     |
 785  * | ADDS_A.W      | Vector Signed Saturated Add (of Absolute) (word)         |
 786  * | ADDS_A.D      | Vector Signed Saturated Add (of Absolute) (doubleword)   |
 787  * | ADDS_S.B      | Vector Signed Saturated Add (of Signed) (byte)           |
 788  * | ADDS_S.H      | Vector Signed Saturated Add (of Signed) (halfword)       |
 789  * | ADDS_S.W      | Vector Signed Saturated Add (of Signed) (word)           |
 790  * | ADDS_S.D      | Vector Signed Saturated Add (of Signed) (doubleword)     |
 791  * | ADDS_U.B      | Vector Unsigned Saturated Add (of Unsigned) (byte)       |
 792  * | ADDS_U.H      | Vector Unsigned Saturated Add (of Unsigned) (halfword)   |
 793  * | ADDS_U.W      | Vector Unsigned Saturated Add (of Unsigned) (word)       |
 794  * | ADDS_U.D      | Vector Unsigned Saturated Add (of Unsigned) (doubleword) |
 795  * | ADDV.B        | Vector Add (byte)                                        |
 796  * | ADDV.H        | Vector Add (halfword)                                    |
 797  * | ADDV.W        | Vector Add (word)                                        |
 798  * | ADDV.D        | Vector Add (doubleword)                                  |
 799  * | HADD_S.H      | Vector Signed Horizontal Add (halfword)                  |
 800  * | HADD_S.W      | Vector Signed Horizontal Add (word)                      |
 801  * | HADD_S.D      | Vector Signed Horizontal Add (doubleword)                |
 802  * | HADD_U.H      | Vector Unigned Horizontal Add (halfword)                 |
 803  * | HADD_U.W      | Vector Unigned Horizontal Add (word)                     |
 804  * | HADD_U.D      | Vector Unigned Horizontal Add (doubleword)               |
 805  * +---------------+----------------------------------------------------------+
 806  */
 807
 808
 809 static inline int64_t msa_add_a_df(uint32_t df, int64_t arg1, int64_t arg2)
 810 {
 811     uint64_t abs_arg1 = arg1 >= 0 ? arg1 : -arg1;
 812     uint64_t abs_arg2 = arg2 >= 0 ? arg2 : -arg2;
 813     return abs_arg1 + abs_arg2;
 814 }
 815
 816 void helper_msa_add_a_b(CPUMIPSState *env,
 817                         uint32_t wd, uint32_t ws, uint32_t wt)
 818 {
 819     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 820     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 821     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 822
 823     pwd->b[0]  = msa_add_a_df(DF_BYTE, pws->b[0],  pwt->b[0]);
 824     pwd->b[1]  = msa_add_a_df(DF_BYTE, pws->b[1],  pwt->b[1]);
 825     pwd->b[2]  = msa_add_a_df(DF_BYTE, pws->b[2],  pwt->b[2]);
 826     pwd->b[3]  = msa_add_a_df(DF_BYTE, pws->b[3],  pwt->b[3]);
 827     pwd->b[4]  = msa_add_a_df(DF_BYTE, pws->b[4],  pwt->b[4]);
 828     pwd->b[5]  = msa_add_a_df(DF_BYTE, pws->b[5],  pwt->b[5]);
 829     pwd->b[6]  = msa_add_a_df(DF_BYTE, pws->b[6],  pwt->b[6]);
 830     pwd->b[7]  = msa_add_a_df(DF_BYTE, pws->b[7],  pwt->b[7]);
 831     pwd->b[8]  = msa_add_a_df(DF_BYTE, pws->b[8],  pwt->b[8]);
 832     pwd->b[9]  = msa_add_a_df(DF_BYTE, pws->b[9],  pwt->b[9]);
 833     pwd->b[10] = msa_add_a_df(DF_BYTE, pws->b[10], pwt->b[10]);
 834     pwd->b[11] = msa_add_a_df(DF_BYTE, pws->b[11], pwt->b[11]);
 835     pwd->b[12] = msa_add_a_df(DF_BYTE, pws->b[12], pwt->b[12]);
 836     pwd->b[13] = msa_add_a_df(DF_BYTE, pws->b[13], pwt->b[13]);
 837     pwd->b[14] = msa_add_a_df(DF_BYTE, pws->b[14], pwt->b[14]);
 838     pwd->b[15] = msa_add_a_df(DF_BYTE, pws->b[15], pwt->b[15]);
 839 }
 840
 841 void helper_msa_add_a_h(CPUMIPSState *env,
 842                         uint32_t wd, uint32_t ws, uint32_t wt)
 843 {
 844     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 845     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 846     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 847
 848     pwd->h[0]  = msa_add_a_df(DF_HALF, pws->h[0],  pwt->h[0]);
 849     pwd->h[1]  = msa_add_a_df(DF_HALF, pws->h[1],  pwt->h[1]);
 850     pwd->h[2]  = msa_add_a_df(DF_HALF, pws->h[2],  pwt->h[2]);
 851     pwd->h[3]  = msa_add_a_df(DF_HALF, pws->h[3],  pwt->h[3]);
 852     pwd->h[4]  = msa_add_a_df(DF_HALF, pws->h[4],  pwt->h[4]);
 853     pwd->h[5]  = msa_add_a_df(DF_HALF, pws->h[5],  pwt->h[5]);
 854     pwd->h[6]  = msa_add_a_df(DF_HALF, pws->h[6],  pwt->h[6]);
 855     pwd->h[7]  = msa_add_a_df(DF_HALF, pws->h[7],  pwt->h[7]);
 856 }
 857
 858 void helper_msa_add_a_w(CPUMIPSState *env,
 859                         uint32_t wd, uint32_t ws, uint32_t wt)
 860 {
 861     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 862     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 863     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 864
 865     pwd->w[0]  = msa_add_a_df(DF_WORD, pws->w[0],  pwt->w[0]);
 866     pwd->w[1]  = msa_add_a_df(DF_WORD, pws->w[1],  pwt->w[1]);
 867     pwd->w[2]  = msa_add_a_df(DF_WORD, pws->w[2],  pwt->w[2]);
 868     pwd->w[3]  = msa_add_a_df(DF_WORD, pws->w[3],  pwt->w[3]);
 869 }
 870
 871 void helper_msa_add_a_d(CPUMIPSState *env,
 872                         uint32_t wd, uint32_t ws, uint32_t wt)
 873 {
 874     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 875     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 876     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 877
 878     pwd->d[0]  = msa_add_a_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
 879     pwd->d[1]  = msa_add_a_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
 880 }
 881
 882
 883 static inline int64_t msa_adds_a_df(uint32_t df, int64_t arg1, int64_t arg2)
 884 {
 885     uint64_t max_int = (uint64_t)DF_MAX_INT(df);
 886     uint64_t abs_arg1 = arg1 >= 0 ? arg1 : -arg1;
 887     uint64_t abs_arg2 = arg2 >= 0 ? arg2 : -arg2;
 888     if (abs_arg1 > max_int || abs_arg2 > max_int) {
 889         return (int64_t)max_int;
 890     } else {
 891         return (abs_arg1 < max_int - abs_arg2) ? abs_arg1 + abs_arg2 : max_int;
 892     }
 893 }
 894
 895 void helper_msa_adds_a_b(CPUMIPSState *env,
 896                          uint32_t wd, uint32_t ws, uint32_t wt)
 897 {
 898     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 899     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 900     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 901
 902     pwd->b[0]  = msa_adds_a_df(DF_BYTE, pws->b[0],  pwt->b[0]);
 903     pwd->b[1]  = msa_adds_a_df(DF_BYTE, pws->b[1],  pwt->b[1]);
 904     pwd->b[2]  = msa_adds_a_df(DF_BYTE, pws->b[2],  pwt->b[2]);
 905     pwd->b[3]  = msa_adds_a_df(DF_BYTE, pws->b[3],  pwt->b[3]);
 906     pwd->b[4]  = msa_adds_a_df(DF_BYTE, pws->b[4],  pwt->b[4]);
 907     pwd->b[5]  = msa_adds_a_df(DF_BYTE, pws->b[5],  pwt->b[5]);
 908     pwd->b[6]  = msa_adds_a_df(DF_BYTE, pws->b[6],  pwt->b[6]);
 909     pwd->b[7]  = msa_adds_a_df(DF_BYTE, pws->b[7],  pwt->b[7]);
 910     pwd->b[8]  = msa_adds_a_df(DF_BYTE, pws->b[8],  pwt->b[8]);
 911     pwd->b[9]  = msa_adds_a_df(DF_BYTE, pws->b[9],  pwt->b[9]);
 912     pwd->b[10] = msa_adds_a_df(DF_BYTE, pws->b[10], pwt->b[10]);
 913     pwd->b[11] = msa_adds_a_df(DF_BYTE, pws->b[11], pwt->b[11]);
 914     pwd->b[12] = msa_adds_a_df(DF_BYTE, pws->b[12], pwt->b[12]);
 915     pwd->b[13] = msa_adds_a_df(DF_BYTE, pws->b[13], pwt->b[13]);
 916     pwd->b[14] = msa_adds_a_df(DF_BYTE, pws->b[14], pwt->b[14]);
 917     pwd->b[15] = msa_adds_a_df(DF_BYTE, pws->b[15], pwt->b[15]);
 918 }
 919
 920 void helper_msa_adds_a_h(CPUMIPSState *env,
 921                          uint32_t wd, uint32_t ws, uint32_t wt)
 922 {
 923     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 924     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 925     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 926
 927     pwd->h[0]  = msa_adds_a_df(DF_HALF, pws->h[0],  pwt->h[0]);
 928     pwd->h[1]  = msa_adds_a_df(DF_HALF, pws->h[1],  pwt->h[1]);
 929     pwd->h[2]  = msa_adds_a_df(DF_HALF, pws->h[2],  pwt->h[2]);
 930     pwd->h[3]  = msa_adds_a_df(DF_HALF, pws->h[3],  pwt->h[3]);
 931     pwd->h[4]  = msa_adds_a_df(DF_HALF, pws->h[4],  pwt->h[4]);
 932     pwd->h[5]  = msa_adds_a_df(DF_HALF, pws->h[5],  pwt->h[5]);
 933     pwd->h[6]  = msa_adds_a_df(DF_HALF, pws->h[6],  pwt->h[6]);
 934     pwd->h[7]  = msa_adds_a_df(DF_HALF, pws->h[7],  pwt->h[7]);
 935 }
 936
 937 void helper_msa_adds_a_w(CPUMIPSState *env,
 938                          uint32_t wd, uint32_t ws, uint32_t wt)
 939 {
 940     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 941     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 942     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 943
 944     pwd->w[0]  = msa_adds_a_df(DF_WORD, pws->w[0],  pwt->w[0]);
 945     pwd->w[1]  = msa_adds_a_df(DF_WORD, pws->w[1],  pwt->w[1]);
 946     pwd->w[2]  = msa_adds_a_df(DF_WORD, pws->w[2],  pwt->w[2]);
 947     pwd->w[3]  = msa_adds_a_df(DF_WORD, pws->w[3],  pwt->w[3]);
 948 }
 949
 950 void helper_msa_adds_a_d(CPUMIPSState *env,
 951                          uint32_t wd, uint32_t ws, uint32_t wt)
 952 {
 953     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 954     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 955     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 956
 957     pwd->d[0]  = msa_adds_a_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
 958     pwd->d[1]  = msa_adds_a_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
 959 }
 960
 961
 962 static inline int64_t msa_adds_s_df(uint32_t df, int64_t arg1, int64_t arg2)
 963 {
 964     int64_t max_int = DF_MAX_INT(df);
 965     int64_t min_int = DF_MIN_INT(df);
 966     if (arg1 < 0) {
 967         return (min_int - arg1 < arg2) ? arg1 + arg2 : min_int;
 968     } else {
 969         return (arg2 < max_int - arg1) ? arg1 + arg2 : max_int;
 970     }
 971 }
 972
 973 void helper_msa_adds_s_b(CPUMIPSState *env,
 974                          uint32_t wd, uint32_t ws, uint32_t wt)
 975 {
 976     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
 977     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
 978     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
 979
 980     pwd->b[0]  = msa_adds_s_df(DF_BYTE, pws->b[0],  pwt->b[0]);
 981     pwd->b[1]  = msa_adds_s_df(DF_BYTE, pws->b[1],  pwt->b[1]);
 982     pwd->b[2]  = msa_adds_s_df(DF_BYTE, pws->b[2],  pwt->b[2]);
 983     pwd->b[3]  = msa_adds_s_df(DF_BYTE, pws->b[3],  pwt->b[3]);
 984     pwd->b[4]  = msa_adds_s_df(DF_BYTE, pws->b[4],  pwt->b[4]);
 985     pwd->b[5]  = msa_adds_s_df(DF_BYTE, pws->b[5],  pwt->b[5]);
 986     pwd->b[6]  = msa_adds_s_df(DF_BYTE, pws->b[6],  pwt->b[6]);
 987     pwd->b[7]  = msa_adds_s_df(DF_BYTE, pws->b[7],  pwt->b[7]);
 988     pwd->b[8]  = msa_adds_s_df(DF_BYTE, pws->b[8],  pwt->b[8]);
 989     pwd->b[9]  = msa_adds_s_df(DF_BYTE, pws->b[9],  pwt->b[9]);
 990     pwd->b[10] = msa_adds_s_df(DF_BYTE, pws->b[10], pwt->b[10]);
 991     pwd->b[11] = msa_adds_s_df(DF_BYTE, pws->b[11], pwt->b[11]);
 992     pwd->b[12] = msa_adds_s_df(DF_BYTE, pws->b[12], pwt->b[12]);
 993     pwd->b[13] = msa_adds_s_df(DF_BYTE, pws->b[13], pwt->b[13]);
 994     pwd->b[14] = msa_adds_s_df(DF_BYTE, pws->b[14], pwt->b[14]);
 995     pwd->b[15] = msa_adds_s_df(DF_BYTE, pws->b[15], pwt->b[15]);
 996 }
 997
 998 void helper_msa_adds_s_h(CPUMIPSState *env,
 999                          uint32_t wd, uint32_t ws, uint32_t wt)
1000 {
1001     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1002     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1003     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1004
1005     pwd->h[0]  = msa_adds_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
1006     pwd->h[1]  = msa_adds_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
1007     pwd->h[2]  = msa_adds_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
1008     pwd->h[3]  = msa_adds_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
1009     pwd->h[4]  = msa_adds_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
1010     pwd->h[5]  = msa_adds_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
1011     pwd->h[6]  = msa_adds_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
1012     pwd->h[7]  = msa_adds_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
1013 }
1014
1015 void helper_msa_adds_s_w(CPUMIPSState *env,
1016                          uint32_t wd, uint32_t ws, uint32_t wt)
1017 {
1018     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1019     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1020     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1021
1022     pwd->w[0]  = msa_adds_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
1023     pwd->w[1]  = msa_adds_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
1024     pwd->w[2]  = msa_adds_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
1025     pwd->w[3]  = msa_adds_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
1026 }
1027
1028 void helper_msa_adds_s_d(CPUMIPSState *env,
1029                          uint32_t wd, uint32_t ws, uint32_t wt)
1030 {
1031     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1032     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1033     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1034
1035     pwd->d[0]  = msa_adds_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1036     pwd->d[1]  = msa_adds_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1037 }
1038
1039
1040 static inline uint64_t msa_adds_u_df(uint32_t df, uint64_t arg1, uint64_t arg2)
1041 {
1042     uint64_t max_uint = DF_MAX_UINT(df);
1043     uint64_t u_arg1 = UNSIGNED(arg1, df);
1044     uint64_t u_arg2 = UNSIGNED(arg2, df);
1045     return (u_arg1 < max_uint - u_arg2) ? u_arg1 + u_arg2 : max_uint;
1046 }
1047
1048 void helper_msa_adds_u_b(CPUMIPSState *env,
1049                          uint32_t wd, uint32_t ws, uint32_t wt)
1050 {
1051     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1052     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1053     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1054
1055     pwd->b[0]  = msa_adds_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1056     pwd->b[1]  = msa_adds_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1057     pwd->b[2]  = msa_adds_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1058     pwd->b[3]  = msa_adds_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1059     pwd->b[4]  = msa_adds_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1060     pwd->b[5]  = msa_adds_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1061     pwd->b[6]  = msa_adds_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1062     pwd->b[7]  = msa_adds_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1063     pwd->b[8]  = msa_adds_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1064     pwd->b[9]  = msa_adds_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1065     pwd->b[10] = msa_adds_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
1066     pwd->b[11] = msa_adds_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
1067     pwd->b[12] = msa_adds_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
1068     pwd->b[13] = msa_adds_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
1069     pwd->b[14] = msa_adds_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
1070     pwd->b[15] = msa_adds_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
1071 }
1072
1073 void helper_msa_adds_u_h(CPUMIPSState *env,
1074                          uint32_t wd, uint32_t ws, uint32_t wt)
1075 {
1076     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1077     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1078     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1079
1080     pwd->h[0]  = msa_adds_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
1081     pwd->h[1]  = msa_adds_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
1082     pwd->h[2]  = msa_adds_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
1083     pwd->h[3]  = msa_adds_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
1084     pwd->h[4]  = msa_adds_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
1085     pwd->h[5]  = msa_adds_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
1086     pwd->h[6]  = msa_adds_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
1087     pwd->h[7]  = msa_adds_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
1088 }
1089
1090 void helper_msa_adds_u_w(CPUMIPSState *env,
1091                          uint32_t wd, uint32_t ws, uint32_t wt)
1092 {
1093     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1094     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1095     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1096
1097     pwd->w[0]  = msa_adds_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
1098     pwd->w[1]  = msa_adds_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
1099     pwd->w[2]  = msa_adds_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
1100     pwd->w[3]  = msa_adds_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
1101 }
1102
1103 void helper_msa_adds_u_d(CPUMIPSState *env,
1104                          uint32_t wd, uint32_t ws, uint32_t wt)
1105 {
1106     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1107     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1108     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1109
1110     pwd->d[0]  = msa_adds_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1111     pwd->d[1]  = msa_adds_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1112 }
1113
1114
1115 static inline int64_t msa_addv_df(uint32_t df, int64_t arg1, int64_t arg2)
1116 {
1117     return arg1 + arg2;
1118 }
1119
1120 void helper_msa_addv_b(CPUMIPSState *env,
1121                        uint32_t wd, uint32_t ws, uint32_t wt)
1122 {
1123     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1124     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1125     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1126
1127     pwd->b[0]  = msa_addv_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1128     pwd->b[1]  = msa_addv_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1129     pwd->b[2]  = msa_addv_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1130     pwd->b[3]  = msa_addv_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1131     pwd->b[4]  = msa_addv_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1132     pwd->b[5]  = msa_addv_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1133     pwd->b[6]  = msa_addv_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1134     pwd->b[7]  = msa_addv_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1135     pwd->b[8]  = msa_addv_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1136     pwd->b[9]  = msa_addv_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1137     pwd->b[10] = msa_addv_df(DF_BYTE, pws->b[10], pwt->b[10]);
1138     pwd->b[11] = msa_addv_df(DF_BYTE, pws->b[11], pwt->b[11]);
1139     pwd->b[12] = msa_addv_df(DF_BYTE, pws->b[12], pwt->b[12]);
1140     pwd->b[13] = msa_addv_df(DF_BYTE, pws->b[13], pwt->b[13]);
1141     pwd->b[14] = msa_addv_df(DF_BYTE, pws->b[14], pwt->b[14]);
1142     pwd->b[15] = msa_addv_df(DF_BYTE, pws->b[15], pwt->b[15]);
1143 }
1144
1145 void helper_msa_addv_h(CPUMIPSState *env,
1146                        uint32_t wd, uint32_t ws, uint32_t wt)
1147 {
1148     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1149     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1150     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1151
1152     pwd->h[0]  = msa_addv_df(DF_HALF, pws->h[0],  pwt->h[0]);
1153     pwd->h[1]  = msa_addv_df(DF_HALF, pws->h[1],  pwt->h[1]);
1154     pwd->h[2]  = msa_addv_df(DF_HALF, pws->h[2],  pwt->h[2]);
1155     pwd->h[3]  = msa_addv_df(DF_HALF, pws->h[3],  pwt->h[3]);
1156     pwd->h[4]  = msa_addv_df(DF_HALF, pws->h[4],  pwt->h[4]);
1157     pwd->h[5]  = msa_addv_df(DF_HALF, pws->h[5],  pwt->h[5]);
1158     pwd->h[6]  = msa_addv_df(DF_HALF, pws->h[6],  pwt->h[6]);
1159     pwd->h[7]  = msa_addv_df(DF_HALF, pws->h[7],  pwt->h[7]);
1160 }
1161
1162 void helper_msa_addv_w(CPUMIPSState *env,
1163                        uint32_t wd, uint32_t ws, uint32_t wt)
1164 {
1165     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1166     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1167     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1168
1169     pwd->w[0]  = msa_addv_df(DF_WORD, pws->w[0],  pwt->w[0]);
1170     pwd->w[1]  = msa_addv_df(DF_WORD, pws->w[1],  pwt->w[1]);
1171     pwd->w[2]  = msa_addv_df(DF_WORD, pws->w[2],  pwt->w[2]);
1172     pwd->w[3]  = msa_addv_df(DF_WORD, pws->w[3],  pwt->w[3]);
1173 }
1174
1175 void helper_msa_addv_d(CPUMIPSState *env,
1176                        uint32_t wd, uint32_t ws, uint32_t wt)
1177 {
1178     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1179     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1180     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1181
1182     pwd->d[0]  = msa_addv_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1183     pwd->d[1]  = msa_addv_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1184 }
1185
1186
1187 #define SIGNED_EVEN(a, df) \
1188         ((((int64_t)(a)) << (64 - DF_BITS(df) / 2)) >> (64 - DF_BITS(df) / 2))
1189
1190 #define UNSIGNED_EVEN(a, df) \
1191         ((((uint64_t)(a)) << (64 - DF_BITS(df) / 2)) >> (64 - DF_BITS(df) / 2))
1192
1193 #define SIGNED_ODD(a, df) \
1194         ((((int64_t)(a)) << (64 - DF_BITS(df))) >> (64 - DF_BITS(df) / 2))
1195
1196 #define UNSIGNED_ODD(a, df) \
1197         ((((uint64_t)(a)) << (64 - DF_BITS(df))) >> (64 - DF_BITS(df) / 2))
1198
1199
1200 static inline int64_t msa_hadd_s_df(uint32_t df, int64_t arg1, int64_t arg2)
1201 {
1202     return SIGNED_ODD(arg1, df) + SIGNED_EVEN(arg2, df);
1203 }
1204
1205 void helper_msa_hadd_s_h(CPUMIPSState *env,
1206                          uint32_t wd, uint32_t ws, uint32_t wt)
1207 {
1208     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1209     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1210     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1211
1212     pwd->h[0]  = msa_hadd_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
1213     pwd->h[1]  = msa_hadd_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
1214     pwd->h[2]  = msa_hadd_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
1215     pwd->h[3]  = msa_hadd_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
1216     pwd->h[4]  = msa_hadd_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
1217     pwd->h[5]  = msa_hadd_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
1218     pwd->h[6]  = msa_hadd_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
1219     pwd->h[7]  = msa_hadd_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
1220 }
1221
1222 void helper_msa_hadd_s_w(CPUMIPSState *env,
1223                          uint32_t wd, uint32_t ws, uint32_t wt)
1224 {
1225     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1226     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1227     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1228
1229     pwd->w[0]  = msa_hadd_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
1230     pwd->w[1]  = msa_hadd_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
1231     pwd->w[2]  = msa_hadd_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
1232     pwd->w[3]  = msa_hadd_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
1233 }
1234
1235 void helper_msa_hadd_s_d(CPUMIPSState *env,
1236                          uint32_t wd, uint32_t ws, uint32_t wt)
1237 {
1238     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1239     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1240     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1241
1242     pwd->d[0]  = msa_hadd_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1243     pwd->d[1]  = msa_hadd_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1244 }
1245
1246
1247 static inline int64_t msa_hadd_u_df(uint32_t df, int64_t arg1, int64_t arg2)
1248 {
1249     return UNSIGNED_ODD(arg1, df) + UNSIGNED_EVEN(arg2, df);
1250 }
1251
1252 void helper_msa_hadd_u_h(CPUMIPSState *env,
1253                          uint32_t wd, uint32_t ws, uint32_t wt)
1254 {
1255     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1256     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1257     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1258
1259     pwd->h[0]  = msa_hadd_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
1260     pwd->h[1]  = msa_hadd_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
1261     pwd->h[2]  = msa_hadd_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
1262     pwd->h[3]  = msa_hadd_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
1263     pwd->h[4]  = msa_hadd_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
1264     pwd->h[5]  = msa_hadd_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
1265     pwd->h[6]  = msa_hadd_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
1266     pwd->h[7]  = msa_hadd_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
1267 }
1268
1269 void helper_msa_hadd_u_w(CPUMIPSState *env,
1270                          uint32_t wd, uint32_t ws, uint32_t wt)
1271 {
1272     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1273     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1274     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1275
1276     pwd->w[0]  = msa_hadd_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
1277     pwd->w[1]  = msa_hadd_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
1278     pwd->w[2]  = msa_hadd_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
1279     pwd->w[3]  = msa_hadd_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
1280 }
1281
1282 void helper_msa_hadd_u_d(CPUMIPSState *env,
1283                          uint32_t wd, uint32_t ws, uint32_t wt)
1284 {
1285     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1286     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1287     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1288
1289     pwd->d[0]  = msa_hadd_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1290     pwd->d[1]  = msa_hadd_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1291 }
1292
1293
1294 /*
1295  * Int Average
1296  * -----------
1297  *
1298  * +---------------+----------------------------------------------------------+
1299  * | AVE_S.B       | Vector Signed Average (byte)                             |
1300  * | AVE_S.H       | Vector Signed Average (halfword)                         |
1301  * | AVE_S.W       | Vector Signed Average (word)                             |
1302  * | AVE_S.D       | Vector Signed Average (doubleword)                       |
1303  * | AVE_U.B       | Vector Unsigned Average (byte)                           |
1304  * | AVE_U.H       | Vector Unsigned Average (halfword)                       |
1305  * | AVE_U.W       | Vector Unsigned Average (word)                           |
1306  * | AVE_U.D       | Vector Unsigned Average (doubleword)                     |
1307  * | AVER_S.B      | Vector Signed Average Rounded (byte)                     |
1308  * | AVER_S.H      | Vector Signed Average Rounded (halfword)                 |
1309  * | AVER_S.W      | Vector Signed Average Rounded (word)                     |
1310  * | AVER_S.D      | Vector Signed Average Rounded (doubleword)               |
1311  * | AVER_U.B      | Vector Unsigned Average Rounded (byte)                   |
1312  * | AVER_U.H      | Vector Unsigned Average Rounded (halfword)               |
1313  * | AVER_U.W      | Vector Unsigned Average Rounded (word)                   |
1314  * | AVER_U.D      | Vector Unsigned Average Rounded (doubleword)             |
1315  * +---------------+----------------------------------------------------------+
1316  */
1317
1318 static inline int64_t msa_ave_s_df(uint32_t df, int64_t arg1, int64_t arg2)
1319 {
1320     /* signed shift */
1321     return (arg1 >> 1) + (arg2 >> 1) + (arg1 & arg2 & 1);
1322 }
1323
1324 void helper_msa_ave_s_b(CPUMIPSState *env,
1325                         uint32_t wd, uint32_t ws, uint32_t wt)
1326 {
1327     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1328     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1329     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1330
1331     pwd->b[0]  = msa_ave_s_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1332     pwd->b[1]  = msa_ave_s_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1333     pwd->b[2]  = msa_ave_s_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1334     pwd->b[3]  = msa_ave_s_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1335     pwd->b[4]  = msa_ave_s_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1336     pwd->b[5]  = msa_ave_s_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1337     pwd->b[6]  = msa_ave_s_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1338     pwd->b[7]  = msa_ave_s_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1339     pwd->b[8]  = msa_ave_s_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1340     pwd->b[9]  = msa_ave_s_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1341     pwd->b[10] = msa_ave_s_df(DF_BYTE, pws->b[10], pwt->b[10]);
1342     pwd->b[11] = msa_ave_s_df(DF_BYTE, pws->b[11], pwt->b[11]);
1343     pwd->b[12] = msa_ave_s_df(DF_BYTE, pws->b[12], pwt->b[12]);
1344     pwd->b[13] = msa_ave_s_df(DF_BYTE, pws->b[13], pwt->b[13]);
1345     pwd->b[14] = msa_ave_s_df(DF_BYTE, pws->b[14], pwt->b[14]);
1346     pwd->b[15] = msa_ave_s_df(DF_BYTE, pws->b[15], pwt->b[15]);
1347 }
1348
1349 void helper_msa_ave_s_h(CPUMIPSState *env,
1350                         uint32_t wd, uint32_t ws, uint32_t wt)
1351 {
1352     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1353     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1354     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1355
1356     pwd->h[0]  = msa_ave_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
1357     pwd->h[1]  = msa_ave_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
1358     pwd->h[2]  = msa_ave_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
1359     pwd->h[3]  = msa_ave_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
1360     pwd->h[4]  = msa_ave_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
1361     pwd->h[5]  = msa_ave_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
1362     pwd->h[6]  = msa_ave_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
1363     pwd->h[7]  = msa_ave_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
1364 }
1365
1366 void helper_msa_ave_s_w(CPUMIPSState *env,
1367                         uint32_t wd, uint32_t ws, uint32_t wt)
1368 {
1369     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1370     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1371     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1372
1373     pwd->w[0]  = msa_ave_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
1374     pwd->w[1]  = msa_ave_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
1375     pwd->w[2]  = msa_ave_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
1376     pwd->w[3]  = msa_ave_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
1377 }
1378
1379 void helper_msa_ave_s_d(CPUMIPSState *env,
1380                         uint32_t wd, uint32_t ws, uint32_t wt)
1381 {
1382     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1383     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1384     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1385
1386     pwd->d[0]  = msa_ave_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1387     pwd->d[1]  = msa_ave_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1388 }
1389
1390 static inline uint64_t msa_ave_u_df(uint32_t df, uint64_t arg1, uint64_t arg2)
1391 {
1392     uint64_t u_arg1 = UNSIGNED(arg1, df);
1393     uint64_t u_arg2 = UNSIGNED(arg2, df);
1394     /* unsigned shift */
1395     return (u_arg1 >> 1) + (u_arg2 >> 1) + (u_arg1 & u_arg2 & 1);
1396 }
1397
1398 void helper_msa_ave_u_b(CPUMIPSState *env,
1399                         uint32_t wd, uint32_t ws, uint32_t wt)
1400 {
1401     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1402     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1403     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1404
1405     pwd->b[0]  = msa_ave_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1406     pwd->b[1]  = msa_ave_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1407     pwd->b[2]  = msa_ave_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1408     pwd->b[3]  = msa_ave_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1409     pwd->b[4]  = msa_ave_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1410     pwd->b[5]  = msa_ave_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1411     pwd->b[6]  = msa_ave_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1412     pwd->b[7]  = msa_ave_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1413     pwd->b[8]  = msa_ave_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1414     pwd->b[9]  = msa_ave_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1415     pwd->b[10] = msa_ave_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
1416     pwd->b[11] = msa_ave_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
1417     pwd->b[12] = msa_ave_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
1418     pwd->b[13] = msa_ave_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
1419     pwd->b[14] = msa_ave_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
1420     pwd->b[15] = msa_ave_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
1421 }
1422
1423 void helper_msa_ave_u_h(CPUMIPSState *env,
1424                         uint32_t wd, uint32_t ws, uint32_t wt)
1425 {
1426     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1427     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1428     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1429
1430     pwd->h[0]  = msa_ave_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
1431     pwd->h[1]  = msa_ave_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
1432     pwd->h[2]  = msa_ave_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
1433     pwd->h[3]  = msa_ave_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
1434     pwd->h[4]  = msa_ave_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
1435     pwd->h[5]  = msa_ave_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
1436     pwd->h[6]  = msa_ave_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
1437     pwd->h[7]  = msa_ave_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
1438 }
1439
1440 void helper_msa_ave_u_w(CPUMIPSState *env,
1441                         uint32_t wd, uint32_t ws, uint32_t wt)
1442 {
1443     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1444     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1445     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1446
1447     pwd->w[0]  = msa_ave_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
1448     pwd->w[1]  = msa_ave_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
1449     pwd->w[2]  = msa_ave_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
1450     pwd->w[3]  = msa_ave_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
1451 }
1452
1453 void helper_msa_ave_u_d(CPUMIPSState *env,
1454                         uint32_t wd, uint32_t ws, uint32_t wt)
1455 {
1456     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1457     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1458     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1459
1460     pwd->d[0]  = msa_ave_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1461     pwd->d[1]  = msa_ave_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1462 }
1463
1464 static inline int64_t msa_aver_s_df(uint32_t df, int64_t arg1, int64_t arg2)
1465 {
1466     /* signed shift */
1467     return (arg1 >> 1) + (arg2 >> 1) + ((arg1 | arg2) & 1);
1468 }
1469
1470 void helper_msa_aver_s_b(CPUMIPSState *env,
1471                          uint32_t wd, uint32_t ws, uint32_t wt)
1472 {
1473     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1474     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1475     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1476
1477     pwd->b[0]  = msa_aver_s_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1478     pwd->b[1]  = msa_aver_s_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1479     pwd->b[2]  = msa_aver_s_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1480     pwd->b[3]  = msa_aver_s_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1481     pwd->b[4]  = msa_aver_s_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1482     pwd->b[5]  = msa_aver_s_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1483     pwd->b[6]  = msa_aver_s_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1484     pwd->b[7]  = msa_aver_s_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1485     pwd->b[8]  = msa_aver_s_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1486     pwd->b[9]  = msa_aver_s_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1487     pwd->b[10] = msa_aver_s_df(DF_BYTE, pws->b[10], pwt->b[10]);
1488     pwd->b[11] = msa_aver_s_df(DF_BYTE, pws->b[11], pwt->b[11]);
1489     pwd->b[12] = msa_aver_s_df(DF_BYTE, pws->b[12], pwt->b[12]);
1490     pwd->b[13] = msa_aver_s_df(DF_BYTE, pws->b[13], pwt->b[13]);
1491     pwd->b[14] = msa_aver_s_df(DF_BYTE, pws->b[14], pwt->b[14]);
1492     pwd->b[15] = msa_aver_s_df(DF_BYTE, pws->b[15], pwt->b[15]);
1493 }
1494
1495 void helper_msa_aver_s_h(CPUMIPSState *env,
1496                          uint32_t wd, uint32_t ws, uint32_t wt)
1497 {
1498     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1499     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1500     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1501
1502     pwd->h[0]  = msa_aver_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
1503     pwd->h[1]  = msa_aver_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
1504     pwd->h[2]  = msa_aver_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
1505     pwd->h[3]  = msa_aver_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
1506     pwd->h[4]  = msa_aver_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
1507     pwd->h[5]  = msa_aver_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
1508     pwd->h[6]  = msa_aver_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
1509     pwd->h[7]  = msa_aver_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
1510 }
1511
1512 void helper_msa_aver_s_w(CPUMIPSState *env,
1513                          uint32_t wd, uint32_t ws, uint32_t wt)
1514 {
1515     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1516     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1517     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1518
1519     pwd->w[0]  = msa_aver_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
1520     pwd->w[1]  = msa_aver_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
1521     pwd->w[2]  = msa_aver_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
1522     pwd->w[3]  = msa_aver_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
1523 }
1524
1525 void helper_msa_aver_s_d(CPUMIPSState *env,
1526                          uint32_t wd, uint32_t ws, uint32_t wt)
1527 {
1528     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1529     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1530     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1531
1532     pwd->d[0]  = msa_aver_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1533     pwd->d[1]  = msa_aver_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1534 }
1535
1536 static inline uint64_t msa_aver_u_df(uint32_t df, uint64_t arg1, uint64_t arg2)
1537 {
1538     uint64_t u_arg1 = UNSIGNED(arg1, df);
1539     uint64_t u_arg2 = UNSIGNED(arg2, df);
1540     /* unsigned shift */
1541     return (u_arg1 >> 1) + (u_arg2 >> 1) + ((u_arg1 | u_arg2) & 1);
1542 }
1543
1544 void helper_msa_aver_u_b(CPUMIPSState *env,
1545                          uint32_t wd, uint32_t ws, uint32_t wt)
1546 {
1547     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1548     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1549     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1550
1551     pwd->b[0]  = msa_aver_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1552     pwd->b[1]  = msa_aver_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1553     pwd->b[2]  = msa_aver_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1554     pwd->b[3]  = msa_aver_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1555     pwd->b[4]  = msa_aver_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1556     pwd->b[5]  = msa_aver_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1557     pwd->b[6]  = msa_aver_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1558     pwd->b[7]  = msa_aver_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1559     pwd->b[8]  = msa_aver_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1560     pwd->b[9]  = msa_aver_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1561     pwd->b[10] = msa_aver_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
1562     pwd->b[11] = msa_aver_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
1563     pwd->b[12] = msa_aver_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
1564     pwd->b[13] = msa_aver_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
1565     pwd->b[14] = msa_aver_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
1566     pwd->b[15] = msa_aver_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
1567 }
1568
1569 void helper_msa_aver_u_h(CPUMIPSState *env,
1570                          uint32_t wd, uint32_t ws, uint32_t wt)
1571 {
1572     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1573     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1574     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1575
1576     pwd->h[0]  = msa_aver_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
1577     pwd->h[1]  = msa_aver_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
1578     pwd->h[2]  = msa_aver_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
1579     pwd->h[3]  = msa_aver_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
1580     pwd->h[4]  = msa_aver_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
1581     pwd->h[5]  = msa_aver_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
1582     pwd->h[6]  = msa_aver_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
1583     pwd->h[7]  = msa_aver_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
1584 }
1585
1586 void helper_msa_aver_u_w(CPUMIPSState *env,
1587                          uint32_t wd, uint32_t ws, uint32_t wt)
1588 {
1589     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1590     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1591     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1592
1593     pwd->w[0]  = msa_aver_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
1594     pwd->w[1]  = msa_aver_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
1595     pwd->w[2]  = msa_aver_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
1596     pwd->w[3]  = msa_aver_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
1597 }
1598
1599 void helper_msa_aver_u_d(CPUMIPSState *env,
1600                          uint32_t wd, uint32_t ws, uint32_t wt)
1601 {
1602     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1603     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1604     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1605
1606     pwd->d[0]  = msa_aver_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1607     pwd->d[1]  = msa_aver_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1608 }
1609
1610
1611 /*
1612  * Int Compare
1613  * -----------
1614  *
1615  * +---------------+----------------------------------------------------------+
1616  * | CEQ.B         | Vector Compare Equal (byte)                              |
1617  * | CEQ.H         | Vector Compare Equal (halfword)                          |
1618  * | CEQ.W         | Vector Compare Equal (word)                              |
1619  * | CEQ.D         | Vector Compare Equal (doubleword)                        |
1620  * | CLE_S.B       | Vector Compare Signed Less Than or Equal (byte)          |
1621  * | CLE_S.H       | Vector Compare Signed Less Than or Equal (halfword)      |
1622  * | CLE_S.W       | Vector Compare Signed Less Than or Equal (word)          |
1623  * | CLE_S.D       | Vector Compare Signed Less Than or Equal (doubleword)    |
1624  * | CLE_U.B       | Vector Compare Unsigned Less Than or Equal (byte)        |
1625  * | CLE_U.H       | Vector Compare Unsigned Less Than or Equal (halfword)    |
1626  * | CLE_U.W       | Vector Compare Unsigned Less Than or Equal (word)        |
1627  * | CLE_U.D       | Vector Compare Unsigned Less Than or Equal (doubleword)  |
1628  * | CLT_S.B       | Vector Compare Signed Less Than (byte)                   |
1629  * | CLT_S.H       | Vector Compare Signed Less Than (halfword)               |
1630  * | CLT_S.W       | Vector Compare Signed Less Than (word)                   |
1631  * | CLT_S.D       | Vector Compare Signed Less Than (doubleword)             |
1632  * | CLT_U.B       | Vector Compare Unsigned Less Than (byte)                 |
1633  * | CLT_U.H       | Vector Compare Unsigned Less Than (halfword)             |
1634  * | CLT_U.W       | Vector Compare Unsigned Less Than (word)                 |
1635  * | CLT_U.D       | Vector Compare Unsigned Less Than (doubleword)           |
1636  * +---------------+----------------------------------------------------------+
1637  */
1638
1639 static inline int64_t msa_ceq_df(uint32_t df, int64_t arg1, int64_t arg2)
1640 {
1641     return arg1 == arg2 ? -1 : 0;
1642 }
1643
1644 static inline int8_t msa_ceq_b(int8_t arg1, int8_t arg2)
1645 {
1646     return arg1 == arg2 ? -1 : 0;
1647 }
1648
1649 void helper_msa_ceq_b(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
1650 {
1651     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1652     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1653     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1654
1655     pwd->b[0]  = msa_ceq_b(pws->b[0],  pwt->b[0]);
1656     pwd->b[1]  = msa_ceq_b(pws->b[1],  pwt->b[1]);
1657     pwd->b[2]  = msa_ceq_b(pws->b[2],  pwt->b[2]);
1658     pwd->b[3]  = msa_ceq_b(pws->b[3],  pwt->b[3]);
1659     pwd->b[4]  = msa_ceq_b(pws->b[4],  pwt->b[4]);
1660     pwd->b[5]  = msa_ceq_b(pws->b[5],  pwt->b[5]);
1661     pwd->b[6]  = msa_ceq_b(pws->b[6],  pwt->b[6]);
1662     pwd->b[7]  = msa_ceq_b(pws->b[7],  pwt->b[7]);
1663     pwd->b[8]  = msa_ceq_b(pws->b[8],  pwt->b[8]);
1664     pwd->b[9]  = msa_ceq_b(pws->b[9],  pwt->b[9]);
1665     pwd->b[10] = msa_ceq_b(pws->b[10], pwt->b[10]);
1666     pwd->b[11] = msa_ceq_b(pws->b[11], pwt->b[11]);
1667     pwd->b[12] = msa_ceq_b(pws->b[12], pwt->b[12]);
1668     pwd->b[13] = msa_ceq_b(pws->b[13], pwt->b[13]);
1669     pwd->b[14] = msa_ceq_b(pws->b[14], pwt->b[14]);
1670     pwd->b[15] = msa_ceq_b(pws->b[15], pwt->b[15]);
1671 }
1672
1673 static inline int16_t msa_ceq_h(int16_t arg1, int16_t arg2)
1674 {
1675     return arg1 == arg2 ? -1 : 0;
1676 }
1677
1678 void helper_msa_ceq_h(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
1679 {
1680     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1681     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1682     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1683
1684     pwd->h[0]  = msa_ceq_h(pws->h[0],  pwt->h[0]);
1685     pwd->h[1]  = msa_ceq_h(pws->h[1],  pwt->h[1]);
1686     pwd->h[2]  = msa_ceq_h(pws->h[2],  pwt->h[2]);
1687     pwd->h[3]  = msa_ceq_h(pws->h[3],  pwt->h[3]);
1688     pwd->h[4]  = msa_ceq_h(pws->h[4],  pwt->h[4]);
1689     pwd->h[5]  = msa_ceq_h(pws->h[5],  pwt->h[5]);
1690     pwd->h[6]  = msa_ceq_h(pws->h[6],  pwt->h[6]);
1691     pwd->h[7]  = msa_ceq_h(pws->h[7],  pwt->h[7]);
1692 }
1693
1694 static inline int32_t msa_ceq_w(int32_t arg1, int32_t arg2)
1695 {
1696     return arg1 == arg2 ? -1 : 0;
1697 }
1698
1699 void helper_msa_ceq_w(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
1700 {
1701     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1702     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1703     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1704
1705     pwd->w[0]  = msa_ceq_w(pws->w[0],  pwt->w[0]);
1706     pwd->w[1]  = msa_ceq_w(pws->w[1],  pwt->w[1]);
1707     pwd->w[2]  = msa_ceq_w(pws->w[2],  pwt->w[2]);
1708     pwd->w[3]  = msa_ceq_w(pws->w[3],  pwt->w[3]);
1709 }
1710
1711 static inline int64_t msa_ceq_d(int64_t arg1, int64_t arg2)
1712 {
1713     return arg1 == arg2 ? -1 : 0;
1714 }
1715
1716 void helper_msa_ceq_d(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
1717 {
1718     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1719     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1720     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1721
1722     pwd->d[0]  = msa_ceq_d(pws->d[0],  pwt->d[0]);
1723     pwd->d[1]  = msa_ceq_d(pws->d[1],  pwt->d[1]);
1724 }
1725
1726 static inline int64_t msa_cle_s_df(uint32_t df, int64_t arg1, int64_t arg2)
1727 {
1728     return arg1 <= arg2 ? -1 : 0;
1729 }
1730
1731 void helper_msa_cle_s_b(CPUMIPSState *env,
1732                         uint32_t wd, uint32_t ws, uint32_t wt)
1733 {
1734     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1735     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1736     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1737
1738     pwd->b[0]  = msa_cle_s_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1739     pwd->b[1]  = msa_cle_s_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1740     pwd->b[2]  = msa_cle_s_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1741     pwd->b[3]  = msa_cle_s_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1742     pwd->b[4]  = msa_cle_s_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1743     pwd->b[5]  = msa_cle_s_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1744     pwd->b[6]  = msa_cle_s_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1745     pwd->b[7]  = msa_cle_s_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1746     pwd->b[8]  = msa_cle_s_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1747     pwd->b[9]  = msa_cle_s_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1748     pwd->b[10] = msa_cle_s_df(DF_BYTE, pws->b[10], pwt->b[10]);
1749     pwd->b[11] = msa_cle_s_df(DF_BYTE, pws->b[11], pwt->b[11]);
1750     pwd->b[12] = msa_cle_s_df(DF_BYTE, pws->b[12], pwt->b[12]);
1751     pwd->b[13] = msa_cle_s_df(DF_BYTE, pws->b[13], pwt->b[13]);
1752     pwd->b[14] = msa_cle_s_df(DF_BYTE, pws->b[14], pwt->b[14]);
1753     pwd->b[15] = msa_cle_s_df(DF_BYTE, pws->b[15], pwt->b[15]);
1754 }
1755
1756 void helper_msa_cle_s_h(CPUMIPSState *env,
1757                         uint32_t wd, uint32_t ws, uint32_t wt)
1758 {
1759     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1760     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1761     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1762
1763     pwd->h[0]  = msa_cle_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
1764     pwd->h[1]  = msa_cle_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
1765     pwd->h[2]  = msa_cle_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
1766     pwd->h[3]  = msa_cle_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
1767     pwd->h[4]  = msa_cle_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
1768     pwd->h[5]  = msa_cle_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
1769     pwd->h[6]  = msa_cle_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
1770     pwd->h[7]  = msa_cle_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
1771 }
1772
1773 void helper_msa_cle_s_w(CPUMIPSState *env,
1774                         uint32_t wd, uint32_t ws, uint32_t wt)
1775 {
1776     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1777     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1778     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1779
1780     pwd->w[0]  = msa_cle_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
1781     pwd->w[1]  = msa_cle_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
1782     pwd->w[2]  = msa_cle_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
1783     pwd->w[3]  = msa_cle_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
1784 }
1785
1786 void helper_msa_cle_s_d(CPUMIPSState *env,
1787                         uint32_t wd, uint32_t ws, uint32_t wt)
1788 {
1789     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1790     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1791     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1792
1793     pwd->d[0]  = msa_cle_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1794     pwd->d[1]  = msa_cle_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1795 }
1796
1797 static inline int64_t msa_cle_u_df(uint32_t df, int64_t arg1, int64_t arg2)
1798 {
1799     uint64_t u_arg1 = UNSIGNED(arg1, df);
1800     uint64_t u_arg2 = UNSIGNED(arg2, df);
1801     return u_arg1 <= u_arg2 ? -1 : 0;
1802 }
1803
1804 void helper_msa_cle_u_b(CPUMIPSState *env,
1805                         uint32_t wd, uint32_t ws, uint32_t wt)
1806 {
1807     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1808     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1809     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1810
1811     pwd->b[0]  = msa_cle_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1812     pwd->b[1]  = msa_cle_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1813     pwd->b[2]  = msa_cle_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1814     pwd->b[3]  = msa_cle_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1815     pwd->b[4]  = msa_cle_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1816     pwd->b[5]  = msa_cle_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1817     pwd->b[6]  = msa_cle_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1818     pwd->b[7]  = msa_cle_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1819     pwd->b[8]  = msa_cle_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1820     pwd->b[9]  = msa_cle_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1821     pwd->b[10] = msa_cle_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
1822     pwd->b[11] = msa_cle_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
1823     pwd->b[12] = msa_cle_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
1824     pwd->b[13] = msa_cle_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
1825     pwd->b[14] = msa_cle_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
1826     pwd->b[15] = msa_cle_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
1827 }
1828
1829 void helper_msa_cle_u_h(CPUMIPSState *env,
1830                         uint32_t wd, uint32_t ws, uint32_t wt)
1831 {
1832     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1833     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1834     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1835
1836     pwd->h[0]  = msa_cle_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
1837     pwd->h[1]  = msa_cle_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
1838     pwd->h[2]  = msa_cle_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
1839     pwd->h[3]  = msa_cle_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
1840     pwd->h[4]  = msa_cle_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
1841     pwd->h[5]  = msa_cle_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
1842     pwd->h[6]  = msa_cle_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
1843     pwd->h[7]  = msa_cle_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
1844 }
1845
1846 void helper_msa_cle_u_w(CPUMIPSState *env,
1847                         uint32_t wd, uint32_t ws, uint32_t wt)
1848 {
1849     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1850     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1851     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1852
1853     pwd->w[0]  = msa_cle_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
1854     pwd->w[1]  = msa_cle_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
1855     pwd->w[2]  = msa_cle_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
1856     pwd->w[3]  = msa_cle_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
1857 }
1858
1859 void helper_msa_cle_u_d(CPUMIPSState *env,
1860                         uint32_t wd, uint32_t ws, uint32_t wt)
1861 {
1862     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1863     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1864     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1865
1866     pwd->d[0]  = msa_cle_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
1867     pwd->d[1]  = msa_cle_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
1868 }
1869
1870 static inline int64_t msa_clt_s_df(uint32_t df, int64_t arg1, int64_t arg2)
1871 {
1872     return arg1 < arg2 ? -1 : 0;
1873 }
1874
1875 static inline int8_t msa_clt_s_b(int8_t arg1, int8_t arg2)
1876 {
1877     return arg1 < arg2 ? -1 : 0;
1878 }
1879
1880 void helper_msa_clt_s_b(CPUMIPSState *env,
1881                         uint32_t wd, uint32_t ws, uint32_t wt)
1882 {
1883     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1884     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1885     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1886
1887     pwd->b[0]  = msa_clt_s_b(pws->b[0],  pwt->b[0]);
1888     pwd->b[1]  = msa_clt_s_b(pws->b[1],  pwt->b[1]);
1889     pwd->b[2]  = msa_clt_s_b(pws->b[2],  pwt->b[2]);
1890     pwd->b[3]  = msa_clt_s_b(pws->b[3],  pwt->b[3]);
1891     pwd->b[4]  = msa_clt_s_b(pws->b[4],  pwt->b[4]);
1892     pwd->b[5]  = msa_clt_s_b(pws->b[5],  pwt->b[5]);
1893     pwd->b[6]  = msa_clt_s_b(pws->b[6],  pwt->b[6]);
1894     pwd->b[7]  = msa_clt_s_b(pws->b[7],  pwt->b[7]);
1895     pwd->b[8]  = msa_clt_s_b(pws->b[8],  pwt->b[8]);
1896     pwd->b[9]  = msa_clt_s_b(pws->b[9],  pwt->b[9]);
1897     pwd->b[10] = msa_clt_s_b(pws->b[10], pwt->b[10]);
1898     pwd->b[11] = msa_clt_s_b(pws->b[11], pwt->b[11]);
1899     pwd->b[12] = msa_clt_s_b(pws->b[12], pwt->b[12]);
1900     pwd->b[13] = msa_clt_s_b(pws->b[13], pwt->b[13]);
1901     pwd->b[14] = msa_clt_s_b(pws->b[14], pwt->b[14]);
1902     pwd->b[15] = msa_clt_s_b(pws->b[15], pwt->b[15]);
1903 }
1904
1905 static inline int16_t msa_clt_s_h(int16_t arg1, int16_t arg2)
1906 {
1907     return arg1 < arg2 ? -1 : 0;
1908 }
1909
1910 void helper_msa_clt_s_h(CPUMIPSState *env,
1911                         uint32_t wd, uint32_t ws, uint32_t wt)
1912 {
1913     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1914     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1915     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1916
1917     pwd->h[0]  = msa_clt_s_h(pws->h[0],  pwt->h[0]);
1918     pwd->h[1]  = msa_clt_s_h(pws->h[1],  pwt->h[1]);
1919     pwd->h[2]  = msa_clt_s_h(pws->h[2],  pwt->h[2]);
1920     pwd->h[3]  = msa_clt_s_h(pws->h[3],  pwt->h[3]);
1921     pwd->h[4]  = msa_clt_s_h(pws->h[4],  pwt->h[4]);
1922     pwd->h[5]  = msa_clt_s_h(pws->h[5],  pwt->h[5]);
1923     pwd->h[6]  = msa_clt_s_h(pws->h[6],  pwt->h[6]);
1924     pwd->h[7]  = msa_clt_s_h(pws->h[7],  pwt->h[7]);
1925 }
1926
1927 static inline int32_t msa_clt_s_w(int32_t arg1, int32_t arg2)
1928 {
1929     return arg1 < arg2 ? -1 : 0;
1930 }
1931
1932 void helper_msa_clt_s_w(CPUMIPSState *env,
1933                         uint32_t wd, uint32_t ws, uint32_t wt)
1934 {
1935     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1936     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1937     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1938
1939     pwd->w[0]  = msa_clt_s_w(pws->w[0],  pwt->w[0]);
1940     pwd->w[1]  = msa_clt_s_w(pws->w[1],  pwt->w[1]);
1941     pwd->w[2]  = msa_clt_s_w(pws->w[2],  pwt->w[2]);
1942     pwd->w[3]  = msa_clt_s_w(pws->w[3],  pwt->w[3]);
1943 }
1944
1945 static inline int64_t msa_clt_s_d(int64_t arg1, int64_t arg2)
1946 {
1947     return arg1 < arg2 ? -1 : 0;
1948 }
1949
1950 void helper_msa_clt_s_d(CPUMIPSState *env,
1951                         uint32_t wd, uint32_t ws, uint32_t wt)
1952 {
1953     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1954     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1955     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1956
1957     pwd->d[0]  = msa_clt_s_d(pws->d[0],  pwt->d[0]);
1958     pwd->d[1]  = msa_clt_s_d(pws->d[1],  pwt->d[1]);
1959 }
1960
1961 static inline int64_t msa_clt_u_df(uint32_t df, int64_t arg1, int64_t arg2)
1962 {
1963     uint64_t u_arg1 = UNSIGNED(arg1, df);
1964     uint64_t u_arg2 = UNSIGNED(arg2, df);
1965     return u_arg1 < u_arg2 ? -1 : 0;
1966 }
1967
1968 void helper_msa_clt_u_b(CPUMIPSState *env,
1969                         uint32_t wd, uint32_t ws, uint32_t wt)
1970 {
1971     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1972     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1973     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1974
1975     pwd->b[0]  = msa_clt_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
1976     pwd->b[1]  = msa_clt_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
1977     pwd->b[2]  = msa_clt_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
1978     pwd->b[3]  = msa_clt_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
1979     pwd->b[4]  = msa_clt_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
1980     pwd->b[5]  = msa_clt_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
1981     pwd->b[6]  = msa_clt_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
1982     pwd->b[7]  = msa_clt_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
1983     pwd->b[8]  = msa_clt_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
1984     pwd->b[9]  = msa_clt_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
1985     pwd->b[10] = msa_clt_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
1986     pwd->b[11] = msa_clt_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
1987     pwd->b[12] = msa_clt_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
1988     pwd->b[13] = msa_clt_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
1989     pwd->b[14] = msa_clt_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
1990     pwd->b[15] = msa_clt_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
1991 }
1992
1993 void helper_msa_clt_u_h(CPUMIPSState *env,
1994                         uint32_t wd, uint32_t ws, uint32_t wt)
1995 {
1996     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
1997     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
1998     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
1999
2000     pwd->h[0]  = msa_clt_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
2001     pwd->h[1]  = msa_clt_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
2002     pwd->h[2]  = msa_clt_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
2003     pwd->h[3]  = msa_clt_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
2004     pwd->h[4]  = msa_clt_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
2005     pwd->h[5]  = msa_clt_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
2006     pwd->h[6]  = msa_clt_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
2007     pwd->h[7]  = msa_clt_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
2008 }
2009
2010 void helper_msa_clt_u_w(CPUMIPSState *env,
2011                         uint32_t wd, uint32_t ws, uint32_t wt)
2012 {
2013     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2014     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2015     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2016
2017     pwd->w[0]  = msa_clt_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
2018     pwd->w[1]  = msa_clt_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
2019     pwd->w[2]  = msa_clt_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
2020     pwd->w[3]  = msa_clt_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
2021 }
2022
2023 void helper_msa_clt_u_d(CPUMIPSState *env,
2024                         uint32_t wd, uint32_t ws, uint32_t wt)
2025 {
2026     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2027     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2028     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2029
2030     pwd->d[0]  = msa_clt_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2031     pwd->d[1]  = msa_clt_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2032 }
2033
2034
2035 /*
2036  * Int Divide
2037  * ----------
2038  *
2039  * +---------------+----------------------------------------------------------+
2040  * | DIV_S.B       | Vector Signed Divide (byte)                              |
2041  * | DIV_S.H       | Vector Signed Divide (halfword)                          |
2042  * | DIV_S.W       | Vector Signed Divide (word)                              |
2043  * | DIV_S.D       | Vector Signed Divide (doubleword)                        |
2044  * | DIV_U.B       | Vector Unsigned Divide (byte)                            |
2045  * | DIV_U.H       | Vector Unsigned Divide (halfword)                        |
2046  * | DIV_U.W       | Vector Unsigned Divide (word)                            |
2047  * | DIV_U.D       | Vector Unsigned Divide (doubleword)                      |
2048  * +---------------+----------------------------------------------------------+
2049  */
2050
2051
2052 static inline int64_t msa_div_s_df(uint32_t df, int64_t arg1, int64_t arg2)
2053 {
2054     if (arg1 == DF_MIN_INT(df) && arg2 == -1) {
2055         return DF_MIN_INT(df);
2056     }
2057     return arg2 ? arg1 / arg2
2058                 : arg1 >= 0 ? -1 : 1;
2059 }
2060
2061 void helper_msa_div_s_b(CPUMIPSState *env,
2062                         uint32_t wd, uint32_t ws, uint32_t wt)
2063 {
2064     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2065     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2066     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2067
2068     pwd->b[0]  = msa_div_s_df(DF_BYTE, pws->b[0],  pwt->b[0]);
2069     pwd->b[1]  = msa_div_s_df(DF_BYTE, pws->b[1],  pwt->b[1]);
2070     pwd->b[2]  = msa_div_s_df(DF_BYTE, pws->b[2],  pwt->b[2]);
2071     pwd->b[3]  = msa_div_s_df(DF_BYTE, pws->b[3],  pwt->b[3]);
2072     pwd->b[4]  = msa_div_s_df(DF_BYTE, pws->b[4],  pwt->b[4]);
2073     pwd->b[5]  = msa_div_s_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2074     pwd->b[6]  = msa_div_s_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2075     pwd->b[7]  = msa_div_s_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2076     pwd->b[8]  = msa_div_s_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2077     pwd->b[9]  = msa_div_s_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2078     pwd->b[10] = msa_div_s_df(DF_BYTE, pws->b[10], pwt->b[10]);
2079     pwd->b[11] = msa_div_s_df(DF_BYTE, pws->b[11], pwt->b[11]);
2080     pwd->b[12] = msa_div_s_df(DF_BYTE, pws->b[12], pwt->b[12]);
2081     pwd->b[13] = msa_div_s_df(DF_BYTE, pws->b[13], pwt->b[13]);
2082     pwd->b[14] = msa_div_s_df(DF_BYTE, pws->b[14], pwt->b[14]);
2083     pwd->b[15] = msa_div_s_df(DF_BYTE, pws->b[15], pwt->b[15]);
2084 }
2085
2086 void helper_msa_div_s_h(CPUMIPSState *env,
2087                         uint32_t wd, uint32_t ws, uint32_t wt)
2088 {
2089     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2090     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2091     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2092
2093     pwd->h[0]  = msa_div_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
2094     pwd->h[1]  = msa_div_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
2095     pwd->h[2]  = msa_div_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
2096     pwd->h[3]  = msa_div_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
2097     pwd->h[4]  = msa_div_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
2098     pwd->h[5]  = msa_div_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
2099     pwd->h[6]  = msa_div_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
2100     pwd->h[7]  = msa_div_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
2101 }
2102
2103 void helper_msa_div_s_w(CPUMIPSState *env,
2104                         uint32_t wd, uint32_t ws, uint32_t wt)
2105 {
2106     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2107     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2108     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2109
2110     pwd->w[0]  = msa_div_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
2111     pwd->w[1]  = msa_div_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
2112     pwd->w[2]  = msa_div_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
2113     pwd->w[3]  = msa_div_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
2114 }
2115
2116 void helper_msa_div_s_d(CPUMIPSState *env,
2117                         uint32_t wd, uint32_t ws, uint32_t wt)
2118 {
2119     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2120     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2121     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2122
2123     pwd->d[0]  = msa_div_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2124     pwd->d[1]  = msa_div_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2125 }
2126
2127 static inline int64_t msa_div_u_df(uint32_t df, int64_t arg1, int64_t arg2)
2128 {
2129     uint64_t u_arg1 = UNSIGNED(arg1, df);
2130     uint64_t u_arg2 = UNSIGNED(arg2, df);
2131     return arg2 ? u_arg1 / u_arg2 : -1;
2132 }
2133
2134 void helper_msa_div_u_b(CPUMIPSState *env,
2135                         uint32_t wd, uint32_t ws, uint32_t wt)
2136 {
2137     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2138     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2139     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2140
2141     pwd->b[0]  = msa_div_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
2142     pwd->b[1]  = msa_div_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
2143     pwd->b[2]  = msa_div_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
2144     pwd->b[3]  = msa_div_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
2145     pwd->b[4]  = msa_div_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
2146     pwd->b[5]  = msa_div_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2147     pwd->b[6]  = msa_div_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2148     pwd->b[7]  = msa_div_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2149     pwd->b[8]  = msa_div_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2150     pwd->b[9]  = msa_div_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2151     pwd->b[10] = msa_div_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
2152     pwd->b[11] = msa_div_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
2153     pwd->b[12] = msa_div_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
2154     pwd->b[13] = msa_div_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
2155     pwd->b[14] = msa_div_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
2156     pwd->b[15] = msa_div_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
2157 }
2158
2159 void helper_msa_div_u_h(CPUMIPSState *env,
2160                         uint32_t wd, uint32_t ws, uint32_t wt)
2161 {
2162     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2163     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2164     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2165
2166     pwd->h[0]  = msa_div_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
2167     pwd->h[1]  = msa_div_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
2168     pwd->h[2]  = msa_div_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
2169     pwd->h[3]  = msa_div_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
2170     pwd->h[4]  = msa_div_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
2171     pwd->h[5]  = msa_div_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
2172     pwd->h[6]  = msa_div_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
2173     pwd->h[7]  = msa_div_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
2174 }
2175
2176 void helper_msa_div_u_w(CPUMIPSState *env,
2177                         uint32_t wd, uint32_t ws, uint32_t wt)
2178 {
2179     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2180     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2181     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2182
2183     pwd->w[0]  = msa_div_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
2184     pwd->w[1]  = msa_div_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
2185     pwd->w[2]  = msa_div_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
2186     pwd->w[3]  = msa_div_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
2187 }
2188
2189 void helper_msa_div_u_d(CPUMIPSState *env,
2190                         uint32_t wd, uint32_t ws, uint32_t wt)
2191 {
2192     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2193     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2194     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2195
2196     pwd->d[0]  = msa_div_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2197     pwd->d[1]  = msa_div_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2198 }
2199
2200
2201 /*
2202  * Int Dot Product
2203  * ---------------
2204  *
2205  * +---------------+----------------------------------------------------------+
2206  * | DOTP_S.H      | Vector Signed Dot Product (halfword)                     |
2207  * | DOTP_S.W      | Vector Signed Dot Product (word)                         |
2208  * | DOTP_S.D      | Vector Signed Dot Product (doubleword)                   |
2209  * | DOTP_U.H      | Vector Unsigned Dot Product (halfword)                   |
2210  * | DOTP_U.W      | Vector Unsigned Dot Product (word)                       |
2211  * | DOTP_U.D      | Vector Unsigned Dot Product (doubleword)                 |
2212  * | DPADD_S.H     | Vector Signed Dot Product (halfword)                     |
2213  * | DPADD_S.W     | Vector Signed Dot Product (word)                         |
2214  * | DPADD_S.D     | Vector Signed Dot Product (doubleword)                   |
2215  * | DPADD_U.H     | Vector Unsigned Dot Product (halfword)                   |
2216  * | DPADD_U.W     | Vector Unsigned Dot Product (word)                       |
2217  * | DPADD_U.D     | Vector Unsigned Dot Product (doubleword)                 |
2218  * | DPSUB_S.H     | Vector Signed Dot Product (halfword)                     |
2219  * | DPSUB_S.W     | Vector Signed Dot Product (word)                         |
2220  * | DPSUB_S.D     | Vector Signed Dot Product (doubleword)                   |
2221  * | DPSUB_U.H     | Vector Unsigned Dot Product (halfword)                   |
2222  * | DPSUB_U.W     | Vector Unsigned Dot Product (word)                       |
2223  * | DPSUB_U.D     | Vector Unsigned Dot Product (doubleword)                 |
2224  * +---------------+----------------------------------------------------------+
2225  */
2226
2227 #define SIGNED_EXTRACT(e, o, a, df)     \
2228     do {                                \
2229         e = SIGNED_EVEN(a, df);         \
2230         o = SIGNED_ODD(a, df);          \
2231     } while (0)
2232
2233 #define UNSIGNED_EXTRACT(e, o, a, df)   \
2234     do {                                \
2235         e = UNSIGNED_EVEN(a, df);       \
2236         o = UNSIGNED_ODD(a, df);        \
2237     } while (0)
2238
2239 static inline int64_t msa_dpadd_s_df(uint32_t df, int64_t dest, int64_t arg1,
2240                                      int64_t arg2)
2241 {
2242     int64_t even_arg1;
2243     int64_t even_arg2;
2244     int64_t odd_arg1;
2245     int64_t odd_arg2;
2246     SIGNED_EXTRACT(even_arg1, odd_arg1, arg1, df);
2247     SIGNED_EXTRACT(even_arg2, odd_arg2, arg2, df);
2248     return dest + (even_arg1 * even_arg2) + (odd_arg1 * odd_arg2);
2249 }
2250
2251 void helper_msa_dpadd_s_h(CPUMIPSState *env,
2252                           uint32_t wd, uint32_t ws, uint32_t wt)
2253 {
2254     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2255     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2256     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2257
2258     pwd->h[0]  = msa_dpadd_s_df(DF_HALF, pwd->h[0],  pws->h[0],  pwt->h[0]);
2259     pwd->h[1]  = msa_dpadd_s_df(DF_HALF, pwd->h[1],  pws->h[1],  pwt->h[1]);
2260     pwd->h[2]  = msa_dpadd_s_df(DF_HALF, pwd->h[2],  pws->h[2],  pwt->h[2]);
2261     pwd->h[3]  = msa_dpadd_s_df(DF_HALF, pwd->h[3],  pws->h[3],  pwt->h[3]);
2262     pwd->h[4]  = msa_dpadd_s_df(DF_HALF, pwd->h[4],  pws->h[4],  pwt->h[4]);
2263     pwd->h[5]  = msa_dpadd_s_df(DF_HALF, pwd->h[5],  pws->h[5],  pwt->h[5]);
2264     pwd->h[6]  = msa_dpadd_s_df(DF_HALF, pwd->h[6],  pws->h[6],  pwt->h[6]);
2265     pwd->h[7]  = msa_dpadd_s_df(DF_HALF, pwd->h[7],  pws->h[7],  pwt->h[7]);
2266 }
2267
2268 void helper_msa_dpadd_s_w(CPUMIPSState *env,
2269                           uint32_t wd, uint32_t ws, uint32_t wt)
2270 {
2271     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2272     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2273     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2274
2275     pwd->w[0]  = msa_dpadd_s_df(DF_WORD, pwd->w[0],  pws->w[0],  pwt->w[0]);
2276     pwd->w[1]  = msa_dpadd_s_df(DF_WORD, pwd->w[1],  pws->w[1],  pwt->w[1]);
2277     pwd->w[2]  = msa_dpadd_s_df(DF_WORD, pwd->w[2],  pws->w[2],  pwt->w[2]);
2278     pwd->w[3]  = msa_dpadd_s_df(DF_WORD, pwd->w[3],  pws->w[3],  pwt->w[3]);
2279 }
2280
2281 void helper_msa_dpadd_s_d(CPUMIPSState *env,
2282                           uint32_t wd, uint32_t ws, uint32_t wt)
2283 {
2284     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2285     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2286     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2287
2288     pwd->d[0]  = msa_dpadd_s_df(DF_DOUBLE, pwd->d[0],  pws->d[0],  pwt->d[0]);
2289     pwd->d[1]  = msa_dpadd_s_df(DF_DOUBLE, pwd->d[1],  pws->d[1],  pwt->d[1]);
2290 }
2291
2292
2293 static inline int64_t msa_dpadd_u_df(uint32_t df, int64_t dest, int64_t arg1,
2294                                      int64_t arg2)
2295 {
2296     int64_t even_arg1;
2297     int64_t even_arg2;
2298     int64_t odd_arg1;
2299     int64_t odd_arg2;
2300     UNSIGNED_EXTRACT(even_arg1, odd_arg1, arg1, df);
2301     UNSIGNED_EXTRACT(even_arg2, odd_arg2, arg2, df);
2302     return dest + (even_arg1 * even_arg2) + (odd_arg1 * odd_arg2);
2303 }
2304
2305 void helper_msa_dpadd_u_h(CPUMIPSState *env,
2306                           uint32_t wd, uint32_t ws, uint32_t wt)
2307 {
2308     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2309     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2310     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2311
2312     pwd->h[0]  = msa_dpadd_u_df(DF_HALF, pwd->h[0],  pws->h[0],  pwt->h[0]);
2313     pwd->h[1]  = msa_dpadd_u_df(DF_HALF, pwd->h[1],  pws->h[1],  pwt->h[1]);
2314     pwd->h[2]  = msa_dpadd_u_df(DF_HALF, pwd->h[2],  pws->h[2],  pwt->h[2]);
2315     pwd->h[3]  = msa_dpadd_u_df(DF_HALF, pwd->h[3],  pws->h[3],  pwt->h[3]);
2316     pwd->h[4]  = msa_dpadd_u_df(DF_HALF, pwd->h[4],  pws->h[4],  pwt->h[4]);
2317     pwd->h[5]  = msa_dpadd_u_df(DF_HALF, pwd->h[5],  pws->h[5],  pwt->h[5]);
2318     pwd->h[6]  = msa_dpadd_u_df(DF_HALF, pwd->h[6],  pws->h[6],  pwt->h[6]);
2319     pwd->h[7]  = msa_dpadd_u_df(DF_HALF, pwd->h[7],  pws->h[7],  pwt->h[7]);
2320 }
2321
2322 void helper_msa_dpadd_u_w(CPUMIPSState *env,
2323                           uint32_t wd, uint32_t ws, uint32_t wt)
2324 {
2325     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2326     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2327     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2328
2329     pwd->w[0]  = msa_dpadd_u_df(DF_WORD, pwd->w[0],  pws->w[0],  pwt->w[0]);
2330     pwd->w[1]  = msa_dpadd_u_df(DF_WORD, pwd->w[1],  pws->w[1],  pwt->w[1]);
2331     pwd->w[2]  = msa_dpadd_u_df(DF_WORD, pwd->w[2],  pws->w[2],  pwt->w[2]);
2332     pwd->w[3]  = msa_dpadd_u_df(DF_WORD, pwd->w[3],  pws->w[3],  pwt->w[3]);
2333 }
2334
2335 void helper_msa_dpadd_u_d(CPUMIPSState *env,
2336                           uint32_t wd, uint32_t ws, uint32_t wt)
2337 {
2338     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2339     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2340     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2341
2342     pwd->d[0]  = msa_dpadd_u_df(DF_DOUBLE, pwd->d[0],  pws->d[0],  pwt->d[0]);
2343     pwd->d[1]  = msa_dpadd_u_df(DF_DOUBLE, pwd->d[1],  pws->d[1],  pwt->d[1]);
2344 }
2345
2346
2347 /*
2348  * Int Max Min
2349  * -----------
2350  *
2351  * +---------------+----------------------------------------------------------+
2352  * | MAX_A.B       | Vector Maximum Based on Absolute Value (byte)            |
2353  * | MAX_A.H       | Vector Maximum Based on Absolute Value (halfword)        |
2354  * | MAX_A.W       | Vector Maximum Based on Absolute Value (word)            |
2355  * | MAX_A.D       | Vector Maximum Based on Absolute Value (doubleword)      |
2356  * | MAX_S.B       | Vector Signed Maximum (byte)                             |
2357  * | MAX_S.H       | Vector Signed Maximum (halfword)                         |
2358  * | MAX_S.W       | Vector Signed Maximum (word)                             |
2359  * | MAX_S.D       | Vector Signed Maximum (doubleword)                       |
2360  * | MAX_U.B       | Vector Unsigned Maximum (byte)                           |
2361  * | MAX_U.H       | Vector Unsigned Maximum (halfword)                       |
2362  * | MAX_U.W       | Vector Unsigned Maximum (word)                           |
2363  * | MAX_U.D       | Vector Unsigned Maximum (doubleword)                     |
2364  * | MIN_A.B       | Vector Minimum Based on Absolute Value (byte)            |
2365  * | MIN_A.H       | Vector Minimum Based on Absolute Value (halfword)        |
2366  * | MIN_A.W       | Vector Minimum Based on Absolute Value (word)            |
2367  * | MIN_A.D       | Vector Minimum Based on Absolute Value (doubleword)      |
2368  * | MIN_S.B       | Vector Signed Minimum (byte)                             |
2369  * | MIN_S.H       | Vector Signed Minimum (halfword)                         |
2370  * | MIN_S.W       | Vector Signed Minimum (word)                             |
2371  * | MIN_S.D       | Vector Signed Minimum (doubleword)                       |
2372  * | MIN_U.B       | Vector Unsigned Minimum (byte)                           |
2373  * | MIN_U.H       | Vector Unsigned Minimum (halfword)                       |
2374  * | MIN_U.W       | Vector Unsigned Minimum (word)                           |
2375  * | MIN_U.D       | Vector Unsigned Minimum (doubleword)                     |
2376  * +---------------+----------------------------------------------------------+
2377  */
2378
2379 static inline int64_t msa_max_a_df(uint32_t df, int64_t arg1, int64_t arg2)
2380 {
2381     uint64_t abs_arg1 = arg1 >= 0 ? arg1 : -arg1;
2382     uint64_t abs_arg2 = arg2 >= 0 ? arg2 : -arg2;
2383     return abs_arg1 > abs_arg2 ? arg1 : arg2;
2384 }
2385
2386 void helper_msa_max_a_b(CPUMIPSState *env,
2387                         uint32_t wd, uint32_t ws, uint32_t wt)
2388 {
2389     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2390     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2391     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2392
2393     pwd->b[0]  = msa_max_a_df(DF_BYTE, pws->b[0],  pwt->b[0]);
2394     pwd->b[1]  = msa_max_a_df(DF_BYTE, pws->b[1],  pwt->b[1]);
2395     pwd->b[2]  = msa_max_a_df(DF_BYTE, pws->b[2],  pwt->b[2]);
2396     pwd->b[3]  = msa_max_a_df(DF_BYTE, pws->b[3],  pwt->b[3]);
2397     pwd->b[4]  = msa_max_a_df(DF_BYTE, pws->b[4],  pwt->b[4]);
2398     pwd->b[5]  = msa_max_a_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2399     pwd->b[6]  = msa_max_a_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2400     pwd->b[7]  = msa_max_a_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2401     pwd->b[8]  = msa_max_a_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2402     pwd->b[9]  = msa_max_a_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2403     pwd->b[10] = msa_max_a_df(DF_BYTE, pws->b[10], pwt->b[10]);
2404     pwd->b[11] = msa_max_a_df(DF_BYTE, pws->b[11], pwt->b[11]);
2405     pwd->b[12] = msa_max_a_df(DF_BYTE, pws->b[12], pwt->b[12]);
2406     pwd->b[13] = msa_max_a_df(DF_BYTE, pws->b[13], pwt->b[13]);
2407     pwd->b[14] = msa_max_a_df(DF_BYTE, pws->b[14], pwt->b[14]);
2408     pwd->b[15] = msa_max_a_df(DF_BYTE, pws->b[15], pwt->b[15]);
2409 }
2410
2411 void helper_msa_max_a_h(CPUMIPSState *env,
2412                         uint32_t wd, uint32_t ws, uint32_t wt)
2413 {
2414     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2415     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2416     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2417
2418     pwd->h[0]  = msa_max_a_df(DF_HALF, pws->h[0],  pwt->h[0]);
2419     pwd->h[1]  = msa_max_a_df(DF_HALF, pws->h[1],  pwt->h[1]);
2420     pwd->h[2]  = msa_max_a_df(DF_HALF, pws->h[2],  pwt->h[2]);
2421     pwd->h[3]  = msa_max_a_df(DF_HALF, pws->h[3],  pwt->h[3]);
2422     pwd->h[4]  = msa_max_a_df(DF_HALF, pws->h[4],  pwt->h[4]);
2423     pwd->h[5]  = msa_max_a_df(DF_HALF, pws->h[5],  pwt->h[5]);
2424     pwd->h[6]  = msa_max_a_df(DF_HALF, pws->h[6],  pwt->h[6]);
2425     pwd->h[7]  = msa_max_a_df(DF_HALF, pws->h[7],  pwt->h[7]);
2426 }
2427
2428 void helper_msa_max_a_w(CPUMIPSState *env,
2429                         uint32_t wd, uint32_t ws, uint32_t wt)
2430 {
2431     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2432     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2433     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2434
2435     pwd->w[0]  = msa_max_a_df(DF_WORD, pws->w[0],  pwt->w[0]);
2436     pwd->w[1]  = msa_max_a_df(DF_WORD, pws->w[1],  pwt->w[1]);
2437     pwd->w[2]  = msa_max_a_df(DF_WORD, pws->w[2],  pwt->w[2]);
2438     pwd->w[3]  = msa_max_a_df(DF_WORD, pws->w[3],  pwt->w[3]);
2439 }
2440
2441 void helper_msa_max_a_d(CPUMIPSState *env,
2442                         uint32_t wd, uint32_t ws, uint32_t wt)
2443 {
2444     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2445     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2446     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2447
2448     pwd->d[0]  = msa_max_a_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2449     pwd->d[1]  = msa_max_a_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2450 }
2451
2452
2453 static inline int64_t msa_max_s_df(uint32_t df, int64_t arg1, int64_t arg2)
2454 {
2455     return arg1 > arg2 ? arg1 : arg2;
2456 }
2457
2458 void helper_msa_max_s_b(CPUMIPSState *env,
2459                         uint32_t wd, uint32_t ws, uint32_t wt)
2460 {
2461     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2462     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2463     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2464
2465     pwd->b[0]  = msa_max_s_df(DF_BYTE, pws->b[0],  pwt->b[0]);
2466     pwd->b[1]  = msa_max_s_df(DF_BYTE, pws->b[1],  pwt->b[1]);
2467     pwd->b[2]  = msa_max_s_df(DF_BYTE, pws->b[2],  pwt->b[2]);
2468     pwd->b[3]  = msa_max_s_df(DF_BYTE, pws->b[3],  pwt->b[3]);
2469     pwd->b[4]  = msa_max_s_df(DF_BYTE, pws->b[4],  pwt->b[4]);
2470     pwd->b[5]  = msa_max_s_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2471     pwd->b[6]  = msa_max_s_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2472     pwd->b[7]  = msa_max_s_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2473     pwd->b[8]  = msa_max_s_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2474     pwd->b[9]  = msa_max_s_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2475     pwd->b[10] = msa_max_s_df(DF_BYTE, pws->b[10], pwt->b[10]);
2476     pwd->b[11] = msa_max_s_df(DF_BYTE, pws->b[11], pwt->b[11]);
2477     pwd->b[12] = msa_max_s_df(DF_BYTE, pws->b[12], pwt->b[12]);
2478     pwd->b[13] = msa_max_s_df(DF_BYTE, pws->b[13], pwt->b[13]);
2479     pwd->b[14] = msa_max_s_df(DF_BYTE, pws->b[14], pwt->b[14]);
2480     pwd->b[15] = msa_max_s_df(DF_BYTE, pws->b[15], pwt->b[15]);
2481 }
2482
2483 void helper_msa_max_s_h(CPUMIPSState *env,
2484                         uint32_t wd, uint32_t ws, uint32_t wt)
2485 {
2486     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2487     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2488     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2489
2490     pwd->h[0]  = msa_max_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
2491     pwd->h[1]  = msa_max_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
2492     pwd->h[2]  = msa_max_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
2493     pwd->h[3]  = msa_max_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
2494     pwd->h[4]  = msa_max_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
2495     pwd->h[5]  = msa_max_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
2496     pwd->h[6]  = msa_max_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
2497     pwd->h[7]  = msa_max_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
2498 }
2499
2500 void helper_msa_max_s_w(CPUMIPSState *env,
2501                         uint32_t wd, uint32_t ws, uint32_t wt)
2502 {
2503     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2504     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2505     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2506
2507     pwd->w[0]  = msa_max_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
2508     pwd->w[1]  = msa_max_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
2509     pwd->w[2]  = msa_max_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
2510     pwd->w[3]  = msa_max_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
2511 }
2512
2513 void helper_msa_max_s_d(CPUMIPSState *env,
2514                         uint32_t wd, uint32_t ws, uint32_t wt)
2515 {
2516     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2517     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2518     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2519
2520     pwd->d[0]  = msa_max_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2521     pwd->d[1]  = msa_max_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2522 }
2523
2524
2525 static inline int64_t msa_max_u_df(uint32_t df, int64_t arg1, int64_t arg2)
2526 {
2527     uint64_t u_arg1 = UNSIGNED(arg1, df);
2528     uint64_t u_arg2 = UNSIGNED(arg2, df);
2529     return u_arg1 > u_arg2 ? arg1 : arg2;
2530 }
2531
2532 void helper_msa_max_u_b(CPUMIPSState *env,
2533                         uint32_t wd, uint32_t ws, uint32_t wt)
2534 {
2535     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2536     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2537     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2538
2539     pwd->b[0]  = msa_max_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
2540     pwd->b[1]  = msa_max_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
2541     pwd->b[2]  = msa_max_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
2542     pwd->b[3]  = msa_max_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
2543     pwd->b[4]  = msa_max_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
2544     pwd->b[5]  = msa_max_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2545     pwd->b[6]  = msa_max_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2546     pwd->b[7]  = msa_max_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2547     pwd->b[8]  = msa_max_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2548     pwd->b[9]  = msa_max_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2549     pwd->b[10] = msa_max_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
2550     pwd->b[11] = msa_max_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
2551     pwd->b[12] = msa_max_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
2552     pwd->b[13] = msa_max_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
2553     pwd->b[14] = msa_max_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
2554     pwd->b[15] = msa_max_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
2555 }
2556
2557 void helper_msa_max_u_h(CPUMIPSState *env,
2558                         uint32_t wd, uint32_t ws, uint32_t wt)
2559 {
2560     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2561     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2562     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2563
2564     pwd->h[0]  = msa_max_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
2565     pwd->h[1]  = msa_max_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
2566     pwd->h[2]  = msa_max_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
2567     pwd->h[3]  = msa_max_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
2568     pwd->h[4]  = msa_max_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
2569     pwd->h[5]  = msa_max_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
2570     pwd->h[6]  = msa_max_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
2571     pwd->h[7]  = msa_max_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
2572 }
2573
2574 void helper_msa_max_u_w(CPUMIPSState *env,
2575                         uint32_t wd, uint32_t ws, uint32_t wt)
2576 {
2577     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2578     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2579     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2580
2581     pwd->w[0]  = msa_max_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
2582     pwd->w[1]  = msa_max_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
2583     pwd->w[2]  = msa_max_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
2584     pwd->w[3]  = msa_max_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
2585 }
2586
2587 void helper_msa_max_u_d(CPUMIPSState *env,
2588                         uint32_t wd, uint32_t ws, uint32_t wt)
2589 {
2590     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2591     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2592     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2593
2594     pwd->d[0]  = msa_max_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2595     pwd->d[1]  = msa_max_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2596 }
2597
2598
2599 static inline int64_t msa_min_a_df(uint32_t df, int64_t arg1, int64_t arg2)
2600 {
2601     uint64_t abs_arg1 = arg1 >= 0 ? arg1 : -arg1;
2602     uint64_t abs_arg2 = arg2 >= 0 ? arg2 : -arg2;
2603     return abs_arg1 < abs_arg2 ? arg1 : arg2;
2604 }
2605
2606 void helper_msa_min_a_b(CPUMIPSState *env,
2607                         uint32_t wd, uint32_t ws, uint32_t wt)
2608 {
2609     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2610     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2611     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2612
2613     pwd->b[0]  = msa_min_a_df(DF_BYTE, pws->b[0],  pwt->b[0]);
2614     pwd->b[1]  = msa_min_a_df(DF_BYTE, pws->b[1],  pwt->b[1]);
2615     pwd->b[2]  = msa_min_a_df(DF_BYTE, pws->b[2],  pwt->b[2]);
2616     pwd->b[3]  = msa_min_a_df(DF_BYTE, pws->b[3],  pwt->b[3]);
2617     pwd->b[4]  = msa_min_a_df(DF_BYTE, pws->b[4],  pwt->b[4]);
2618     pwd->b[5]  = msa_min_a_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2619     pwd->b[6]  = msa_min_a_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2620     pwd->b[7]  = msa_min_a_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2621     pwd->b[8]  = msa_min_a_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2622     pwd->b[9]  = msa_min_a_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2623     pwd->b[10] = msa_min_a_df(DF_BYTE, pws->b[10], pwt->b[10]);
2624     pwd->b[11] = msa_min_a_df(DF_BYTE, pws->b[11], pwt->b[11]);
2625     pwd->b[12] = msa_min_a_df(DF_BYTE, pws->b[12], pwt->b[12]);
2626     pwd->b[13] = msa_min_a_df(DF_BYTE, pws->b[13], pwt->b[13]);
2627     pwd->b[14] = msa_min_a_df(DF_BYTE, pws->b[14], pwt->b[14]);
2628     pwd->b[15] = msa_min_a_df(DF_BYTE, pws->b[15], pwt->b[15]);
2629 }
2630
2631 void helper_msa_min_a_h(CPUMIPSState *env,
2632                         uint32_t wd, uint32_t ws, uint32_t wt)
2633 {
2634     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2635     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2636     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2637
2638     pwd->h[0]  = msa_min_a_df(DF_HALF, pws->h[0],  pwt->h[0]);
2639     pwd->h[1]  = msa_min_a_df(DF_HALF, pws->h[1],  pwt->h[1]);
2640     pwd->h[2]  = msa_min_a_df(DF_HALF, pws->h[2],  pwt->h[2]);
2641     pwd->h[3]  = msa_min_a_df(DF_HALF, pws->h[3],  pwt->h[3]);
2642     pwd->h[4]  = msa_min_a_df(DF_HALF, pws->h[4],  pwt->h[4]);
2643     pwd->h[5]  = msa_min_a_df(DF_HALF, pws->h[5],  pwt->h[5]);
2644     pwd->h[6]  = msa_min_a_df(DF_HALF, pws->h[6],  pwt->h[6]);
2645     pwd->h[7]  = msa_min_a_df(DF_HALF, pws->h[7],  pwt->h[7]);
2646 }
2647
2648 void helper_msa_min_a_w(CPUMIPSState *env,
2649                         uint32_t wd, uint32_t ws, uint32_t wt)
2650 {
2651     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2652     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2653     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2654
2655     pwd->w[0]  = msa_min_a_df(DF_WORD, pws->w[0],  pwt->w[0]);
2656     pwd->w[1]  = msa_min_a_df(DF_WORD, pws->w[1],  pwt->w[1]);
2657     pwd->w[2]  = msa_min_a_df(DF_WORD, pws->w[2],  pwt->w[2]);
2658     pwd->w[3]  = msa_min_a_df(DF_WORD, pws->w[3],  pwt->w[3]);
2659 }
2660
2661 void helper_msa_min_a_d(CPUMIPSState *env,
2662                         uint32_t wd, uint32_t ws, uint32_t wt)
2663 {
2664     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2665     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2666     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2667
2668     pwd->d[0]  = msa_min_a_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2669     pwd->d[1]  = msa_min_a_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2670 }
2671
2672
2673 static inline int64_t msa_min_s_df(uint32_t df, int64_t arg1, int64_t arg2)
2674 {
2675     return arg1 < arg2 ? arg1 : arg2;
2676 }
2677
2678 void helper_msa_min_s_b(CPUMIPSState *env,
2679                         uint32_t wd, uint32_t ws, uint32_t wt)
2680 {
2681     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2682     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2683     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2684
2685     pwd->b[0]  = msa_min_s_df(DF_BYTE, pws->b[0],  pwt->b[0]);
2686     pwd->b[1]  = msa_min_s_df(DF_BYTE, pws->b[1],  pwt->b[1]);
2687     pwd->b[2]  = msa_min_s_df(DF_BYTE, pws->b[2],  pwt->b[2]);
2688     pwd->b[3]  = msa_min_s_df(DF_BYTE, pws->b[3],  pwt->b[3]);
2689     pwd->b[4]  = msa_min_s_df(DF_BYTE, pws->b[4],  pwt->b[4]);
2690     pwd->b[5]  = msa_min_s_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2691     pwd->b[6]  = msa_min_s_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2692     pwd->b[7]  = msa_min_s_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2693     pwd->b[8]  = msa_min_s_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2694     pwd->b[9]  = msa_min_s_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2695     pwd->b[10] = msa_min_s_df(DF_BYTE, pws->b[10], pwt->b[10]);
2696     pwd->b[11] = msa_min_s_df(DF_BYTE, pws->b[11], pwt->b[11]);
2697     pwd->b[12] = msa_min_s_df(DF_BYTE, pws->b[12], pwt->b[12]);
2698     pwd->b[13] = msa_min_s_df(DF_BYTE, pws->b[13], pwt->b[13]);
2699     pwd->b[14] = msa_min_s_df(DF_BYTE, pws->b[14], pwt->b[14]);
2700     pwd->b[15] = msa_min_s_df(DF_BYTE, pws->b[15], pwt->b[15]);
2701 }
2702
2703 void helper_msa_min_s_h(CPUMIPSState *env,
2704                         uint32_t wd, uint32_t ws, uint32_t wt)
2705 {
2706     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2707     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2708     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2709
2710     pwd->h[0]  = msa_min_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
2711     pwd->h[1]  = msa_min_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
2712     pwd->h[2]  = msa_min_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
2713     pwd->h[3]  = msa_min_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
2714     pwd->h[4]  = msa_min_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
2715     pwd->h[5]  = msa_min_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
2716     pwd->h[6]  = msa_min_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
2717     pwd->h[7]  = msa_min_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
2718 }
2719
2720 void helper_msa_min_s_w(CPUMIPSState *env,
2721                         uint32_t wd, uint32_t ws, uint32_t wt)
2722 {
2723     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2724     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2725     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2726
2727     pwd->w[0]  = msa_min_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
2728     pwd->w[1]  = msa_min_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
2729     pwd->w[2]  = msa_min_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
2730     pwd->w[3]  = msa_min_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
2731 }
2732
2733 void helper_msa_min_s_d(CPUMIPSState *env,
2734                         uint32_t wd, uint32_t ws, uint32_t wt)
2735 {
2736     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2737     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2738     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2739
2740     pwd->d[0]  = msa_min_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2741     pwd->d[1]  = msa_min_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2742 }
2743
2744
2745 static inline int64_t msa_min_u_df(uint32_t df, int64_t arg1, int64_t arg2)
2746 {
2747     uint64_t u_arg1 = UNSIGNED(arg1, df);
2748     uint64_t u_arg2 = UNSIGNED(arg2, df);
2749     return u_arg1 < u_arg2 ? arg1 : arg2;
2750 }
2751
2752 void helper_msa_min_u_b(CPUMIPSState *env,
2753                         uint32_t wd, uint32_t ws, uint32_t wt)
2754 {
2755     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2756     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2757     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2758
2759     pwd->b[0]  = msa_min_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
2760     pwd->b[1]  = msa_min_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
2761     pwd->b[2]  = msa_min_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
2762     pwd->b[3]  = msa_min_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
2763     pwd->b[4]  = msa_min_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
2764     pwd->b[5]  = msa_min_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2765     pwd->b[6]  = msa_min_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2766     pwd->b[7]  = msa_min_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2767     pwd->b[8]  = msa_min_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2768     pwd->b[9]  = msa_min_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2769     pwd->b[10] = msa_min_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
2770     pwd->b[11] = msa_min_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
2771     pwd->b[12] = msa_min_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
2772     pwd->b[13] = msa_min_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
2773     pwd->b[14] = msa_min_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
2774     pwd->b[15] = msa_min_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
2775 }
2776
2777 void helper_msa_min_u_h(CPUMIPSState *env,
2778                         uint32_t wd, uint32_t ws, uint32_t wt)
2779 {
2780     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2781     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2782     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2783
2784     pwd->h[0]  = msa_min_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
2785     pwd->h[1]  = msa_min_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
2786     pwd->h[2]  = msa_min_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
2787     pwd->h[3]  = msa_min_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
2788     pwd->h[4]  = msa_min_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
2789     pwd->h[5]  = msa_min_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
2790     pwd->h[6]  = msa_min_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
2791     pwd->h[7]  = msa_min_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
2792 }
2793
2794 void helper_msa_min_u_w(CPUMIPSState *env,
2795                         uint32_t wd, uint32_t ws, uint32_t wt)
2796 {
2797     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2798     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2799     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2800
2801     pwd->w[0]  = msa_min_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
2802     pwd->w[1]  = msa_min_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
2803     pwd->w[2]  = msa_min_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
2804     pwd->w[3]  = msa_min_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
2805 }
2806
2807 void helper_msa_min_u_d(CPUMIPSState *env,
2808                         uint32_t wd, uint32_t ws, uint32_t wt)
2809 {
2810     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2811     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2812     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2813
2814     pwd->d[0]  = msa_min_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2815     pwd->d[1]  = msa_min_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2816 }
2817
2818
2819 /*
2820  * Int Modulo
2821  * ----------
2822  *
2823  * +---------------+----------------------------------------------------------+
2824  * | MOD_S.B       | Vector Signed Modulo (byte)                              |
2825  * | MOD_S.H       | Vector Signed Modulo (halfword)                          |
2826  * | MOD_S.W       | Vector Signed Modulo (word)                              |
2827  * | MOD_S.D       | Vector Signed Modulo (doubleword)                        |
2828  * | MOD_U.B       | Vector Unsigned Modulo (byte)                            |
2829  * | MOD_U.H       | Vector Unsigned Modulo (halfword)                        |
2830  * | MOD_U.W       | Vector Unsigned Modulo (word)                            |
2831  * | MOD_U.D       | Vector Unsigned Modulo (doubleword)                      |
2832  * +---------------+----------------------------------------------------------+
2833  */
2834
2835 static inline int64_t msa_mod_s_df(uint32_t df, int64_t arg1, int64_t arg2)
2836 {
2837     if (arg1 == DF_MIN_INT(df) && arg2 == -1) {
2838         return 0;
2839     }
2840     return arg2 ? arg1 % arg2 : arg1;
2841 }
2842
2843 void helper_msa_mod_s_b(CPUMIPSState *env,
2844                         uint32_t wd, uint32_t ws, uint32_t wt)
2845 {
2846     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2847     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2848     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2849
2850     pwd->b[0]  = msa_mod_s_df(DF_BYTE, pws->b[0],  pwt->b[0]);
2851     pwd->b[1]  = msa_mod_s_df(DF_BYTE, pws->b[1],  pwt->b[1]);
2852     pwd->b[2]  = msa_mod_s_df(DF_BYTE, pws->b[2],  pwt->b[2]);
2853     pwd->b[3]  = msa_mod_s_df(DF_BYTE, pws->b[3],  pwt->b[3]);
2854     pwd->b[4]  = msa_mod_s_df(DF_BYTE, pws->b[4],  pwt->b[4]);
2855     pwd->b[5]  = msa_mod_s_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2856     pwd->b[6]  = msa_mod_s_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2857     pwd->b[7]  = msa_mod_s_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2858     pwd->b[8]  = msa_mod_s_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2859     pwd->b[9]  = msa_mod_s_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2860     pwd->b[10] = msa_mod_s_df(DF_BYTE, pws->b[10], pwt->b[10]);
2861     pwd->b[11] = msa_mod_s_df(DF_BYTE, pws->b[11], pwt->b[11]);
2862     pwd->b[12] = msa_mod_s_df(DF_BYTE, pws->b[12], pwt->b[12]);
2863     pwd->b[13] = msa_mod_s_df(DF_BYTE, pws->b[13], pwt->b[13]);
2864     pwd->b[14] = msa_mod_s_df(DF_BYTE, pws->b[14], pwt->b[14]);
2865     pwd->b[15] = msa_mod_s_df(DF_BYTE, pws->b[15], pwt->b[15]);
2866 }
2867
2868 void helper_msa_mod_s_h(CPUMIPSState *env,
2869                         uint32_t wd, uint32_t ws, uint32_t wt)
2870 {
2871     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2872     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2873     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2874
2875     pwd->h[0]  = msa_mod_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
2876     pwd->h[1]  = msa_mod_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
2877     pwd->h[2]  = msa_mod_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
2878     pwd->h[3]  = msa_mod_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
2879     pwd->h[4]  = msa_mod_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
2880     pwd->h[5]  = msa_mod_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
2881     pwd->h[6]  = msa_mod_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
2882     pwd->h[7]  = msa_mod_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
2883 }
2884
2885 void helper_msa_mod_s_w(CPUMIPSState *env,
2886                         uint32_t wd, uint32_t ws, uint32_t wt)
2887 {
2888     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2889     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2890     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2891
2892     pwd->w[0]  = msa_mod_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
2893     pwd->w[1]  = msa_mod_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
2894     pwd->w[2]  = msa_mod_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
2895     pwd->w[3]  = msa_mod_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
2896 }
2897
2898 void helper_msa_mod_s_d(CPUMIPSState *env,
2899                         uint32_t wd, uint32_t ws, uint32_t wt)
2900 {
2901     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2902     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2903     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2904
2905     pwd->d[0]  = msa_mod_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2906     pwd->d[1]  = msa_mod_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2907 }
2908
2909 static inline int64_t msa_mod_u_df(uint32_t df, int64_t arg1, int64_t arg2)
2910 {
2911     uint64_t u_arg1 = UNSIGNED(arg1, df);
2912     uint64_t u_arg2 = UNSIGNED(arg2, df);
2913     return u_arg2 ? u_arg1 % u_arg2 : u_arg1;
2914 }
2915
2916 void helper_msa_mod_u_b(CPUMIPSState *env,
2917                         uint32_t wd, uint32_t ws, uint32_t wt)
2918 {
2919     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2920     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2921     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2922
2923     pwd->b[0]  = msa_mod_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
2924     pwd->b[1]  = msa_mod_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
2925     pwd->b[2]  = msa_mod_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
2926     pwd->b[3]  = msa_mod_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
2927     pwd->b[4]  = msa_mod_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
2928     pwd->b[5]  = msa_mod_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
2929     pwd->b[6]  = msa_mod_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
2930     pwd->b[7]  = msa_mod_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
2931     pwd->b[8]  = msa_mod_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
2932     pwd->b[9]  = msa_mod_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
2933     pwd->b[10] = msa_mod_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
2934     pwd->b[11] = msa_mod_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
2935     pwd->b[12] = msa_mod_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
2936     pwd->b[13] = msa_mod_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
2937     pwd->b[14] = msa_mod_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
2938     pwd->b[15] = msa_mod_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
2939 }
2940
2941 void helper_msa_mod_u_h(CPUMIPSState *env,
2942                         uint32_t wd, uint32_t ws, uint32_t wt)
2943 {
2944     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2945     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2946     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2947
2948     pwd->h[0]  = msa_mod_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
2949     pwd->h[1]  = msa_mod_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
2950     pwd->h[2]  = msa_mod_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
2951     pwd->h[3]  = msa_mod_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
2952     pwd->h[4]  = msa_mod_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
2953     pwd->h[5]  = msa_mod_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
2954     pwd->h[6]  = msa_mod_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
2955     pwd->h[7]  = msa_mod_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
2956 }
2957
2958 void helper_msa_mod_u_w(CPUMIPSState *env,
2959                         uint32_t wd, uint32_t ws, uint32_t wt)
2960 {
2961     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2962     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2963     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2964
2965     pwd->w[0]  = msa_mod_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
2966     pwd->w[1]  = msa_mod_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
2967     pwd->w[2]  = msa_mod_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
2968     pwd->w[3]  = msa_mod_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
2969 }
2970
2971 void helper_msa_mod_u_d(CPUMIPSState *env,
2972                         uint32_t wd, uint32_t ws, uint32_t wt)
2973 {
2974     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
2975     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
2976     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
2977
2978     pwd->d[0]  = msa_mod_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
2979     pwd->d[1]  = msa_mod_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
2980 }
2981
2982
2983 /*
2984  * Int Multiply
2985  * ------------
2986  *
2987  * +---------------+----------------------------------------------------------+
2988  * | MADDV.B       | Vector Multiply and Add (byte)                           |
2989  * | MADDV.H       | Vector Multiply and Add (halfword)                       |
2990  * | MADDV.W       | Vector Multiply and Add (word)                           |
2991  * | MADDV.D       | Vector Multiply and Add (doubleword)                     |
2992  * | MSUBV.B       | Vector Multiply and Subtract (byte)                      |
2993  * | MSUBV.H       | Vector Multiply and Subtract (halfword)                  |
2994  * | MSUBV.W       | Vector Multiply and Subtract (word)                      |
2995  * | MSUBV.D       | Vector Multiply and Subtract (doubleword)                |
2996  * | MULV.B        | Vector Multiply (byte)                                   |
2997  * | MULV.H        | Vector Multiply (halfword)                               |
2998  * | MULV.W        | Vector Multiply (word)                                   |
2999  * | MULV.D        | Vector Multiply (doubleword)                             |
3000  * +---------------+----------------------------------------------------------+
3001  */
3002
3003 static inline int64_t msa_maddv_df(uint32_t df, int64_t dest, int64_t arg1,
3004                                    int64_t arg2)
3005 {
3006     return dest + arg1 * arg2;
3007 }
3008
3009 void helper_msa_maddv_b(CPUMIPSState *env,
3010                         uint32_t wd, uint32_t ws, uint32_t wt)
3011 {
3012     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3013     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3014     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3015
3016     pwd->b[0]  = msa_maddv_df(DF_BYTE, pwt->b[0],  pws->b[0],  pwt->b[0]);
3017     pwd->b[1]  = msa_maddv_df(DF_BYTE, pwt->b[1],  pws->b[1],  pwt->b[1]);
3018     pwd->b[2]  = msa_maddv_df(DF_BYTE, pwt->b[2],  pws->b[2],  pwt->b[2]);
3019     pwd->b[3]  = msa_maddv_df(DF_BYTE, pwt->b[3],  pws->b[3],  pwt->b[3]);
3020     pwd->b[4]  = msa_maddv_df(DF_BYTE, pwt->b[4],  pws->b[4],  pwt->b[4]);
3021     pwd->b[5]  = msa_maddv_df(DF_BYTE, pwt->b[5],  pws->b[5],  pwt->b[5]);
3022     pwd->b[6]  = msa_maddv_df(DF_BYTE, pwt->b[6],  pws->b[6],  pwt->b[6]);
3023     pwd->b[7]  = msa_maddv_df(DF_BYTE, pwt->b[7],  pws->b[7],  pwt->b[7]);
3024     pwd->b[8]  = msa_maddv_df(DF_BYTE, pwt->b[8],  pws->b[8],  pwt->b[8]);
3025     pwd->b[9]  = msa_maddv_df(DF_BYTE, pwt->b[9],  pws->b[9],  pwt->b[9]);
3026     pwd->b[10] = msa_maddv_df(DF_BYTE, pwt->b[10], pws->b[10], pwt->b[10]);
3027     pwd->b[11] = msa_maddv_df(DF_BYTE, pwt->b[11], pws->b[11], pwt->b[11]);
3028     pwd->b[12] = msa_maddv_df(DF_BYTE, pwt->b[12], pws->b[12], pwt->b[12]);
3029     pwd->b[13] = msa_maddv_df(DF_BYTE, pwt->b[13], pws->b[13], pwt->b[13]);
3030     pwd->b[14] = msa_maddv_df(DF_BYTE, pwt->b[14], pws->b[14], pwt->b[14]);
3031     pwd->b[15] = msa_maddv_df(DF_BYTE, pwt->b[15], pws->b[15], pwt->b[15]);
3032 }
3033
3034 void helper_msa_maddv_h(CPUMIPSState *env,
3035                         uint32_t wd, uint32_t ws, uint32_t wt)
3036 {
3037     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3038     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3039     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3040
3041     pwd->h[0]  = msa_maddv_df(DF_HALF, pwd->h[0],  pws->h[0],  pwt->h[0]);
3042     pwd->h[1]  = msa_maddv_df(DF_HALF, pwd->h[1],  pws->h[1],  pwt->h[1]);
3043     pwd->h[2]  = msa_maddv_df(DF_HALF, pwd->h[2],  pws->h[2],  pwt->h[2]);
3044     pwd->h[3]  = msa_maddv_df(DF_HALF, pwd->h[3],  pws->h[3],  pwt->h[3]);
3045     pwd->h[4]  = msa_maddv_df(DF_HALF, pwd->h[4],  pws->h[4],  pwt->h[4]);
3046     pwd->h[5]  = msa_maddv_df(DF_HALF, pwd->h[5],  pws->h[5],  pwt->h[5]);
3047     pwd->h[6]  = msa_maddv_df(DF_HALF, pwd->h[6],  pws->h[6],  pwt->h[6]);
3048     pwd->h[7]  = msa_maddv_df(DF_HALF, pwd->h[7],  pws->h[7],  pwt->h[7]);
3049 }
3050
3051 void helper_msa_maddv_w(CPUMIPSState *env,
3052                         uint32_t wd, uint32_t ws, uint32_t wt)
3053 {
3054     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3055     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3056     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3057
3058     pwd->w[0]  = msa_maddv_df(DF_WORD, pwd->w[0],  pws->w[0],  pwt->w[0]);
3059     pwd->w[1]  = msa_maddv_df(DF_WORD, pwd->w[1],  pws->w[1],  pwt->w[1]);
3060     pwd->w[2]  = msa_maddv_df(DF_WORD, pwd->w[2],  pws->w[2],  pwt->w[2]);
3061     pwd->w[3]  = msa_maddv_df(DF_WORD, pwd->w[3],  pws->w[3],  pwt->w[3]);
3062 }
3063
3064 void helper_msa_maddv_d(CPUMIPSState *env,
3065                         uint32_t wd, uint32_t ws, uint32_t wt)
3066 {
3067     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3068     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3069     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3070
3071     pwd->d[0]  = msa_maddv_df(DF_DOUBLE, pwd->d[0],  pws->d[0],  pwt->d[0]);
3072     pwd->d[1]  = msa_maddv_df(DF_DOUBLE, pwd->d[1],  pws->d[1],  pwt->d[1]);
3073 }
3074
3075 static inline int64_t msa_msubv_df(uint32_t df, int64_t dest, int64_t arg1,
3076                                    int64_t arg2)
3077 {
3078     return dest - arg1 * arg2;
3079 }
3080
3081 void helper_msa_msubv_b(CPUMIPSState *env,
3082                         uint32_t wd, uint32_t ws, uint32_t wt)
3083 {
3084     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3085     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3086     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3087
3088     pwd->b[0]  = msa_msubv_df(DF_BYTE, pwt->b[0],  pws->b[0],  pwt->b[0]);
3089     pwd->b[1]  = msa_msubv_df(DF_BYTE, pwt->b[1],  pws->b[1],  pwt->b[1]);
3090     pwd->b[2]  = msa_msubv_df(DF_BYTE, pwt->b[2],  pws->b[2],  pwt->b[2]);
3091     pwd->b[3]  = msa_msubv_df(DF_BYTE, pwt->b[3],  pws->b[3],  pwt->b[3]);
3092     pwd->b[4]  = msa_msubv_df(DF_BYTE, pwt->b[4],  pws->b[4],  pwt->b[4]);
3093     pwd->b[5]  = msa_msubv_df(DF_BYTE, pwt->b[5],  pws->b[5],  pwt->b[5]);
3094     pwd->b[6]  = msa_msubv_df(DF_BYTE, pwt->b[6],  pws->b[6],  pwt->b[6]);
3095     pwd->b[7]  = msa_msubv_df(DF_BYTE, pwt->b[7],  pws->b[7],  pwt->b[7]);
3096     pwd->b[8]  = msa_msubv_df(DF_BYTE, pwt->b[8],  pws->b[8],  pwt->b[8]);
3097     pwd->b[9]  = msa_msubv_df(DF_BYTE, pwt->b[9],  pws->b[9],  pwt->b[9]);
3098     pwd->b[10] = msa_msubv_df(DF_BYTE, pwt->b[10], pws->b[10], pwt->b[10]);
3099     pwd->b[11] = msa_msubv_df(DF_BYTE, pwt->b[11], pws->b[11], pwt->b[11]);
3100     pwd->b[12] = msa_msubv_df(DF_BYTE, pwt->b[12], pws->b[12], pwt->b[12]);
3101     pwd->b[13] = msa_msubv_df(DF_BYTE, pwt->b[13], pws->b[13], pwt->b[13]);
3102     pwd->b[14] = msa_msubv_df(DF_BYTE, pwt->b[14], pws->b[14], pwt->b[14]);
3103     pwd->b[15] = msa_msubv_df(DF_BYTE, pwt->b[15], pws->b[15], pwt->b[15]);
3104 }
3105
3106 void helper_msa_msubv_h(CPUMIPSState *env,
3107                         uint32_t wd, uint32_t ws, uint32_t wt)
3108 {
3109     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3110     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3111     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3112
3113     pwd->h[0]  = msa_msubv_df(DF_HALF, pwd->h[0],  pws->h[0],  pwt->h[0]);
3114     pwd->h[1]  = msa_msubv_df(DF_HALF, pwd->h[1],  pws->h[1],  pwt->h[1]);
3115     pwd->h[2]  = msa_msubv_df(DF_HALF, pwd->h[2],  pws->h[2],  pwt->h[2]);
3116     pwd->h[3]  = msa_msubv_df(DF_HALF, pwd->h[3],  pws->h[3],  pwt->h[3]);
3117     pwd->h[4]  = msa_msubv_df(DF_HALF, pwd->h[4],  pws->h[4],  pwt->h[4]);
3118     pwd->h[5]  = msa_msubv_df(DF_HALF, pwd->h[5],  pws->h[5],  pwt->h[5]);
3119     pwd->h[6]  = msa_msubv_df(DF_HALF, pwd->h[6],  pws->h[6],  pwt->h[6]);
3120     pwd->h[7]  = msa_msubv_df(DF_HALF, pwd->h[7],  pws->h[7],  pwt->h[7]);
3121 }
3122
3123 void helper_msa_msubv_w(CPUMIPSState *env,
3124                         uint32_t wd, uint32_t ws, uint32_t wt)
3125 {
3126     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3127     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3128     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3129
3130     pwd->w[0]  = msa_msubv_df(DF_WORD, pwd->w[0],  pws->w[0],  pwt->w[0]);
3131     pwd->w[1]  = msa_msubv_df(DF_WORD, pwd->w[1],  pws->w[1],  pwt->w[1]);
3132     pwd->w[2]  = msa_msubv_df(DF_WORD, pwd->w[2],  pws->w[2],  pwt->w[2]);
3133     pwd->w[3]  = msa_msubv_df(DF_WORD, pwd->w[3],  pws->w[3],  pwt->w[3]);
3134 }
3135
3136 void helper_msa_msubv_d(CPUMIPSState *env,
3137                         uint32_t wd, uint32_t ws, uint32_t wt)
3138 {
3139     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3140     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3141     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3142
3143     pwd->d[0]  = msa_msubv_df(DF_DOUBLE, pwd->d[0],  pws->d[0],  pwt->d[0]);
3144     pwd->d[1]  = msa_msubv_df(DF_DOUBLE, pwd->d[1],  pws->d[1],  pwt->d[1]);
3145 }
3146
3147
3148 /*
3149  * Int Subtract
3150  * ------------
3151  *
3152  * +---------------+----------------------------------------------------------+
3153  * | ASUB_S.B      | Vector Absolute Values of Signed Subtract (byte)         |
3154  * | ASUB_S.H      | Vector Absolute Values of Signed Subtract (halfword)     |
3155  * | ASUB_S.W      | Vector Absolute Values of Signed Subtract (word)         |
3156  * | ASUB_S.D      | Vector Absolute Values of Signed Subtract (doubleword)   |
3157  * | ASUB_U.B      | Vector Absolute Values of Unsigned Subtract (byte)       |
3158  * | ASUB_U.H      | Vector Absolute Values of Unsigned Subtract (halfword)   |
3159  * | ASUB_U.W      | Vector Absolute Values of Unsigned Subtract (word)       |
3160  * | ASUB_U.D      | Vector Absolute Values of Unsigned Subtract (doubleword) |
3161  * | HSUB_S.H      | Vector Signed Horizontal Subtract (halfword)             |
3162  * | HSUB_S.W      | Vector Signed Horizontal Subtract (word)                 |
3163  * | HSUB_S.D      | Vector Signed Horizontal Subtract (doubleword)           |
3164  * | HSUB_U.H      | Vector Unigned Horizontal Subtract (halfword)            |
3165  * | HSUB_U.W      | Vector Unigned Horizontal Subtract (word)                |
3166  * | HSUB_U.D      | Vector Unigned Horizontal Subtract (doubleword)          |
3167  * | SUBS_S.B      | Vector Signed Saturated Subtract (of Signed) (byte)      |
3168  * | SUBS_S.H      | Vector Signed Saturated Subtract (of Signed) (halfword)  |
3169  * | SUBS_S.W      | Vector Signed Saturated Subtract (of Signed) (word)      |
3170  * | SUBS_S.D      | Vector Signed Saturated Subtract (of Signed) (doubleword)|
3171  * | SUBS_U.B      | Vector Unsigned Saturated Subtract (of Uns.) (byte)      |
3172  * | SUBS_U.H      | Vector Unsigned Saturated Subtract (of Uns.) (halfword)  |
3173  * | SUBS_U.W      | Vector Unsigned Saturated Subtract (of Uns.) (word)      |
3174  * | SUBS_U.D      | Vector Unsigned Saturated Subtract (of Uns.) (doubleword)|
3175  * | SUBSUS_U.B    | Vector Uns. Sat. Subtract (of S. from Uns.) (byte)       |
3176  * | SUBSUS_U.H    | Vector Uns. Sat. Subtract (of S. from Uns.) (halfword)   |
3177  * | SUBSUS_U.W    | Vector Uns. Sat. Subtract (of S. from Uns.) (word)       |
3178  * | SUBSUS_U.D    | Vector Uns. Sat. Subtract (of S. from Uns.) (doubleword) |
3179  * | SUBSUU_S.B    | Vector Signed Saturated Subtract (of Uns.) (byte)        |
3180  * | SUBSUU_S.H    | Vector Signed Saturated Subtract (of Uns.) (halfword)    |
3181  * | SUBSUU_S.W    | Vector Signed Saturated Subtract (of Uns.) (word)        |
3182  * | SUBSUU_S.D    | Vector Signed Saturated Subtract (of Uns.) (doubleword)  |
3183  * | SUBV.B        | Vector Subtract (byte)                                   |
3184  * | SUBV.H        | Vector Subtract (halfword)                               |
3185  * | SUBV.W        | Vector Subtract (word)                                   |
3186  * | SUBV.D        | Vector Subtract (doubleword)                             |
3187  * +---------------+----------------------------------------------------------+
3188  */
3189
3190
3191 static inline int64_t msa_asub_s_df(uint32_t df, int64_t arg1, int64_t arg2)
3192 {
3193     /* signed compare */
3194     return (arg1 < arg2) ?
3195         (uint64_t)(arg2 - arg1) : (uint64_t)(arg1 - arg2);
3196 }
3197
3198 void helper_msa_asub_s_b(CPUMIPSState *env,
3199                          uint32_t wd, uint32_t ws, uint32_t wt)
3200 {
3201     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3202     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3203     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3204
3205     pwd->b[0]  = msa_asub_s_df(DF_BYTE, pws->b[0],  pwt->b[0]);
3206     pwd->b[1]  = msa_asub_s_df(DF_BYTE, pws->b[1],  pwt->b[1]);
3207     pwd->b[2]  = msa_asub_s_df(DF_BYTE, pws->b[2],  pwt->b[2]);
3208     pwd->b[3]  = msa_asub_s_df(DF_BYTE, pws->b[3],  pwt->b[3]);
3209     pwd->b[4]  = msa_asub_s_df(DF_BYTE, pws->b[4],  pwt->b[4]);
3210     pwd->b[5]  = msa_asub_s_df(DF_BYTE, pws->b[5],  pwt->b[5]);
3211     pwd->b[6]  = msa_asub_s_df(DF_BYTE, pws->b[6],  pwt->b[6]);
3212     pwd->b[7]  = msa_asub_s_df(DF_BYTE, pws->b[7],  pwt->b[7]);
3213     pwd->b[8]  = msa_asub_s_df(DF_BYTE, pws->b[8],  pwt->b[8]);
3214     pwd->b[9]  = msa_asub_s_df(DF_BYTE, pws->b[9],  pwt->b[9]);
3215     pwd->b[10] = msa_asub_s_df(DF_BYTE, pws->b[10], pwt->b[10]);
3216     pwd->b[11] = msa_asub_s_df(DF_BYTE, pws->b[11], pwt->b[11]);
3217     pwd->b[12] = msa_asub_s_df(DF_BYTE, pws->b[12], pwt->b[12]);
3218     pwd->b[13] = msa_asub_s_df(DF_BYTE, pws->b[13], pwt->b[13]);
3219     pwd->b[14] = msa_asub_s_df(DF_BYTE, pws->b[14], pwt->b[14]);
3220     pwd->b[15] = msa_asub_s_df(DF_BYTE, pws->b[15], pwt->b[15]);
3221 }
3222
3223 void helper_msa_asub_s_h(CPUMIPSState *env,
3224                          uint32_t wd, uint32_t ws, uint32_t wt)
3225 {
3226     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3227     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3228     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3229
3230     pwd->h[0]  = msa_asub_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
3231     pwd->h[1]  = msa_asub_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
3232     pwd->h[2]  = msa_asub_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
3233     pwd->h[3]  = msa_asub_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
3234     pwd->h[4]  = msa_asub_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
3235     pwd->h[5]  = msa_asub_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
3236     pwd->h[6]  = msa_asub_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
3237     pwd->h[7]  = msa_asub_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
3238 }
3239
3240 void helper_msa_asub_s_w(CPUMIPSState *env,
3241                          uint32_t wd, uint32_t ws, uint32_t wt)
3242 {
3243     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3244     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3245     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3246
3247     pwd->w[0]  = msa_asub_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
3248     pwd->w[1]  = msa_asub_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
3249     pwd->w[2]  = msa_asub_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
3250     pwd->w[3]  = msa_asub_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
3251 }
3252
3253 void helper_msa_asub_s_d(CPUMIPSState *env,
3254                          uint32_t wd, uint32_t ws, uint32_t wt)
3255 {
3256     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3257     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3258     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3259
3260     pwd->d[0]  = msa_asub_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
3261     pwd->d[1]  = msa_asub_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
3262 }
3263
3264
3265 static inline uint64_t msa_asub_u_df(uint32_t df, uint64_t arg1, uint64_t arg2)
3266 {
3267     uint64_t u_arg1 = UNSIGNED(arg1, df);
3268     uint64_t u_arg2 = UNSIGNED(arg2, df);
3269     /* unsigned compare */
3270     return (u_arg1 < u_arg2) ?
3271         (uint64_t)(u_arg2 - u_arg1) : (uint64_t)(u_arg1 - u_arg2);
3272 }
3273
3274 void helper_msa_asub_u_b(CPUMIPSState *env,
3275                          uint32_t wd, uint32_t ws, uint32_t wt)
3276 {
3277     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3278     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3279     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3280
3281     pwd->b[0]  = msa_asub_u_df(DF_BYTE, pws->b[0],  pwt->b[0]);
3282     pwd->b[1]  = msa_asub_u_df(DF_BYTE, pws->b[1],  pwt->b[1]);
3283     pwd->b[2]  = msa_asub_u_df(DF_BYTE, pws->b[2],  pwt->b[2]);
3284     pwd->b[3]  = msa_asub_u_df(DF_BYTE, pws->b[3],  pwt->b[3]);
3285     pwd->b[4]  = msa_asub_u_df(DF_BYTE, pws->b[4],  pwt->b[4]);
3286     pwd->b[5]  = msa_asub_u_df(DF_BYTE, pws->b[5],  pwt->b[5]);
3287     pwd->b[6]  = msa_asub_u_df(DF_BYTE, pws->b[6],  pwt->b[6]);
3288     pwd->b[7]  = msa_asub_u_df(DF_BYTE, pws->b[7],  pwt->b[7]);
3289     pwd->b[8]  = msa_asub_u_df(DF_BYTE, pws->b[8],  pwt->b[8]);
3290     pwd->b[9]  = msa_asub_u_df(DF_BYTE, pws->b[9],  pwt->b[9]);
3291     pwd->b[10] = msa_asub_u_df(DF_BYTE, pws->b[10], pwt->b[10]);
3292     pwd->b[11] = msa_asub_u_df(DF_BYTE, pws->b[11], pwt->b[11]);
3293     pwd->b[12] = msa_asub_u_df(DF_BYTE, pws->b[12], pwt->b[12]);
3294     pwd->b[13] = msa_asub_u_df(DF_BYTE, pws->b[13], pwt->b[13]);
3295     pwd->b[14] = msa_asub_u_df(DF_BYTE, pws->b[14], pwt->b[14]);
3296     pwd->b[15] = msa_asub_u_df(DF_BYTE, pws->b[15], pwt->b[15]);
3297 }
3298
3299 void helper_msa_asub_u_h(CPUMIPSState *env,
3300                          uint32_t wd, uint32_t ws, uint32_t wt)
3301 {
3302     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3303     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3304     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3305
3306     pwd->h[0]  = msa_asub_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
3307     pwd->h[1]  = msa_asub_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
3308     pwd->h[2]  = msa_asub_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
3309     pwd->h[3]  = msa_asub_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
3310     pwd->h[4]  = msa_asub_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
3311     pwd->h[5]  = msa_asub_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
3312     pwd->h[6]  = msa_asub_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
3313     pwd->h[7]  = msa_asub_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
3314 }
3315
3316 void helper_msa_asub_u_w(CPUMIPSState *env,
3317                          uint32_t wd, uint32_t ws, uint32_t wt)
3318 {
3319     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3320     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3321     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3322
3323     pwd->w[0]  = msa_asub_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
3324     pwd->w[1]  = msa_asub_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
3325     pwd->w[2]  = msa_asub_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
3326     pwd->w[3]  = msa_asub_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
3327 }
3328
3329 void helper_msa_asub_u_d(CPUMIPSState *env,
3330                          uint32_t wd, uint32_t ws, uint32_t wt)
3331 {
3332     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3333     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3334     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3335
3336     pwd->d[0]  = msa_asub_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
3337     pwd->d[1]  = msa_asub_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
3338 }
3339
3340
3341 /* TODO: insert the rest of Int Subtract group helpers here */
3342
3343
3344 static inline int64_t msa_hsub_s_df(uint32_t df, int64_t arg1, int64_t arg2)
3345 {
3346     return SIGNED_ODD(arg1, df) - SIGNED_EVEN(arg2, df);
3347 }
3348
3349 void helper_msa_hsub_s_h(CPUMIPSState *env,
3350                          uint32_t wd, uint32_t ws, uint32_t wt)
3351 {
3352     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3353     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3354     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3355
3356     pwd->h[0]  = msa_hsub_s_df(DF_HALF, pws->h[0],  pwt->h[0]);
3357     pwd->h[1]  = msa_hsub_s_df(DF_HALF, pws->h[1],  pwt->h[1]);
3358     pwd->h[2]  = msa_hsub_s_df(DF_HALF, pws->h[2],  pwt->h[2]);
3359     pwd->h[3]  = msa_hsub_s_df(DF_HALF, pws->h[3],  pwt->h[3]);
3360     pwd->h[4]  = msa_hsub_s_df(DF_HALF, pws->h[4],  pwt->h[4]);
3361     pwd->h[5]  = msa_hsub_s_df(DF_HALF, pws->h[5],  pwt->h[5]);
3362     pwd->h[6]  = msa_hsub_s_df(DF_HALF, pws->h[6],  pwt->h[6]);
3363     pwd->h[7]  = msa_hsub_s_df(DF_HALF, pws->h[7],  pwt->h[7]);
3364 }
3365
3366 void helper_msa_hsub_s_w(CPUMIPSState *env,
3367                          uint32_t wd, uint32_t ws, uint32_t wt)
3368 {
3369     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3370     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3371     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3372
3373     pwd->w[0]  = msa_hsub_s_df(DF_WORD, pws->w[0],  pwt->w[0]);
3374     pwd->w[1]  = msa_hsub_s_df(DF_WORD, pws->w[1],  pwt->w[1]);
3375     pwd->w[2]  = msa_hsub_s_df(DF_WORD, pws->w[2],  pwt->w[2]);
3376     pwd->w[3]  = msa_hsub_s_df(DF_WORD, pws->w[3],  pwt->w[3]);
3377 }
3378
3379 void helper_msa_hsub_s_d(CPUMIPSState *env,
3380                          uint32_t wd, uint32_t ws, uint32_t wt)
3381 {
3382     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3383     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3384     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3385
3386     pwd->d[0]  = msa_hsub_s_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
3387     pwd->d[1]  = msa_hsub_s_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
3388 }
3389
3390
3391 static inline int64_t msa_hsub_u_df(uint32_t df, int64_t arg1, int64_t arg2)
3392 {
3393     return UNSIGNED_ODD(arg1, df) - UNSIGNED_EVEN(arg2, df);
3394 }
3395
3396 void helper_msa_hsub_u_h(CPUMIPSState *env,
3397                          uint32_t wd, uint32_t ws, uint32_t wt)
3398 {
3399     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3400     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3401     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3402
3403     pwd->h[0]  = msa_hsub_u_df(DF_HALF, pws->h[0],  pwt->h[0]);
3404     pwd->h[1]  = msa_hsub_u_df(DF_HALF, pws->h[1],  pwt->h[1]);
3405     pwd->h[2]  = msa_hsub_u_df(DF_HALF, pws->h[2],  pwt->h[2]);
3406     pwd->h[3]  = msa_hsub_u_df(DF_HALF, pws->h[3],  pwt->h[3]);
3407     pwd->h[4]  = msa_hsub_u_df(DF_HALF, pws->h[4],  pwt->h[4]);
3408     pwd->h[5]  = msa_hsub_u_df(DF_HALF, pws->h[5],  pwt->h[5]);
3409     pwd->h[6]  = msa_hsub_u_df(DF_HALF, pws->h[6],  pwt->h[6]);
3410     pwd->h[7]  = msa_hsub_u_df(DF_HALF, pws->h[7],  pwt->h[7]);
3411 }
3412
3413 void helper_msa_hsub_u_w(CPUMIPSState *env,
3414                          uint32_t wd, uint32_t ws, uint32_t wt)
3415 {
3416     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3417     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3418     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3419
3420     pwd->w[0]  = msa_hsub_u_df(DF_WORD, pws->w[0],  pwt->w[0]);
3421     pwd->w[1]  = msa_hsub_u_df(DF_WORD, pws->w[1],  pwt->w[1]);
3422     pwd->w[2]  = msa_hsub_u_df(DF_WORD, pws->w[2],  pwt->w[2]);
3423     pwd->w[3]  = msa_hsub_u_df(DF_WORD, pws->w[3],  pwt->w[3]);
3424 }
3425
3426 void helper_msa_hsub_u_d(CPUMIPSState *env,
3427                          uint32_t wd, uint32_t ws, uint32_t wt)
3428 {
3429     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3430     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3431     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3432
3433     pwd->d[0]  = msa_hsub_u_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
3434     pwd->d[1]  = msa_hsub_u_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
3435 }
3436
3437
3438 /*
3439  * Interleave
3440  * ----------
3441  *
3442  * +---------------+----------------------------------------------------------+
3443  * | ILVEV.B       | Vector Interleave Even (byte)                            |
3444  * | ILVEV.H       | Vector Interleave Even (halfword)                        |
3445  * | ILVEV.W       | Vector Interleave Even (word)                            |
3446  * | ILVEV.D       | Vector Interleave Even (doubleword)                      |
3447  * | ILVOD.B       | Vector Interleave Odd (byte)                             |
3448  * | ILVOD.H       | Vector Interleave Odd (halfword)                         |
3449  * | ILVOD.W       | Vector Interleave Odd (word)                             |
3450  * | ILVOD.D       | Vector Interleave Odd (doubleword)                       |
3451  * | ILVL.B        | Vector Interleave Left (byte)                            |
3452  * | ILVL.H        | Vector Interleave Left (halfword)                        |
3453  * | ILVL.W        | Vector Interleave Left (word)                            |
3454  * | ILVL.D        | Vector Interleave Left (doubleword)                      |
3455  * | ILVR.B        | Vector Interleave Right (byte)                           |
3456  * | ILVR.H        | Vector Interleave Right (halfword)                       |
3457  * | ILVR.W        | Vector Interleave Right (word)                           |
3458  * | ILVR.D        | Vector Interleave Right (doubleword)                     |
3459  * +---------------+----------------------------------------------------------+
3460  */
3461
3462
3463 void helper_msa_ilvev_b(CPUMIPSState *env,
3464                         uint32_t wd, uint32_t ws, uint32_t wt)
3465 {
3466     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3467     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3468     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3469
3470 #if defined(HOST_WORDS_BIGENDIAN)
3471     pwd->b[8]  = pws->b[9];
3472     pwd->b[9]  = pwt->b[9];
3473     pwd->b[10] = pws->b[11];
3474     pwd->b[11] = pwt->b[11];
3475     pwd->b[12] = pws->b[13];
3476     pwd->b[13] = pwt->b[13];
3477     pwd->b[14] = pws->b[15];
3478     pwd->b[15] = pwt->b[15];
3479     pwd->b[0]  = pws->b[1];
3480     pwd->b[1]  = pwt->b[1];
3481     pwd->b[2]  = pws->b[3];
3482     pwd->b[3]  = pwt->b[3];
3483     pwd->b[4]  = pws->b[5];
3484     pwd->b[5]  = pwt->b[5];
3485     pwd->b[6]  = pws->b[7];
3486     pwd->b[7]  = pwt->b[7];
3487 #else
3488     pwd->b[15] = pws->b[14];
3489     pwd->b[14] = pwt->b[14];
3490     pwd->b[13] = pws->b[12];
3491     pwd->b[12] = pwt->b[12];
3492     pwd->b[11] = pws->b[10];
3493     pwd->b[10] = pwt->b[10];
3494     pwd->b[9]  = pws->b[8];
3495     pwd->b[8]  = pwt->b[8];
3496     pwd->b[7]  = pws->b[6];
3497     pwd->b[6]  = pwt->b[6];
3498     pwd->b[5]  = pws->b[4];
3499     pwd->b[4]  = pwt->b[4];
3500     pwd->b[3]  = pws->b[2];
3501     pwd->b[2]  = pwt->b[2];
3502     pwd->b[1]  = pws->b[0];
3503     pwd->b[0]  = pwt->b[0];
3504 #endif
3505 }
3506
3507 void helper_msa_ilvev_h(CPUMIPSState *env,
3508                         uint32_t wd, uint32_t ws, uint32_t wt)
3509 {
3510     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3511     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3512     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3513
3514 #if defined(HOST_WORDS_BIGENDIAN)
3515     pwd->h[4] = pws->h[5];
3516     pwd->h[5] = pwt->h[5];
3517     pwd->h[6] = pws->h[7];
3518     pwd->h[7] = pwt->h[7];
3519     pwd->h[0] = pws->h[1];
3520     pwd->h[1] = pwt->h[1];
3521     pwd->h[2] = pws->h[3];
3522     pwd->h[3] = pwt->h[3];
3523 #else
3524     pwd->h[7] = pws->h[6];
3525     pwd->h[6] = pwt->h[6];
3526     pwd->h[5] = pws->h[4];
3527     pwd->h[4] = pwt->h[4];
3528     pwd->h[3] = pws->h[2];
3529     pwd->h[2] = pwt->h[2];
3530     pwd->h[1] = pws->h[0];
3531     pwd->h[0] = pwt->h[0];
3532 #endif
3533 }
3534
3535 void helper_msa_ilvev_w(CPUMIPSState *env,
3536                         uint32_t wd, uint32_t ws, uint32_t wt)
3537 {
3538     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3539     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3540     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3541
3542 #if defined(HOST_WORDS_BIGENDIAN)
3543     pwd->w[2] = pws->w[3];
3544     pwd->w[3] = pwt->w[3];
3545     pwd->w[0] = pws->w[1];
3546     pwd->w[1] = pwt->w[1];
3547 #else
3548     pwd->w[3] = pws->w[2];
3549     pwd->w[2] = pwt->w[2];
3550     pwd->w[1] = pws->w[0];
3551     pwd->w[0] = pwt->w[0];
3552 #endif
3553 }
3554
3555 void helper_msa_ilvev_d(CPUMIPSState *env,
3556                         uint32_t wd, uint32_t ws, uint32_t wt)
3557 {
3558     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3559     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3560     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3561
3562     pwd->d[1] = pws->d[0];
3563     pwd->d[0] = pwt->d[0];
3564 }
3565
3566
3567 void helper_msa_ilvod_b(CPUMIPSState *env,
3568                         uint32_t wd, uint32_t ws, uint32_t wt)
3569 {
3570     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3571     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3572     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3573
3574 #if defined(HOST_WORDS_BIGENDIAN)
3575     pwd->b[7]  = pwt->b[6];
3576     pwd->b[6]  = pws->b[6];
3577     pwd->b[5]  = pwt->b[4];
3578     pwd->b[4]  = pws->b[4];
3579     pwd->b[3]  = pwt->b[2];
3580     pwd->b[2]  = pws->b[2];
3581     pwd->b[1]  = pwt->b[0];
3582     pwd->b[0]  = pws->b[0];
3583     pwd->b[15] = pwt->b[14];
3584     pwd->b[14] = pws->b[14];
3585     pwd->b[13] = pwt->b[12];
3586     pwd->b[12] = pws->b[12];
3587     pwd->b[11] = pwt->b[10];
3588     pwd->b[10] = pws->b[10];
3589     pwd->b[9]  = pwt->b[8];
3590     pwd->b[8]  = pws->b[8];
3591 #else
3592     pwd->b[0]  = pwt->b[1];
3593     pwd->b[1]  = pws->b[1];
3594     pwd->b[2]  = pwt->b[3];
3595     pwd->b[3]  = pws->b[3];
3596     pwd->b[4]  = pwt->b[5];
3597     pwd->b[5]  = pws->b[5];
3598     pwd->b[6]  = pwt->b[7];
3599     pwd->b[7]  = pws->b[7];
3600     pwd->b[8]  = pwt->b[9];
3601     pwd->b[9]  = pws->b[9];
3602     pwd->b[10] = pwt->b[11];
3603     pwd->b[11] = pws->b[11];
3604     pwd->b[12] = pwt->b[13];
3605     pwd->b[13] = pws->b[13];
3606     pwd->b[14] = pwt->b[15];
3607     pwd->b[15] = pws->b[15];
3608 #endif
3609 }
3610
3611 void helper_msa_ilvod_h(CPUMIPSState *env,
3612                         uint32_t wd, uint32_t ws, uint32_t wt)
3613 {
3614     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3615     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3616     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3617
3618 #if defined(HOST_WORDS_BIGENDIAN)
3619     pwd->h[3] = pwt->h[2];
3620     pwd->h[2] = pws->h[2];
3621     pwd->h[1] = pwt->h[0];
3622     pwd->h[0] = pws->h[0];
3623     pwd->h[7] = pwt->h[6];
3624     pwd->h[6] = pws->h[6];
3625     pwd->h[5] = pwt->h[4];
3626     pwd->h[4] = pws->h[4];
3627 #else
3628     pwd->h[0] = pwt->h[1];
3629     pwd->h[1] = pws->h[1];
3630     pwd->h[2] = pwt->h[3];
3631     pwd->h[3] = pws->h[3];
3632     pwd->h[4] = pwt->h[5];
3633     pwd->h[5] = pws->h[5];
3634     pwd->h[6] = pwt->h[7];
3635     pwd->h[7] = pws->h[7];
3636 #endif
3637 }
3638
3639 void helper_msa_ilvod_w(CPUMIPSState *env,
3640                         uint32_t wd, uint32_t ws, uint32_t wt)
3641 {
3642     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3643     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3644     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3645
3646 #if defined(HOST_WORDS_BIGENDIAN)
3647     pwd->w[1] = pwt->w[0];
3648     pwd->w[0] = pws->w[0];
3649     pwd->w[3] = pwt->w[2];
3650     pwd->w[2] = pws->w[2];
3651 #else
3652     pwd->w[0] = pwt->w[1];
3653     pwd->w[1] = pws->w[1];
3654     pwd->w[2] = pwt->w[3];
3655     pwd->w[3] = pws->w[3];
3656 #endif
3657 }
3658
3659 void helper_msa_ilvod_d(CPUMIPSState *env,
3660                         uint32_t wd, uint32_t ws, uint32_t wt)
3661 {
3662     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3663     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3664     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3665
3666     pwd->d[0] = pwt->d[1];
3667     pwd->d[1] = pws->d[1];
3668 }
3669
3670
3671 void helper_msa_ilvl_b(CPUMIPSState *env,
3672                        uint32_t wd, uint32_t ws, uint32_t wt)
3673 {
3674     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3675     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3676     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3677
3678 #if defined(HOST_WORDS_BIGENDIAN)
3679     pwd->b[7]  = pwt->b[15];
3680     pwd->b[6]  = pws->b[15];
3681     pwd->b[5]  = pwt->b[14];
3682     pwd->b[4]  = pws->b[14];
3683     pwd->b[3]  = pwt->b[13];
3684     pwd->b[2]  = pws->b[13];
3685     pwd->b[1]  = pwt->b[12];
3686     pwd->b[0]  = pws->b[12];
3687     pwd->b[15] = pwt->b[11];
3688     pwd->b[14] = pws->b[11];
3689     pwd->b[13] = pwt->b[10];
3690     pwd->b[12] = pws->b[10];
3691     pwd->b[11] = pwt->b[9];
3692     pwd->b[10] = pws->b[9];
3693     pwd->b[9]  = pwt->b[8];
3694     pwd->b[8]  = pws->b[8];
3695 #else
3696     pwd->b[0]  = pwt->b[8];
3697     pwd->b[1]  = pws->b[8];
3698     pwd->b[2]  = pwt->b[9];
3699     pwd->b[3]  = pws->b[9];
3700     pwd->b[4]  = pwt->b[10];
3701     pwd->b[5]  = pws->b[10];
3702     pwd->b[6]  = pwt->b[11];
3703     pwd->b[7]  = pws->b[11];
3704     pwd->b[8]  = pwt->b[12];
3705     pwd->b[9]  = pws->b[12];
3706     pwd->b[10] = pwt->b[13];
3707     pwd->b[11] = pws->b[13];
3708     pwd->b[12] = pwt->b[14];
3709     pwd->b[13] = pws->b[14];
3710     pwd->b[14] = pwt->b[15];
3711     pwd->b[15] = pws->b[15];
3712 #endif
3713 }
3714
3715 void helper_msa_ilvl_h(CPUMIPSState *env,
3716                        uint32_t wd, uint32_t ws, uint32_t wt)
3717 {
3718     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3719     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3720     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3721
3722 #if defined(HOST_WORDS_BIGENDIAN)
3723     pwd->h[3] = pwt->h[7];
3724     pwd->h[2] = pws->h[7];
3725     pwd->h[1] = pwt->h[6];
3726     pwd->h[0] = pws->h[6];
3727     pwd->h[7] = pwt->h[5];
3728     pwd->h[6] = pws->h[5];
3729     pwd->h[5] = pwt->h[4];
3730     pwd->h[4] = pws->h[4];
3731 #else
3732     pwd->h[0] = pwt->h[4];
3733     pwd->h[1] = pws->h[4];
3734     pwd->h[2] = pwt->h[5];
3735     pwd->h[3] = pws->h[5];
3736     pwd->h[4] = pwt->h[6];
3737     pwd->h[5] = pws->h[6];
3738     pwd->h[6] = pwt->h[7];
3739     pwd->h[7] = pws->h[7];
3740 #endif
3741 }
3742
3743 void helper_msa_ilvl_w(CPUMIPSState *env,
3744                        uint32_t wd, uint32_t ws, uint32_t wt)
3745 {
3746     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3747     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3748     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3749
3750 #if defined(HOST_WORDS_BIGENDIAN)
3751     pwd->w[1] = pwt->w[3];
3752     pwd->w[0] = pws->w[3];
3753     pwd->w[3] = pwt->w[2];
3754     pwd->w[2] = pws->w[2];
3755 #else
3756     pwd->w[0] = pwt->w[2];
3757     pwd->w[1] = pws->w[2];
3758     pwd->w[2] = pwt->w[3];
3759     pwd->w[3] = pws->w[3];
3760 #endif
3761 }
3762
3763 void helper_msa_ilvl_d(CPUMIPSState *env,
3764                        uint32_t wd, uint32_t ws, uint32_t wt)
3765 {
3766     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3767     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3768     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3769
3770     pwd->d[0] = pwt->d[1];
3771     pwd->d[1] = pws->d[1];
3772 }
3773
3774
3775 void helper_msa_ilvr_b(CPUMIPSState *env,
3776                        uint32_t wd, uint32_t ws, uint32_t wt)
3777 {
3778     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3779     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3780     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3781
3782 #if defined(HOST_WORDS_BIGENDIAN)
3783     pwd->b[8]  = pws->b[0];
3784     pwd->b[9]  = pwt->b[0];
3785     pwd->b[10] = pws->b[1];
3786     pwd->b[11] = pwt->b[1];
3787     pwd->b[12] = pws->b[2];
3788     pwd->b[13] = pwt->b[2];
3789     pwd->b[14] = pws->b[3];
3790     pwd->b[15] = pwt->b[3];
3791     pwd->b[0]  = pws->b[4];
3792     pwd->b[1]  = pwt->b[4];
3793     pwd->b[2]  = pws->b[5];
3794     pwd->b[3]  = pwt->b[5];
3795     pwd->b[4]  = pws->b[6];
3796     pwd->b[5]  = pwt->b[6];
3797     pwd->b[6]  = pws->b[7];
3798     pwd->b[7]  = pwt->b[7];
3799 #else
3800     pwd->b[15] = pws->b[7];
3801     pwd->b[14] = pwt->b[7];
3802     pwd->b[13] = pws->b[6];
3803     pwd->b[12] = pwt->b[6];
3804     pwd->b[11] = pws->b[5];
3805     pwd->b[10] = pwt->b[5];
3806     pwd->b[9]  = pws->b[4];
3807     pwd->b[8]  = pwt->b[4];
3808     pwd->b[7]  = pws->b[3];
3809     pwd->b[6]  = pwt->b[3];
3810     pwd->b[5]  = pws->b[2];
3811     pwd->b[4]  = pwt->b[2];
3812     pwd->b[3]  = pws->b[1];
3813     pwd->b[2]  = pwt->b[1];
3814     pwd->b[1]  = pws->b[0];
3815     pwd->b[0]  = pwt->b[0];
3816 #endif
3817 }
3818
3819 void helper_msa_ilvr_h(CPUMIPSState *env,
3820                        uint32_t wd, uint32_t ws, uint32_t wt)
3821 {
3822     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3823     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3824     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3825
3826 #if defined(HOST_WORDS_BIGENDIAN)
3827     pwd->h[4] = pws->h[0];
3828     pwd->h[5] = pwt->h[0];
3829     pwd->h[6] = pws->h[1];
3830     pwd->h[7] = pwt->h[1];
3831     pwd->h[0] = pws->h[2];
3832     pwd->h[1] = pwt->h[2];
3833     pwd->h[2] = pws->h[3];
3834     pwd->h[3] = pwt->h[3];
3835 #else
3836     pwd->h[7] = pws->h[3];
3837     pwd->h[6] = pwt->h[3];
3838     pwd->h[5] = pws->h[2];
3839     pwd->h[4] = pwt->h[2];
3840     pwd->h[3] = pws->h[1];
3841     pwd->h[2] = pwt->h[1];
3842     pwd->h[1] = pws->h[0];
3843     pwd->h[0] = pwt->h[0];
3844 #endif
3845 }
3846
3847 void helper_msa_ilvr_w(CPUMIPSState *env,
3848                        uint32_t wd, uint32_t ws, uint32_t wt)
3849 {
3850     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3851     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3852     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3853
3854 #if defined(HOST_WORDS_BIGENDIAN)
3855     pwd->w[2] = pws->w[0];
3856     pwd->w[3] = pwt->w[0];
3857     pwd->w[0] = pws->w[1];
3858     pwd->w[1] = pwt->w[1];
3859 #else
3860     pwd->w[3] = pws->w[1];
3861     pwd->w[2] = pwt->w[1];
3862     pwd->w[1] = pws->w[0];
3863     pwd->w[0] = pwt->w[0];
3864 #endif
3865 }
3866
3867 void helper_msa_ilvr_d(CPUMIPSState *env,
3868                        uint32_t wd, uint32_t ws, uint32_t wt)
3869 {
3870     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3871     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3872     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3873
3874     pwd->d[1] = pws->d[0];
3875     pwd->d[0] = pwt->d[0];
3876 }
3877
3878
3879 /*
3880  * Logic
3881  * -----
3882  *
3883  * +---------------+----------------------------------------------------------+
3884  * | AND.V         | Vector Logical And                                       |
3885  * | NOR.V         | Vector Logical Negated Or                                |
3886  * | OR.V          | Vector Logical Or                                        |
3887  * | XOR.V         | Vector Logical Exclusive Or                              |
3888  * +---------------+----------------------------------------------------------+
3889  */
3890
3891
3892 void helper_msa_and_v(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
3893 {
3894     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3895     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3896     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3897
3898     pwd->d[0] = pws->d[0] & pwt->d[0];
3899     pwd->d[1] = pws->d[1] & pwt->d[1];
3900 }
3901
3902 void helper_msa_nor_v(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
3903 {
3904     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3905     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3906     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3907
3908     pwd->d[0] = ~(pws->d[0] | pwt->d[0]);
3909     pwd->d[1] = ~(pws->d[1] | pwt->d[1]);
3910 }
3911
3912 void helper_msa_or_v(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
3913 {
3914     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3915     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3916     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3917
3918     pwd->d[0] = pws->d[0] | pwt->d[0];
3919     pwd->d[1] = pws->d[1] | pwt->d[1];
3920 }
3921
3922 void helper_msa_xor_v(CPUMIPSState *env, uint32_t wd, uint32_t ws, uint32_t wt)
3923 {
3924     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3925     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3926     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3927
3928     pwd->d[0] = pws->d[0] ^ pwt->d[0];
3929     pwd->d[1] = pws->d[1] ^ pwt->d[1];
3930 }
3931
3932
3933 /*
3934  * Move
3935  * ----
3936  *
3937  * +---------------+----------------------------------------------------------+
3938  * | MOVE.V        | Vector Move                                              |
3939  * +---------------+----------------------------------------------------------+
3940  */
3941
3942 static inline void msa_move_v(wr_t *pwd, wr_t *pws)
3943 {
3944     pwd->d[0] = pws->d[0];
3945     pwd->d[1] = pws->d[1];
3946 }
3947
3948 void helper_msa_move_v(CPUMIPSState *env, uint32_t wd, uint32_t ws)
3949 {
3950     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3951     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3952
3953     msa_move_v(pwd, pws);
3954 }
3955
3956
3957 /*
3958  * Pack
3959  * ----
3960  *
3961  * +---------------+----------------------------------------------------------+
3962  * | PCKEV.B       | Vector Pack Even (byte)                                  |
3963  * | PCKEV.H       | Vector Pack Even (halfword)                              |
3964  * | PCKEV.W       | Vector Pack Even (word)                                  |
3965  * | PCKEV.D       | Vector Pack Even (doubleword)                            |
3966  * | PCKOD.B       | Vector Pack Odd (byte)                                   |
3967  * | PCKOD.H       | Vector Pack Odd (halfword)                               |
3968  * | PCKOD.W       | Vector Pack Odd (word)                                   |
3969  * | PCKOD.D       | Vector Pack Odd (doubleword)                             |
3970  * | VSHF.B        | Vector Data Preserving Shuffle (byte)                    |
3971  * | VSHF.H        | Vector Data Preserving Shuffle (halfword)                |
3972  * | VSHF.W        | Vector Data Preserving Shuffle (word)                    |
3973  * | VSHF.D        | Vector Data Preserving Shuffle (doubleword)              |
3974  * +---------------+----------------------------------------------------------+
3975  */
3976
3977
3978 void helper_msa_pckev_b(CPUMIPSState *env,
3979                         uint32_t wd, uint32_t ws, uint32_t wt)
3980 {
3981     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
3982     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
3983     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
3984
3985 #if defined(HOST_WORDS_BIGENDIAN)
3986     pwd->b[8]  = pws->b[9];
3987     pwd->b[10] = pws->b[13];
3988     pwd->b[12] = pws->b[1];
3989     pwd->b[14] = pws->b[5];
3990     pwd->b[0]  = pwt->b[9];
3991     pwd->b[2]  = pwt->b[13];
3992     pwd->b[4]  = pwt->b[1];
3993     pwd->b[6]  = pwt->b[5];
3994     pwd->b[9]  = pws->b[11];
3995     pwd->b[13] = pws->b[3];
3996     pwd->b[1]  = pwt->b[11];
3997     pwd->b[5]  = pwt->b[3];
3998     pwd->b[11] = pws->b[15];
3999     pwd->b[3]  = pwt->b[15];
4000     pwd->b[15] = pws->b[7];
4001     pwd->b[7]  = pwt->b[7];
4002 #else
4003     pwd->b[15] = pws->b[14];
4004     pwd->b[13] = pws->b[10];
4005     pwd->b[11] = pws->b[6];
4006     pwd->b[9]  = pws->b[2];
4007     pwd->b[7]  = pwt->b[14];
4008     pwd->b[5]  = pwt->b[10];
4009     pwd->b[3]  = pwt->b[6];
4010     pwd->b[1]  = pwt->b[2];
4011     pwd->b[14] = pws->b[12];
4012     pwd->b[10] = pws->b[4];
4013     pwd->b[6]  = pwt->b[12];
4014     pwd->b[2]  = pwt->b[4];
4015     pwd->b[12] = pws->b[8];
4016     pwd->b[4]  = pwt->b[8];
4017     pwd->b[8]  = pws->b[0];
4018     pwd->b[0]  = pwt->b[0];
4019 #endif
4020 }
4021
4022 void helper_msa_pckev_h(CPUMIPSState *env,
4023                         uint32_t wd, uint32_t ws, uint32_t wt)
4024 {
4025     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4026     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4027     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4028
4029 #if defined(HOST_WORDS_BIGENDIAN)
4030     pwd->h[4] = pws->h[5];
4031     pwd->h[6] = pws->h[1];
4032     pwd->h[0] = pwt->h[5];
4033     pwd->h[2] = pwt->h[1];
4034     pwd->h[5] = pws->h[7];
4035     pwd->h[1] = pwt->h[7];
4036     pwd->h[7] = pws->h[3];
4037     pwd->h[3] = pwt->h[3];
4038 #else
4039     pwd->h[7] = pws->h[6];
4040     pwd->h[5] = pws->h[2];
4041     pwd->h[3] = pwt->h[6];
4042     pwd->h[1] = pwt->h[2];
4043     pwd->h[6] = pws->h[4];
4044     pwd->h[2] = pwt->h[4];
4045     pwd->h[4] = pws->h[0];
4046     pwd->h[0] = pwt->h[0];
4047 #endif
4048 }
4049
4050 void helper_msa_pckev_w(CPUMIPSState *env,
4051                         uint32_t wd, uint32_t ws, uint32_t wt)
4052 {
4053     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4054     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4055     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4056
4057 #if defined(HOST_WORDS_BIGENDIAN)
4058     pwd->w[2] = pws->w[3];
4059     pwd->w[0] = pwt->w[3];
4060     pwd->w[3] = pws->w[1];
4061     pwd->w[1] = pwt->w[1];
4062 #else
4063     pwd->w[3] = pws->w[2];
4064     pwd->w[1] = pwt->w[2];
4065     pwd->w[2] = pws->w[0];
4066     pwd->w[0] = pwt->w[0];
4067 #endif
4068 }
4069
4070 void helper_msa_pckev_d(CPUMIPSState *env,
4071                         uint32_t wd, uint32_t ws, uint32_t wt)
4072 {
4073     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4074     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4075     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4076
4077     pwd->d[1] = pws->d[0];
4078     pwd->d[0] = pwt->d[0];
4079 }
4080
4081
4082 void helper_msa_pckod_b(CPUMIPSState *env,
4083                         uint32_t wd, uint32_t ws, uint32_t wt)
4084 {
4085     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4086     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4087     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4088
4089 #if defined(HOST_WORDS_BIGENDIAN)
4090     pwd->b[7]  = pwt->b[6];
4091     pwd->b[5]  = pwt->b[2];
4092     pwd->b[3]  = pwt->b[14];
4093     pwd->b[1]  = pwt->b[10];
4094     pwd->b[15] = pws->b[6];
4095     pwd->b[13] = pws->b[2];
4096     pwd->b[11] = pws->b[14];
4097     pwd->b[9]  = pws->b[10];
4098     pwd->b[6]  = pwt->b[4];
4099     pwd->b[2]  = pwt->b[12];
4100     pwd->b[14] = pws->b[4];
4101     pwd->b[10] = pws->b[12];
4102     pwd->b[4]  = pwt->b[0];
4103     pwd->b[12] = pws->b[0];
4104     pwd->b[0]  = pwt->b[8];
4105     pwd->b[8]  = pws->b[8];
4106 #else
4107     pwd->b[0]  = pwt->b[1];
4108     pwd->b[2]  = pwt->b[5];
4109     pwd->b[4]  = pwt->b[9];
4110     pwd->b[6]  = pwt->b[13];
4111     pwd->b[8]  = pws->b[1];
4112     pwd->b[10] = pws->b[5];
4113     pwd->b[12] = pws->b[9];
4114     pwd->b[14] = pws->b[13];
4115     pwd->b[1]  = pwt->b[3];
4116     pwd->b[5]  = pwt->b[11];
4117     pwd->b[9]  = pws->b[3];
4118     pwd->b[13] = pws->b[11];
4119     pwd->b[3]  = pwt->b[7];
4120     pwd->b[11] = pws->b[7];
4121     pwd->b[7]  = pwt->b[15];
4122     pwd->b[15] = pws->b[15];
4123 #endif
4124
4125 }
4126
4127 void helper_msa_pckod_h(CPUMIPSState *env,
4128                         uint32_t wd, uint32_t ws, uint32_t wt)
4129 {
4130     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4131     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4132     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4133
4134 #if defined(HOST_WORDS_BIGENDIAN)
4135     pwd->h[3] = pwt->h[2];
4136     pwd->h[1] = pwt->h[6];
4137     pwd->h[7] = pws->h[2];
4138     pwd->h[5] = pws->h[6];
4139     pwd->h[2] = pwt->h[0];
4140     pwd->h[6] = pws->h[0];
4141     pwd->h[0] = pwt->h[4];
4142     pwd->h[4] = pws->h[4];
4143 #else
4144     pwd->h[0] = pwt->h[1];
4145     pwd->h[2] = pwt->h[5];
4146     pwd->h[4] = pws->h[1];
4147     pwd->h[6] = pws->h[5];
4148     pwd->h[1] = pwt->h[3];
4149     pwd->h[5] = pws->h[3];
4150     pwd->h[3] = pwt->h[7];
4151     pwd->h[7] = pws->h[7];
4152 #endif
4153 }
4154
4155 void helper_msa_pckod_w(CPUMIPSState *env,
4156                         uint32_t wd, uint32_t ws, uint32_t wt)
4157 {
4158     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4159     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4160     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4161
4162 #if defined(HOST_WORDS_BIGENDIAN)
4163     pwd->w[1] = pwt->w[0];
4164     pwd->w[3] = pws->w[0];
4165     pwd->w[0] = pwt->w[2];
4166     pwd->w[2] = pws->w[2];
4167 #else
4168     pwd->w[0] = pwt->w[1];
4169     pwd->w[2] = pws->w[1];
4170     pwd->w[1] = pwt->w[3];
4171     pwd->w[3] = pws->w[3];
4172 #endif
4173 }
4174
4175 void helper_msa_pckod_d(CPUMIPSState *env,
4176                         uint32_t wd, uint32_t ws, uint32_t wt)
4177 {
4178     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4179     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4180     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4181
4182     pwd->d[0] = pwt->d[1];
4183     pwd->d[1] = pws->d[1];
4184 }
4185
4186
4187 /*
4188  * Shift
4189  * -----
4190  *
4191  * +---------------+----------------------------------------------------------+
4192  * | SLL.B         | Vector Shift Left (byte)                                 |
4193  * | SLL.H         | Vector Shift Left (halfword)                             |
4194  * | SLL.W         | Vector Shift Left (word)                                 |
4195  * | SLL.D         | Vector Shift Left (doubleword)                           |
4196  * | SRA.B         | Vector Shift Right Arithmetic (byte)                     |
4197  * | SRA.H         | Vector Shift Right Arithmetic (halfword)                 |
4198  * | SRA.W         | Vector Shift Right Arithmetic (word)                     |
4199  * | SRA.D         | Vector Shift Right Arithmetic (doubleword)               |
4200  * | SRAR.B        | Vector Shift Right Arithmetic Rounded (byte)             |
4201  * | SRAR.H        | Vector Shift Right Arithmetic Rounded (halfword)         |
4202  * | SRAR.W        | Vector Shift Right Arithmetic Rounded (word)             |
4203  * | SRAR.D        | Vector Shift Right Arithmetic Rounded (doubleword)       |
4204  * | SRL.B         | Vector Shift Right Logical (byte)                        |
4205  * | SRL.H         | Vector Shift Right Logical (halfword)                    |
4206  * | SRL.W         | Vector Shift Right Logical (word)                        |
4207  * | SRL.D         | Vector Shift Right Logical (doubleword)                  |
4208  * | SRLR.B        | Vector Shift Right Logical Rounded (byte)                |
4209  * | SRLR.H        | Vector Shift Right Logical Rounded (halfword)            |
4210  * | SRLR.W        | Vector Shift Right Logical Rounded (word)                |
4211  * | SRLR.D        | Vector Shift Right Logical Rounded (doubleword)          |
4212  * +---------------+----------------------------------------------------------+
4213  */
4214
4215
4216 static inline int64_t msa_sll_df(uint32_t df, int64_t arg1, int64_t arg2)
4217 {
4218     int32_t b_arg2 = BIT_POSITION(arg2, df);
4219     return arg1 << b_arg2;
4220 }
4221
4222 void helper_msa_sll_b(CPUMIPSState *env,
4223                       uint32_t wd, uint32_t ws, uint32_t wt)
4224 {
4225     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4226     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4227     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4228
4229     pwd->b[0]  = msa_sll_df(DF_BYTE, pws->b[0],  pwt->b[0]);
4230     pwd->b[1]  = msa_sll_df(DF_BYTE, pws->b[1],  pwt->b[1]);
4231     pwd->b[2]  = msa_sll_df(DF_BYTE, pws->b[2],  pwt->b[2]);
4232     pwd->b[3]  = msa_sll_df(DF_BYTE, pws->b[3],  pwt->b[3]);
4233     pwd->b[4]  = msa_sll_df(DF_BYTE, pws->b[4],  pwt->b[4]);
4234     pwd->b[5]  = msa_sll_df(DF_BYTE, pws->b[5],  pwt->b[5]);
4235     pwd->b[6]  = msa_sll_df(DF_BYTE, pws->b[6],  pwt->b[6]);
4236     pwd->b[7]  = msa_sll_df(DF_BYTE, pws->b[7],  pwt->b[7]);
4237     pwd->b[8]  = msa_sll_df(DF_BYTE, pws->b[8],  pwt->b[8]);
4238     pwd->b[9]  = msa_sll_df(DF_BYTE, pws->b[9],  pwt->b[9]);
4239     pwd->b[10] = msa_sll_df(DF_BYTE, pws->b[10], pwt->b[10]);
4240     pwd->b[11] = msa_sll_df(DF_BYTE, pws->b[11], pwt->b[11]);
4241     pwd->b[12] = msa_sll_df(DF_BYTE, pws->b[12], pwt->b[12]);
4242     pwd->b[13] = msa_sll_df(DF_BYTE, pws->b[13], pwt->b[13]);
4243     pwd->b[14] = msa_sll_df(DF_BYTE, pws->b[14], pwt->b[14]);
4244     pwd->b[15] = msa_sll_df(DF_BYTE, pws->b[15], pwt->b[15]);
4245 }
4246
4247 void helper_msa_sll_h(CPUMIPSState *env,
4248                       uint32_t wd, uint32_t ws, uint32_t wt)
4249 {
4250     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4251     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4252     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4253
4254     pwd->h[0]  = msa_sll_df(DF_HALF, pws->h[0],  pwt->h[0]);
4255     pwd->h[1]  = msa_sll_df(DF_HALF, pws->h[1],  pwt->h[1]);
4256     pwd->h[2]  = msa_sll_df(DF_HALF, pws->h[2],  pwt->h[2]);
4257     pwd->h[3]  = msa_sll_df(DF_HALF, pws->h[3],  pwt->h[3]);
4258     pwd->h[4]  = msa_sll_df(DF_HALF, pws->h[4],  pwt->h[4]);
4259     pwd->h[5]  = msa_sll_df(DF_HALF, pws->h[5],  pwt->h[5]);
4260     pwd->h[6]  = msa_sll_df(DF_HALF, pws->h[6],  pwt->h[6]);
4261     pwd->h[7]  = msa_sll_df(DF_HALF, pws->h[7],  pwt->h[7]);
4262 }
4263
4264 void helper_msa_sll_w(CPUMIPSState *env,
4265                       uint32_t wd, uint32_t ws, uint32_t wt)
4266 {
4267     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4268     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4269     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4270
4271     pwd->w[0]  = msa_sll_df(DF_WORD, pws->w[0],  pwt->w[0]);
4272     pwd->w[1]  = msa_sll_df(DF_WORD, pws->w[1],  pwt->w[1]);
4273     pwd->w[2]  = msa_sll_df(DF_WORD, pws->w[2],  pwt->w[2]);
4274     pwd->w[3]  = msa_sll_df(DF_WORD, pws->w[3],  pwt->w[3]);
4275 }
4276
4277 void helper_msa_sll_d(CPUMIPSState *env,
4278                       uint32_t wd, uint32_t ws, uint32_t wt)
4279 {
4280     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4281     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4282     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4283
4284     pwd->d[0]  = msa_sll_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
4285     pwd->d[1]  = msa_sll_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
4286 }
4287
4288
4289 static inline int64_t msa_sra_df(uint32_t df, int64_t arg1, int64_t arg2)
4290 {
4291     int32_t b_arg2 = BIT_POSITION(arg2, df);
4292     return arg1 >> b_arg2;
4293 }
4294
4295 void helper_msa_sra_b(CPUMIPSState *env,
4296                       uint32_t wd, uint32_t ws, uint32_t wt)
4297 {
4298     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4299     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4300     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4301
4302     pwd->b[0]  = msa_sra_df(DF_BYTE, pws->b[0],  pwt->b[0]);
4303     pwd->b[1]  = msa_sra_df(DF_BYTE, pws->b[1],  pwt->b[1]);
4304     pwd->b[2]  = msa_sra_df(DF_BYTE, pws->b[2],  pwt->b[2]);
4305     pwd->b[3]  = msa_sra_df(DF_BYTE, pws->b[3],  pwt->b[3]);
4306     pwd->b[4]  = msa_sra_df(DF_BYTE, pws->b[4],  pwt->b[4]);
4307     pwd->b[5]  = msa_sra_df(DF_BYTE, pws->b[5],  pwt->b[5]);
4308     pwd->b[6]  = msa_sra_df(DF_BYTE, pws->b[6],  pwt->b[6]);
4309     pwd->b[7]  = msa_sra_df(DF_BYTE, pws->b[7],  pwt->b[7]);
4310     pwd->b[8]  = msa_sra_df(DF_BYTE, pws->b[8],  pwt->b[8]);
4311     pwd->b[9]  = msa_sra_df(DF_BYTE, pws->b[9],  pwt->b[9]);
4312     pwd->b[10] = msa_sra_df(DF_BYTE, pws->b[10], pwt->b[10]);
4313     pwd->b[11] = msa_sra_df(DF_BYTE, pws->b[11], pwt->b[11]);
4314     pwd->b[12] = msa_sra_df(DF_BYTE, pws->b[12], pwt->b[12]);
4315     pwd->b[13] = msa_sra_df(DF_BYTE, pws->b[13], pwt->b[13]);
4316     pwd->b[14] = msa_sra_df(DF_BYTE, pws->b[14], pwt->b[14]);
4317     pwd->b[15] = msa_sra_df(DF_BYTE, pws->b[15], pwt->b[15]);
4318 }
4319
4320 void helper_msa_sra_h(CPUMIPSState *env,
4321                       uint32_t wd, uint32_t ws, uint32_t wt)
4322 {
4323     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4324     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4325     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4326
4327     pwd->h[0]  = msa_sra_df(DF_HALF, pws->h[0],  pwt->h[0]);
4328     pwd->h[1]  = msa_sra_df(DF_HALF, pws->h[1],  pwt->h[1]);
4329     pwd->h[2]  = msa_sra_df(DF_HALF, pws->h[2],  pwt->h[2]);
4330     pwd->h[3]  = msa_sra_df(DF_HALF, pws->h[3],  pwt->h[3]);
4331     pwd->h[4]  = msa_sra_df(DF_HALF, pws->h[4],  pwt->h[4]);
4332     pwd->h[5]  = msa_sra_df(DF_HALF, pws->h[5],  pwt->h[5]);
4333     pwd->h[6]  = msa_sra_df(DF_HALF, pws->h[6],  pwt->h[6]);
4334     pwd->h[7]  = msa_sra_df(DF_HALF, pws->h[7],  pwt->h[7]);
4335 }
4336
4337 void helper_msa_sra_w(CPUMIPSState *env,
4338                       uint32_t wd, uint32_t ws, uint32_t wt)
4339 {
4340     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4341     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4342     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4343
4344     pwd->w[0]  = msa_sra_df(DF_WORD, pws->w[0],  pwt->w[0]);
4345     pwd->w[1]  = msa_sra_df(DF_WORD, pws->w[1],  pwt->w[1]);
4346     pwd->w[2]  = msa_sra_df(DF_WORD, pws->w[2],  pwt->w[2]);
4347     pwd->w[3]  = msa_sra_df(DF_WORD, pws->w[3],  pwt->w[3]);
4348 }
4349
4350 void helper_msa_sra_d(CPUMIPSState *env,
4351                       uint32_t wd, uint32_t ws, uint32_t wt)
4352 {
4353     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4354     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4355     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4356
4357     pwd->d[0]  = msa_sra_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
4358     pwd->d[1]  = msa_sra_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
4359 }
4360
4361
4362 static inline int64_t msa_srar_df(uint32_t df, int64_t arg1, int64_t arg2)
4363 {
4364     int32_t b_arg2 = BIT_POSITION(arg2, df);
4365     if (b_arg2 == 0) {
4366         return arg1;
4367     } else {
4368         int64_t r_bit = (arg1 >> (b_arg2 - 1)) & 1;
4369         return (arg1 >> b_arg2) + r_bit;
4370     }
4371 }
4372
4373 void helper_msa_srar_b(CPUMIPSState *env,
4374                        uint32_t wd, uint32_t ws, uint32_t wt)
4375 {
4376     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4377     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4378     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4379
4380     pwd->b[0]  = msa_srar_df(DF_BYTE, pws->b[0],  pwt->b[0]);
4381     pwd->b[1]  = msa_srar_df(DF_BYTE, pws->b[1],  pwt->b[1]);
4382     pwd->b[2]  = msa_srar_df(DF_BYTE, pws->b[2],  pwt->b[2]);
4383     pwd->b[3]  = msa_srar_df(DF_BYTE, pws->b[3],  pwt->b[3]);
4384     pwd->b[4]  = msa_srar_df(DF_BYTE, pws->b[4],  pwt->b[4]);
4385     pwd->b[5]  = msa_srar_df(DF_BYTE, pws->b[5],  pwt->b[5]);
4386     pwd->b[6]  = msa_srar_df(DF_BYTE, pws->b[6],  pwt->b[6]);
4387     pwd->b[7]  = msa_srar_df(DF_BYTE, pws->b[7],  pwt->b[7]);
4388     pwd->b[8]  = msa_srar_df(DF_BYTE, pws->b[8],  pwt->b[8]);
4389     pwd->b[9]  = msa_srar_df(DF_BYTE, pws->b[9],  pwt->b[9]);
4390     pwd->b[10] = msa_srar_df(DF_BYTE, pws->b[10], pwt->b[10]);
4391     pwd->b[11] = msa_srar_df(DF_BYTE, pws->b[11], pwt->b[11]);
4392     pwd->b[12] = msa_srar_df(DF_BYTE, pws->b[12], pwt->b[12]);
4393     pwd->b[13] = msa_srar_df(DF_BYTE, pws->b[13], pwt->b[13]);
4394     pwd->b[14] = msa_srar_df(DF_BYTE, pws->b[14], pwt->b[14]);
4395     pwd->b[15] = msa_srar_df(DF_BYTE, pws->b[15], pwt->b[15]);
4396 }
4397
4398 void helper_msa_srar_h(CPUMIPSState *env,
4399                        uint32_t wd, uint32_t ws, uint32_t wt)
4400 {
4401     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4402     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4403     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4404
4405     pwd->h[0]  = msa_srar_df(DF_HALF, pws->h[0],  pwt->h[0]);
4406     pwd->h[1]  = msa_srar_df(DF_HALF, pws->h[1],  pwt->h[1]);
4407     pwd->h[2]  = msa_srar_df(DF_HALF, pws->h[2],  pwt->h[2]);
4408     pwd->h[3]  = msa_srar_df(DF_HALF, pws->h[3],  pwt->h[3]);
4409     pwd->h[4]  = msa_srar_df(DF_HALF, pws->h[4],  pwt->h[4]);
4410     pwd->h[5]  = msa_srar_df(DF_HALF, pws->h[5],  pwt->h[5]);
4411     pwd->h[6]  = msa_srar_df(DF_HALF, pws->h[6],  pwt->h[6]);
4412     pwd->h[7]  = msa_srar_df(DF_HALF, pws->h[7],  pwt->h[7]);
4413 }
4414
4415 void helper_msa_srar_w(CPUMIPSState *env,
4416                        uint32_t wd, uint32_t ws, uint32_t wt)
4417 {
4418     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4419     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4420     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4421
4422     pwd->w[0]  = msa_srar_df(DF_WORD, pws->w[0],  pwt->w[0]);
4423     pwd->w[1]  = msa_srar_df(DF_WORD, pws->w[1],  pwt->w[1]);
4424     pwd->w[2]  = msa_srar_df(DF_WORD, pws->w[2],  pwt->w[2]);
4425     pwd->w[3]  = msa_srar_df(DF_WORD, pws->w[3],  pwt->w[3]);
4426 }
4427
4428 void helper_msa_srar_d(CPUMIPSState *env,
4429                        uint32_t wd, uint32_t ws, uint32_t wt)
4430 {
4431     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4432     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4433     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4434
4435     pwd->d[0]  = msa_srar_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
4436     pwd->d[1]  = msa_srar_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
4437 }
4438
4439
4440 static inline int64_t msa_srl_df(uint32_t df, int64_t arg1, int64_t arg2)
4441 {
4442     uint64_t u_arg1 = UNSIGNED(arg1, df);
4443     int32_t b_arg2 = BIT_POSITION(arg2, df);
4444     return u_arg1 >> b_arg2;
4445 }
4446
4447 void helper_msa_srl_b(CPUMIPSState *env,
4448                       uint32_t wd, uint32_t ws, uint32_t wt)
4449 {
4450     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4451     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4452     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4453
4454     pwd->b[0]  = msa_srl_df(DF_BYTE, pws->b[0],  pwt->b[0]);
4455     pwd->b[1]  = msa_srl_df(DF_BYTE, pws->b[1],  pwt->b[1]);
4456     pwd->b[2]  = msa_srl_df(DF_BYTE, pws->b[2],  pwt->b[2]);
4457     pwd->b[3]  = msa_srl_df(DF_BYTE, pws->b[3],  pwt->b[3]);
4458     pwd->b[4]  = msa_srl_df(DF_BYTE, pws->b[4],  pwt->b[4]);
4459     pwd->b[5]  = msa_srl_df(DF_BYTE, pws->b[5],  pwt->b[5]);
4460     pwd->b[6]  = msa_srl_df(DF_BYTE, pws->b[6],  pwt->b[6]);
4461     pwd->b[7]  = msa_srl_df(DF_BYTE, pws->b[7],  pwt->b[7]);
4462     pwd->b[8]  = msa_srl_df(DF_BYTE, pws->b[8],  pwt->b[8]);
4463     pwd->b[9]  = msa_srl_df(DF_BYTE, pws->b[9],  pwt->b[9]);
4464     pwd->b[10] = msa_srl_df(DF_BYTE, pws->b[10], pwt->b[10]);
4465     pwd->b[11] = msa_srl_df(DF_BYTE, pws->b[11], pwt->b[11]);
4466     pwd->b[12] = msa_srl_df(DF_BYTE, pws->b[12], pwt->b[12]);
4467     pwd->b[13] = msa_srl_df(DF_BYTE, pws->b[13], pwt->b[13]);
4468     pwd->b[14] = msa_srl_df(DF_BYTE, pws->b[14], pwt->b[14]);
4469     pwd->b[15] = msa_srl_df(DF_BYTE, pws->b[15], pwt->b[15]);
4470 }
4471
4472 void helper_msa_srl_h(CPUMIPSState *env,
4473                       uint32_t wd, uint32_t ws, uint32_t wt)
4474 {
4475     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4476     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4477     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4478
4479     pwd->h[0]  = msa_srl_df(DF_HALF, pws->h[0],  pwt->h[0]);
4480     pwd->h[1]  = msa_srl_df(DF_HALF, pws->h[1],  pwt->h[1]);
4481     pwd->h[2]  = msa_srl_df(DF_HALF, pws->h[2],  pwt->h[2]);
4482     pwd->h[3]  = msa_srl_df(DF_HALF, pws->h[3],  pwt->h[3]);
4483     pwd->h[4]  = msa_srl_df(DF_HALF, pws->h[4],  pwt->h[4]);
4484     pwd->h[5]  = msa_srl_df(DF_HALF, pws->h[5],  pwt->h[5]);
4485     pwd->h[6]  = msa_srl_df(DF_HALF, pws->h[6],  pwt->h[6]);
4486     pwd->h[7]  = msa_srl_df(DF_HALF, pws->h[7],  pwt->h[7]);
4487 }
4488
4489 void helper_msa_srl_w(CPUMIPSState *env,
4490                       uint32_t wd, uint32_t ws, uint32_t wt)
4491 {
4492     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4493     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4494     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4495
4496     pwd->w[0]  = msa_srl_df(DF_WORD, pws->w[0],  pwt->w[0]);
4497     pwd->w[1]  = msa_srl_df(DF_WORD, pws->w[1],  pwt->w[1]);
4498     pwd->w[2]  = msa_srl_df(DF_WORD, pws->w[2],  pwt->w[2]);
4499     pwd->w[3]  = msa_srl_df(DF_WORD, pws->w[3],  pwt->w[3]);
4500 }
4501
4502 void helper_msa_srl_d(CPUMIPSState *env,
4503                       uint32_t wd, uint32_t ws, uint32_t wt)
4504 {
4505     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4506     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4507     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4508
4509     pwd->d[0]  = msa_srl_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
4510     pwd->d[1]  = msa_srl_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
4511 }
4512
4513
4514 static inline int64_t msa_srlr_df(uint32_t df, int64_t arg1, int64_t arg2)
4515 {
4516     uint64_t u_arg1 = UNSIGNED(arg1, df);
4517     int32_t b_arg2 = BIT_POSITION(arg2, df);
4518     if (b_arg2 == 0) {
4519         return u_arg1;
4520     } else {
4521         uint64_t r_bit = (u_arg1 >> (b_arg2 - 1)) & 1;
4522         return (u_arg1 >> b_arg2) + r_bit;
4523     }
4524 }
4525
4526 void helper_msa_srlr_b(CPUMIPSState *env,
4527                        uint32_t wd, uint32_t ws, uint32_t wt)
4528 {
4529     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4530     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4531     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4532
4533     pwd->b[0]  = msa_srlr_df(DF_BYTE, pws->b[0],  pwt->b[0]);
4534     pwd->b[1]  = msa_srlr_df(DF_BYTE, pws->b[1],  pwt->b[1]);
4535     pwd->b[2]  = msa_srlr_df(DF_BYTE, pws->b[2],  pwt->b[2]);
4536     pwd->b[3]  = msa_srlr_df(DF_BYTE, pws->b[3],  pwt->b[3]);
4537     pwd->b[4]  = msa_srlr_df(DF_BYTE, pws->b[4],  pwt->b[4]);
4538     pwd->b[5]  = msa_srlr_df(DF_BYTE, pws->b[5],  pwt->b[5]);
4539     pwd->b[6]  = msa_srlr_df(DF_BYTE, pws->b[6],  pwt->b[6]);
4540     pwd->b[7]  = msa_srlr_df(DF_BYTE, pws->b[7],  pwt->b[7]);
4541     pwd->b[8]  = msa_srlr_df(DF_BYTE, pws->b[8],  pwt->b[8]);
4542     pwd->b[9]  = msa_srlr_df(DF_BYTE, pws->b[9],  pwt->b[9]);
4543     pwd->b[10] = msa_srlr_df(DF_BYTE, pws->b[10], pwt->b[10]);
4544     pwd->b[11] = msa_srlr_df(DF_BYTE, pws->b[11], pwt->b[11]);
4545     pwd->b[12] = msa_srlr_df(DF_BYTE, pws->b[12], pwt->b[12]);
4546     pwd->b[13] = msa_srlr_df(DF_BYTE, pws->b[13], pwt->b[13]);
4547     pwd->b[14] = msa_srlr_df(DF_BYTE, pws->b[14], pwt->b[14]);
4548     pwd->b[15] = msa_srlr_df(DF_BYTE, pws->b[15], pwt->b[15]);
4549 }
4550
4551 void helper_msa_srlr_h(CPUMIPSState *env,
4552                        uint32_t wd, uint32_t ws, uint32_t wt)
4553 {
4554     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4555     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4556     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4557
4558     pwd->h[0]  = msa_srlr_df(DF_HALF, pws->h[0],  pwt->h[0]);
4559     pwd->h[1]  = msa_srlr_df(DF_HALF, pws->h[1],  pwt->h[1]);
4560     pwd->h[2]  = msa_srlr_df(DF_HALF, pws->h[2],  pwt->h[2]);
4561     pwd->h[3]  = msa_srlr_df(DF_HALF, pws->h[3],  pwt->h[3]);
4562     pwd->h[4]  = msa_srlr_df(DF_HALF, pws->h[4],  pwt->h[4]);
4563     pwd->h[5]  = msa_srlr_df(DF_HALF, pws->h[5],  pwt->h[5]);
4564     pwd->h[6]  = msa_srlr_df(DF_HALF, pws->h[6],  pwt->h[6]);
4565     pwd->h[7]  = msa_srlr_df(DF_HALF, pws->h[7],  pwt->h[7]);
4566 }
4567
4568 void helper_msa_srlr_w(CPUMIPSState *env,
4569                        uint32_t wd, uint32_t ws, uint32_t wt)
4570 {
4571     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4572     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4573     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4574
4575     pwd->w[0]  = msa_srlr_df(DF_WORD, pws->w[0],  pwt->w[0]);
4576     pwd->w[1]  = msa_srlr_df(DF_WORD, pws->w[1],  pwt->w[1]);
4577     pwd->w[2]  = msa_srlr_df(DF_WORD, pws->w[2],  pwt->w[2]);
4578     pwd->w[3]  = msa_srlr_df(DF_WORD, pws->w[3],  pwt->w[3]);
4579 }
4580
4581 void helper_msa_srlr_d(CPUMIPSState *env,
4582                        uint32_t wd, uint32_t ws, uint32_t wt)
4583 {
4584     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4585     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4586     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
4587
4588     pwd->d[0]  = msa_srlr_df(DF_DOUBLE, pws->d[0],  pwt->d[0]);
4589     pwd->d[1]  = msa_srlr_df(DF_DOUBLE, pws->d[1],  pwt->d[1]);
4590 }
4591
4592
4593 #define MSA_FN_IMM8(FUNC, DEST, OPERATION)                              \
4594 void helper_msa_ ## FUNC(CPUMIPSState *env, uint32_t wd, uint32_t ws,   \
4595         uint32_t i8)                                                    \
4596 {                                                                       \
4597     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);                          \
4598     wr_t *pws = &(env->active_fpu.fpr[ws].wr);                          \
4599     uint32_t i;                                                         \
4600     for (i = 0; i < DF_ELEMENTS(DF_BYTE); i++) {                        \
4601         DEST = OPERATION;                                               \
4602     }                                                                   \
4603 }
4604
4605 MSA_FN_IMM8(andi_b, pwd->b[i], pws->b[i] & i8)
4606 MSA_FN_IMM8(ori_b, pwd->b[i], pws->b[i] | i8)
4607 MSA_FN_IMM8(nori_b, pwd->b[i], ~(pws->b[i] | i8))
4608 MSA_FN_IMM8(xori_b, pwd->b[i], pws->b[i] ^ i8)
4609
4610 #define BIT_MOVE_IF_NOT_ZERO(dest, arg1, arg2, df) \
4611             UNSIGNED(((dest & (~arg2)) | (arg1 & arg2)), df)
4612 MSA_FN_IMM8(bmnzi_b, pwd->b[i],
4613         BIT_MOVE_IF_NOT_ZERO(pwd->b[i], pws->b[i], i8, DF_BYTE))
4614
4615 #define BIT_MOVE_IF_ZERO(dest, arg1, arg2, df) \
4616             UNSIGNED((dest & arg2) | (arg1 & (~arg2)), df)
4617 MSA_FN_IMM8(bmzi_b, pwd->b[i],
4618         BIT_MOVE_IF_ZERO(pwd->b[i], pws->b[i], i8, DF_BYTE))
4619
4620 #define BIT_SELECT(dest, arg1, arg2, df) \
4621             UNSIGNED((arg1 & (~dest)) | (arg2 & dest), df)
4622 MSA_FN_IMM8(bseli_b, pwd->b[i],
4623         BIT_SELECT(pwd->b[i], pws->b[i], i8, DF_BYTE))
4624
4625 #undef BIT_SELECT
4626 #undef BIT_MOVE_IF_ZERO
4627 #undef BIT_MOVE_IF_NOT_ZERO
4628 #undef MSA_FN_IMM8
4629
4630 #define SHF_POS(i, imm) (((i) & 0xfc) + (((imm) >> (2 * ((i) & 0x03))) & 0x03))
4631
4632 void helper_msa_shf_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
4633                        uint32_t ws, uint32_t imm)
4634 {
4635     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4636     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
4637     wr_t wx, *pwx = &wx;
4638     uint32_t i;
4639
4640     switch (df) {
4641     case DF_BYTE:
4642         for (i = 0; i < DF_ELEMENTS(DF_BYTE); i++) {
4643             pwx->b[i] = pws->b[SHF_POS(i, imm)];
4644         }
4645         break;
4646     case DF_HALF:
4647         for (i = 0; i < DF_ELEMENTS(DF_HALF); i++) {
4648             pwx->h[i] = pws->h[SHF_POS(i, imm)];
4649         }
4650         break;
4651     case DF_WORD:
4652         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
4653             pwx->w[i] = pws->w[SHF_POS(i, imm)];
4654         }
4655         break;
4656     default:
4657         assert(0);
4658     }
4659     msa_move_v(pwd, pwx);
4660 }
4661
4662 static inline int64_t msa_subv_df(uint32_t df, int64_t arg1, int64_t arg2)
4663 {
4664     return arg1 - arg2;
4665 }
4666
4667 #define MSA_BINOP_IMM_DF(helper, func)                                  \
4668 void helper_msa_ ## helper ## _df(CPUMIPSState *env, uint32_t df,       \
4669                         uint32_t wd, uint32_t ws, int32_t u5)           \
4670 {                                                                       \
4671     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);                          \
4672     wr_t *pws = &(env->active_fpu.fpr[ws].wr);                          \
4673     uint32_t i;                                                         \
4674                                                                         \
4675     switch (df) {                                                       \
4676     case DF_BYTE:                                                       \
4677         for (i = 0; i < DF_ELEMENTS(DF_BYTE); i++) {                    \
4678             pwd->b[i] = msa_ ## func ## _df(df, pws->b[i], u5);         \
4679         }                                                               \
4680         break;                                                          \
4681     case DF_HALF:                                                       \
4682         for (i = 0; i < DF_ELEMENTS(DF_HALF); i++) {                    \
4683             pwd->h[i] = msa_ ## func ## _df(df, pws->h[i], u5);         \
4684         }                                                               \
4685         break;                                                          \
4686     case DF_WORD:                                                       \
4687         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {                    \
4688             pwd->w[i] = msa_ ## func ## _df(df, pws->w[i], u5);         \
4689         }                                                               \
4690         break;                                                          \
4691     case DF_DOUBLE:                                                     \
4692         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {                  \
4693             pwd->d[i] = msa_ ## func ## _df(df, pws->d[i], u5);         \
4694         }                                                               \
4695         break;                                                          \
4696     default:                                                            \
4697         assert(0);                                                      \
4698     }                                                                   \
4699 }
4700
4701 MSA_BINOP_IMM_DF(addvi, addv)
4702 MSA_BINOP_IMM_DF(subvi, subv)
4703 MSA_BINOP_IMM_DF(ceqi, ceq)
4704 MSA_BINOP_IMM_DF(clei_s, cle_s)
4705 MSA_BINOP_IMM_DF(clei_u, cle_u)
4706 MSA_BINOP_IMM_DF(clti_s, clt_s)
4707 MSA_BINOP_IMM_DF(clti_u, clt_u)
4708 MSA_BINOP_IMM_DF(maxi_s, max_s)
4709 MSA_BINOP_IMM_DF(maxi_u, max_u)
4710 MSA_BINOP_IMM_DF(mini_s, min_s)
4711 MSA_BINOP_IMM_DF(mini_u, min_u)
4712 #undef MSA_BINOP_IMM_DF
4713
4714 void helper_msa_ldi_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
4715                        int32_t s10)
4716 {
4717     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
4718     uint32_t i;
4719
4720     switch (df) {
4721     case DF_BYTE:
4722         for (i = 0; i < DF_ELEMENTS(DF_BYTE); i++) {
4723             pwd->b[i] = (int8_t)s10;
4724         }
4725         break;
4726     case DF_HALF:
4727         for (i = 0; i < DF_ELEMENTS(DF_HALF); i++) {
4728             pwd->h[i] = (int16_t)s10;
4729         }
4730         break;
4731     case DF_WORD:
4732         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
4733             pwd->w[i] = (int32_t)s10;
4734         }
4735         break;
4736     case DF_DOUBLE:
4737         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
4738             pwd->d[i] = (int64_t)s10;
4739         }
4740        break;
4741     default:
4742         assert(0);
4743     }
4744 }
4745
4746 static inline int64_t msa_sat_s_df(uint32_t df, int64_t arg, uint32_t m)
4747 {
4748     return arg < M_MIN_INT(m + 1) ? M_MIN_INT(m + 1) :
4749                                     arg > M_MAX_INT(m + 1) ? M_MAX_INT(m + 1) :
4750                                                              arg;
4751 }
4752
4753 static inline int64_t msa_sat_u_df(uint32_t df, int64_t arg, uint32_t m)
4754 {
4755     uint64_t u_arg = UNSIGNED(arg, df);
4756     return  u_arg < M_MAX_UINT(m + 1) ? u_arg :
4757                                         M_MAX_UINT(m + 1);
4758 }
4759
4760 #define MSA_BINOP_IMMU_DF(helper, func)                                  \
4761 void helper_msa_ ## helper ## _df(CPUMIPSState *env, uint32_t df, uint32_t wd, \
4762                        uint32_t ws, uint32_t u5)                        \
4763 {                                                                       \
4764     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);                          \
4765     wr_t *pws = &(env->active_fpu.fpr[ws].wr);                          \
4766     uint32_t i;                                                         \
4767                                                                         \
4768     switch (df) {                                                       \
4769     case DF_BYTE:                                                       \
4770         for (i = 0; i < DF_ELEMENTS(DF_BYTE); i++) {                    \
4771             pwd->b[i] = msa_ ## func ## _df(df, pws->b[i], u5);         \
4772         }                                                               \
4773         break;                                                          \
4774     case DF_HALF:                                                       \
4775         for (i = 0; i < DF_ELEMENTS(DF_HALF); i++) {                    \
4776             pwd->h[i] = msa_ ## func ## _df(df, pws->h[i], u5);         \
4777         }                                                               \
4778         break;                                                          \
4779     case DF_WORD:                                                       \
4780         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {                    \
4781             pwd->w[i] = msa_ ## func ## _df(df, pws->w[i], u5);         \
4782         }                                                               \
4783         break;                                                          \
4784     case DF_DOUBLE:                                                     \
4785         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {                  \
4786             pwd->d[i] = msa_ ## func ## _df(df, pws->d[i], u5);         \
4787         }                                                               \
4788         break;                                                          \
4789     default:                                                            \
4790         assert(0);                                                      \
4791     }                                                                   \
4792 }
4793
4794 MSA_BINOP_IMMU_DF(slli, sll)
4795 MSA_BINOP_IMMU_DF(srai, sra)
4796 MSA_BINOP_IMMU_DF(srli, srl)
4797 MSA_BINOP_IMMU_DF(bclri, bclr)
4798 MSA_BINOP_IMMU_DF(bseti, bset)
4799 MSA_BINOP_IMMU_DF(bnegi, bneg)
4800 MSA_BINOP_IMMU_DF(sat_s, sat_s)
4801 MSA_BINOP_IMMU_DF(sat_u, sat_u)
4802 MSA_BINOP_IMMU_DF(srari, srar)
4803 MSA_BINOP_IMMU_DF(srlri, srlr)
4804 #undef MSA_BINOP_IMMU_DF
4805
4806 #define MSA_TEROP_IMMU_DF(helper, func)                                  \
4807 void helper_msa_ ## helper ## _df(CPUMIPSState *env, uint32_t df,       \
4808                                   uint32_t wd, uint32_t ws, uint32_t u5) \
4809 {                                                                       \
4810     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);                          \
4811     wr_t *pws = &(env->active_fpu.fpr[ws].wr);                          \
4812     uint32_t i;                                                         \
4813                                                                         \
4814     switch (df) {                                                       \
4815     case DF_BYTE:                                                       \
4816         for (i = 0; i < DF_ELEMENTS(DF_BYTE); i++) {                    \
4817             pwd->b[i] = msa_ ## func ## _df(df, pwd->b[i], pws->b[i],   \
4818                                             u5);                        \
4819         }                                                               \
4820         break;                                                          \
4821     case DF_HALF:                                                       \
4822         for (i = 0; i < DF_ELEMENTS(DF_HALF); i++) {                    \
4823             pwd->h[i] = msa_ ## func ## _df(df, pwd->h[i], pws->h[i],   \
4824                                             u5);                        \
4825         }                                                               \
4826         break;                                                          \
4827     case DF_WORD:                                                       \
4828         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {                    \
4829             pwd->w[i] = msa_ ## func ## _df(df, pwd->w[i], pws->w[i],   \
4830                                             u5);                        \
4831         }                                                               \
4832         break;                                                          \
4833     case DF_DOUBLE:                                                     \
4834         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {                  \
4835             pwd->d[i] = msa_ ## func ## _df(df, pwd->d[i], pws->d[i],   \
4836                                             u5);                        \
4837         }                                                               \
4838         break;                                                          \
4839     default:                                                            \
4840         assert(0);                                                      \
4841     }                                                                   \
4842 }
4843
4844 MSA_TEROP_IMMU_DF(binsli, binsl)
4845 MSA_TEROP_IMMU_DF(binsri, binsr)
4846 #undef MSA_TEROP_IMMU_DF
4847
4848 static inline int64_t msa_subs_s_df(uint32_t df, int64_t arg1, int64_t arg2)
4849 {
4850     int64_t max_int = DF_MAX_INT(df);
4851     int64_t min_int = DF_MIN_INT(df);
4852     if (arg2 > 0) {
4853         return (min_int + arg2 < arg1) ? arg1 - arg2 : min_int;
4854     } else {
4855         return (arg1 < max_int + arg2) ? arg1 - arg2 : max_int;
4856     }
4857 }
4858
4859 static inline int64_t msa_subs_u_df(uint32_t df, int64_t arg1, int64_t arg2)
4860 {
4861     uint64_t u_arg1 = UNSIGNED(arg1, df);
4862     uint64_t u_arg2 = UNSIGNED(arg2, df);
4863     return (u_arg1 > u_arg2) ? u_arg1 - u_arg2 : 0;
4864 }
4865
4866 static inline int64_t msa_subsus_u_df(uint32_t df, int64_t arg1, int64_t arg2)
4867 {
4868     uint64_t u_arg1 = UNSIGNED(arg1, df);
4869     uint64_t max_uint = DF_MAX_UINT(df);
4870     if (arg2 >= 0) {
4871         uint64_t u_arg2 = (uint64_t)arg2;
4872         return (u_arg1 > u_arg2) ?
4873             (int64_t)(u_arg1 - u_arg2) :
4874             0;
4875     } else {
4876         uint64_t u_arg2 = (uint64_t)(-arg2);
4877         return (u_arg1 < max_uint - u_arg2) ?
4878             (int64_t)(u_arg1 + u_arg2) :
4879             (int64_t)max_uint;
4880     }
4881 }
4882
4883 static inline int64_t msa_subsuu_s_df(uint32_t df, int64_t arg1, int64_t arg2)
4884 {
4885     uint64_t u_arg1 = UNSIGNED(arg1, df);
4886     uint64_t u_arg2 = UNSIGNED(arg2, df);
4887     int64_t max_int = DF_MAX_INT(df);
4888     int64_t min_int = DF_MIN_INT(df);
4889     if (u_arg1 > u_arg2) {
4890         return u_arg1 - u_arg2 < (uint64_t)max_int ?
4891             (int64_t)(u_arg1 - u_arg2) :
4892             max_int;
4893     } else {
4894         return u_arg2 - u_arg1 < (uint64_t)(-min_int) ?
4895             (int64_t)(u_arg1 - u_arg2) :
4896             min_int;
4897     }
4898 }
4899
4900 static inline int64_t msa_mulv_df(uint32_t df, int64_t arg1, int64_t arg2)
4901 {
4902     return arg1 * arg2;
4903 }
4904
4905 static inline int64_t msa_dotp_s_df(uint32_t df, int64_t arg1, int64_t arg2)
4906 {
4907     int64_t even_arg1;
4908     int64_t even_arg2;
4909     int64_t odd_arg1;
4910     int64_t odd_arg2;
4911     SIGNED_EXTRACT(even_arg1, odd_arg1, arg1, df);
4912     SIGNED_EXTRACT(even_arg2, odd_arg2, arg2, df);
4913     return (even_arg1 * even_arg2) + (odd_arg1 * odd_arg2);
4914 }
4915
4916 static inline int64_t msa_dotp_u_df(uint32_t df, int64_t arg1, int64_t arg2)
4917 {
4918     int64_t even_arg1;
4919     int64_t even_arg2;
4920     int64_t odd_arg1;
4921     int64_t odd_arg2;
4922     UNSIGNED_EXTRACT(even_arg1, odd_arg1, arg1, df);
4923     UNSIGNED_EXTRACT(even_arg2, odd_arg2, arg2, df);
4924     return (even_arg1 * even_arg2) + (odd_arg1 * odd_arg2);
4925 }
4926
4927 #define CONCATENATE_AND_SLIDE(s, k)             \
4928     do {                                        \
4929         for (i = 0; i < s; i++) {               \
4930             v[i]     = pws->b[s * k + i];       \
4931             v[i + s] = pwd->b[s * k + i];       \
4932         }                                       \
4933         for (i = 0; i < s; i++) {               \
4934             pwd->b[s * k + i] = v[i + n];       \
4935         }                                       \
4936     } while (0)
4937
4938 static inline void msa_sld_df(uint32_t df, wr_t *pwd,
4939                               wr_t *pws, target_ulong rt)
4940 {
4941     uint32_t n = rt % DF_ELEMENTS(df);
4942     uint8_t v[64];
4943     uint32_t i, k;
4944
4945     switch (df) {
4946     case DF_BYTE:
4947         CONCATENATE_AND_SLIDE(DF_ELEMENTS(DF_BYTE), 0);
4948         break;
4949     case DF_HALF:
4950         for (k = 0; k < 2; k++) {
4951             CONCATENATE_AND_SLIDE(DF_ELEMENTS(DF_HALF), k);
4952         }
4953         break;
4954     case DF_WORD:
4955         for (k = 0; k < 4; k++) {
4956             CONCATENATE_AND_SLIDE(DF_ELEMENTS(DF_WORD), k);
4957         }
4958         break;
4959     case DF_DOUBLE:
4960         for (k = 0; k < 8; k++) {
4961             CONCATENATE_AND_SLIDE(DF_ELEMENTS(DF_DOUBLE), k);
4962         }
4963         break;
4964     default:
4965         assert(0);
4966     }
4967 }
4968
4969 static inline int64_t msa_mul_q_df(uint32_t df, int64_t arg1, int64_t arg2)
4970 {
4971     int64_t q_min = DF_MIN_INT(df);
4972     int64_t q_max = DF_MAX_INT(df);
4973
4974     if (arg1 == q_min && arg2 == q_min) {
4975         return q_max;
4976     }
4977     return (arg1 * arg2) >> (DF_BITS(df) - 1);
4978 }
4979
4980 static inline int64_t msa_mulr_q_df(uint32_t df, int64_t arg1, int64_t arg2)
4981 {
4982     int64_t q_min = DF_MIN_INT(df);
4983     int64_t q_max = DF_MAX_INT(df);
4984     int64_t r_bit = 1 << (DF_BITS(df) - 2);
4985
4986     if (arg1 == q_min && arg2 == q_min) {
4987         return q_max;
4988     }
4989     return (arg1 * arg2 + r_bit) >> (DF_BITS(df) - 1);
4990 }
4991
4992 #define MSA_BINOP_DF(func) \
4993 void helper_msa_ ## func ## _df(CPUMIPSState *env, uint32_t df,         \
4994                                 uint32_t wd, uint32_t ws, uint32_t wt)  \
4995 {                                                                       \
4996     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);                          \
4997     wr_t *pws = &(env->active_fpu.fpr[ws].wr);                          \
4998     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);                          \
4999                                                                         \
5000     switch (df) {                                                       \
5001     case DF_BYTE:                                                       \
5002         pwd->b[0]  = msa_ ## func ## _df(df, pws->b[0],  pwt->b[0]);    \
5003         pwd->b[1]  = msa_ ## func ## _df(df, pws->b[1],  pwt->b[1]);    \
5004         pwd->b[2]  = msa_ ## func ## _df(df, pws->b[2],  pwt->b[2]);    \
5005         pwd->b[3]  = msa_ ## func ## _df(df, pws->b[3],  pwt->b[3]);    \
5006         pwd->b[4]  = msa_ ## func ## _df(df, pws->b[4],  pwt->b[4]);    \
5007         pwd->b[5]  = msa_ ## func ## _df(df, pws->b[5],  pwt->b[5]);    \
5008         pwd->b[6]  = msa_ ## func ## _df(df, pws->b[6],  pwt->b[6]);    \
5009         pwd->b[7]  = msa_ ## func ## _df(df, pws->b[7],  pwt->b[7]);    \
5010         pwd->b[8]  = msa_ ## func ## _df(df, pws->b[8],  pwt->b[8]);    \
5011         pwd->b[9]  = msa_ ## func ## _df(df, pws->b[9],  pwt->b[9]);    \
5012         pwd->b[10] = msa_ ## func ## _df(df, pws->b[10], pwt->b[10]);   \
5013         pwd->b[11] = msa_ ## func ## _df(df, pws->b[11], pwt->b[11]);   \
5014         pwd->b[12] = msa_ ## func ## _df(df, pws->b[12], pwt->b[12]);   \
5015         pwd->b[13] = msa_ ## func ## _df(df, pws->b[13], pwt->b[13]);   \
5016         pwd->b[14] = msa_ ## func ## _df(df, pws->b[14], pwt->b[14]);   \
5017         pwd->b[15] = msa_ ## func ## _df(df, pws->b[15], pwt->b[15]);   \
5018         break;                                                          \
5019     case DF_HALF:                                                       \
5020         pwd->h[0] = msa_ ## func ## _df(df, pws->h[0], pwt->h[0]);      \
5021         pwd->h[1] = msa_ ## func ## _df(df, pws->h[1], pwt->h[1]);      \
5022         pwd->h[2] = msa_ ## func ## _df(df, pws->h[2], pwt->h[2]);      \
5023         pwd->h[3] = msa_ ## func ## _df(df, pws->h[3], pwt->h[3]);      \
5024         pwd->h[4] = msa_ ## func ## _df(df, pws->h[4], pwt->h[4]);      \
5025         pwd->h[5] = msa_ ## func ## _df(df, pws->h[5], pwt->h[5]);      \
5026         pwd->h[6] = msa_ ## func ## _df(df, pws->h[6], pwt->h[6]);      \
5027         pwd->h[7] = msa_ ## func ## _df(df, pws->h[7], pwt->h[7]);      \
5028         break;                                                          \
5029     case DF_WORD:                                                       \
5030         pwd->w[0] = msa_ ## func ## _df(df, pws->w[0], pwt->w[0]);      \
5031         pwd->w[1] = msa_ ## func ## _df(df, pws->w[1], pwt->w[1]);      \
5032         pwd->w[2] = msa_ ## func ## _df(df, pws->w[2], pwt->w[2]);      \
5033         pwd->w[3] = msa_ ## func ## _df(df, pws->w[3], pwt->w[3]);      \
5034         break;                                                          \
5035     case DF_DOUBLE:                                                     \
5036         pwd->d[0] = msa_ ## func ## _df(df, pws->d[0], pwt->d[0]);      \
5037         pwd->d[1] = msa_ ## func ## _df(df, pws->d[1], pwt->d[1]);      \
5038         break;                                                          \
5039     default:                                                            \
5040         assert(0);                                                      \
5041     }                                                                   \
5042 }
5043
5044 MSA_BINOP_DF(subv)
5045 MSA_BINOP_DF(subs_s)
5046 MSA_BINOP_DF(subs_u)
5047 MSA_BINOP_DF(subsus_u)
5048 MSA_BINOP_DF(subsuu_s)
5049 MSA_BINOP_DF(mulv)
5050 MSA_BINOP_DF(dotp_s)
5051 MSA_BINOP_DF(dotp_u)
5052
5053 MSA_BINOP_DF(mul_q)
5054 MSA_BINOP_DF(mulr_q)
5055 #undef MSA_BINOP_DF
5056
5057 void helper_msa_sld_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5058                        uint32_t ws, uint32_t rt)
5059 {
5060     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5061     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5062
5063     msa_sld_df(df, pwd, pws, env->active_tc.gpr[rt]);
5064 }
5065
5066 static inline int64_t msa_dpsub_s_df(uint32_t df, int64_t dest, int64_t arg1,
5067                                      int64_t arg2)
5068 {
5069     int64_t even_arg1;
5070     int64_t even_arg2;
5071     int64_t odd_arg1;
5072     int64_t odd_arg2;
5073     SIGNED_EXTRACT(even_arg1, odd_arg1, arg1, df);
5074     SIGNED_EXTRACT(even_arg2, odd_arg2, arg2, df);
5075     return dest - ((even_arg1 * even_arg2) + (odd_arg1 * odd_arg2));
5076 }
5077
5078 static inline int64_t msa_dpsub_u_df(uint32_t df, int64_t dest, int64_t arg1,
5079                                      int64_t arg2)
5080 {
5081     int64_t even_arg1;
5082     int64_t even_arg2;
5083     int64_t odd_arg1;
5084     int64_t odd_arg2;
5085     UNSIGNED_EXTRACT(even_arg1, odd_arg1, arg1, df);
5086     UNSIGNED_EXTRACT(even_arg2, odd_arg2, arg2, df);
5087     return dest - ((even_arg1 * even_arg2) + (odd_arg1 * odd_arg2));
5088 }
5089
5090 static inline int64_t msa_madd_q_df(uint32_t df, int64_t dest, int64_t arg1,
5091                                     int64_t arg2)
5092 {
5093     int64_t q_prod, q_ret;
5094
5095     int64_t q_max = DF_MAX_INT(df);
5096     int64_t q_min = DF_MIN_INT(df);
5097
5098     q_prod = arg1 * arg2;
5099     q_ret = ((dest << (DF_BITS(df) - 1)) + q_prod) >> (DF_BITS(df) - 1);
5100
5101     return (q_ret < q_min) ? q_min : (q_max < q_ret) ? q_max : q_ret;
5102 }
5103
5104 static inline int64_t msa_msub_q_df(uint32_t df, int64_t dest, int64_t arg1,
5105                                     int64_t arg2)
5106 {
5107     int64_t q_prod, q_ret;
5108
5109     int64_t q_max = DF_MAX_INT(df);
5110     int64_t q_min = DF_MIN_INT(df);
5111
5112     q_prod = arg1 * arg2;
5113     q_ret = ((dest << (DF_BITS(df) - 1)) - q_prod) >> (DF_BITS(df) - 1);
5114
5115     return (q_ret < q_min) ? q_min : (q_max < q_ret) ? q_max : q_ret;
5116 }
5117
5118 static inline int64_t msa_maddr_q_df(uint32_t df, int64_t dest, int64_t arg1,
5119                                      int64_t arg2)
5120 {
5121     int64_t q_prod, q_ret;
5122
5123     int64_t q_max = DF_MAX_INT(df);
5124     int64_t q_min = DF_MIN_INT(df);
5125     int64_t r_bit = 1 << (DF_BITS(df) - 2);
5126
5127     q_prod = arg1 * arg2;
5128     q_ret = ((dest << (DF_BITS(df) - 1)) + q_prod + r_bit) >> (DF_BITS(df) - 1);
5129
5130     return (q_ret < q_min) ? q_min : (q_max < q_ret) ? q_max : q_ret;
5131 }
5132
5133 static inline int64_t msa_msubr_q_df(uint32_t df, int64_t dest, int64_t arg1,
5134                                      int64_t arg2)
5135 {
5136     int64_t q_prod, q_ret;
5137
5138     int64_t q_max = DF_MAX_INT(df);
5139     int64_t q_min = DF_MIN_INT(df);
5140     int64_t r_bit = 1 << (DF_BITS(df) - 2);
5141
5142     q_prod = arg1 * arg2;
5143     q_ret = ((dest << (DF_BITS(df) - 1)) - q_prod + r_bit) >> (DF_BITS(df) - 1);
5144
5145     return (q_ret < q_min) ? q_min : (q_max < q_ret) ? q_max : q_ret;
5146 }
5147
5148 #define MSA_TEROP_DF(func) \
5149 void helper_msa_ ## func ## _df(CPUMIPSState *env, uint32_t df, uint32_t wd,  \
5150                                 uint32_t ws, uint32_t wt)                     \
5151 {                                                                             \
5152     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);                                \
5153     wr_t *pws = &(env->active_fpu.fpr[ws].wr);                                \
5154     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);                                \
5155                                                                               \
5156     switch (df) {                                                             \
5157     case DF_BYTE:                                                             \
5158         pwd->b[0]  = msa_ ## func ## _df(df, pwd->b[0],  pws->b[0],           \
5159                                              pwt->b[0]);                      \
5160         pwd->b[1]  = msa_ ## func ## _df(df, pwd->b[1],  pws->b[1],           \
5161                                              pwt->b[1]);                      \
5162         pwd->b[2]  = msa_ ## func ## _df(df, pwd->b[2],  pws->b[2],           \
5163                                              pwt->b[2]);                      \
5164         pwd->b[3]  = msa_ ## func ## _df(df, pwd->b[3],  pws->b[3],           \
5165                                              pwt->b[3]);                      \
5166         pwd->b[4]  = msa_ ## func ## _df(df, pwd->b[4],  pws->b[4],           \
5167                                              pwt->b[4]);                      \
5168         pwd->b[5]  = msa_ ## func ## _df(df, pwd->b[5],  pws->b[5],           \
5169                                              pwt->b[5]);                      \
5170         pwd->b[6]  = msa_ ## func ## _df(df, pwd->b[6],  pws->b[6],           \
5171                                              pwt->b[6]);                      \
5172         pwd->b[7]  = msa_ ## func ## _df(df, pwd->b[7],  pws->b[7],           \
5173                                              pwt->b[7]);                      \
5174         pwd->b[8]  = msa_ ## func ## _df(df, pwd->b[8],  pws->b[8],           \
5175                                              pwt->b[8]);                      \
5176         pwd->b[9]  = msa_ ## func ## _df(df, pwd->b[9],  pws->b[9],           \
5177                                              pwt->b[9]);                      \
5178         pwd->b[10] = msa_ ## func ## _df(df, pwd->b[10], pws->b[10],          \
5179                                              pwt->b[10]);                     \
5180         pwd->b[11] = msa_ ## func ## _df(df, pwd->b[11], pws->b[11],          \
5181                                              pwt->b[11]);                     \
5182         pwd->b[12] = msa_ ## func ## _df(df, pwd->b[12], pws->b[12],          \
5183                                              pwt->b[12]);                     \
5184         pwd->b[13] = msa_ ## func ## _df(df, pwd->b[13], pws->b[13],          \
5185                                              pwt->b[13]);                     \
5186         pwd->b[14] = msa_ ## func ## _df(df, pwd->b[14], pws->b[14],          \
5187                                              pwt->b[14]);                     \
5188         pwd->b[15] = msa_ ## func ## _df(df, pwd->b[15], pws->b[15],          \
5189                                              pwt->b[15]);                     \
5190         break;                                                                \
5191     case DF_HALF:                                                             \
5192         pwd->h[0] = msa_ ## func ## _df(df, pwd->h[0], pws->h[0], pwt->h[0]); \
5193         pwd->h[1] = msa_ ## func ## _df(df, pwd->h[1], pws->h[1], pwt->h[1]); \
5194         pwd->h[2] = msa_ ## func ## _df(df, pwd->h[2], pws->h[2], pwt->h[2]); \
5195         pwd->h[3] = msa_ ## func ## _df(df, pwd->h[3], pws->h[3], pwt->h[3]); \
5196         pwd->h[4] = msa_ ## func ## _df(df, pwd->h[4], pws->h[4], pwt->h[4]); \
5197         pwd->h[5] = msa_ ## func ## _df(df, pwd->h[5], pws->h[5], pwt->h[5]); \
5198         pwd->h[6] = msa_ ## func ## _df(df, pwd->h[6], pws->h[6], pwt->h[6]); \
5199         pwd->h[7] = msa_ ## func ## _df(df, pwd->h[7], pws->h[7], pwt->h[7]); \
5200         break;                                                                \
5201     case DF_WORD:                                                             \
5202         pwd->w[0] = msa_ ## func ## _df(df, pwd->w[0], pws->w[0], pwt->w[0]); \
5203         pwd->w[1] = msa_ ## func ## _df(df, pwd->w[1], pws->w[1], pwt->w[1]); \
5204         pwd->w[2] = msa_ ## func ## _df(df, pwd->w[2], pws->w[2], pwt->w[2]); \
5205         pwd->w[3] = msa_ ## func ## _df(df, pwd->w[3], pws->w[3], pwt->w[3]); \
5206         break;                                                                \
5207     case DF_DOUBLE:                                                           \
5208         pwd->d[0] = msa_ ## func ## _df(df, pwd->d[0], pws->d[0], pwt->d[0]); \
5209         pwd->d[1] = msa_ ## func ## _df(df, pwd->d[1], pws->d[1], pwt->d[1]); \
5210         break;                                                                \
5211     default:                                                                  \
5212         assert(0);                                                            \
5213     }                                                                         \
5214 }
5215
5216 MSA_TEROP_DF(dpsub_s)
5217 MSA_TEROP_DF(dpsub_u)
5218 MSA_TEROP_DF(binsl)
5219 MSA_TEROP_DF(binsr)
5220 MSA_TEROP_DF(madd_q)
5221 MSA_TEROP_DF(msub_q)
5222 MSA_TEROP_DF(maddr_q)
5223 MSA_TEROP_DF(msubr_q)
5224 #undef MSA_TEROP_DF
5225
5226 static inline void msa_splat_df(uint32_t df, wr_t *pwd,
5227                                 wr_t *pws, target_ulong rt)
5228 {
5229     uint32_t n = rt % DF_ELEMENTS(df);
5230     uint32_t i;
5231
5232     switch (df) {
5233     case DF_BYTE:
5234         for (i = 0; i < DF_ELEMENTS(DF_BYTE); i++) {
5235             pwd->b[i] = pws->b[n];
5236         }
5237         break;
5238     case DF_HALF:
5239         for (i = 0; i < DF_ELEMENTS(DF_HALF); i++) {
5240             pwd->h[i] = pws->h[n];
5241         }
5242         break;
5243     case DF_WORD:
5244         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5245             pwd->w[i] = pws->w[n];
5246         }
5247         break;
5248     case DF_DOUBLE:
5249         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5250             pwd->d[i] = pws->d[n];
5251         }
5252        break;
5253     default:
5254         assert(0);
5255     }
5256 }
5257
5258 void helper_msa_splat_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5259                          uint32_t ws, uint32_t rt)
5260 {
5261     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5262     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5263
5264     msa_splat_df(df, pwd, pws, env->active_tc.gpr[rt]);
5265 }
5266
5267 #define MSA_DO_B MSA_DO(b)
5268 #define MSA_DO_H MSA_DO(h)
5269 #define MSA_DO_W MSA_DO(w)
5270 #define MSA_DO_D MSA_DO(d)
5271
5272 #define MSA_LOOP_B MSA_LOOP(B)
5273 #define MSA_LOOP_H MSA_LOOP(H)
5274 #define MSA_LOOP_W MSA_LOOP(W)
5275 #define MSA_LOOP_D MSA_LOOP(D)
5276
5277 #define MSA_LOOP_COND_B MSA_LOOP_COND(DF_BYTE)
5278 #define MSA_LOOP_COND_H MSA_LOOP_COND(DF_HALF)
5279 #define MSA_LOOP_COND_W MSA_LOOP_COND(DF_WORD)
5280 #define MSA_LOOP_COND_D MSA_LOOP_COND(DF_DOUBLE)
5281
5282 #define MSA_LOOP(DF) \
5283     do { \
5284         for (i = 0; i < (MSA_LOOP_COND_ ## DF) ; i++) { \
5285             MSA_DO_ ## DF; \
5286         } \
5287     } while (0)
5288
5289 #define MSA_FN_DF(FUNC)                                             \
5290 void helper_msa_##FUNC(CPUMIPSState *env, uint32_t df, uint32_t wd, \
5291         uint32_t ws, uint32_t wt)                                   \
5292 {                                                                   \
5293     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);                      \
5294     wr_t *pws = &(env->active_fpu.fpr[ws].wr);                      \
5295     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);                      \
5296     wr_t wx, *pwx = &wx;                                            \
5297     uint32_t i;                                                     \
5298     switch (df) {                                                   \
5299     case DF_BYTE:                                                   \
5300         MSA_LOOP_B;                                                 \
5301         break;                                                      \
5302     case DF_HALF:                                                   \
5303         MSA_LOOP_H;                                                 \
5304         break;                                                      \
5305     case DF_WORD:                                                   \
5306         MSA_LOOP_W;                                                 \
5307         break;                                                      \
5308     case DF_DOUBLE:                                                 \
5309         MSA_LOOP_D;                                                 \
5310         break;                                                      \
5311     default:                                                        \
5312         assert(0);                                                  \
5313     }                                                               \
5314     msa_move_v(pwd, pwx);                                           \
5315 }
5316
5317 #define MSA_LOOP_COND(DF) \
5318             (DF_ELEMENTS(DF) / 2)
5319
5320 #define Rb(pwr, i) (pwr->b[i])
5321 #define Lb(pwr, i) (pwr->b[i + DF_ELEMENTS(DF_BYTE) / 2])
5322 #define Rh(pwr, i) (pwr->h[i])
5323 #define Lh(pwr, i) (pwr->h[i + DF_ELEMENTS(DF_HALF) / 2])
5324 #define Rw(pwr, i) (pwr->w[i])
5325 #define Lw(pwr, i) (pwr->w[i + DF_ELEMENTS(DF_WORD) / 2])
5326 #define Rd(pwr, i) (pwr->d[i])
5327 #define Ld(pwr, i) (pwr->d[i + DF_ELEMENTS(DF_DOUBLE) / 2])
5328
5329 #undef MSA_LOOP_COND
5330
5331 #define MSA_LOOP_COND(DF) \
5332             (DF_ELEMENTS(DF))
5333
5334 #define MSA_DO(DF)                                                          \
5335     do {                                                                    \
5336         uint32_t n = DF_ELEMENTS(df);                                       \
5337         uint32_t k = (pwd->DF[i] & 0x3f) % (2 * n);                         \
5338         pwx->DF[i] =                                                        \
5339             (pwd->DF[i] & 0xc0) ? 0 : k < n ? pwt->DF[k] : pws->DF[k - n];  \
5340     } while (0)
5341 MSA_FN_DF(vshf_df)
5342 #undef MSA_DO
5343 #undef MSA_LOOP_COND
5344 #undef MSA_FN_DF
5345
5346
5347 void helper_msa_sldi_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5348                         uint32_t ws, uint32_t n)
5349 {
5350     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5351     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5352
5353     msa_sld_df(df, pwd, pws, n);
5354 }
5355
5356 void helper_msa_splati_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5357                           uint32_t ws, uint32_t n)
5358 {
5359     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5360     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5361
5362     msa_splat_df(df, pwd, pws, n);
5363 }
5364
5365 void helper_msa_copy_s_b(CPUMIPSState *env, uint32_t rd,
5366                          uint32_t ws, uint32_t n)
5367 {
5368     n %= 16;
5369 #if defined(HOST_WORDS_BIGENDIAN)
5370     if (n < 8) {
5371         n = 8 - n - 1;
5372     } else {
5373         n = 24 - n - 1;
5374     }
5375 #endif
5376     env->active_tc.gpr[rd] = (int8_t)env->active_fpu.fpr[ws].wr.b[n];
5377 }
5378
5379 void helper_msa_copy_s_h(CPUMIPSState *env, uint32_t rd,
5380                          uint32_t ws, uint32_t n)
5381 {
5382     n %= 8;
5383 #if defined(HOST_WORDS_BIGENDIAN)
5384     if (n < 4) {
5385         n = 4 - n - 1;
5386     } else {
5387         n = 12 - n - 1;
5388     }
5389 #endif
5390     env->active_tc.gpr[rd] = (int16_t)env->active_fpu.fpr[ws].wr.h[n];
5391 }
5392
5393 void helper_msa_copy_s_w(CPUMIPSState *env, uint32_t rd,
5394                          uint32_t ws, uint32_t n)
5395 {
5396     n %= 4;
5397 #if defined(HOST_WORDS_BIGENDIAN)
5398     if (n < 2) {
5399         n = 2 - n - 1;
5400     } else {
5401         n = 6 - n - 1;
5402     }
5403 #endif
5404     env->active_tc.gpr[rd] = (int32_t)env->active_fpu.fpr[ws].wr.w[n];
5405 }
5406
5407 void helper_msa_copy_s_d(CPUMIPSState *env, uint32_t rd,
5408                          uint32_t ws, uint32_t n)
5409 {
5410     n %= 2;
5411     env->active_tc.gpr[rd] = (int64_t)env->active_fpu.fpr[ws].wr.d[n];
5412 }
5413
5414 void helper_msa_copy_u_b(CPUMIPSState *env, uint32_t rd,
5415                          uint32_t ws, uint32_t n)
5416 {
5417     n %= 16;
5418 #if defined(HOST_WORDS_BIGENDIAN)
5419     if (n < 8) {
5420         n = 8 - n - 1;
5421     } else {
5422         n = 24 - n - 1;
5423     }
5424 #endif
5425     env->active_tc.gpr[rd] = (uint8_t)env->active_fpu.fpr[ws].wr.b[n];
5426 }
5427
5428 void helper_msa_copy_u_h(CPUMIPSState *env, uint32_t rd,
5429                          uint32_t ws, uint32_t n)
5430 {
5431     n %= 8;
5432 #if defined(HOST_WORDS_BIGENDIAN)
5433     if (n < 4) {
5434         n = 4 - n - 1;
5435     } else {
5436         n = 12 - n - 1;
5437     }
5438 #endif
5439     env->active_tc.gpr[rd] = (uint16_t)env->active_fpu.fpr[ws].wr.h[n];
5440 }
5441
5442 void helper_msa_copy_u_w(CPUMIPSState *env, uint32_t rd,
5443                          uint32_t ws, uint32_t n)
5444 {
5445     n %= 4;
5446 #if defined(HOST_WORDS_BIGENDIAN)
5447     if (n < 2) {
5448         n = 2 - n - 1;
5449     } else {
5450         n = 6 - n - 1;
5451     }
5452 #endif
5453     env->active_tc.gpr[rd] = (uint32_t)env->active_fpu.fpr[ws].wr.w[n];
5454 }
5455
5456 void helper_msa_insert_b(CPUMIPSState *env, uint32_t wd,
5457                           uint32_t rs_num, uint32_t n)
5458 {
5459     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5460     target_ulong rs = env->active_tc.gpr[rs_num];
5461     n %= 16;
5462 #if defined(HOST_WORDS_BIGENDIAN)
5463     if (n < 8) {
5464         n = 8 - n - 1;
5465     } else {
5466         n = 24 - n - 1;
5467     }
5468 #endif
5469     pwd->b[n] = (int8_t)rs;
5470 }
5471
5472 void helper_msa_insert_h(CPUMIPSState *env, uint32_t wd,
5473                           uint32_t rs_num, uint32_t n)
5474 {
5475     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5476     target_ulong rs = env->active_tc.gpr[rs_num];
5477     n %= 8;
5478 #if defined(HOST_WORDS_BIGENDIAN)
5479     if (n < 4) {
5480         n = 4 - n - 1;
5481     } else {
5482         n = 12 - n - 1;
5483     }
5484 #endif
5485     pwd->h[n] = (int16_t)rs;
5486 }
5487
5488 void helper_msa_insert_w(CPUMIPSState *env, uint32_t wd,
5489                           uint32_t rs_num, uint32_t n)
5490 {
5491     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5492     target_ulong rs = env->active_tc.gpr[rs_num];
5493     n %= 4;
5494 #if defined(HOST_WORDS_BIGENDIAN)
5495     if (n < 2) {
5496         n = 2 - n - 1;
5497     } else {
5498         n = 6 - n - 1;
5499     }
5500 #endif
5501     pwd->w[n] = (int32_t)rs;
5502 }
5503
5504 void helper_msa_insert_d(CPUMIPSState *env, uint32_t wd,
5505                           uint32_t rs_num, uint32_t n)
5506 {
5507     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5508     target_ulong rs = env->active_tc.gpr[rs_num];
5509     n %= 2;
5510     pwd->d[n] = (int64_t)rs;
5511 }
5512
5513 void helper_msa_insve_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5514                          uint32_t ws, uint32_t n)
5515 {
5516     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5517     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
5518
5519     switch (df) {
5520     case DF_BYTE:
5521         pwd->b[n] = (int8_t)pws->b[0];
5522         break;
5523     case DF_HALF:
5524         pwd->h[n] = (int16_t)pws->h[0];
5525         break;
5526     case DF_WORD:
5527         pwd->w[n] = (int32_t)pws->w[0];
5528         break;
5529     case DF_DOUBLE:
5530         pwd->d[n] = (int64_t)pws->d[0];
5531         break;
5532     default:
5533         assert(0);
5534     }
5535 }
5536
5537 void helper_msa_ctcmsa(CPUMIPSState *env, target_ulong elm, uint32_t cd)
5538 {
5539     switch (cd) {
5540     case 0:
5541         break;
5542     case 1:
5543         env->active_tc.msacsr = (int32_t)elm & MSACSR_MASK;
5544         restore_msa_fp_status(env);
5545         /* check exception */
5546         if ((GET_FP_ENABLE(env->active_tc.msacsr) | FP_UNIMPLEMENTED)
5547             & GET_FP_CAUSE(env->active_tc.msacsr)) {
5548             do_raise_exception(env, EXCP_MSAFPE, GETPC());
5549         }
5550         break;
5551     }
5552 }
5553
5554 target_ulong helper_msa_cfcmsa(CPUMIPSState *env, uint32_t cs)
5555 {
5556     switch (cs) {
5557     case 0:
5558         return env->msair;
5559     case 1:
5560         return env->active_tc.msacsr & MSACSR_MASK;
5561     }
5562     return 0;
5563 }
5564
5565 void helper_msa_fill_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
5566                         uint32_t rs)
5567 {
5568     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
5569     uint32_t i;
5570
5571     switch (df) {
5572     case DF_BYTE:
5573         for (i = 0; i < DF_ELEMENTS(DF_BYTE); i++) {
5574             pwd->b[i] = (int8_t)env->active_tc.gpr[rs];
5575         }
5576         break;
5577     case DF_HALF:
5578         for (i = 0; i < DF_ELEMENTS(DF_HALF); i++) {
5579             pwd->h[i] = (int16_t)env->active_tc.gpr[rs];
5580         }
5581         break;
5582     case DF_WORD:
5583         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5584             pwd->w[i] = (int32_t)env->active_tc.gpr[rs];
5585         }
5586         break;
5587     case DF_DOUBLE:
5588         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
5589             pwd->d[i] = (int64_t)env->active_tc.gpr[rs];
5590         }
5591        break;
5592     default:
5593         assert(0);
5594     }
5595 }
5596
5597
5598 #define FLOAT_ONE32 make_float32(0x3f8 << 20)
5599 #define FLOAT_ONE64 make_float64(0x3ffULL << 52)
5600
5601 #define FLOAT_SNAN16(s) (float16_default_nan(s) ^ 0x0220)
5602         /* 0x7c20 */
5603 #define FLOAT_SNAN32(s) (float32_default_nan(s) ^ 0x00400020)
5604         /* 0x7f800020 */
5605 #define FLOAT_SNAN64(s) (float64_default_nan(s) ^ 0x0008000000000020ULL)
5606         /* 0x7ff0000000000020 */
5607
5608 static inline void clear_msacsr_cause(CPUMIPSState *env)
5609 {
5610     SET_FP_CAUSE(env->active_tc.msacsr, 0);
5611 }
5612
5613 static inline void check_msacsr_cause(CPUMIPSState *env, uintptr_t retaddr)
5614 {
5615     if ((GET_FP_CAUSE(env->active_tc.msacsr) &
5616             (GET_FP_ENABLE(env->active_tc.msacsr) | FP_UNIMPLEMENTED)) == 0) {
5617         UPDATE_FP_FLAGS(env->active_tc.msacsr,
5618                 GET_FP_CAUSE(env->active_tc.msacsr));
5619     } else {
5620         do_raise_exception(env, EXCP_MSAFPE, retaddr);
5621     }
5622 }
5623
5624 /* Flush-to-zero use cases for update_msacsr() */
5625 #define CLEAR_FS_UNDERFLOW 1
5626 #define CLEAR_IS_INEXACT   2
5627 #define RECIPROCAL_INEXACT 4
5628
5629
5630 static inline int ieee_to_mips_xcpt_msa(int ieee_xcpt)
5631 {
5632     int mips_xcpt = 0;
5633
5634     if (ieee_xcpt & float_flag_invalid) {
5635         mips_xcpt |= FP_INVALID;
5636     }
5637     if (ieee_xcpt & float_flag_overflow) {
5638         mips_xcpt |= FP_OVERFLOW;
5639     }
5640     if (ieee_xcpt & float_flag_underflow) {
5641         mips_xcpt |= FP_UNDERFLOW;
5642     }
5643     if (ieee_xcpt & float_flag_divbyzero) {
5644         mips_xcpt |= FP_DIV0;
5645     }
5646     if (ieee_xcpt & float_flag_inexact) {
5647         mips_xcpt |= FP_INEXACT;
5648     }
5649
5650     return mips_xcpt;
5651 }
5652
5653 static inline int update_msacsr(CPUMIPSState *env, int action, int denormal)
5654 {
5655     int ieee_exception_flags;
5656     int mips_exception_flags = 0;
5657     int cause;
5658     int enable;
5659
5660     ieee_exception_flags = get_float_exception_flags(
5661                                &env->active_tc.msa_fp_status);
5662
5663     /* QEMU softfloat does not signal all underflow cases */
5664     if (denormal) {
5665         ieee_exception_flags |= float_flag_underflow;
5666     }
5667     if (ieee_exception_flags) {
5668         mips_exception_flags = ieee_to_mips_xcpt_msa(ieee_exception_flags);
5669     }
5670     enable = GET_FP_ENABLE(env->active_tc.msacsr) | FP_UNIMPLEMENTED;
5671
5672     /* Set Inexact (I) when flushing inputs to zero */
5673     if ((ieee_exception_flags & float_flag_input_denormal) &&
5674             (env->active_tc.msacsr & MSACSR_FS_MASK) != 0) {
5675         if (action & CLEAR_IS_INEXACT) {
5676             mips_exception_flags &= ~FP_INEXACT;
5677         } else {
5678             mips_exception_flags |= FP_INEXACT;
5679         }
5680     }
5681
5682     /* Set Inexact (I) and Underflow (U) when flushing outputs to zero */
5683     if ((ieee_exception_flags & float_flag_output_denormal) &&
5684             (env->active_tc.msacsr & MSACSR_FS_MASK) != 0) {
5685         mips_exception_flags |= FP_INEXACT;
5686         if (action & CLEAR_FS_UNDERFLOW) {
5687             mips_exception_flags &= ~FP_UNDERFLOW;
5688         } else {
5689             mips_exception_flags |= FP_UNDERFLOW;
5690         }
5691     }
5692
5693     /* Set Inexact (I) when Overflow (O) is not enabled */
5694     if ((mips_exception_flags & FP_OVERFLOW) != 0 &&
5695            (enable & FP_OVERFLOW) == 0) {
5696         mips_exception_flags |= FP_INEXACT;
5697     }
5698
5699     /* Clear Exact Underflow when Underflow (U) is not enabled */
5700     if ((mips_exception_flags & FP_UNDERFLOW) != 0 &&
5701            (enable & FP_UNDERFLOW) == 0 &&
5702            (mips_exception_flags & FP_INEXACT) == 0) {
5703         mips_exception_flags &= ~FP_UNDERFLOW;
5704     }
5705
5706     /*
5707      * Reciprocal operations set only Inexact when valid and not
5708      * divide by zero
5709      */
5710     if ((action & RECIPROCAL_INEXACT) &&
5711             (mips_exception_flags & (FP_INVALID | FP_DIV0)) == 0) {
5712         mips_exception_flags = FP_INEXACT;
5713     }
5714
5715     cause = mips_exception_flags & enable; /* all current enabled exceptions */
5716
5717     if (cause == 0) {
5718         /*
5719          * No enabled exception, update the MSACSR Cause
5720          * with all current exceptions
5721          */
5722         SET_FP_CAUSE(env->active_tc.msacsr,
5723             (GET_FP_CAUSE(env->active_tc.msacsr) | mips_exception_flags));
5724     } else {
5725         /* Current exceptions are enabled */
5726         if ((env->active_tc.msacsr & MSACSR_NX_MASK) == 0) {
5727             /*
5728              * Exception(s) will trap, update MSACSR Cause
5729              * with all enabled exceptions
5730              */
5731             SET_FP_CAUSE(env->active_tc.msacsr,
5732                 (GET_FP_CAUSE(env->active_tc.msacsr) | mips_exception_flags));
5733         }
5734     }
5735
5736     return mips_exception_flags;
5737 }
5738
5739 static inline int get_enabled_exceptions(const CPUMIPSState *env, int c)
5740 {
5741     int enable = GET_FP_ENABLE(env->active_tc.msacsr) | FP_UNIMPLEMENTED;
5742     return c & enable;
5743 }
5744
5745 static inline float16 float16_from_float32(int32_t a, bool ieee,
5746                                            float_status *status)
5747 {
5748       float16 f_val;
5749
5750       f_val = float32_to_float16((float32)a, ieee, status);
5751
5752       return a < 0 ? (f_val | (1 << 15)) : f_val;
5753 }
5754
5755 static inline float32 float32_from_float64(int64_t a, float_status *status)
5756 {
5757       float32 f_val;
5758
5759       f_val = float64_to_float32((float64)a, status);
5760
5761       return a < 0 ? (f_val | (1 << 31)) : f_val;
5762 }
5763
5764 static inline float32 float32_from_float16(int16_t a, bool ieee,
5765                                            float_status *status)
5766 {
5767       float32 f_val;
5768
5769       f_val = float16_to_float32((float16)a, ieee, status);
5770
5771       return a < 0 ? (f_val | (1 << 31)) : f_val;
5772 }
5773
5774 static inline float64 float64_from_float32(int32_t a, float_status *status)
5775 {
5776       float64 f_val;
5777
5778       f_val = float32_to_float64((float64)a, status);
5779
5780       return a < 0 ? (f_val | (1ULL << 63)) : f_val;
5781 }
5782
5783 static inline float32 float32_from_q16(int16_t a, float_status *status)
5784 {
5785     float32 f_val;
5786
5787     /* conversion as integer and scaling */
5788     f_val = int32_to_float32(a, status);
5789     f_val = float32_scalbn(f_val, -15, status);
5790
5791     return f_val;
5792 }
5793
5794 static inline float64 float64_from_q32(int32_t a, float_status *status)
5795 {
5796     float64 f_val;
5797
5798     /* conversion as integer and scaling */
5799     f_val = int32_to_float64(a, status);
5800     f_val = float64_scalbn(f_val, -31, status);
5801
5802     return f_val;
5803 }
5804
5805 static inline int16_t float32_to_q16(float32 a, float_status *status)
5806 {
5807     int32_t q_val;
5808     int32_t q_min = 0xffff8000;
5809     int32_t q_max = 0x00007fff;
5810
5811     int ieee_ex;
5812
5813     if (float32_is_any_nan(a)) {
5814         float_raise(float_flag_invalid, status);
5815         return 0;
5816     }
5817
5818     /* scaling */
5819     a = float32_scalbn(a, 15, status);
5820
5821     ieee_ex = get_float_exception_flags(status);
5822     set_float_exception_flags(ieee_ex & (~float_flag_underflow)
5823                              , status);
5824
5825     if (ieee_ex & float_flag_overflow) {
5826         float_raise(float_flag_inexact, status);
5827         return (int32_t)a < 0 ? q_min : q_max;
5828     }
5829
5830     /* conversion to int */
5831     q_val = float32_to_int32(a, status);
5832
5833     ieee_ex = get_float_exception_flags(status);
5834     set_float_exception_flags(ieee_ex & (~float_flag_underflow)
5835                              , status);
5836
5837     if (ieee_ex & float_flag_invalid) {
5838         set_float_exception_flags(ieee_ex & (~float_flag_invalid)
5839                                , status);
5840         float_raise(float_flag_overflow | float_flag_inexact, status);
5841         return (int32_t)a < 0 ? q_min : q_max;
5842     }
5843
5844     if (q_val < q_min) {
5845         float_raise(float_flag_overflow | float_flag_inexact, status);
5846         return (int16_t)q_min;
5847     }
5848
5849     if (q_max < q_val) {
5850         float_raise(float_flag_overflow | float_flag_inexact, status);
5851         return (int16_t)q_max;
5852     }
5853
5854     return (int16_t)q_val;
5855 }
5856
5857 static inline int32_t float64_to_q32(float64 a, float_status *status)
5858 {
5859     int64_t q_val;
5860     int64_t q_min = 0xffffffff80000000LL;
5861     int64_t q_max = 0x000000007fffffffLL;
5862
5863     int ieee_ex;
5864
5865     if (float64_is_any_nan(a)) {
5866         float_raise(float_flag_invalid, status);
5867         return 0;
5868     }
5869
5870     /* scaling */
5871     a = float64_scalbn(a, 31, status);
5872
5873     ieee_ex = get_float_exception_flags(status);
5874     set_float_exception_flags(ieee_ex & (~float_flag_underflow)
5875            , status);
5876
5877     if (ieee_ex & float_flag_overflow) {
5878         float_raise(float_flag_inexact, status);
5879         return (int64_t)a < 0 ? q_min : q_max;
5880     }
5881
5882     /* conversion to integer */
5883     q_val = float64_to_int64(a, status);
5884
5885     ieee_ex = get_float_exception_flags(status);
5886     set_float_exception_flags(ieee_ex & (~float_flag_underflow)
5887            , status);
5888
5889     if (ieee_ex & float_flag_invalid) {
5890         set_float_exception_flags(ieee_ex & (~float_flag_invalid)
5891                , status);
5892         float_raise(float_flag_overflow | float_flag_inexact, status);
5893         return (int64_t)a < 0 ? q_min : q_max;
5894     }
5895
5896     if (q_val < q_min) {
5897         float_raise(float_flag_overflow | float_flag_inexact, status);
5898         return (int32_t)q_min;
5899     }
5900
5901     if (q_max < q_val) {
5902         float_raise(float_flag_overflow | float_flag_inexact, status);
5903         return (int32_t)q_max;
5904     }
5905
5906     return (int32_t)q_val;
5907 }
5908
5909 #define MSA_FLOAT_COND(DEST, OP, ARG1, ARG2, BITS, QUIET)                   \
5910     do {                                                                    \
5911         float_status *status = &env->active_tc.msa_fp_status;               \
5912         int c;                                                              \
5913         int64_t cond;                                                       \
5914         set_float_exception_flags(0, status);                               \
5915         if (!QUIET) {                                                       \
5916             cond = float ## BITS ## _ ## OP(ARG1, ARG2, status);            \
5917         } else {                                                            \
5918             cond = float ## BITS ## _ ## OP ## _quiet(ARG1, ARG2, status);  \
5919         }                                                                   \
5920         DEST = cond ? M_MAX_UINT(BITS) : 0;                                 \
5921         c = update_msacsr(env, CLEAR_IS_INEXACT, 0);                        \
5922                                                                             \
5923         if (get_enabled_exceptions(env, c)) {                               \
5924             DEST = ((FLOAT_SNAN ## BITS(status) >> 6) << 6) | c;            \
5925         }                                                                   \
5926     } while (0)
5927
5928 #define MSA_FLOAT_AF(DEST, ARG1, ARG2, BITS, QUIET)                 \
5929     do {                                                            \
5930         MSA_FLOAT_COND(DEST, eq, ARG1, ARG2, BITS, QUIET);          \
5931         if ((DEST & M_MAX_UINT(BITS)) == M_MAX_UINT(BITS)) {        \
5932             DEST = 0;                                               \
5933         }                                                           \
5934     } while (0)
5935
5936 #define MSA_FLOAT_UEQ(DEST, ARG1, ARG2, BITS, QUIET)                \
5937     do {                                                            \
5938         MSA_FLOAT_COND(DEST, unordered, ARG1, ARG2, BITS, QUIET);   \
5939         if (DEST == 0) {                                            \
5940             MSA_FLOAT_COND(DEST, eq, ARG1, ARG2, BITS, QUIET);      \
5941         }                                                           \
5942     } while (0)
5943
5944 #define MSA_FLOAT_NE(DEST, ARG1, ARG2, BITS, QUIET)                 \
5945     do {                                                            \
5946         MSA_FLOAT_COND(DEST, lt, ARG1, ARG2, BITS, QUIET);          \
5947         if (DEST == 0) {                                            \
5948             MSA_FLOAT_COND(DEST, lt, ARG2, ARG1, BITS, QUIET);      \
5949         }                                                           \
5950     } while (0)
5951
5952 #define MSA_FLOAT_UNE(DEST, ARG1, ARG2, BITS, QUIET)                \
5953     do {                                                            \
5954         MSA_FLOAT_COND(DEST, unordered, ARG1, ARG2, BITS, QUIET);   \
5955         if (DEST == 0) {                                            \
5956             MSA_FLOAT_COND(DEST, lt, ARG1, ARG2, BITS, QUIET);      \
5957             if (DEST == 0) {                                        \
5958                 MSA_FLOAT_COND(DEST, lt, ARG2, ARG1, BITS, QUIET);  \
5959             }                                                       \
5960         }                                                           \
5961     } while (0)
5962
5963 #define MSA_FLOAT_ULE(DEST, ARG1, ARG2, BITS, QUIET)                \
5964     do {                                                            \
5965         MSA_FLOAT_COND(DEST, unordered, ARG1, ARG2, BITS, QUIET);   \
5966         if (DEST == 0) {                                            \
5967             MSA_FLOAT_COND(DEST, le, ARG1, ARG2, BITS, QUIET);      \
5968         }                                                           \
5969     } while (0)
5970
5971 #define MSA_FLOAT_ULT(DEST, ARG1, ARG2, BITS, QUIET)                \
5972     do {                                                            \
5973         MSA_FLOAT_COND(DEST, unordered, ARG1, ARG2, BITS, QUIET);   \
5974         if (DEST == 0) {                                            \
5975             MSA_FLOAT_COND(DEST, lt, ARG1, ARG2, BITS, QUIET);      \
5976         }                                                           \
5977     } while (0)
5978
5979 #define MSA_FLOAT_OR(DEST, ARG1, ARG2, BITS, QUIET)                 \
5980     do {                                                            \
5981         MSA_FLOAT_COND(DEST, le, ARG1, ARG2, BITS, QUIET);          \
5982         if (DEST == 0) {                                            \
5983             MSA_FLOAT_COND(DEST, le, ARG2, ARG1, BITS, QUIET);      \
5984         }                                                           \
5985     } while (0)
5986
5987 static inline void compare_af(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
5988                               wr_t *pwt, uint32_t df, int quiet,
5989                               uintptr_t retaddr)
5990 {
5991     wr_t wx, *pwx = &wx;
5992     uint32_t i;
5993
5994     clear_msacsr_cause(env);
5995
5996     switch (df) {
5997     case DF_WORD:
5998         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
5999             MSA_FLOAT_AF(pwx->w[i], pws->w[i], pwt->w[i], 32, quiet);
6000         }
6001         break;
6002     case DF_DOUBLE:
6003         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6004             MSA_FLOAT_AF(pwx->d[i], pws->d[i], pwt->d[i], 64, quiet);
6005         }
6006         break;
6007     default:
6008         assert(0);
6009     }
6010
6011     check_msacsr_cause(env, retaddr);
6012
6013     msa_move_v(pwd, pwx);
6014 }
6015
6016 static inline void compare_un(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
6017                               wr_t *pwt, uint32_t df, int quiet,
6018                               uintptr_t retaddr)
6019 {
6020     wr_t wx, *pwx = &wx;
6021     uint32_t i;
6022
6023     clear_msacsr_cause(env);
6024
6025     switch (df) {
6026     case DF_WORD:
6027         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6028             MSA_FLOAT_COND(pwx->w[i], unordered, pws->w[i], pwt->w[i], 32,
6029                     quiet);
6030         }
6031         break;
6032     case DF_DOUBLE:
6033         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6034             MSA_FLOAT_COND(pwx->d[i], unordered, pws->d[i], pwt->d[i], 64,
6035                     quiet);
6036         }
6037         break;
6038     default:
6039         assert(0);
6040     }
6041
6042     check_msacsr_cause(env, retaddr);
6043
6044     msa_move_v(pwd, pwx);
6045 }
6046
6047 static inline void compare_eq(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
6048                               wr_t *pwt, uint32_t df, int quiet,
6049                               uintptr_t retaddr)
6050 {
6051     wr_t wx, *pwx = &wx;
6052     uint32_t i;
6053
6054     clear_msacsr_cause(env);
6055
6056     switch (df) {
6057     case DF_WORD:
6058         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6059             MSA_FLOAT_COND(pwx->w[i], eq, pws->w[i], pwt->w[i], 32, quiet);
6060         }
6061         break;
6062     case DF_DOUBLE:
6063         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6064             MSA_FLOAT_COND(pwx->d[i], eq, pws->d[i], pwt->d[i], 64, quiet);
6065         }
6066         break;
6067     default:
6068         assert(0);
6069     }
6070
6071     check_msacsr_cause(env, retaddr);
6072
6073     msa_move_v(pwd, pwx);
6074 }
6075
6076 static inline void compare_ueq(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
6077                                wr_t *pwt, uint32_t df, int quiet,
6078                                uintptr_t retaddr)
6079 {
6080     wr_t wx, *pwx = &wx;
6081     uint32_t i;
6082
6083     clear_msacsr_cause(env);
6084
6085     switch (df) {
6086     case DF_WORD:
6087         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6088             MSA_FLOAT_UEQ(pwx->w[i], pws->w[i], pwt->w[i], 32, quiet);
6089         }
6090         break;
6091     case DF_DOUBLE:
6092         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6093             MSA_FLOAT_UEQ(pwx->d[i], pws->d[i], pwt->d[i], 64, quiet);
6094         }
6095         break;
6096     default:
6097         assert(0);
6098     }
6099
6100     check_msacsr_cause(env, retaddr);
6101
6102     msa_move_v(pwd, pwx);
6103 }
6104
6105 static inline void compare_lt(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
6106                               wr_t *pwt, uint32_t df, int quiet,
6107                               uintptr_t retaddr)
6108 {
6109     wr_t wx, *pwx = &wx;
6110     uint32_t i;
6111
6112     clear_msacsr_cause(env);
6113
6114     switch (df) {
6115     case DF_WORD:
6116         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6117             MSA_FLOAT_COND(pwx->w[i], lt, pws->w[i], pwt->w[i], 32, quiet);
6118         }
6119         break;
6120     case DF_DOUBLE:
6121         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6122             MSA_FLOAT_COND(pwx->d[i], lt, pws->d[i], pwt->d[i], 64, quiet);
6123         }
6124         break;
6125     default:
6126         assert(0);
6127     }
6128
6129     check_msacsr_cause(env, retaddr);
6130
6131     msa_move_v(pwd, pwx);
6132 }
6133
6134 static inline void compare_ult(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
6135                                wr_t *pwt, uint32_t df, int quiet,
6136                                uintptr_t retaddr)
6137 {
6138     wr_t wx, *pwx = &wx;
6139     uint32_t i;
6140
6141     clear_msacsr_cause(env);
6142
6143     switch (df) {
6144     case DF_WORD:
6145         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6146             MSA_FLOAT_ULT(pwx->w[i], pws->w[i], pwt->w[i], 32, quiet);
6147         }
6148         break;
6149     case DF_DOUBLE:
6150         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6151             MSA_FLOAT_ULT(pwx->d[i], pws->d[i], pwt->d[i], 64, quiet);
6152         }
6153         break;
6154     default:
6155         assert(0);
6156     }
6157
6158     check_msacsr_cause(env, retaddr);
6159
6160     msa_move_v(pwd, pwx);
6161 }
6162
6163 static inline void compare_le(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
6164                               wr_t *pwt, uint32_t df, int quiet,
6165                               uintptr_t retaddr)
6166 {
6167     wr_t wx, *pwx = &wx;
6168     uint32_t i;
6169
6170     clear_msacsr_cause(env);
6171
6172     switch (df) {
6173     case DF_WORD:
6174         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6175             MSA_FLOAT_COND(pwx->w[i], le, pws->w[i], pwt->w[i], 32, quiet);
6176         }
6177         break;
6178     case DF_DOUBLE:
6179         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6180             MSA_FLOAT_COND(pwx->d[i], le, pws->d[i], pwt->d[i], 64, quiet);
6181         }
6182         break;
6183     default:
6184         assert(0);
6185     }
6186
6187     check_msacsr_cause(env, retaddr);
6188
6189     msa_move_v(pwd, pwx);
6190 }
6191
6192 static inline void compare_ule(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
6193                                wr_t *pwt, uint32_t df, int quiet,
6194                                uintptr_t retaddr)
6195 {
6196     wr_t wx, *pwx = &wx;
6197     uint32_t i;
6198
6199     clear_msacsr_cause(env);
6200
6201     switch (df) {
6202     case DF_WORD:
6203         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6204             MSA_FLOAT_ULE(pwx->w[i], pws->w[i], pwt->w[i], 32, quiet);
6205         }
6206         break;
6207     case DF_DOUBLE:
6208         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6209             MSA_FLOAT_ULE(pwx->d[i], pws->d[i], pwt->d[i], 64, quiet);
6210         }
6211         break;
6212     default:
6213         assert(0);
6214     }
6215
6216     check_msacsr_cause(env, retaddr);
6217
6218     msa_move_v(pwd, pwx);
6219 }
6220
6221 static inline void compare_or(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
6222                               wr_t *pwt, uint32_t df, int quiet,
6223                               uintptr_t retaddr)
6224 {
6225     wr_t wx, *pwx = &wx;
6226     uint32_t i;
6227
6228     clear_msacsr_cause(env);
6229
6230     switch (df) {
6231     case DF_WORD:
6232         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6233             MSA_FLOAT_OR(pwx->w[i], pws->w[i], pwt->w[i], 32, quiet);
6234         }
6235         break;
6236     case DF_DOUBLE:
6237         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6238             MSA_FLOAT_OR(pwx->d[i], pws->d[i], pwt->d[i], 64, quiet);
6239         }
6240         break;
6241     default:
6242         assert(0);
6243     }
6244
6245     check_msacsr_cause(env, retaddr);
6246
6247     msa_move_v(pwd, pwx);
6248 }
6249
6250 static inline void compare_une(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
6251                                wr_t *pwt, uint32_t df, int quiet,
6252                                uintptr_t retaddr)
6253 {
6254     wr_t wx, *pwx = &wx;
6255     uint32_t i;
6256
6257     clear_msacsr_cause(env);
6258
6259     switch (df) {
6260     case DF_WORD:
6261         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6262             MSA_FLOAT_UNE(pwx->w[i], pws->w[i], pwt->w[i], 32, quiet);
6263         }
6264         break;
6265     case DF_DOUBLE:
6266         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6267             MSA_FLOAT_UNE(pwx->d[i], pws->d[i], pwt->d[i], 64, quiet);
6268         }
6269         break;
6270     default:
6271         assert(0);
6272     }
6273
6274     check_msacsr_cause(env, retaddr);
6275
6276     msa_move_v(pwd, pwx);
6277 }
6278
6279 static inline void compare_ne(CPUMIPSState *env, wr_t *pwd, wr_t *pws,
6280                               wr_t *pwt, uint32_t df, int quiet,
6281                               uintptr_t retaddr)
6282 {
6283     wr_t wx, *pwx = &wx;
6284     uint32_t i;
6285
6286     clear_msacsr_cause(env);
6287
6288     switch (df) {
6289     case DF_WORD:
6290         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6291             MSA_FLOAT_NE(pwx->w[i], pws->w[i], pwt->w[i], 32, quiet);
6292         }
6293         break;
6294     case DF_DOUBLE:
6295         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6296             MSA_FLOAT_NE(pwx->d[i], pws->d[i], pwt->d[i], 64, quiet);
6297         }
6298         break;
6299     default:
6300         assert(0);
6301     }
6302
6303     check_msacsr_cause(env, retaddr);
6304
6305     msa_move_v(pwd, pwx);
6306 }
6307
6308 void helper_msa_fcaf_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6309                         uint32_t ws, uint32_t wt)
6310 {
6311     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6312     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6313     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6314     compare_af(env, pwd, pws, pwt, df, 1, GETPC());
6315 }
6316
6317 void helper_msa_fcun_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6318                         uint32_t ws, uint32_t wt)
6319 {
6320     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6321     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6322     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6323     compare_un(env, pwd, pws, pwt, df, 1, GETPC());
6324 }
6325
6326 void helper_msa_fceq_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6327                         uint32_t ws, uint32_t wt)
6328 {
6329     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6330     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6331     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6332     compare_eq(env, pwd, pws, pwt, df, 1, GETPC());
6333 }
6334
6335 void helper_msa_fcueq_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6336                          uint32_t ws, uint32_t wt)
6337 {
6338     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6339     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6340     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6341     compare_ueq(env, pwd, pws, pwt, df, 1, GETPC());
6342 }
6343
6344 void helper_msa_fclt_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6345                         uint32_t ws, uint32_t wt)
6346 {
6347     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6348     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6349     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6350     compare_lt(env, pwd, pws, pwt, df, 1, GETPC());
6351 }
6352
6353 void helper_msa_fcult_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6354                          uint32_t ws, uint32_t wt)
6355 {
6356     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6357     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6358     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6359     compare_ult(env, pwd, pws, pwt, df, 1, GETPC());
6360 }
6361
6362 void helper_msa_fcle_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6363                         uint32_t ws, uint32_t wt)
6364 {
6365     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6366     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6367     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6368     compare_le(env, pwd, pws, pwt, df, 1, GETPC());
6369 }
6370
6371 void helper_msa_fcule_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6372                          uint32_t ws, uint32_t wt)
6373 {
6374     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6375     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6376     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6377     compare_ule(env, pwd, pws, pwt, df, 1, GETPC());
6378 }
6379
6380 void helper_msa_fsaf_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6381                         uint32_t ws, uint32_t wt)
6382 {
6383     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6384     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6385     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6386     compare_af(env, pwd, pws, pwt, df, 0, GETPC());
6387 }
6388
6389 void helper_msa_fsun_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6390                         uint32_t ws, uint32_t wt)
6391 {
6392     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6393     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6394     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6395     compare_un(env, pwd, pws, pwt, df, 0, GETPC());
6396 }
6397
6398 void helper_msa_fseq_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6399                         uint32_t ws, uint32_t wt)
6400 {
6401     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6402     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6403     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6404     compare_eq(env, pwd, pws, pwt, df, 0, GETPC());
6405 }
6406
6407 void helper_msa_fsueq_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6408                          uint32_t ws, uint32_t wt)
6409 {
6410     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6411     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6412     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6413     compare_ueq(env, pwd, pws, pwt, df, 0, GETPC());
6414 }
6415
6416 void helper_msa_fslt_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6417                         uint32_t ws, uint32_t wt)
6418 {
6419     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6420     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6421     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6422     compare_lt(env, pwd, pws, pwt, df, 0, GETPC());
6423 }
6424
6425 void helper_msa_fsult_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6426                          uint32_t ws, uint32_t wt)
6427 {
6428     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6429     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6430     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6431     compare_ult(env, pwd, pws, pwt, df, 0, GETPC());
6432 }
6433
6434 void helper_msa_fsle_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6435                         uint32_t ws, uint32_t wt)
6436 {
6437     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6438     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6439     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6440     compare_le(env, pwd, pws, pwt, df, 0, GETPC());
6441 }
6442
6443 void helper_msa_fsule_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6444                          uint32_t ws, uint32_t wt)
6445 {
6446     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6447     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6448     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6449     compare_ule(env, pwd, pws, pwt, df, 0, GETPC());
6450 }
6451
6452 void helper_msa_fcor_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6453                         uint32_t ws, uint32_t wt)
6454 {
6455     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6456     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6457     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6458     compare_or(env, pwd, pws, pwt, df, 1, GETPC());
6459 }
6460
6461 void helper_msa_fcune_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6462                          uint32_t ws, uint32_t wt)
6463 {
6464     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6465     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6466     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6467     compare_une(env, pwd, pws, pwt, df, 1, GETPC());
6468 }
6469
6470 void helper_msa_fcne_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6471                         uint32_t ws, uint32_t wt)
6472 {
6473     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6474     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6475     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6476     compare_ne(env, pwd, pws, pwt, df, 1, GETPC());
6477 }
6478
6479 void helper_msa_fsor_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6480                         uint32_t ws, uint32_t wt)
6481 {
6482     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6483     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6484     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6485     compare_or(env, pwd, pws, pwt, df, 0, GETPC());
6486 }
6487
6488 void helper_msa_fsune_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6489                          uint32_t ws, uint32_t wt)
6490 {
6491     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6492     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6493     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6494     compare_une(env, pwd, pws, pwt, df, 0, GETPC());
6495 }
6496
6497 void helper_msa_fsne_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6498                         uint32_t ws, uint32_t wt)
6499 {
6500     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6501     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6502     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6503     compare_ne(env, pwd, pws, pwt, df, 0, GETPC());
6504 }
6505
6506 #define float16_is_zero(ARG) 0
6507 #define float16_is_zero_or_denormal(ARG) 0
6508
6509 #define IS_DENORMAL(ARG, BITS)                      \
6510     (!float ## BITS ## _is_zero(ARG)                \
6511     && float ## BITS ## _is_zero_or_denormal(ARG))
6512
6513 #define MSA_FLOAT_BINOP(DEST, OP, ARG1, ARG2, BITS)                         \
6514     do {                                                                    \
6515         float_status *status = &env->active_tc.msa_fp_status;               \
6516         int c;                                                              \
6517                                                                             \
6518         set_float_exception_flags(0, status);                               \
6519         DEST = float ## BITS ## _ ## OP(ARG1, ARG2, status);                \
6520         c = update_msacsr(env, 0, IS_DENORMAL(DEST, BITS));                 \
6521                                                                             \
6522         if (get_enabled_exceptions(env, c)) {                               \
6523             DEST = ((FLOAT_SNAN ## BITS(status) >> 6) << 6) | c;            \
6524         }                                                                   \
6525     } while (0)
6526
6527 void helper_msa_fadd_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6528         uint32_t ws, uint32_t wt)
6529 {
6530     wr_t wx, *pwx = &wx;
6531     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6532     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6533     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6534     uint32_t i;
6535
6536     clear_msacsr_cause(env);
6537
6538     switch (df) {
6539     case DF_WORD:
6540         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6541             MSA_FLOAT_BINOP(pwx->w[i], add, pws->w[i], pwt->w[i], 32);
6542         }
6543         break;
6544     case DF_DOUBLE:
6545         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6546             MSA_FLOAT_BINOP(pwx->d[i], add, pws->d[i], pwt->d[i], 64);
6547         }
6548         break;
6549     default:
6550         assert(0);
6551     }
6552
6553     check_msacsr_cause(env, GETPC());
6554     msa_move_v(pwd, pwx);
6555 }
6556
6557 void helper_msa_fsub_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6558         uint32_t ws, uint32_t wt)
6559 {
6560     wr_t wx, *pwx = &wx;
6561     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6562     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6563     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6564     uint32_t i;
6565
6566     clear_msacsr_cause(env);
6567
6568     switch (df) {
6569     case DF_WORD:
6570         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6571             MSA_FLOAT_BINOP(pwx->w[i], sub, pws->w[i], pwt->w[i], 32);
6572         }
6573         break;
6574     case DF_DOUBLE:
6575         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6576             MSA_FLOAT_BINOP(pwx->d[i], sub, pws->d[i], pwt->d[i], 64);
6577         }
6578         break;
6579     default:
6580         assert(0);
6581     }
6582
6583     check_msacsr_cause(env, GETPC());
6584     msa_move_v(pwd, pwx);
6585 }
6586
6587 void helper_msa_fmul_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6588         uint32_t ws, uint32_t wt)
6589 {
6590     wr_t wx, *pwx = &wx;
6591     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6592     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6593     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6594     uint32_t i;
6595
6596     clear_msacsr_cause(env);
6597
6598     switch (df) {
6599     case DF_WORD:
6600         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6601             MSA_FLOAT_BINOP(pwx->w[i], mul, pws->w[i], pwt->w[i], 32);
6602         }
6603         break;
6604     case DF_DOUBLE:
6605         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6606             MSA_FLOAT_BINOP(pwx->d[i], mul, pws->d[i], pwt->d[i], 64);
6607         }
6608         break;
6609     default:
6610         assert(0);
6611     }
6612
6613     check_msacsr_cause(env, GETPC());
6614
6615     msa_move_v(pwd, pwx);
6616 }
6617
6618 void helper_msa_fdiv_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6619         uint32_t ws, uint32_t wt)
6620 {
6621     wr_t wx, *pwx = &wx;
6622     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6623     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6624     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6625     uint32_t i;
6626
6627     clear_msacsr_cause(env);
6628
6629     switch (df) {
6630     case DF_WORD:
6631         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6632             MSA_FLOAT_BINOP(pwx->w[i], div, pws->w[i], pwt->w[i], 32);
6633         }
6634         break;
6635     case DF_DOUBLE:
6636         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6637             MSA_FLOAT_BINOP(pwx->d[i], div, pws->d[i], pwt->d[i], 64);
6638         }
6639         break;
6640     default:
6641         assert(0);
6642     }
6643
6644     check_msacsr_cause(env, GETPC());
6645
6646     msa_move_v(pwd, pwx);
6647 }
6648
6649 #define MSA_FLOAT_MULADD(DEST, ARG1, ARG2, ARG3, NEGATE, BITS)              \
6650     do {                                                                    \
6651         float_status *status = &env->active_tc.msa_fp_status;               \
6652         int c;                                                              \
6653                                                                             \
6654         set_float_exception_flags(0, status);                               \
6655         DEST = float ## BITS ## _muladd(ARG2, ARG3, ARG1, NEGATE, status);  \
6656         c = update_msacsr(env, 0, IS_DENORMAL(DEST, BITS));                 \
6657                                                                             \
6658         if (get_enabled_exceptions(env, c)) {                               \
6659             DEST = ((FLOAT_SNAN ## BITS(status) >> 6) << 6) | c;            \
6660         }                                                                   \
6661     } while (0)
6662
6663 void helper_msa_fmadd_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6664         uint32_t ws, uint32_t wt)
6665 {
6666     wr_t wx, *pwx = &wx;
6667     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6668     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6669     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6670     uint32_t i;
6671
6672     clear_msacsr_cause(env);
6673
6674     switch (df) {
6675     case DF_WORD:
6676         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6677             MSA_FLOAT_MULADD(pwx->w[i], pwd->w[i],
6678                            pws->w[i], pwt->w[i], 0, 32);
6679         }
6680         break;
6681     case DF_DOUBLE:
6682         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6683             MSA_FLOAT_MULADD(pwx->d[i], pwd->d[i],
6684                            pws->d[i], pwt->d[i], 0, 64);
6685         }
6686         break;
6687     default:
6688         assert(0);
6689     }
6690
6691     check_msacsr_cause(env, GETPC());
6692
6693     msa_move_v(pwd, pwx);
6694 }
6695
6696 void helper_msa_fmsub_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6697         uint32_t ws, uint32_t wt)
6698 {
6699     wr_t wx, *pwx = &wx;
6700     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6701     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6702     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6703     uint32_t i;
6704
6705     clear_msacsr_cause(env);
6706
6707     switch (df) {
6708     case DF_WORD:
6709         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6710             MSA_FLOAT_MULADD(pwx->w[i], pwd->w[i],
6711                            pws->w[i], pwt->w[i],
6712                            float_muladd_negate_product, 32);
6713       }
6714       break;
6715     case DF_DOUBLE:
6716         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6717             MSA_FLOAT_MULADD(pwx->d[i], pwd->d[i],
6718                            pws->d[i], pwt->d[i],
6719                            float_muladd_negate_product, 64);
6720         }
6721         break;
6722     default:
6723         assert(0);
6724     }
6725
6726     check_msacsr_cause(env, GETPC());
6727
6728     msa_move_v(pwd, pwx);
6729 }
6730
6731 void helper_msa_fexp2_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6732         uint32_t ws, uint32_t wt)
6733 {
6734     wr_t wx, *pwx = &wx;
6735     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6736     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6737     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6738     uint32_t i;
6739
6740     clear_msacsr_cause(env);
6741
6742     switch (df) {
6743     case DF_WORD:
6744         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6745             MSA_FLOAT_BINOP(pwx->w[i], scalbn, pws->w[i],
6746                             pwt->w[i] >  0x200 ?  0x200 :
6747                             pwt->w[i] < -0x200 ? -0x200 : pwt->w[i],
6748                             32);
6749         }
6750         break;
6751     case DF_DOUBLE:
6752         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6753             MSA_FLOAT_BINOP(pwx->d[i], scalbn, pws->d[i],
6754                             pwt->d[i] >  0x1000 ?  0x1000 :
6755                             pwt->d[i] < -0x1000 ? -0x1000 : pwt->d[i],
6756                             64);
6757         }
6758         break;
6759     default:
6760         assert(0);
6761     }
6762
6763     check_msacsr_cause(env, GETPC());
6764
6765     msa_move_v(pwd, pwx);
6766 }
6767
6768 #define MSA_FLOAT_UNOP(DEST, OP, ARG, BITS)                                 \
6769     do {                                                                    \
6770         float_status *status = &env->active_tc.msa_fp_status;               \
6771         int c;                                                              \
6772                                                                             \
6773         set_float_exception_flags(0, status);                               \
6774         DEST = float ## BITS ## _ ## OP(ARG, status);                       \
6775         c = update_msacsr(env, 0, IS_DENORMAL(DEST, BITS));                 \
6776                                                                             \
6777         if (get_enabled_exceptions(env, c)) {                               \
6778             DEST = ((FLOAT_SNAN ## BITS(status) >> 6) << 6) | c;            \
6779         }                                                                   \
6780     } while (0)
6781
6782 void helper_msa_fexdo_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6783                          uint32_t ws, uint32_t wt)
6784 {
6785     wr_t wx, *pwx = &wx;
6786     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6787     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6788     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6789     uint32_t i;
6790
6791     clear_msacsr_cause(env);
6792
6793     switch (df) {
6794     case DF_WORD:
6795         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6796             /*
6797              * Half precision floats come in two formats: standard
6798              * IEEE and "ARM" format.  The latter gains extra exponent
6799              * range by omitting the NaN/Inf encodings.
6800              */
6801             bool ieee = true;
6802
6803             MSA_FLOAT_BINOP(Lh(pwx, i), from_float32, pws->w[i], ieee, 16);
6804             MSA_FLOAT_BINOP(Rh(pwx, i), from_float32, pwt->w[i], ieee, 16);
6805         }
6806         break;
6807     case DF_DOUBLE:
6808         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6809             MSA_FLOAT_UNOP(Lw(pwx, i), from_float64, pws->d[i], 32);
6810             MSA_FLOAT_UNOP(Rw(pwx, i), from_float64, pwt->d[i], 32);
6811         }
6812         break;
6813     default:
6814         assert(0);
6815     }
6816
6817     check_msacsr_cause(env, GETPC());
6818     msa_move_v(pwd, pwx);
6819 }
6820
6821 #define MSA_FLOAT_UNOP_XD(DEST, OP, ARG, BITS, XBITS)                       \
6822     do {                                                                    \
6823         float_status *status = &env->active_tc.msa_fp_status;               \
6824         int c;                                                              \
6825                                                                             \
6826         set_float_exception_flags(0, status);                               \
6827         DEST = float ## BITS ## _ ## OP(ARG, status);                       \
6828         c = update_msacsr(env, CLEAR_FS_UNDERFLOW, 0);                      \
6829                                                                             \
6830         if (get_enabled_exceptions(env, c)) {                               \
6831             DEST = ((FLOAT_SNAN ## XBITS(status) >> 6) << 6) | c;           \
6832         }                                                                   \
6833     } while (0)
6834
6835 void helper_msa_ftq_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6836                        uint32_t ws, uint32_t wt)
6837 {
6838     wr_t wx, *pwx = &wx;
6839     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6840     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6841     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6842     uint32_t i;
6843
6844     clear_msacsr_cause(env);
6845
6846     switch (df) {
6847     case DF_WORD:
6848         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
6849             MSA_FLOAT_UNOP_XD(Lh(pwx, i), to_q16, pws->w[i], 32, 16);
6850             MSA_FLOAT_UNOP_XD(Rh(pwx, i), to_q16, pwt->w[i], 32, 16);
6851         }
6852         break;
6853     case DF_DOUBLE:
6854         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
6855             MSA_FLOAT_UNOP_XD(Lw(pwx, i), to_q32, pws->d[i], 64, 32);
6856             MSA_FLOAT_UNOP_XD(Rw(pwx, i), to_q32, pwt->d[i], 64, 32);
6857         }
6858         break;
6859     default:
6860         assert(0);
6861     }
6862
6863     check_msacsr_cause(env, GETPC());
6864
6865     msa_move_v(pwd, pwx);
6866 }
6867
6868 #define NUMBER_QNAN_PAIR(ARG1, ARG2, BITS, STATUS)      \
6869     !float ## BITS ## _is_any_nan(ARG1)                 \
6870     && float ## BITS ## _is_quiet_nan(ARG2, STATUS)
6871
6872 #define MSA_FLOAT_MAXOP(DEST, OP, ARG1, ARG2, BITS)                         \
6873     do {                                                                    \
6874         float_status *status = &env->active_tc.msa_fp_status;               \
6875         int c;                                                              \
6876                                                                             \
6877         set_float_exception_flags(0, status);                               \
6878         DEST = float ## BITS ## _ ## OP(ARG1, ARG2, status);                \
6879         c = update_msacsr(env, 0, 0);                                       \
6880                                                                             \
6881         if (get_enabled_exceptions(env, c)) {                               \
6882             DEST = ((FLOAT_SNAN ## BITS(status) >> 6) << 6) | c;            \
6883         }                                                                   \
6884     } while (0)
6885
6886 #define FMAXMIN_A(F, G, X, _S, _T, BITS, STATUS)                    \
6887     do {                                                            \
6888         uint## BITS ##_t S = _S, T = _T;                            \
6889         uint## BITS ##_t as, at, xs, xt, xd;                        \
6890         if (NUMBER_QNAN_PAIR(S, T, BITS, STATUS)) {                 \
6891             T = S;                                                  \
6892         }                                                           \
6893         else if (NUMBER_QNAN_PAIR(T, S, BITS, STATUS)) {            \
6894             S = T;                                                  \
6895         }                                                           \
6896         as = float## BITS ##_abs(S);                                \
6897         at = float## BITS ##_abs(T);                                \
6898         MSA_FLOAT_MAXOP(xs, F,  S,  T, BITS);                       \
6899         MSA_FLOAT_MAXOP(xt, G,  S,  T, BITS);                       \
6900         MSA_FLOAT_MAXOP(xd, F, as, at, BITS);                       \
6901         X = (as == at || xd == float## BITS ##_abs(xs)) ? xs : xt;  \
6902     } while (0)
6903
6904 void helper_msa_fmin_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6905         uint32_t ws, uint32_t wt)
6906 {
6907     float_status *status = &env->active_tc.msa_fp_status;
6908     wr_t wx, *pwx = &wx;
6909     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6910     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6911     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6912
6913     clear_msacsr_cause(env);
6914
6915     if (df == DF_WORD) {
6916
6917         if (NUMBER_QNAN_PAIR(pws->w[0], pwt->w[0], 32, status)) {
6918             MSA_FLOAT_MAXOP(pwx->w[0], min, pws->w[0], pws->w[0], 32);
6919         } else if (NUMBER_QNAN_PAIR(pwt->w[0], pws->w[0], 32, status)) {
6920             MSA_FLOAT_MAXOP(pwx->w[0], min, pwt->w[0], pwt->w[0], 32);
6921         } else {
6922             MSA_FLOAT_MAXOP(pwx->w[0], min, pws->w[0], pwt->w[0], 32);
6923         }
6924
6925         if (NUMBER_QNAN_PAIR(pws->w[1], pwt->w[1], 32, status)) {
6926             MSA_FLOAT_MAXOP(pwx->w[1], min, pws->w[1], pws->w[1], 32);
6927         } else if (NUMBER_QNAN_PAIR(pwt->w[1], pws->w[1], 32, status)) {
6928             MSA_FLOAT_MAXOP(pwx->w[1], min, pwt->w[1], pwt->w[1], 32);
6929         } else {
6930             MSA_FLOAT_MAXOP(pwx->w[1], min, pws->w[1], pwt->w[1], 32);
6931         }
6932
6933         if (NUMBER_QNAN_PAIR(pws->w[2], pwt->w[2], 32, status)) {
6934             MSA_FLOAT_MAXOP(pwx->w[2], min, pws->w[2], pws->w[2], 32);
6935         } else if (NUMBER_QNAN_PAIR(pwt->w[2], pws->w[2], 32, status)) {
6936             MSA_FLOAT_MAXOP(pwx->w[2], min, pwt->w[2], pwt->w[2], 32);
6937         } else {
6938             MSA_FLOAT_MAXOP(pwx->w[2], min, pws->w[2], pwt->w[2], 32);
6939         }
6940
6941         if (NUMBER_QNAN_PAIR(pws->w[3], pwt->w[3], 32, status)) {
6942             MSA_FLOAT_MAXOP(pwx->w[3], min, pws->w[3], pws->w[3], 32);
6943         } else if (NUMBER_QNAN_PAIR(pwt->w[3], pws->w[3], 32, status)) {
6944             MSA_FLOAT_MAXOP(pwx->w[3], min, pwt->w[3], pwt->w[3], 32);
6945         } else {
6946             MSA_FLOAT_MAXOP(pwx->w[3], min, pws->w[3], pwt->w[3], 32);
6947         }
6948
6949     } else if (df == DF_DOUBLE) {
6950
6951         if (NUMBER_QNAN_PAIR(pws->d[0], pwt->d[0], 64, status)) {
6952             MSA_FLOAT_MAXOP(pwx->d[0], min, pws->d[0], pws->d[0], 64);
6953         } else if (NUMBER_QNAN_PAIR(pwt->d[0], pws->d[0], 64, status)) {
6954             MSA_FLOAT_MAXOP(pwx->d[0], min, pwt->d[0], pwt->d[0], 64);
6955         } else {
6956             MSA_FLOAT_MAXOP(pwx->d[0], min, pws->d[0], pwt->d[0], 64);
6957         }
6958
6959         if (NUMBER_QNAN_PAIR(pws->d[1], pwt->d[1], 64, status)) {
6960             MSA_FLOAT_MAXOP(pwx->d[1], min, pws->d[1], pws->d[1], 64);
6961         } else if (NUMBER_QNAN_PAIR(pwt->d[1], pws->d[1], 64, status)) {
6962             MSA_FLOAT_MAXOP(pwx->d[1], min, pwt->d[1], pwt->d[1], 64);
6963         } else {
6964             MSA_FLOAT_MAXOP(pwx->d[1], min, pws->d[1], pwt->d[1], 64);
6965         }
6966
6967     } else {
6968
6969         assert(0);
6970
6971     }
6972
6973     check_msacsr_cause(env, GETPC());
6974
6975     msa_move_v(pwd, pwx);
6976 }
6977
6978 void helper_msa_fmin_a_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
6979         uint32_t ws, uint32_t wt)
6980 {
6981     float_status *status = &env->active_tc.msa_fp_status;
6982     wr_t wx, *pwx = &wx;
6983     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
6984     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
6985     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
6986
6987     clear_msacsr_cause(env);
6988
6989     if (df == DF_WORD) {
6990         FMAXMIN_A(min, max, pwx->w[0], pws->w[0], pwt->w[0], 32, status);
6991         FMAXMIN_A(min, max, pwx->w[1], pws->w[1], pwt->w[1], 32, status);
6992         FMAXMIN_A(min, max, pwx->w[2], pws->w[2], pwt->w[2], 32, status);
6993         FMAXMIN_A(min, max, pwx->w[3], pws->w[3], pwt->w[3], 32, status);
6994     } else if (df == DF_DOUBLE) {
6995         FMAXMIN_A(min, max, pwx->d[0], pws->d[0], pwt->d[0], 64, status);
6996         FMAXMIN_A(min, max, pwx->d[1], pws->d[1], pwt->d[1], 64, status);
6997     } else {
6998         assert(0);
6999     }
7000
7001     check_msacsr_cause(env, GETPC());
7002
7003     msa_move_v(pwd, pwx);
7004 }
7005
7006 void helper_msa_fmax_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
7007         uint32_t ws, uint32_t wt)
7008 {
7009      float_status *status = &env->active_tc.msa_fp_status;
7010     wr_t wx, *pwx = &wx;
7011     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
7012     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
7013     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
7014
7015     clear_msacsr_cause(env);
7016
7017     if (df == DF_WORD) {
7018
7019         if (NUMBER_QNAN_PAIR(pws->w[0], pwt->w[0], 32, status)) {
7020             MSA_FLOAT_MAXOP(pwx->w[0], max, pws->w[0], pws->w[0], 32);
7021         } else if (NUMBER_QNAN_PAIR(pwt->w[0], pws->w[0], 32, status)) {
7022             MSA_FLOAT_MAXOP(pwx->w[0], max, pwt->w[0], pwt->w[0], 32);
7023         } else {
7024             MSA_FLOAT_MAXOP(pwx->w[0], max, pws->w[0], pwt->w[0], 32);
7025         }
7026
7027         if (NUMBER_QNAN_PAIR(pws->w[1], pwt->w[1], 32, status)) {
7028             MSA_FLOAT_MAXOP(pwx->w[1], max, pws->w[1], pws->w[1], 32);
7029         } else if (NUMBER_QNAN_PAIR(pwt->w[1], pws->w[1], 32, status)) {
7030             MSA_FLOAT_MAXOP(pwx->w[1], max, pwt->w[1], pwt->w[1], 32);
7031         } else {
7032             MSA_FLOAT_MAXOP(pwx->w[1], max, pws->w[1], pwt->w[1], 32);
7033         }
7034
7035         if (NUMBER_QNAN_PAIR(pws->w[2], pwt->w[2], 32, status)) {
7036             MSA_FLOAT_MAXOP(pwx->w[2], max, pws->w[2], pws->w[2], 32);
7037         } else if (NUMBER_QNAN_PAIR(pwt->w[2], pws->w[2], 32, status)) {
7038             MSA_FLOAT_MAXOP(pwx->w[2], max, pwt->w[2], pwt->w[2], 32);
7039         } else {
7040             MSA_FLOAT_MAXOP(pwx->w[2], max, pws->w[2], pwt->w[2], 32);
7041         }
7042
7043         if (NUMBER_QNAN_PAIR(pws->w[3], pwt->w[3], 32, status)) {
7044             MSA_FLOAT_MAXOP(pwx->w[3], max, pws->w[3], pws->w[3], 32);
7045         } else if (NUMBER_QNAN_PAIR(pwt->w[3], pws->w[3], 32, status)) {
7046             MSA_FLOAT_MAXOP(pwx->w[3], max, pwt->w[3], pwt->w[3], 32);
7047         } else {
7048             MSA_FLOAT_MAXOP(pwx->w[3], max, pws->w[3], pwt->w[3], 32);
7049         }
7050
7051     } else if (df == DF_DOUBLE) {
7052
7053         if (NUMBER_QNAN_PAIR(pws->d[0], pwt->d[0], 64, status)) {
7054             MSA_FLOAT_MAXOP(pwx->d[0], max, pws->d[0], pws->d[0], 64);
7055         } else if (NUMBER_QNAN_PAIR(pwt->d[0], pws->d[0], 64, status)) {
7056             MSA_FLOAT_MAXOP(pwx->d[0], max, pwt->d[0], pwt->d[0], 64);
7057         } else {
7058             MSA_FLOAT_MAXOP(pwx->d[0], max, pws->d[0], pwt->d[0], 64);
7059         }
7060
7061         if (NUMBER_QNAN_PAIR(pws->d[1], pwt->d[1], 64, status)) {
7062             MSA_FLOAT_MAXOP(pwx->d[1], max, pws->d[1], pws->d[1], 64);
7063         } else if (NUMBER_QNAN_PAIR(pwt->d[1], pws->d[1], 64, status)) {
7064             MSA_FLOAT_MAXOP(pwx->d[1], max, pwt->d[1], pwt->d[1], 64);
7065         } else {
7066             MSA_FLOAT_MAXOP(pwx->d[1], max, pws->d[1], pwt->d[1], 64);
7067         }
7068
7069     } else {
7070
7071         assert(0);
7072
7073     }
7074
7075     check_msacsr_cause(env, GETPC());
7076
7077     msa_move_v(pwd, pwx);
7078 }
7079
7080 void helper_msa_fmax_a_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
7081         uint32_t ws, uint32_t wt)
7082 {
7083     float_status *status = &env->active_tc.msa_fp_status;
7084     wr_t wx, *pwx = &wx;
7085     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
7086     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
7087     wr_t *pwt = &(env->active_fpu.fpr[wt].wr);
7088
7089     clear_msacsr_cause(env);
7090
7091     if (df == DF_WORD) {
7092         FMAXMIN_A(max, min, pwx->w[0], pws->w[0], pwt->w[0], 32, status);
7093         FMAXMIN_A(max, min, pwx->w[1], pws->w[1], pwt->w[1], 32, status);
7094         FMAXMIN_A(max, min, pwx->w[2], pws->w[2], pwt->w[2], 32, status);
7095         FMAXMIN_A(max, min, pwx->w[3], pws->w[3], pwt->w[3], 32, status);
7096     } else if (df == DF_DOUBLE) {
7097         FMAXMIN_A(max, min, pwx->d[0], pws->d[0], pwt->d[0], 64, status);
7098         FMAXMIN_A(max, min, pwx->d[1], pws->d[1], pwt->d[1], 64, status);
7099     } else {
7100         assert(0);
7101     }
7102
7103     check_msacsr_cause(env, GETPC());
7104
7105     msa_move_v(pwd, pwx);
7106 }
7107
7108 void helper_msa_fclass_df(CPUMIPSState *env, uint32_t df,
7109         uint32_t wd, uint32_t ws)
7110 {
7111     float_status *status = &env->active_tc.msa_fp_status;
7112
7113     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
7114     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
7115     if (df == DF_WORD) {
7116         pwd->w[0] = float_class_s(pws->w[0], status);
7117         pwd->w[1] = float_class_s(pws->w[1], status);
7118         pwd->w[2] = float_class_s(pws->w[2], status);
7119         pwd->w[3] = float_class_s(pws->w[3], status);
7120     } else if (df == DF_DOUBLE) {
7121         pwd->d[0] = float_class_d(pws->d[0], status);
7122         pwd->d[1] = float_class_d(pws->d[1], status);
7123     } else {
7124         assert(0);
7125     }
7126 }
7127
7128 #define MSA_FLOAT_UNOP0(DEST, OP, ARG, BITS)                                \
7129     do {                                                                    \
7130         float_status *status = &env->active_tc.msa_fp_status;               \
7131         int c;                                                              \
7132                                                                             \
7133         set_float_exception_flags(0, status);                               \
7134         DEST = float ## BITS ## _ ## OP(ARG, status);                       \
7135         c = update_msacsr(env, CLEAR_FS_UNDERFLOW, 0);                      \
7136                                                                             \
7137         if (get_enabled_exceptions(env, c)) {                               \
7138             DEST = ((FLOAT_SNAN ## BITS(status) >> 6) << 6) | c;            \
7139         } else if (float ## BITS ## _is_any_nan(ARG)) {                     \
7140             DEST = 0;                                                       \
7141         }                                                                   \
7142     } while (0)
7143
7144 void helper_msa_ftrunc_s_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
7145                             uint32_t ws)
7146 {
7147     wr_t wx, *pwx = &wx;
7148     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
7149     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
7150     uint32_t i;
7151
7152     clear_msacsr_cause(env);
7153
7154     switch (df) {
7155     case DF_WORD:
7156         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
7157             MSA_FLOAT_UNOP0(pwx->w[i], to_int32_round_to_zero, pws->w[i], 32);
7158         }
7159         break;
7160     case DF_DOUBLE:
7161         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
7162             MSA_FLOAT_UNOP0(pwx->d[i], to_int64_round_to_zero, pws->d[i], 64);
7163         }
7164         break;
7165     default:
7166         assert(0);
7167     }
7168
7169     check_msacsr_cause(env, GETPC());
7170
7171     msa_move_v(pwd, pwx);
7172 }
7173
7174 void helper_msa_ftrunc_u_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
7175                             uint32_t ws)
7176 {
7177     wr_t wx, *pwx = &wx;
7178     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
7179     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
7180     uint32_t i;
7181
7182     clear_msacsr_cause(env);
7183
7184     switch (df) {
7185     case DF_WORD:
7186         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
7187             MSA_FLOAT_UNOP0(pwx->w[i], to_uint32_round_to_zero, pws->w[i], 32);
7188         }
7189         break;
7190     case DF_DOUBLE:
7191         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
7192             MSA_FLOAT_UNOP0(pwx->d[i], to_uint64_round_to_zero, pws->d[i], 64);
7193         }
7194         break;
7195     default:
7196         assert(0);
7197     }
7198
7199     check_msacsr_cause(env, GETPC());
7200
7201     msa_move_v(pwd, pwx);
7202 }
7203
7204 void helper_msa_fsqrt_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
7205                          uint32_t ws)
7206 {
7207     wr_t wx, *pwx = &wx;
7208     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
7209     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
7210     uint32_t i;
7211
7212     clear_msacsr_cause(env);
7213
7214     switch (df) {
7215     case DF_WORD:
7216         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
7217             MSA_FLOAT_UNOP(pwx->w[i], sqrt, pws->w[i], 32);
7218         }
7219         break;
7220     case DF_DOUBLE:
7221         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
7222             MSA_FLOAT_UNOP(pwx->d[i], sqrt, pws->d[i], 64);
7223         }
7224         break;
7225     default:
7226         assert(0);
7227     }
7228
7229     check_msacsr_cause(env, GETPC());
7230
7231     msa_move_v(pwd, pwx);
7232 }
7233
7234 #define MSA_FLOAT_RECIPROCAL(DEST, ARG, BITS)                               \
7235     do {                                                                    \
7236         float_status *status = &env->active_tc.msa_fp_status;               \
7237         int c;                                                              \
7238                                                                             \
7239         set_float_exception_flags(0, status);                               \
7240         DEST = float ## BITS ## _ ## div(FLOAT_ONE ## BITS, ARG, status);   \
7241         c = update_msacsr(env, float ## BITS ## _is_infinity(ARG) ||        \
7242                           float ## BITS ## _is_quiet_nan(DEST, status) ?    \
7243                           0 : RECIPROCAL_INEXACT,                           \
7244                           IS_DENORMAL(DEST, BITS));                         \
7245                                                                             \
7246         if (get_enabled_exceptions(env, c)) {                               \
7247             DEST = ((FLOAT_SNAN ## BITS(status) >> 6) << 6) | c;            \
7248         }                                                                   \
7249     } while (0)
7250
7251 void helper_msa_frsqrt_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
7252                           uint32_t ws)
7253 {
7254     wr_t wx, *pwx = &wx;
7255     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
7256     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
7257     uint32_t i;
7258
7259     clear_msacsr_cause(env);
7260
7261     switch (df) {
7262     case DF_WORD:
7263         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
7264             MSA_FLOAT_RECIPROCAL(pwx->w[i], float32_sqrt(pws->w[i],
7265                     &env->active_tc.msa_fp_status), 32);
7266         }
7267         break;
7268     case DF_DOUBLE:
7269         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
7270             MSA_FLOAT_RECIPROCAL(pwx->d[i], float64_sqrt(pws->d[i],
7271                     &env->active_tc.msa_fp_status), 64);
7272         }
7273         break;
7274     default:
7275         assert(0);
7276     }
7277
7278     check_msacsr_cause(env, GETPC());
7279
7280     msa_move_v(pwd, pwx);
7281 }
7282
7283 void helper_msa_frcp_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
7284                         uint32_t ws)
7285 {
7286     wr_t wx, *pwx = &wx;
7287     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
7288     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
7289     uint32_t i;
7290
7291     clear_msacsr_cause(env);
7292
7293     switch (df) {
7294     case DF_WORD:
7295         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
7296             MSA_FLOAT_RECIPROCAL(pwx->w[i], pws->w[i], 32);
7297         }
7298         break;
7299     case DF_DOUBLE:
7300         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
7301             MSA_FLOAT_RECIPROCAL(pwx->d[i], pws->d[i], 64);
7302         }
7303         break;
7304     default:
7305         assert(0);
7306     }
7307
7308     check_msacsr_cause(env, GETPC());
7309
7310     msa_move_v(pwd, pwx);
7311 }
7312
7313 void helper_msa_frint_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
7314                          uint32_t ws)
7315 {
7316     wr_t wx, *pwx = &wx;
7317     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
7318     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
7319     uint32_t i;
7320
7321     clear_msacsr_cause(env);
7322
7323     switch (df) {
7324     case DF_WORD:
7325         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
7326             MSA_FLOAT_UNOP(pwx->w[i], round_to_int, pws->w[i], 32);
7327         }
7328         break;
7329     case DF_DOUBLE:
7330         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
7331             MSA_FLOAT_UNOP(pwx->d[i], round_to_int, pws->d[i], 64);
7332         }
7333         break;
7334     default:
7335         assert(0);
7336     }
7337
7338     check_msacsr_cause(env, GETPC());
7339
7340     msa_move_v(pwd, pwx);
7341 }
7342
7343 #define MSA_FLOAT_LOGB(DEST, ARG, BITS)                                     \
7344     do {                                                                    \
7345         float_status *status = &env->active_tc.msa_fp_status;               \
7346         int c;                                                              \
7347                                                                             \
7348         set_float_exception_flags(0, status);                               \
7349         set_float_rounding_mode(float_round_down, status);                  \
7350         DEST = float ## BITS ## _ ## log2(ARG, status);                     \
7351         DEST = float ## BITS ## _ ## round_to_int(DEST, status);            \
7352         set_float_rounding_mode(ieee_rm[(env->active_tc.msacsr &            \
7353                                          MSACSR_RM_MASK) >> MSACSR_RM],     \
7354                                 status);                                    \
7355                                                                             \
7356         set_float_exception_flags(get_float_exception_flags(status) &       \
7357                                   (~float_flag_inexact),                    \
7358                                   status);                                  \
7359                                                                             \
7360         c = update_msacsr(env, 0, IS_DENORMAL(DEST, BITS));                 \
7361                                                                             \
7362         if (get_enabled_exceptions(env, c)) {                               \
7363             DEST = ((FLOAT_SNAN ## BITS(status) >> 6) << 6) | c;            \
7364         }                                                                   \
7365     } while (0)
7366
7367 void helper_msa_flog2_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
7368                          uint32_t ws)
7369 {
7370     wr_t wx, *pwx = &wx;
7371     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
7372     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
7373     uint32_t i;
7374
7375     clear_msacsr_cause(env);
7376
7377     switch (df) {
7378     case DF_WORD:
7379         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
7380             MSA_FLOAT_LOGB(pwx->w[i], pws->w[i], 32);
7381         }
7382         break;
7383     case DF_DOUBLE:
7384         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
7385             MSA_FLOAT_LOGB(pwx->d[i], pws->d[i], 64);
7386         }
7387         break;
7388     default:
7389         assert(0);
7390     }
7391
7392     check_msacsr_cause(env, GETPC());
7393
7394     msa_move_v(pwd, pwx);
7395 }
7396
7397 void helper_msa_fexupl_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
7398                           uint32_t ws)
7399 {
7400     wr_t wx, *pwx = &wx;
7401     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
7402     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
7403     uint32_t i;
7404
7405     clear_msacsr_cause(env);
7406
7407     switch (df) {
7408     case DF_WORD:
7409         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
7410             /*
7411              * Half precision floats come in two formats: standard
7412              * IEEE and "ARM" format.  The latter gains extra exponent
7413              * range by omitting the NaN/Inf encodings.
7414              */
7415             bool ieee = true;
7416
7417             MSA_FLOAT_BINOP(pwx->w[i], from_float16, Lh(pws, i), ieee, 32);
7418         }
7419         break;
7420     case DF_DOUBLE:
7421         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
7422             MSA_FLOAT_UNOP(pwx->d[i], from_float32, Lw(pws, i), 64);
7423         }
7424         break;
7425     default:
7426         assert(0);
7427     }
7428
7429     check_msacsr_cause(env, GETPC());
7430     msa_move_v(pwd, pwx);
7431 }
7432
7433 void helper_msa_fexupr_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
7434                           uint32_t ws)
7435 {
7436     wr_t wx, *pwx = &wx;
7437     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
7438     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
7439     uint32_t i;
7440
7441     clear_msacsr_cause(env);
7442
7443     switch (df) {
7444     case DF_WORD:
7445         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
7446             /*
7447              * Half precision floats come in two formats: standard
7448              * IEEE and "ARM" format.  The latter gains extra exponent
7449              * range by omitting the NaN/Inf encodings.
7450              */
7451             bool ieee = true;
7452
7453             MSA_FLOAT_BINOP(pwx->w[i], from_float16, Rh(pws, i), ieee, 32);
7454         }
7455         break;
7456     case DF_DOUBLE:
7457         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
7458             MSA_FLOAT_UNOP(pwx->d[i], from_float32, Rw(pws, i), 64);
7459         }
7460         break;
7461     default:
7462         assert(0);
7463     }
7464
7465     check_msacsr_cause(env, GETPC());
7466     msa_move_v(pwd, pwx);
7467 }
7468
7469 void helper_msa_ffql_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
7470                         uint32_t ws)
7471 {
7472     wr_t wx, *pwx = &wx;
7473     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
7474     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
7475     uint32_t i;
7476
7477     switch (df) {
7478     case DF_WORD:
7479         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
7480             MSA_FLOAT_UNOP(pwx->w[i], from_q16, Lh(pws, i), 32);
7481         }
7482         break;
7483     case DF_DOUBLE:
7484         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
7485             MSA_FLOAT_UNOP(pwx->d[i], from_q32, Lw(pws, i), 64);
7486         }
7487         break;
7488     default:
7489         assert(0);
7490     }
7491
7492     msa_move_v(pwd, pwx);
7493 }
7494
7495 void helper_msa_ffqr_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
7496                         uint32_t ws)
7497 {
7498     wr_t wx, *pwx = &wx;
7499     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
7500     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
7501     uint32_t i;
7502
7503     switch (df) {
7504     case DF_WORD:
7505         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
7506             MSA_FLOAT_UNOP(pwx->w[i], from_q16, Rh(pws, i), 32);
7507         }
7508         break;
7509     case DF_DOUBLE:
7510         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
7511             MSA_FLOAT_UNOP(pwx->d[i], from_q32, Rw(pws, i), 64);
7512         }
7513         break;
7514     default:
7515         assert(0);
7516     }
7517
7518     msa_move_v(pwd, pwx);
7519 }
7520
7521 void helper_msa_ftint_s_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
7522                            uint32_t ws)
7523 {
7524     wr_t wx, *pwx = &wx;
7525     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
7526     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
7527     uint32_t i;
7528
7529     clear_msacsr_cause(env);
7530
7531     switch (df) {
7532     case DF_WORD:
7533         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
7534             MSA_FLOAT_UNOP0(pwx->w[i], to_int32, pws->w[i], 32);
7535         }
7536         break;
7537     case DF_DOUBLE:
7538         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
7539             MSA_FLOAT_UNOP0(pwx->d[i], to_int64, pws->d[i], 64);
7540         }
7541         break;
7542     default:
7543         assert(0);
7544     }
7545
7546     check_msacsr_cause(env, GETPC());
7547
7548     msa_move_v(pwd, pwx);
7549 }
7550
7551 void helper_msa_ftint_u_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
7552                            uint32_t ws)
7553 {
7554     wr_t wx, *pwx = &wx;
7555     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
7556     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
7557     uint32_t i;
7558
7559     clear_msacsr_cause(env);
7560
7561     switch (df) {
7562     case DF_WORD:
7563         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
7564             MSA_FLOAT_UNOP0(pwx->w[i], to_uint32, pws->w[i], 32);
7565         }
7566         break;
7567     case DF_DOUBLE:
7568         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
7569             MSA_FLOAT_UNOP0(pwx->d[i], to_uint64, pws->d[i], 64);
7570         }
7571         break;
7572     default:
7573         assert(0);
7574     }
7575
7576     check_msacsr_cause(env, GETPC());
7577
7578     msa_move_v(pwd, pwx);
7579 }
7580
7581 #define float32_from_int32 int32_to_float32
7582 #define float32_from_uint32 uint32_to_float32
7583
7584 #define float64_from_int64 int64_to_float64
7585 #define float64_from_uint64 uint64_to_float64
7586
7587 void helper_msa_ffint_s_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
7588                            uint32_t ws)
7589 {
7590     wr_t wx, *pwx = &wx;
7591     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
7592     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
7593     uint32_t i;
7594
7595     clear_msacsr_cause(env);
7596
7597     switch (df) {
7598     case DF_WORD:
7599         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
7600             MSA_FLOAT_UNOP(pwx->w[i], from_int32, pws->w[i], 32);
7601         }
7602         break;
7603     case DF_DOUBLE:
7604         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
7605             MSA_FLOAT_UNOP(pwx->d[i], from_int64, pws->d[i], 64);
7606         }
7607         break;
7608     default:
7609         assert(0);
7610     }
7611
7612     check_msacsr_cause(env, GETPC());
7613
7614     msa_move_v(pwd, pwx);
7615 }
7616
7617 void helper_msa_ffint_u_df(CPUMIPSState *env, uint32_t df, uint32_t wd,
7618                            uint32_t ws)
7619 {
7620     wr_t wx, *pwx = &wx;
7621     wr_t *pwd = &(env->active_fpu.fpr[wd].wr);
7622     wr_t *pws = &(env->active_fpu.fpr[ws].wr);
7623     uint32_t i;
7624
7625     clear_msacsr_cause(env);
7626
7627     switch (df) {
7628     case DF_WORD:
7629         for (i = 0; i < DF_ELEMENTS(DF_WORD); i++) {
7630             MSA_FLOAT_UNOP(pwx->w[i], from_uint32, pws->w[i], 32);
7631         }
7632         break;
7633     case DF_DOUBLE:
7634         for (i = 0; i < DF_ELEMENTS(DF_DOUBLE); i++) {
7635             MSA_FLOAT_UNOP(pwx->d[i], from_uint64, pws->d[i], 64);
7636         }
7637         break;
7638     default:
7639         assert(0);
7640     }
7641
7642     check_msacsr_cause(env, GETPC());
7643
7644     msa_move_v(pwd, pwx);
7645 }