RISC-Vベクトル拡張について解説する

レジスタ

まず、RV32Vに定義されているレジスタには

• v0-v31：ベクトルレジスタ
• vl：ベクトル長
• vtype：データ型
• vxsat：固定小数の飽和フラグ
• vxrm：固定小数の丸めモード
• vstart：ベクトル演算の開始オフセット

があります。最初のだけが汎用レジスタ、残りはシステム制御用レジスタ(CSR/Control and Status Registers)です。そして、後者3つは細かい設定を必要とする時にしか使わないので、本解説では割愛します。大事なのは前者3つです。

まず、ベクトルレジスタが32個ありますが、幅は実装依存です。これはVLENと呼ばれ、2ベキであることと、全てのレジスタが同じVLENであることのみが保証されています。
ただしv0はゼロレジスタであり、常に0で、何を書いても0のままです（スカラーのx0レジスタと同じです）。

vlレジスタには、実際に1命令で実行されるベクトル長、つまり、何個の要素が計算されるかを符号なし整数で示します。

vtypeレジスタは、以下のように、1要素の長さ等を各フィールドで表します

• vsew：3[bit]の値で、1要素の長さSEWが2^(3+vsew)[bit]であることを表します（例えばb011なら1要素は64bit）。SEWの最小値は8、最大値は1024になります
• vlmul：2[bit]の値で、1命令で使用するベクトルレジスタの数LMULが2^vlmul個であることと表します（例えばb10なら、指定されたレジスタから後ろ4個が使われる）。LMULに最小値は1、最大値は8になります
• vill：設定値がおかしい時に1になるフラグです（詳しくは後述）
• vediv：EDIVと呼ばれる拡張機能で使うのですが、拡張機能なので本解説では割愛します

vlとvtypeレジスタによって、1命令で実行できる最大要素数VLMAXがVLEN*LMUL/SEW個であると決定されます。

設定命令

このvlとvtypeレジスタは読み込み専用で、設定はレジスタに直接書くのではなく、vsetvliまたはvsetvl命令で同時に指定します。

vsetvli rd rs1 vtypei
vsetvl  rd rs1 rs2

• rs1は、vlに設定しようとする値AVLです
• vtypeiには、vtypeレジスタの値をそのまま即値指定します。即値のために、アセンブラには以下が用意されています
  • e8,e16,…,e128→SEWが8,16,…,128であることを示す
  • m1,m2,m4,m8→LMULが1,2,4,8個であることを示す（指定しないとm1とみなされる）
• vsetvlでは即値ではなくレジスタrs2でvtypeを値を指定できます
• rdには、実際にvlとなった値が返ってきます

ここで注意しなければならないのは、rs1で指定した値が、そのまま計算で使用されるベクトル長vlになるわけではないということです。
簡単な例を出すと、32[bit]要素を128個演算したい(SEW=32、AVL=128)と指定すると、全部で32*128=4096[bit]必要になりますが、ベクトルレジスタの数は31個しかないのでベクトルレジスタの幅VLENが64[bit]の実装だった場合には、1命令で実行できる要素数vlが128個になることはありません（レジスタ全部合わせて32*64=1984[bit]しかないので、4096[bit]は入らない）

指定された要素数AVLから実際に計算されるvlの値は実際には以下のように決まります

• VLMAX以下の時は、AVLそのまま (AVL≦VLMAX→vl=AVL)
• VLMAXの2倍より小さい時は、半分（切り上げ）からVLMAXの間 (VLMAX<AVL<2*VLMAX→⌈AVL/2⌉≦vl≦VLMAX)
• VLMAXの2倍以上なら、VLMAX (AVL≧2*VLMAX→vl=VLMAX)
• -1なら無限を意味し、つまり最大値を使うことを意味します (AVL=-1→vl=VLMAX)

なお、AVLに0を指定すると、vlの値を変更することなく、rdに現在のvl値を取得できます。

少し複雑なので、例題を出します。
ここに、ベクトルレジスタの最大幅VLENが2048[bit]のハードウェアがあるとします。それに対して、64[bit]要素の配列をベクトル演算したい時には、

1. まず、vtypeiまたはrs2のvsewフィールドにはb011を指定し、1要素の幅SEWを64[bit]にします
2. 1命令でいくつのレジスタを使うかをvlmulフィールドで決めます。ここではb10を指定し、1命令で4つのレジスタを使用するLMUL=4としました
3. すると、1命令で実行できる最大要素数VLMAXは4*2048/64=128個になります
4. なので、rs1でAVL=256以上を指定すれば、1命令で実際に実行される要素数vlは128個になります
5. AVL=205を指定すると、vlは103個から128個のどれか（実装依存）になります
6. AVL=18を指定すると、vl=18個になります
7. AVL=-1を指定すると、最大値なのでvl=128個になります
8. AVL=0を指定すると、vlの値は変わらないまま、rdに現在のvlが格納されます

という感じになります。

このようにvlの決定方法が決められているのは、主にレジスタスピルやコンテキストスイッチのために退避・復元するレジスタ数などを決定しやすくするためです。
また、「VLMAXの2倍より小さい時」の特殊化が入っているのは、反復の最後の端数処理の時のためです。
例えば1命令の最大要素数(VLEN)＝128個で残りの要素数(AVL)＝140個の時に、最後の2回の反復で計算する要素数を、128個→12個と偏らせず70個→70個と均等分散させられます。

また、vtypeにはどんな値でも入れられるわけではなく、要素の長さSEWには制限があり、これをELENと呼び実装依存の固有値です（2ベキではある）。
例えば、スカラーのレジスタ幅（※RV32やRV64などのアドレス幅とは関係ない）であるXLENより長いデータ長はサポートしないことが多いと考えられるので、その場合ELENは自動的にXLENと等しくなることが多いと思います。
もし、SEWなどに実装でサポートされていない値を入れた場合、villフィールドに1が立ちます。

このような仕様の何が嬉しいかと言うと、ISAがかなり単純になることです。先述の通り、従来は、演算したい幅や要素幅をオペコードに入れていたため、それぞれに対して命令が定義され、結果的にデコーダーの負荷が高く、かつ将来の拡張性が低いものでした。

しかし、RV32Vなら、以下のようにとても簡単な命令列で、どんなハードウェアでも効率的にベクトル演算をすることができます。

# a0：配列の（残りの）要素数
loop:
	vlsetvli t0, a0, e64,m4 # 64[bit]で4レジスタを使い、残りa0個全部を計算したいと入力するが、実際に計算される数vlはt0に返ってくる
							### ここでベクトル演算などをする
	sub      a0, a0, t0     # 残りの要素数を計算する      : a0 -= t0;
	bnez     a0, loop       # 残りが0個になるまで繰り返す : if(a0 != 0) goto loop;

連続アクセス

通常の連続アクセスは簡単で、指定したアドレスからvl個の要素をLMUL個のレジスタを使って読み込みます

vlb.v vd, (rs1), vm # rs1のアドレスから、vdへ、b(08bit)を、連続で、読み込む
vlh.v vd, (rs1), vm # rs1のアドレスから、vdへ、h(16bit)を、連続で、読み込む
vlw.v vd, (rs1), vm # rs1のアドレスから、vdへ、w(32bit)を、連続で、読み込む
vle.v vd, (rs1), vm # rs1のアドレスから、vdへ、vtypeレジスタ.SEWの要素サイズを、連続で、読み込む

vsb.v vs3, (rs1), vm # rs1のアドレスへ、vs3から、b(08bit)を、連続で、書き込む
vsh.v vs3, (rs1), vm # rs1のアドレスへ、vs3から、h(16bit)を、連続で、書き込む
vsw.v vs3, (rs1), vm # rs1のアドレスへ、vs3から、w(32bit)を、連続で、書き込む
vle.v vs3, (rs1), vm # rs1のアドレスへ、vtypeレジスタ.SEWの要素サイズを、連続で、書き込む

ストライド

ストライドは、連続アクセスに加えて、rd2にストライド、つまり次の要素までの間隔が何バイトであるかを指定します（負またはゼロも可）

vlsb.v vd, (rs1), rs2, vm # rs1のアドレスから、vdへ、b(08bit)を、rs2[byte]間隔で、読み込む
vlsh.v vd, (rs1), rs2, vm # rs1のアドレスから、vdへ、h(16bit)を、rs2[byte]間隔で、読み込む
vlsw.v vd, (rs1), rs2, vm # rs1のアドレスから、vdへ、w(32bit)を、rs2[byte]間隔で、読み込む
vlse.v vd, (rs1), rs2, vm # rs1のアドレスから、vdへ、vtypeレジスタ.SEWの要素サイズを。rs2[byte]間隔で、読み込む

vssb.v vs3, (rs1), rs2, vm # rs1のアドレスへ、vs3から、b(08bit)を、rs2[byte]間隔で、書き込む
vssh.v vs3, (rs1), rs2, vm # rs1のアドレスへ、vs3から、h(16bit)を、rs2[byte]間隔で、書き込む
vssw.v vs3, (rs1), rs2, vm # rs1のアドレスへ、vs3から、w(32bit)を、rs2[byte]間隔で、書き込む
vlse.v vs3, (rs1), rs2, vm # rs1のアドレスへ、vs3から、vtypeレジスタ.SEWの要素サイズを、rs2[byte]間隔で、書き込む

インデックスアクセス

インデックスアクセスは、固定されたストライドではなく、各要素が指定されたベクトルレジスタにある要素番号（オフセット）から取得されます

vlxb.v vd, (rs1), vs2, vm # rs1のアドレスから、vdへ、b(08bit)を、各々vs2進んだところから、読み込む
vlxh.v vd, (rs1), vs2, vm # rs1のアドレスから、vdへ、h(16bit)を、各々vs2進んだところから、読み込む
vlxw.v vd, (rs1), vs2, vm # rs1のアドレスから、vdへ、w(32bit)を、各々vs2進んだところから、読み込む
vlxe.v vd, (rs1), vs2, vm # rs1のアドレスから、vdへ、vtypeレジスタ.SEWの要素サイズを。各々vs2進んだところから、読み込む

vsxb.v vs3, (rs1), vs2, vm # rs1のアドレスへ、vs3から、b(08bit)を、各々vs2進んだところへ、書き込む
vsxh.v vs3, (rs1), vs2, vm # rs1のアドレスへ、vs3から、h(16bit)を、各々vs2進んだところへ、書き込む
vsxw.v vs3, (rs1), vs2, vm # rs1のアドレスへ、vs3から、w(32bit)を、各々vs2進んだところへ、書き込む
vlxe.v vs3, (rs1), vs2, vm # rs1のアドレスへ、vs3から、vtypeレジスタ.SEWの要素サイズを、各々vs2進んだところへ、書き込む

フラグ判定付き読み込み

連続アクセスには、「0が取得されたらそこで読み書きを終了する」という読み込み命令(fault-only-first)があります。

vlbff.v vd, (rs1), vm # rs1のアドレスから、vdへ、b(08bit)を、0が取得されるまで連続で、読み込む
vlhff.v vd, (rs1), vm # rs1のアドレスから、vdへ、h(16bit)を、0が取得されるまで連続で、読み込む
vlwff.v vd, (rs1), vm # rs1のアドレスから、vdへ、w(32bit)を、0が取得されるまで連続で、読み込む
vleff.v vd, (rs1), vm # rs1のアドレスから、vdへ、vtypeレジスタ.SEWの要素サイズを、0が取得されるまで連続で、読み込む

この命令を実行後にvlレジスタを読みに行くと、実際に読み込まれた値が含まれています。

つまり、例えばvl=8の時にvd={10, 11, 12, 13, 14, 15, 16, 17}に対してvlffを発行した時、(rs1)に{1, 2, 3, 4, 5, 0, 0, 0}があったとすると、実際にはvd={1, 2, 3, 4, 5, 15, 16, 17}になり、vl=5になっています。

これは、whileループのようなもので、特に\0終端の文字列を読み込む時などに有用です。

# a0に文字列のポインタが入っているとする
vsetvli x0, x0, b00000 # 最大長読み込む設定
vlbff.v vd, v1, (a0)   # 文字列を読み込む
csrr    a1, vl         # 実際に何個読まれたかを取得する

なお、フラグ判定付きは連続アクセスにしかなく、ストライドやインデックスアクセスには用意されていません。これは、オーバーラン等のセキュリティーリスクが高すぎるためとのことです。将来的に拡張機能で入る可能性は否定されていないようです。

（拡張機能）セグメント読み書き

上記までは1要素ずつの読み書きでしたが、拡張機能として、複数要素の単位で読み書きする命令が提案されています。

これは、AoS(Array of Structures)のデータ構造を読み書きするのに重要で、特にストライドやインデックスアクセスに利用されます。

まだ提案されたばかり＆拡張機能なので、詳しくは割愛します。

水平移動

n個ずらして格納します

# 右にずらす。rs1/immより左にある値は変更されず、vl<VLMAXの時の末尾は0埋めされる
vslideup.vx vd, vs2, rs1, vm # vd[i+rs1] = vs2[i]
vslideup.vi vd, vs2, imm, vm # vd[i+imm] = vs2[i]

# 左にずらす。末尾は0となる
vslidedown.vx vd, vs2, rs1, vm # vd[i+rs1] = vs2[i] # vd[i] = vs2[i+rs1]
vslidedown.vi vd, vs2, imm, vm # vd[i+imm] = vs2[i] # vd[i] = vs2[i+imm]

また、1個だけずらし、末尾/先頭にはスカラーレジスタx0,x1,…から読み込むという命令もあります。

vslide1up.vx   vd, vs2, rs1, vm # vd[i+1] = vs2[i]  , vd[0]=x[rs1] 
vslide1down.vx vd, vs2, rs1, vm # vd[i]   = vs2[i+1], vd[vl-1]=x[rs1]

インデックス移動

ベクトルレジスタにコピー元の要素番号を入力することができます

vrgather.vv vd, vs2, vs1, vm # vd[i] = vs2[vs1[i]]; # 各要素の番号が異なる
vrgather.vx vd, vs2, rs1, vm # vd[i] = vs2[rs1]     # 1要素からコピー（いわゆる配信/broadcast）
vrgather.vi vd, vs2, imm, vm # vd[i] = vs2[imm]     # 1要素（即値）

圧縮

フラグの立っている要素のみを複製し、前に詰める命令です

vcompress.vm vd, vs2, vs1 # vs1が1の場所のvs2の値を、vdに前に詰める

例えば以下のようになります