ベクトルプログラミングとunsafe

5K Views

April 27, 24

スライド概要

松井敏

@binnmti

スライド一覧

こんにちは

またはPlayer版

埋め込む »CMSなどでJSが使えない場合

ダウンロード

ダウンロード(pdf - 1.1MB)

関連スライド

ベクトルプログラミング入門を読んでunsafeの沼に足を踏み入れかけたが _unsafeはUnsafeでセーフ_

松井敏 1K

猫でも分かるUnreal Engineの学び方 - 超初心者向け編 - 2023 v1.0

ue4 ue5 ue-beginner

エピックゲームズジャパン 1M

Unreal Engine5 Lumenの仕組みと肝心なところ

ue5 ue-rendering ue-lumen

エピックゲームズジャパン 884.6K

SQL滅ぶべし

株式会社ホクソエム 777.7K

SPAセキュリティ超入門

security php javascript

徳丸浩 692.9K

各ページのテキスト

C#ベクトルプログラミング入門を読んで UNSAFEについて調べてみた 2024/04/27 C#パフォーマンス勉強会松井敏

自己紹介 • 名前 : 松井敏 a.k.a @moririring • 職業 : Codeer、HACARUS(副業) • 著書 : Unity5 3Dゲーム開発講座 • 表彰 : Microsoft MVP for Developer Technologies • コミュニティ : C#読書会主催、Greek Alphabet Software Academy TA

C#ベクトルプログラミング入門について • C#読書会でC#ベクトルプログラミング入門を読んでいる。 • この本は、SIMD(Single Instruction Multiple Data)をC#で使うための本 • System.Runtime.Intrinsics (イントリンシック)の命令(例えばAvx.Addなど)で、1回に 256ビット処理するプログラムが書ける • 例えばfloat型の配列なら256ビット / 32ビットで8個まとめて扱える。…単純に8倍速くなるではないが、状況によっては2-8倍以上速くなることもある

https://amzn.to/49nuF0S

C#ベクトルプログラミング入門について • System.Runtime.Intrinsicsの命令は一杯あって、本ではその説明が一番長い（3割弱）。 • 足し算や掛け算は兎も角、これ何に使うんだろうという命令、例えば偶数のみ複製とかアンパッチしてインターリーブする（？）命令とかまである。 • しかも説明の最初に「これはごく一部です」と書いてある。 • 正直、読書会でもその章は途中で止めた。

UNSAFE • イントリンシックの命令を扱う際に本の中でunsafe, fixed, stackallocなどが出てくる • 自分はC#歴は10年以上はあるが、業務でunsafeを使ったことはない • もちろんunsafeを使えば速く出来るケースはあったと思うが結果的には使わずにやってきたため知識が足りてない。。 • この本をきっかけにunsafeについて色々学びなおし

質問 • /unsafe オプションを付けたことがある人？ • 実際にunsafeのコードを書いたことある人？ • C#でポインターを使ったことがある人？ • unsafeを使ってパフォーマンスが向上したことがある人？

UNSAFE=ポインタ？ • そもそもunsafeは何のために使うのか？ • 個人的にはunsafe = ポインタを使いたいからという印象 • MS Learnにもアンセーフコードとポインタという記事がある

https://learn.microsoft.com/ja-jp/dotnet/csharp/language-reference/unsafe-code

ポインタが速い？ • ただ、ちょっと考えみるとポインタはあくまで受け方 • 参照だってコピーは発生しない • 使っただけで直ちに速くなるというわけではない…はず • でも、正直、自分もポインタにするだけで速くなるというイメージはあった。。代償(unsafe)を払ったのだから、それに見合うだけの力(パフォーマンス)を得て当然みたいな

ポインタ以外 • unsafeにおけるポインタ以外のキーワード。 • fixedとstackalloc

10.

FIXED • fixed ステートメント - ポインター操作のために変数を固定する • fixed ステートメントを使うと、ガベージコレクターによる移動可能変数の再配置を防ぎ、その変数へのポインターを宣言することができます。固定 (またはピン留め) された変数のアドレスは、そのステートメントの実行中に変わりません。宣言されたポインターは、対応する fixed ステートメント内でのみ使用できます。宣言されたポインターは読み取り専用であり、変更できません。

https://learn.microsoft.com/ja-jp/dotnet/csharp/language-reference/statements/fixed

11.

STACKALLOC • stackalloc 式 (C# リファレンス) • stackalloc 式を使用すると、スタックにメモリブロックを割り当てることができます。メソッドの実行中に作成されてスタックに割り当てられたメモリブロックは、そのメソッドが戻るときに自動的に破棄されます。 stackalloc を使用して割り当てられたメモリを明示的に開放することはできません。スタックに割り当てられたメモリブロックは、ガベージコレクションの対象外であり、fixed ステートメントを使用してピン留めする必要はありません。

https://learn.microsoft.com/ja-jp/dotnet/csharp/language-reference/operators/stackalloc

12.

ガベージコレクション • 速度向上のコツの一つがガベージコレクションを避けること • fixedとstackallocを使うとまさにガベージコレクションを避けることが出来る

13.

NEW VS FIXED VS STACKALLOC • SharpLab • やっていることは一緒 • 1番目は普通にnew • 2番目はfixed • 3番目はstackalloc • これを100回。大体1 < 2 < 3で速い

https://sharplab.io/

14.

スタックとヒープ • fixedとstackallocの違い。 • stackallocはスタック領域、fixedはヒープ領域からメモリを確保。 • スタックは領域をそのまま使うが、ヒープはアドレスから実体を見に行くので、一般的にスタックはヒープよりも速い

15.

STACKALLOCの特徴 • ただし、スタックは無条件で使えるわけでない • 例えば幅=2000,高さ=2000にしたら？

16.

STACKALLOCの受け方 • 因みにポインタで受けなければ、stackalloc自体はunsafeは必要ない • ポインタを使わない場合はSpan<T>で受ける • Span<byte> content = stackalloc byte[1000];

17.

SPAN<T> • Span<T> 構造体 • メモリの連続した領域にアクセスするために使う型です。 Span<T> インスタンスは、T 型の配列、String、stackalloc を使って割り当てたバッファー、またはアンマネージメモリへのポインターによってバックアップできます。これはスタック上に割り当てる必要があるため、いくつかの制限があります。たとえば、クラス内のフィールドを Span<T> 型にすることはできませんし、非同期操作でスパンを使うこともできません。

https://learn.microsoft.com/ja-jp/dotnet/api/system.span-1?view=net-8.0

18.

BYTE[] VS * VS SPAN<T> • SharpLab • 1はnewをbyte配列 • 2はnewをSpan<T> • 3はstackallocをbyte* • 4はstackallocをSpan<T> • 1 < 2は絶対速い。3 < 4はほんの少し速い

https://sharplab.io/

19.

VARクイズ • varの型は？ • var a1 = new byte[w * h]; • Answer: byte[] • var a2 = stackalloc byte[w * h]; • Answer: byte* • var a3 = (w * h > 1000) ? new byte[w * h] : stackalloc byte[w * h]; • Answer: Span<byte> • var a4 = (stackalloc byte[w * h]); • Answer: Span<byte>

20.

属性 • あとパフォーマンスに [SkipLocalsInit]が効くケースもある

21.

[SKIPLOCALSINIT] • SkipLocalsInitAttribute クラス • この属性は安全ではありません。これは、初期化されていないメモリが特定のインスタンスでアプリケーションに表示される可能性があるためです (たとえば、初期化されていないスタック割り当てメモリからの読み取り)。メソッドに直接適用された場合、属性はそのメソッドと、ラムダやローカル関数を含むすべての入れ子になった関数に適用されます。型またはモジュールに適用された場合は、内部に入れ子になっているすべてのメソッドに適用されます。この属性は、アセンブリでは意図的に許可されていません。属性を複数の型宣言に適用するには、代わりにモジュールレベルで使用します。

https://learn.microsoft.com/ja-jp/dotnet/api/system.runtime.compilerservices.skiplocalsinitattribute?view=net-8.0

22.

BENCHMARKDOTNET • Stopwatchでは結果がばらついたので、BenchmarkDotNetを使用するとほぼ SkipLocalsInitはパフォーマンスに効く結果だった。 • BenchmarkDotNetは属性を指定して実行するだけで、時間はかかるがかなり正確なベンチマークが取れる

23.

ベクトルプログラミングとUNSAFE • ベクトルプログラミング入門は基本unsafeを使っているが、Span<T>のように unsafeを書かなくても済むようになってきている。 • 実際.NET7であればunsafeを使わなくてもベクトルプログラミングを書くことは可能 • Learnに.NET8のところに「NET 7 ではクロスプラットフォームハードウェアの組み込みが追加されました」と書いてあるが、公式にこの辺のことが書いてある文章は見つけられてない。。 • 特にハード命令ではなくVectorのサイズで分岐できるようなっているのは大きい

24.

.NET6 VS .NET7.2以降 • 速度も.NET7の方が速かった。 • unsafeを使わない場合MarshalクラスやUnsafeクラスを使う必要がある。

25.

VECTOR512 • .NET8から512ビット扱えるVector512<T>も使えるようになった。同じ書き方でさらに倍に出来るかも？ • C#ベクトルプログラミング入門の作者が書いたC#ではなさそうだが、 512ビット・ベクトルプログラミング入門という本もある。

https://amzn.to/3U8BwXT

26.

AVX512が使えるCPU

27.

VECTOR512 • 自分のノートPC、デスクトップPC、会社のPCは全て512ビットは非対応だった。 • 大体ここ2,3年で買ったPCなので、まだまだ非対応のPCの方が多いと思う • 調べた感じだと対応しているCPUは単体で２万ぐらいだった • あと数年はいるかなーという印象

28.

まとめ • unsafeでfixedを使ってポインタで受ければGCが避けられる。 • サイズが小さい場合はそれよりも、stackallocを使って、Span<T>で受けた方が速いし、unsafeを使う必要がない。但し、.NET7.2以降。 • ベクトルプログラミングも.NET 7以降であればunsafeを使わなくても書くことが出来る。新しめのPCで.NET 8以降であればVector512も使用可能。

29.

まとめ • 知識は大事。自分がunsafeを使ってなかったのは単なる怠惰。使えば速くなる機会はあったはずだが、無知によって使う機会をなくしていた。。 • 今回プロファイルも取ってみたけれど、使いたいシチュエーションが変わればまた結果は変わる。あくまで今回の状況限定の話なので、実践とは違う • 知識は大事だけど、実践していない知識は使いどころが限られる。 • 自分の今の知識と経験では、unsafeやポインタに関してまとまったことはあまり言えない。。。

30.

参考 • C#ベクトルプログラミング入門 • .NET 7こそがC# SIMDプログラミングを始めるのに最適である理由 • 気づいたら、C# が C++ の速度を凌駕している！ • C#はunsafeの方が速いという幻想 • Span<T>を使うべき5つの理由 • 【.NET】C#でSIMDを使った高速演算 • 【C#】Unsafeクラスで安全で危険なコードを書こう() • 【C#】unsafeコードを書いてみよう • ++C++ - unsafe • ++C++ - Span構造体