PyTorch 2.0の新しいコンパイラで機械学習を速くする

12/02にPyTorch 2.0のアナウンスがありました。まだnightly版(α版)で正式リリースされるのは2023年3月頃のようですが、機能自体は試すことができるので早速使ってみました。 12/05現在、絶賛検証中なので結論のようなものは書けませんが、全体の傾向としては概ね公称通りに高速化の効果が認められました。 精度が低下することはない 小さなモデルに対して、学習は速くならず、コンパイルオーバヘッドのためepochsが少ない場合は全体として遅くなる、GPU使用率はAMPだと僅かに低くなる…

PCパーツ新調メモ 2021/08

PC環境を少し変えてしばらく経ったので、前回のエントリーからの差分をメモ(記載価格は購入当時の価格)。グラボ以外はだいたいパーツは揃ったかな。 CPU AMD Ryzen 5 5600X \38,888 Mother Board ASUS ROG STRIX B550-A GAMING \18,869 SSD CFD M.2 2280 NVMe PCI-E Gen.4 x 4(NVMe 1.3) PG3VNFシリーズ 1TB CSSD-M2B1TPG3VNF \16,980 RAM Corsai…

YAMAHA RTX830のLuaスクリプト機能

年の瀬に上げるような内容の記事ではないですけど、ネットワーク設定が一通り終わって安定運用に入ると、ルーターに触る機会も減ってしまうので定期的に勉強しておこうかなと。 前回の記事はヤマハ製ルーターRTX830におけるIPv6環境のネットワーク設定についての内容でした。 YAMAHA RTX830でIPv6 IPoE + IPv4 over IPv6(MAP-E)接続 ヤマハルーターのLuaスクリプト機能について RTX830など多くのヤマハ製ルーターにはLuaスクリプトの実行環境が備わっています。…

YAMAHA RTX830でIPv6 IPoE + IPv4 over IPv6(MAP-E)接続

最近引っ越ししまして、ネット回線もいろいろと変わりました。IPv6対応もだいたい終わったので備忘録も兼ねて。今回はヤマハ製ルーターでv6プラス(IPv6 IPoE + IPv4 over IPv6)接続についてメモしてます。 v6プラスについて v6プラス(IPv6/IPv4インターネットサービス) | 日本ネットワークイネイブラー株式会社 「v6プラス」は、NTT東西の次世代ネットワーク(NGN)を利用しインターネット接続を提供するISP事業者が、IPv6及びIPv4の設備を持たずに、インター…

PCパーツ新調メモ 2019/02

なんとなくPCパーツ変えてみようかなと思い立って。前回のエントリーからの差分をメモ(記載価格は購入当時の価格)。 Mother Board ASUS Intel Z390 TUF Z390M-PRO GAMING ¥18,013 CPU Intel® Core™ i5-9600K ¥32,950 RAM CORSAIR VENGEANCE® LPX 16GB (2 x 8GB) DDR4 DRAM 2666MHz C16 Memory Kit ¥18,604 LAN ASUS PCE-AC88 …

GPU対応の類似検索(最近傍探索)ライブラリ Faissの紹介 part2 GPUを利用した検索

Facebook AI Research (FAIR)が開発したGPU対応の類似検索ライブラリ Faiss に関する2回目の紹介エントリーとなります。前回は、FaissのインストールとC++チュートリアルの説明を行いました。今回はGPUを利用した検索処理を試してみます。 Faissのインストール方法については前回のエントリーを参照してください。 GPU対応の類似検索(最近傍探索)ライブラリ Faissの紹介 part1 導入/チュートリアル 環境 Amazon Linux AMI release…

GPU対応の類似検索(最近傍探索)ライブラリ Faissの紹介 part1 導入/チュートリアル

Facebook AI Research (FAIR)が開発したGPU対応の類似検索ライブラリ Faiss を紹介します。 [06/25追記] Faiss GPU版の検索についてエントリーを書きました。 GPU対応の類似検索(最近傍探索)ライブラリ Faissの紹介 part2 GPUを利用した検索 論文は以下で公開されています。 [1702.08734] Billion-scale similarity search with GPUs 論文タイトルの通り、10億スケールの大規模データに対して…

PCパーツ新調メモ 2017/01

このお正月にOSとSSDを新調しました。前回のエントリーからの差分をメモ(記載価格は購入当時の価格)。 OS Windows10 Pro \13,824 SSD PLEXTOR M8Pe PX-512M8PeG-08 512GB SSD \31,900 VIDEO GeForce® GTX 1070 GAMING X 8G \61,775 PCパーツは値動きが激しいので欲しいと思った時が買い時。1万円未満の価格差なら誤差と考えると気楽に買い物できるのでオススメです。 ねんがんのNVMe SSDを…