推論時torch.tensor(sourceTensor)ではなくて、sourceTensor.clone().detach()を使おう

推論時torch.tensor(sourceTensor)ではなくて、sourceTensor.clone().detach()を使おう
Photo by Ashkan Forouzani / Unsplash

PyTorchのテンソル操作最適化: 警告メッセージの理解と解決

こんにちは!

Qualiteg プロダクト開発部です。

PyTorch 1.13にて、次のような警告メッセージに遭遇しました

UserWarning: To copy construct from a tensor, it is recommended to use sourceTensor.clone().detach() or sourceTensor.clone().detach().requires_grad_(True), rather than torch.tensor(sourceTensor).

この記事では、この警告の意味を解説し、修正方針についてかきたいとおもいます。

torch.tensor() よりも .clone().detach() のほうがおすすめなのか

それは、PyTorchがテンソルと自動微分(オートグラッド)をどのように扱うかに関係があります。

torch.tensor() をつかうと「勾配計算=自動微分どうするねん」っていう意思表示がハッキリしないんです。

一方clone().detach()は「勾配配計算しないよ」をあらわし、clone().detach().requires_grad_(True)は「勾配計算有効」をあらわすので、コードから意図がよみとれる&明示的に指定できる、のがポイントです。

clone().detach()では、元のテンソルとメモリを共有せず、計算グラフから切り離された新しいテンソルが作成されます。これにより、特に勾配や誤差逆伝播を扱う際に、予期せぬ動作を防ぐことができるというわけです。

推論で使うときはどう書けばいい?

結論からいうと、推論時には sourceTensor.clone().detach() をつかいましょう。

その理由は以下のとおりです

  1. 計算効率:
    推論時には通常、勾配計算は不要です。detach() を使うことで、テンソルを計算グラフから切り離し、不要な勾配計算を防ぎます。これにより、メモリ使用量が減少し、計算速度が向上します。
  2. メモリ管理
    clone() は新しいメモリ領域にデータをコピーします。これにより、元のテンソルに影響を与えることなく、安全に操作を行えます。
  3. 意図しない変更の防止
    detach() を使用することで、誤って勾配計算を行ってしまうリスクを減らせます。これは特に大規模なモデルや複雑なアーキテクチャで重要です。
  4. モデルの固定
    推論時には当然モデルのパラメータを更新したくないのでdetach() を使うことで、誤ってモデルが更新されることを防げます。

チェインしてるメソッドの詳細説明

  1. clone() メソッド:
    • 新しいテンソルを作成し、元のテンソルのデータをコピーします。
    • これにより、元のデータに影響を与えることなく安全に操作できます。
  2. detach() メソッド:
    • テンソルを現在の計算グラフから切り離します。
    • 勾配計算が不要な場合(例:推論時)に特に有用です。

まとめ

  • sourceTensor.tensor() でコピーするのはコンテクストがあいまいなので使わないようにしましょう。
  • 推論時は clone().detach() を使用します。勾配計算が不要なため、メモリ使用量を減らし、計算速度を向上させます。
  • 学習時は 勾配計算が必要な場合は、clone().detach().requires_grad_(True) を使用します。これにより、新しいテンソルで勾配計算が可能になります。

Read more

Pythonの落とし穴:__len__メソッドを実装したらオブジェクトの真偽値判定が変わってしまった話

Pythonの落とし穴:__len__メソッドを実装したらオブジェクトの真偽値判定が変わってしまった話

こんにちは! Pythonでカスタムクラスを作成していて、 「オブジェクトは存在するのにif文でFalseと判定される」 という不可解な現象に遭遇したことはありませんか? この記事では、__len__メソッドを実装することで生じる、予期しない真偽値判定の挙動について解説いたします! 実際に遭遇したバグ ユーザーの投稿を管理するクラスを実装していたときのことです class PostManager: """ブログ投稿を管理するクラス""" def __init__(self, user_id): self.user_id = user_id self._posts = [] self._cache = {} def __len__(self): """投稿数を返す""" return len(self._posts) def add_post(

By Qualiteg プロダクト開発部
CEATEC 2025に出展します!フォトリアルAIアバター「MotionVox🄬」の最新版を実体験いただけます

CEATEC 2025に出展します!フォトリアルAIアバター「MotionVox🄬」の最新版を実体験いただけます

株式会社Qualitegは、2025年10月14日(火)~17日(金)に幕張メッセで開催される「CEATEC 2025」に出展いたします。今回の出展では、当社が開発したフォトリアリスティックAIアバター技術「MotionVox🄬」をはじめ、最新のAI技術とビジネスイノベーションソリューションをご紹介いたします。 出展概要 * 会期:2025年10月14日(火)~10月17日(金) * 会場:幕張メッセ * 出展エリア:ネクストジェネレーションパーク * ブース番号:ホール6 6H207 * CEATEC内特設サイト:https://www.ceatec.com/nj/exhibitor_detail_ja?id=1915 見どころ:最先端AI技術を体感できる特別展示 1. フォトリアルAIアバター「MotionVox🄬」 テキスト入力だけで、まるで本物の人間のような動画を生成できる革新的なAIアバターシステムです。 MotionVox🄬は自社開発している「Expression Aware🄬」技術により日本人の演者データを基に開発された、

By Qualiteg ニュース
その処理、GPUじゃなくて勝手にCPUで実行されてるかも  ~ONNX RuntimeのcuDNN 警告と対策~

その処理、GPUじゃなくて勝手にCPUで実行されてるかも ~ONNX RuntimeのcuDNN 警告と対策~

こんにちは! 本日は、ONNX RuntimeでGPU推論時の「libcudnn.so.9: cannot open shared object file」エラーの解決方法についての内容となります。 ONNX Runtimeを使用してGPU推論を行う際、CUDAプロバイダの初期化エラーに遭遇することがありますので、このエラーの原因と解決方法を解説いたします。 エラーメッセージの詳細 [E:onnxruntime:Default, provider_bridge_ort.cc:2195 TryGetProviderInfo_CUDA] /onnxruntime_src/onnxruntime/core/session/provider_bridge_ort.cc:1778 onnxruntime::Provider& onnxruntime::ProviderLibrary::Get() [ONNXRuntimeError] : 1 : FAIL : Failed to load

By Qualiteg プロダクト開発部
大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第3回 クライアントとサーバーのドメイン参加

大企業のAIセキュリティを支える基盤技術 - 今こそ理解するActive Directory 第3回 クライアントとサーバーのドメイン参加

こんにちは、今回はシリーズ第3回クライアントとサーバーのドメイン参加について解説いたします! はじめに こんにちは!シリーズ第3回「クライアントとサーバーのドメイン参加」へようこそ。 前回(第2回)では、Active Directoryドメイン環境の構築手順について、ドメインコントローラーのセットアップからDNS設定まで詳しく解説しました。ドメイン環境の「土台」が整ったところで、今回はいよいよ実際にコンピューターをドメインに参加させる手順に進みます。 「ドメインユーザーアカウントを作ったのに、なぜかログインできない」「新しいPCを追加したけど、ドメイン認証が使えない」といった経験はありませんか?実は、Active Directoryの世界では、ユーザーアカウントを作成しただけでは不十分で、そのユーザーが使用するコンピューター自体もドメインに「参加」させる必要があるのです。 本記事では、このドメイン参加について、単なる手順の説明にとどまらず、「なぜドメイン参加が必要なのか」「裏側で何が起きているのか」という本質的な仕組みまで、初心者の方にも分かりやすく解説していきます。Win

By Qualiteg コンサルティング