2024年10月14日
ノーベル賞
ノーベル平和賞、日本の被団協が受賞しましたね。
その少し前に発表された物理学賞ですが、ジェフリー・ヒントンが受賞したのは意外でした。ジェフリー・ヒントンといえば、機械学習の分野では大御所クラスの人物ですが、チューリング賞はわかるけど、どうして物理学賞で?というのが率直な感想です。
彼は 2018 年にチューリング賞を受賞しているそうです。その時、一緒に受賞したのがヤン・ルカンという、LeNet の考案者として知る人ぞ知る人物です。また、ジェフリー・ヒントンが AlexNet を発表したときの共同研究者がイリヤ・サツケバーという OpenAI に在籍していたことでも有名な人ですね。彼らがノーベル賞を受賞しなかったのはなぜか、どうやら評価の対象になったのは、ボルツマン・マシンという異なるネットワークのようです。
ということで、平和賞以外は日本人の受賞者いませんでしたね。ちょっと残念。
その少し前に発表された物理学賞ですが、ジェフリー・ヒントンが受賞したのは意外でした。ジェフリー・ヒントンといえば、機械学習の分野では大御所クラスの人物ですが、チューリング賞はわかるけど、どうして物理学賞で?というのが率直な感想です。
彼は 2018 年にチューリング賞を受賞しているそうです。その時、一緒に受賞したのがヤン・ルカンという、LeNet の考案者として知る人ぞ知る人物です。また、ジェフリー・ヒントンが AlexNet を発表したときの共同研究者がイリヤ・サツケバーという OpenAI に在籍していたことでも有名な人ですね。彼らがノーベル賞を受賞しなかったのはなぜか、どうやら評価の対象になったのは、ボルツマン・マシンという異なるネットワークのようです。
ということで、平和賞以外は日本人の受賞者いませんでしたね。ちょっと残念。
2024年10月06日
バグの嵐
先週のパフォーマンス問題は、あちらこちらに仕込んだエラー処理が原因でした。
無効化できるように対処したら、パフォーマンスがかなり改善しましたが、以前のプログラムよりまだ二倍くらい時間がかかるので、少し見直しを行ってようやく同等程度になりました。かなりプログラムは短くした気がするのに、同等程度というのはガッカリな結果ですけど、今度は GPU を使うようにさらなる改善を考えているので、今回はここまでとしています。
それより、根幹部分の計算処理にバグが見つかって、それが精度の低下を招いていました。我ながらつまらないミスをしたものだと思ってます。
とにかく、これでインセプションの動作試験ができる下準備が終わりました。これ以上、バグがないことを祈りつつ、作業を進めていきます。
無効化できるように対処したら、パフォーマンスがかなり改善しましたが、以前のプログラムよりまだ二倍くらい時間がかかるので、少し見直しを行ってようやく同等程度になりました。かなりプログラムは短くした気がするのに、同等程度というのはガッカリな結果ですけど、今度は GPU を使うようにさらなる改善を考えているので、今回はここまでとしています。
それより、根幹部分の計算処理にバグが見つかって、それが精度の低下を招いていました。我ながらつまらないミスをしたものだと思ってます。
とにかく、これでインセプションの動作試験ができる下準備が終わりました。これ以上、バグがないことを祈りつつ、作業を進めていきます。
2024年09月29日
パフォーマンスをよくするには?
パフォーマンスと言っても、作業効率ではなくて、プログラムの話です。
CNN の高速化をしてみたつもりが、逆に遅いという結果になりました。プロファイラで調べたところ、なぜか文字列操作の関数が大量に呼び出されているんですよね。デバッグ用に仕込んだ箇所の問題かと思い、無効にしてみたり、最終的にはコメントアウトしても結果が変わらず、結構困っています。
少なくとも、最初のバージョンより速く動いてほしいんだけど、今のところは遠く及ばない状態で、原因もわからない、というお手上げ状態で、これがうまくいけばインセプションの実験もできるんだけど、前に進めません。
今年中には決着をつけたいんだけど、どうなることやら。
CNN の高速化をしてみたつもりが、逆に遅いという結果になりました。プロファイラで調べたところ、なぜか文字列操作の関数が大量に呼び出されているんですよね。デバッグ用に仕込んだ箇所の問題かと思い、無効にしてみたり、最終的にはコメントアウトしても結果が変わらず、結構困っています。
少なくとも、最初のバージョンより速く動いてほしいんだけど、今のところは遠く及ばない状態で、原因もわからない、というお手上げ状態で、これがうまくいけばインセプションの実験もできるんだけど、前に進めません。
今年中には決着をつけたいんだけど、どうなることやら。
2024年09月23日
左利き用のインターフェース
マウスを左手で使うようにしてから二週間経ちました。
少し前まで、ボタンの位置を反転せずに使っていたというアホなことをしていました。マウスを動かしながら中指でクリックするのは結構つらいです。ボタンを反転させたら一気に使い勝手がよくなりましたね。ついでに他のボタン割り当ても見直しました。横についているボタンを誤爆することがよくあったので、それも解消できました。
今、相性が最悪だなと思っているのがキーボードとの併用です。マウス持ちながらショートカットキーを使いまくっていたので、コピー・貼り付け・上書き保存などなど、右手で扱うのがものすごく面倒です。左利きの人って、どうしているのでしょうか。c, s, v キーではないキーに割り当てたりするんでしょうかね。
というわけで、もうしばらくは試行錯誤が必要になりそうです。ちなみに左利き用のマウスも探してみましたが、数は少ないですね。
少し前まで、ボタンの位置を反転せずに使っていたというアホなことをしていました。マウスを動かしながら中指でクリックするのは結構つらいです。ボタンを反転させたら一気に使い勝手がよくなりましたね。ついでに他のボタン割り当ても見直しました。横についているボタンを誤爆することがよくあったので、それも解消できました。
今、相性が最悪だなと思っているのがキーボードとの併用です。マウス持ちながらショートカットキーを使いまくっていたので、コピー・貼り付け・上書き保存などなど、右手で扱うのがものすごく面倒です。左利きの人って、どうしているのでしょうか。c, s, v キーではないキーに割り当てたりするんでしょうかね。
というわけで、もうしばらくは試行錯誤が必要になりそうです。ちなみに左利き用のマウスも探してみましたが、数は少ないですね。