江溪中文 > 重生之AI教父 > 第163章 165. 底褲都給你看光

      第163章 165. 底褲都給你看光

          已經成名的孟繁岐,如今在研發技術又或者是寫作論文的時候,是否具備理論解釋已經不在考慮的范圍當中。

          在這個比較特殊的領域,算法的實際效果和應用范圍才是他關注的重點。

          雖然學界接受這一現象可能還需要一定的時間。

          但這已經不是孟繁岐關心的事情了,在人工智能技術上面,他一直都是實踐派。

          結構重參數化雖然在數學上反直覺,但實際的效果確實相當驚艷。

          它的主要提升來自兩方面,一當然是分支合并帶來的提升,原本復雜的支路在推理的時候被合并了起來,節約了計算量。

          二卻是來自一般人想不到的性能提升。

          結構的重參數化,既然可以合并復雜分支,那為什么不在訓練的時候,把分支設計得更加復雜一點呢?

          反正最后都可以合并起來。

          遵循這個思路,重參數化還允許相同的最終結構,通過復雜訓練的方式獲得更高的性能。

          作為最終的結果,重參數化在輕量級網絡上,大概取得了1.8倍左右的速度提升。

          這個數字看起來沒有先前8-9倍那么夸張,但這是在已經優化的高速網絡上取得的結果。

          在已經優化得很好的結果之上,繼續優化的難度當然是更大的,同樣是一秒鐘的速度提升,后面的那一秒含金量當然不可與前面的同日而語。

          就像是百米長跑,原本只能30秒跑完,提升一秒沒什么大不了的。

          可若是你能跑到10秒左右,再快一秒那可就不得了了,博爾特看了都得給你跪下。

          博爾特跪不跪下不知道,馬斯克確實是差點跪下了。

          他上次與孟繁岐的溝通,一定程度上算是雞同鴨講。

          從相當程度上,他只是在單純客觀地分析一個現實情況,那就是目前的模型計算量,對特斯拉來說很難負擔。