站式環境配置服務,省時省心。
一、大體流程
二、詳細說明
至此,完成。
機器之心報道
機器之心編輯部
TensorFlow 2.10 已發布,還沒有更新的小伙伴現在可以更新了。
近日,TensorFlow 官方宣布, TensorFlow 2.10 來了!距離上次 2.9 版本的更新僅僅過去三個月。
TensorFlow 地址:https://blog.tensorflow.org/2022/09/whats-new-in-tensorflow-210.html
新版本的亮點包括:Keras 中新的用戶友好特性、Windows 中擴展 GPU 支持等等。此版本還標志著 TensorFlow 決策森林 (TF-DF) 1.0 版本的到來!
對于這一更新,網友還是很期待的,有人表示:「TensorFlow 2.10 增加了 64 位 Arm 支持,現在可以在 Arm 硬件上使用 pip install TensorFlow 進行安裝了。」
還有人對 TF-DF 1.0 版本的到來感到非常驚喜,并表示這是自己最期待的。
下面我們介紹一下新版本都有哪些改進。
TensorFlow 2.10 新特性
Keras
從 TensorFlow 2.10 開始,對 Keras 注意力層的 mask 處理(例如 tf.keras.layers.Attention、tf.keras.layers.AdditiveAttention ) 進行了擴展和統一。
現在 Transformer 自注意力塊可以寫成這樣:
import tensorflow as tf
embedding = tf.keras.layers.Embedding(
input_dim=10,
output_dim=3,
mask_zero=True) # Infer a correct padding mask.
# Instantiate a Keras multi-head attention (MHA) layer,
# a layer normalization layer, and an `Add` layer object.
mha = tf.keras.layers.MultiHeadAttention(key_dim=4, num_heads=1)
layernorm = tf.keras.layers.LayerNormalization()
add = tf.keras.layers.Add()
# Test input.
x = tf.constant([[1, 2, 3, 4, 5, 0, 0, 0, 0],
[1, 2, 1, 0, 0, 0, 0, 0, 0]])
# The embedding layer sets the mask.
x = embedding(x)
# The MHA layer uses and propagates the mask.
a = mha(query=x, key=x, value=x, use_causal_mask=True)
x = add([x, a]) # The `Add` layer propagates the mask.
x = layernorm(x)
# The mask made it through all layers.
print(x._keras_mask)
輸出如下:
> tf.Tensor(
> [[ True True True True True False False False False]
> [ True True True False False False False False False]], shape=(2, > 9), dtype=bool)
其次,在 Tensorflow2.9 版本中,tf.keras.callbacks.BackupAndRestore 回調將在 epoch 邊界備份模型和訓練狀態。在 Tensorflow 2.10 中,回調還可以每 N 個訓練 step 備份一次模型。
關于Keras 中新的用戶友好特性,還有一點值得說的是,從音頻文件目錄中輕松生成音頻分類數據集,現在使用tf.keras.utils.audio_dataset_from_directory 功能,就能從 .wav 文件目錄輕松生成音頻分類數據集。
改進 AArch64 CPU 性能:ACL / oneDNN 集成
TensorFlow 團隊與 Arm、AWS 和 Linaro 合作,通過 oneDNN 將 Arm 架構 (ACL) 的計算庫與 TensorFlow 集成,來加速 AArch64 CPU 的性能。從 TensorFlow 2.10 開始,你可以通過在運行 TensorFlow 程序之前設置環境變量 TF_ENABLE_ONEDNN_OPTS=1 來實現這一點。
在 Windows 上擴展 GPU 支持
TensorFlow 現在可以通過 TensorFlow-DirectML 插件在 Windows 上使用更廣泛的 GPU。用戶要在 AMD、Intel、NVIDIA 和 Qualcomm 等供應商提供的 DirectX 12-capable GPU 上進行模型訓練,請在本機 Windows 或 WSL2 上安裝與標準 TensorFlow CPU 包一起的插件。
TensorFlow 決策森林 1.0
隨著 Tensorflow 2.10 的發布,TF-DF(Tensorflow Decision Forests)1.0 版本正式來了。這是一個偉大的里程碑,TensorFlow 團隊改進了文檔并建立了更全面的測試,以確保 TF-DF 為專業環境做好準備。
了解更多更新,請查看 TensorFlow 官網。