DataParallel API

[來源]

DataParallel 類別

keras.distribution.DataParallel(
    device_mesh=None, devices=None, auto_shard_dataset=True
)

用於資料平行化的分佈。

您可以選擇指定 device_meshdevices 引數(但不能同時指定兩者)來建立此實例。

device_mesh 引數應為 DeviceMesh 實例,且應僅為 1D。如果網格有多個軸,則第一個軸將被視為資料平行維度(並將引發警告)。

當提供 devices 清單時,它們將用於建構 1D 網格。

meshdevices 都不存在時,將使用 list_devices() 來偵測任何可用的裝置並從中建立 1D 網格。

引數

  • device_mesh:選用的 DeviceMesh 實例。
  • devices:選用的裝置清單。
  • auto_shard_dataset:自動在程序之間分片資料集。預設為 true。