KerasHub:預訓練模型 / KerasHub 預訓練模型

KerasHub 預訓練模型

以下列出 KerasHub 函式庫中所有可用的預設配置。如需更詳細的使用方式,請瀏覽特定類別的 docstring。如需深入了解我們的 API,請參閱開始使用指南

以下預設名稱對應於預訓練模型的配置和權重。任何任務、預處理器、骨幹網路或 tokenizer 的 from_preset() 均可用於從已儲存的預設配置建立模型。

backbone = keras_hub.models.Backbone.from_preset("bert_base_en")
tokenizer = keras_hub.models.Tokenizer.from_preset("bert_base_en")
classifier = keras_hub.models.TextClassifier.from_preset("bert_base_en", num_classes=2)
preprocessor = keras_hub.models.TextClassifierPreprocessor.from_preset("bert_base_en")
預設配置 模型 API 參數 描述
albert_base_en_uncased Albert 11.68M 12 層 ALBERT 模型,所有輸入皆為小寫。於英文維基百科 + BooksCorpus 上訓練。
albert_large_en_uncased Albert 17.68M 24 層 ALBERT 模型,所有輸入皆為小寫。於英文維基百科 + BooksCorpus 上訓練。
albert_extra_large_en_uncased Albert 58.72M 24 層 ALBERT 模型,所有輸入皆為小寫。於英文維基百科 + BooksCorpus 上訓練。
albert_extra_extra_large_en_uncased Albert 222.60M 12 層 ALBERT 模型,所有輸入皆為小寫。於英文維基百科 + BooksCorpus 上訓練。
bart_base_en Bart 139.42M 6 層 BART 模型,保留大小寫。於 BookCorpus、英文維基百科和 CommonCrawl 上訓練。
bart_large_en Bart 406.29M 12 層 BART 模型,保留大小寫。於 BookCorpus、英文維基百科和 CommonCrawl 上訓練。
bart_large_en_cnn Bart 406.29M 於 CNN+DM 摘要資料集上微調的 bart_large_en 骨幹模型。
basnet_duts - 108.89M BASNet 模型,具有 34 層 ResNet 骨幹網路,於 288x288 解析度的 DUTS 影像資料集上預訓練。模型訓練由 Hamid Ali 執行 (https://github.com/hamidriasat/BASNet)。
bert_tiny_en_uncased Bert 4.39M 2 層 BERT 模型,所有輸入皆為小寫。於英文維基百科 + BooksCorpus 上訓練。
bert_tiny_en_uncased_sst2 Bert 4.39M 於 SST-2 情感分析資料集上微調的 bert_tiny_en_uncased 骨幹模型。
bert_small_en_uncased Bert 28.76M 4 層 BERT 模型,所有輸入皆為小寫。於英文維基百科 + BooksCorpus 上訓練。
bert_medium_en_uncased Bert 41.37M 8 層 BERT 模型,所有輸入皆為小寫。於英文維基百科 + BooksCorpus 上訓練。
bert_base_zh Bert 102.27M 12 層 BERT 模型。於中文維基百科上訓練。
bert_base_en Bert 108.31M 12 層 BERT 模型,保留大小寫。於英文維基百科 + BooksCorpus 上訓練。
bert_base_en_uncased Bert 109.48M 12 層 BERT 模型,所有輸入皆為小寫。於英文維基百科 + BooksCorpus 上訓練。
bert_base_multi Bert 177.85M 12 層 BERT 模型,保留大小寫。於 104 種語言的維基百科上訓練
bert_large_en Bert 333.58M 24 層 BERT 模型,保留大小寫。於英文維基百科 + BooksCorpus 上訓練。
bert_large_en_uncased Bert 335.14M 24 層 BERT 模型,所有輸入皆為小寫。於英文維基百科 + BooksCorpus 上訓練。
bloom_560m_multi Bloom 559.21M 24 層 Bloom 模型,隱藏層維度為 1024。於 45 種自然語言和 12 種程式語言上訓練。
bloomz_560m_multi Bloom 559.21M 24 層 Bloom 模型,隱藏層維度為 1024。於跨語言任務混合 (xP3) 資料集上微調。
bloom_1.1b_multi Bloom 1.07B 24 層 Bloom 模型,隱藏層維度為 1536。於 45 種自然語言和 12 種程式語言上訓練。
bloomz_1.1b_multi Bloom 1.07B 24 層 Bloom 模型,隱藏層維度為 1536。於跨語言任務混合 (xP3) 資料集上微調。
bloom_1.7b_multi Bloom 1.72B 24 層 Bloom 模型,隱藏層維度為 2048。於 45 種自然語言和 12 種程式語言上訓練。
bloomz_1.7b_multi Bloom 1.72B 24 層 Bloom 模型,隱藏層維度為 2048。於跨語言任務混合 (xP3) 資料集上微調。
bloom_3b_multi Bloom 3.00B 30 層 Bloom 模型,隱藏層維度為 2560。於 45 種自然語言和 12 種程式語言上訓練。
bloomz_3b_multi Bloom 3.00B 30 層 Bloom 模型,隱藏層維度為 2560。於跨語言任務混合 (xP3) 資料集上微調。
clip_vit_base_patch16 - 149.62M 1.5 億參數,視覺 12 層和文字 12 層,patch size 為 16 的 CLIP 模型。
clip_vit_base_patch32 - 151.28M 1.51 億參數,視覺 12 層和文字 12 層,patch size 為 32 的 CLIP 模型。
clip_vit_b_32_laion2b_s34b_b79k - 151.28M 1.51 億參數,視覺 12 層和文字 12 層,patch size 為 32 的 Open CLIP 模型。
clip_vit_large_patch14 - 427.62M 4.28 億參數,視覺 24 層和文字 12 層,patch size 為 14 的 CLIP 模型。
clip_vit_large_patch14_336 - 427.94M 4.28 億參數,視覺 24 層和文字 12 層,patch size 為 14,影像尺寸為 336 的 CLIP 模型。
clip_vit_h_14_laion2b_s32b_b79k - 986.11M 9.86 億參數,視覺 32 層和文字 24 層,patch size 為 14 的 Open CLIP 模型。
clip_vit_g_14_laion2b_s12b_b42k - 1.37B 14 億參數,視覺 40 層和文字 24 層,patch size 為 14 的 Open CLIP 模型。
clip_vit_bigg_14_laion2b_39b_b160k - 2.54B 25 億參數,視覺 48 層和文字 32 層,patch size 為 14 的 Open CLIP 模型。
deberta_v3_extra_small_en DebertaV3 70.68M 12 層 DeBERTaV3 模型,保留大小寫。於英文維基百科、BookCorpus 和 OpenWebText 上訓練。
deberta_v3_small_en DebertaV3 141.30M 6 層 DeBERTaV3 模型,保留大小寫。於英文維基百科、BookCorpus 和 OpenWebText 上訓練。
deberta_v3_base_en DebertaV3 183.83M 12 層 DeBERTaV3 模型,保留大小寫。於英文維基百科、BookCorpus 和 OpenWebText 上訓練。
deberta_v3_base_multi DebertaV3 278.22M 12 層 DeBERTaV3 模型,保留大小寫。於 2.5TB 多語言 CC100 資料集上訓練。
deberta_v3_large_en DebertaV3 434.01M 24 層 DeBERTaV3 模型,保留大小寫。於英文維基百科、BookCorpus 和 OpenWebText 上訓練。
deeplab_v3_plus_resnet50_pascalvoc DeepLabV3 39.19M DeepLabV3+ 模型,使用 ResNet50 作為影像編碼器,並於經 Semantic Boundaries Dataset (SBD) 擴增的 Pascal VOC 資料集上訓練,類別準確度為 90.01,平均 IoU 為 0.63。
densenet_121_imagenet DenseNet 7.04M 121 層 DenseNet 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
densenet_169_imagenet DenseNet 12.64M 169 層 DenseNet 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
densenet_201_imagenet DenseNet 18.32M 201 層 DenseNet 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
distil_bert_base_en DistilBert 65.19M 6 層 DistilBERT 模型,保留大小寫。使用 BERT 作為教師模型,於英文維基百科 + BooksCorpus 上訓練。
distil_bert_base_en_uncased DistilBert 66.36M 6 層 DistilBERT 模型,所有輸入皆為小寫。使用 BERT 作為教師模型,於英文維基百科 + BooksCorpus 上訓練。
distil_bert_base_multi DistilBert 134.73M 6 層 DistilBERT 模型,保留大小寫。於 104 種語言的維基百科上訓練
efficientnet_lite0_ra_imagenet - 4.65M EfficientNet-Lite 模型,使用 RandAugment recipe 於 ImageNet 1k 資料集上微調。
efficientnet_b0_ra_imagenet - 5.29M EfficientNet B0 模型,使用 RandAugment recipe 於 ImageNet 1k 資料集上預訓練。
efficientnet_b0_ra4_e3600_r224_imagenet - 5.29M EfficientNet B0 模型,由 Ross Wightman 於 ImageNet 1k 資料集上預訓練。使用 timm scripts 訓練,其超參數靈感來自 MobileNet-V4 small,並結合了來自 timm 和 'ResNet Strikes Back' 的常用超參數。
efficientnet_es_ra_imagenet - 5.44M EfficientNet-EdgeTPU Small 模型,使用 RandAugment recipe 於 ImageNet 1k 資料集上訓練。
efficientnet_em_ra2_imagenet - 6.90M EfficientNet-EdgeTPU Medium 模型,使用 RandAugment2 recipe 於 ImageNet 1k 資料集上訓練。
efficientnet_b1_ft_imagenet - 7.79M EfficientNet B1 模型,於 ImageNet 1k 資料集上微調。
efficientnet_b1_ra4_e3600_r240_imagenet - 7.79M EfficientNet B1 模型,由 Ross Wightman 於 ImageNet 1k 資料集上預訓練。使用 timm scripts 訓練,其超參數靈感來自 MobileNet-V4 small,並結合了來自 timm 和 'ResNet Strikes Back' 的常用超參數。
efficientnet_b2_ra_imagenet - 9.11M EfficientNet B2 模型,使用 RandAugment recipe 於 ImageNet 1k 資料集上預訓練。
efficientnet_el_ra_imagenet - 10.59M EfficientNet-EdgeTPU Large 模型,使用 RandAugment recipe 於 ImageNet 1k 資料集上訓練。
efficientnet_b3_ra2_imagenet - 12.23M EfficientNet B3 模型,使用 RandAugment2 recipe 於 ImageNet 1k 資料集上預訓練。
efficientnet2_rw_t_ra2_imagenet - 13.65M EfficientNet-v2 Tiny 模型,使用 RandAugment2 recipe 於 ImageNet 1k 資料集上訓練。
efficientnet_b4_ra2_imagenet - 19.34M EfficientNet B4 模型,使用 RandAugment2 recipe 於 ImageNet 1k 資料集上預訓練。
efficientnet2_rw_s_ra2_imagenet - 23.94M EfficientNet-v2 Small 模型,使用 RandAugment2 recipe 於 ImageNet 1k 資料集上訓練。
efficientnet_b5_sw_imagenet - 30.39M EfficientNet B5 模型,由 Ross Wightman 於 ImageNet 12k 資料集上預訓練。基於 Swin Transformer 訓練 / 預訓練 recipe,並進行修改 (與 DeiT 和 ConvNeXt recipes 相關)。
efficientnet_b5_sw_ft_imagenet - 30.39M EfficientNet B5 模型,由 Ross Wightman 於 ImageNet 12k 資料集上預訓練,並於 ImageNet-1k 上微調。基於 Swin Transformer 訓練 / 預訓練 recipe,並進行修改 (與 DeiT 和 ConvNeXt recipes 相關)。
efficientnet2_rw_m_agc_imagenet - 53.24M EfficientNet-v2 Medium 模型,使用 adaptive gradient clipping 於 ImageNet 1k 資料集上訓練。
electra_small_discriminator_uncased_en Electra 13.55M 12 層小型 ELECTRA 鑑別器模型。所有輸入皆為小寫。於英文維基百科 + BooksCorpus 上訓練。
electra_small_generator_uncased_en Electra 13.55M 12 層小型 ELECTRA 生成器模型。所有輸入皆為小寫。於英文維基百科 + BooksCorpus 上訓練。
electra_base_generator_uncased_en Electra 33.58M 12 層基礎 ELECTRA 生成器模型。所有輸入皆為小寫。於英文維基百科 + BooksCorpus 上訓練。
electra_large_generator_uncased_en Electra 51.07M 24 層大型 ELECTRA 生成器模型。所有輸入皆為小寫。於英文維基百科 + BooksCorpus 上訓練。
electra_base_discriminator_uncased_en Electra 109.48M 12 層基礎 ELECTRA 鑑別器模型。所有輸入皆為小寫。於英文維基百科 + BooksCorpus 上訓練。
electra_large_discriminator_uncased_en Electra 335.14M 24 層大型 ELECTRA 鑑別器模型。所有輸入皆為小寫。於英文維基百科 + BooksCorpus 上訓練。
f_net_base_en FNet 82.86M 12 層 FNet 模型,保留大小寫。於 C4 資料集上訓練。
f_net_large_en FNet 236.95M 24 層 FNet 模型,保留大小寫。於 C4 資料集上訓練。
falcon_refinedweb_1b_en Falcon 1.31B 24 層 Falcon 模型 (具有 10 億參數的 Falcon),於 350B tokens 的 RefinedWeb 資料集上訓練。
gemma_2b_en Gemma 2.51B 20 億參數,18 層,基礎 Gemma 模型。
gemma_instruct_2b_en Gemma 2.51B 20 億參數,18 層,指令微調 Gemma 模型。
gemma_1.1_instruct_2b_en Gemma 2.51B 20 億參數,18 層,指令微調 Gemma 模型。1.1 更新提升了模型品質。
code_gemma_1.1_2b_en Gemma 2.51B 20 億參數,18 層,CodeGemma 模型。此模型已針對程式碼完成的填空中間 (FIM) 任務進行訓練。1.1 更新提升了模型品質。
code_gemma_2b_en Gemma 2.51B 20 億參數,18 層,CodeGemma 模型。此模型已針對程式碼完成的填空中間 (FIM) 任務進行訓練。
gemma2_2b_en Gemma 2.61B 20 億參數,26 層,基礎 Gemma 模型。
gemma2_instruct_2b_en Gemma 2.61B 20 億參數,26 層,指令微調 Gemma 模型。
shieldgemma_2b_en Gemma 2.61B 20 億參數,26 層,ShieldGemma 模型。
gemma_7b_en Gemma 8.54B 70 億參數,28 層,基礎 Gemma 模型。
gemma_instruct_7b_en Gemma 8.54B 70 億參數,28 層,指令微調 Gemma 模型。
gemma_1.1_instruct_7b_en Gemma 8.54B 70 億參數,28 層,指令微調 Gemma 模型。1.1 更新提升了模型品質。
code_gemma_7b_en Gemma 8.54B 70 億參數,28 層,CodeGemma 模型。此模型已針對程式碼完成的填空中間 (FIM) 任務進行訓練。
code_gemma_instruct_7b_en Gemma 8.54B 70 億參數,28 層,指令微調 CodeGemma 模型。此模型已針對與程式碼相關的聊天用例進行訓練。
code_gemma_1.1_instruct_7b_en Gemma 8.54B 70 億參數,28 層,指令微調 CodeGemma 模型。此模型已針對與程式碼相關的聊天用例進行訓練。1.1 更新提升了模型品質。
gemma2_9b_en Gemma 9.24B 90 億參數,42 層,基礎 Gemma 模型。
gemma2_instruct_9b_en Gemma 9.24B 90 億參數,42 層,指令微調 Gemma 模型。
shieldgemma_9b_en Gemma 9.24B 90 億參數,42 層,ShieldGemma 模型。
gemma2_27b_en Gemma 27.23B 270 億參數,42 層,基礎 Gemma 模型。
gemma2_instruct_27b_en Gemma 27.23B 270 億參數,42 層,指令微調 Gemma 模型。
shieldgemma_27b_en Gemma 27.23B 270 億參數,42 層,ShieldGemma 模型。
gpt2_base_en GPT2 124.44M 12 層 GPT-2 模型,保留大小寫。於 WebText 上訓練。
gpt2_base_en_cnn_dailymail GPT2 124.44M 12 層 GPT-2 模型,保留大小寫。於 CNN/DailyMail 摘要資料集上微調。
gpt2_medium_en GPT2 354.82M 24 層 GPT-2 模型,保留大小寫。於 WebText 上訓練。
gpt2_large_en GPT2 774.03M 36 層 GPT-2 模型,保留大小寫。於 WebText 上訓練。
gpt2_extra_large_en GPT2 1.56B 48 層 GPT-2 模型,保留大小寫。於 WebText 上訓練。
llama2_7b_en Llama 6.74B 70 億參數,32 層,基礎 LLaMA 2 模型。
llama2_instruct_7b_en Llama 6.74B 70 億參數,32 層,指令微調 LLaMA 2 模型。
vicuna_1.5_7b_en Llama 6.74B 70 億參數,32 層,指令微調 Vicuna v1.5 模型。
llama2_7b_en_int8 Llama 6.74B 70 億參數,32 層,基礎 LLaMA 2 模型,啟動和權重量化為 int8。
llama2_instruct_7b_en_int8 Llama 6.74B 70 億參數,32 層,指令微調 LLaMA 2 模型,啟動和權重量化為 int8。
llama3_8b_en Llama3 8.03B 80 億參數,32 層,基礎 LLaMA 3 模型。
llama3_instruct_8b_en Llama3 8.03B 80 億參數,32 層,指令微調 LLaMA 3 模型。
llama3_8b_en_int8 Llama3 8.03B 80 億參數,32 層,基礎 LLaMA 3 模型,啟動和權重量化為 int8。
llama3_instruct_8b_en_int8 Llama3 8.03B 80 億參數,32 層,指令微調 LLaMA 3 模型,啟動和權重量化為 int8。
mistral_7b_en Mistral 7.24B Mistral 7B 基礎模型
mistral_instruct_7b_en Mistral 7.24B Mistral 7B 指令模型
mistral_0.2_instruct_7b_en Mistral 7.24B Mistral 7B 指令模型 Version 0.2
mit_b0_ade20k_512 MiT 3.32M MiT (MixTransformer) 模型,具有 8 個 transformer 區塊。
mit_b0_cityscapes_1024 MiT 3.32M MiT (MixTransformer) 模型,具有 8 個 transformer 區塊。
mit_b1_ade20k_512 MiT 13.16M MiT (MixTransformer) 模型,具有 8 個 transformer 區塊。
mit_b1_cityscapes_1024 MiT 13.16M MiT (MixTransformer) 模型,具有 8 個 transformer 區塊。
mit_b2_ade20k_512 MiT 24.20M MiT (MixTransformer) 模型,具有 16 個 transformer 區塊。
mit_b2_cityscapes_1024 MiT 24.20M MiT (MixTransformer) 模型,具有 16 個 transformer 區塊。
mit_b3_ade20k_512 MiT 44.08M MiT (MixTransformer) 模型,具有 28 個 transformer 區塊。
mit_b3_cityscapes_1024 MiT 44.08M MiT (MixTransformer) 模型,具有 28 個 transformer 區塊。
mit_b4_ade20k_512 MiT 60.85M MiT (MixTransformer) 模型,具有 41 個 transformer 區塊。
mit_b4_cityscapes_1024 MiT 60.85M MiT (MixTransformer) 模型,具有 41 個 transformer 區塊。
mit_b5_ade20k_640 MiT 81.45M MiT (MixTransformer) 模型,具有 52 個 transformer 區塊。
mit_b5_cityscapes_1024 MiT 81.45M MiT (MixTransformer) 模型,具有 52 個 transformer 區塊。
mobilenet_v3_small_050_imagenet - 278.78K 小型 MobileNet V3 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
opt_125m_en OPT 125.24M 12 層 OPT 模型,保留大小寫。於 BookCorpus、CommonCrawl、Pile 和 PushShift.io corpora 上訓練。
opt_1.3b_en OPT 1.32B 24 層 OPT 模型,保留大小寫。於 BookCorpus、CommonCrawl、Pile 和 PushShift.io corpora 上訓練。
opt_2.7b_en OPT 2.70B 32 層 OPT 模型,保留大小寫。於 BookCorpus、CommonCrawl、Pile 和 PushShift.io corpora 上訓練。
opt_6.7b_en OPT 6.70B 32 層 OPT 模型,保留大小寫。於 BookCorpus、CommonCrawl、Pile 和 PushShift.io corpora 上訓練。
pali_gemma_3b_mix_224 PaliGemma 2.92B 影像尺寸 224,混合微調,文字序列長度為 256
pali_gemma_3b_224 PaliGemma 2.92B 影像尺寸 224,預訓練,文字序列長度為 128
pali_gemma_3b_mix_448 PaliGemma 2.92B 影像尺寸 448,混合微調,文字序列長度為 512
pali_gemma_3b_448 PaliGemma 2.92B 影像尺寸 448,預訓練,文字序列長度為 512
pali_gemma_3b_896 PaliGemma 2.93B 影像尺寸 896,預訓練,文字序列長度為 512
pali_gemma2_mix_3b_224 - 3.03B 30 億參數,影像尺寸 224,SigLIP-So400m 視覺編碼器為 27 層,Gemma2 2B 語言模型為 26 層。此模型已於廣泛的視覺語言任務和領域上微調。
pali_gemma2_pt_3b_224 - 3.03B 30 億參數,影像尺寸 224,SigLIP-So400m 視覺編碼器為 27 層,Gemma2 2B 語言模型為 26 層。此模型已於混合資料集上預訓練。
pali_gemma_2_ft_docci_3b_448 - 3.03B 30 億參數,影像尺寸 448,SigLIP-So400m 視覺編碼器為 27 層,Gemma2 2B 語言模型為 26 層。此模型已於 DOCCI 資料集上微調,以改善具有精細細節的描述。
pali_gemma2_mix_3b_448 - 3.03B 30 億參數,影像尺寸 448,SigLIP-So400m 視覺編碼器為 27 層,Gemma2 2B 語言模型為 26 層。此模型已於廣泛的視覺語言任務和領域上微調。
pali_gemma2_pt_3b_448 - 3.03B 30 億參數,影像尺寸 448,SigLIP-So400m 視覺編碼器為 27 層,Gemma2 2B 語言模型為 26 層。此模型已於混合資料集上預訓練。
pali_gemma2_pt_3b_896 - 3.04B 30 億參數,影像尺寸 896,SigLIP-So400m 視覺編碼器為 27 層,Gemma2 2B 語言模型為 26 層。此模型已於混合資料集上預訓練。
pali_gemma2_mix_10b_224 - 9.66B 100 億參數,影像尺寸 224,SigLIP-So400m 視覺編碼器為 27 層,Gemma2 9B 語言模型為 42 層。此模型已於廣泛的視覺語言任務和領域上微調。
pali_gemma2_pt_10b_224 - 9.66B 100 億參數,影像尺寸 224,SigLIP-So400m 視覺編碼器為 27 層,Gemma2 9B 語言模型為 42 層。此模型已於混合資料集上預訓練。
pali_gemma2_ft_docci_10b_448 - 9.66B 100 億參數,SigLIP-So400m 視覺編碼器為 27 層,Gemma2 9B 語言模型為 42 層。此模型已於 DOCCI 資料集上微調,以改善具有精細細節的描述。
pali_gemma2_mix_10b_448 - 9.66B 100 億參數,影像尺寸 448,SigLIP-So400m 視覺編碼器為 27 層,Gemma2 9B 語言模型為 42 層。此模型已於廣泛的視覺語言任務和領域上微調。
pali_gemma2_pt_10b_448 - 9.66B 100 億參數,影像尺寸 448,SigLIP-So400m 視覺編碼器為 27 層,Gemma2 9B 語言模型為 42 層。此模型已於混合資料集上預訓練。
pali_gemma2_pt_10b_896 - 9.67B 100 億參數,影像尺寸 896,SigLIP-So400m 視覺編碼器為 27 層,Gemma2 9B 語言模型為 42 層。此模型已於混合資料集上預訓練。
pali_gemma2_mix_28b_224 - 27.65B 280 億參數,影像尺寸 224,SigLIP-So400m 視覺編碼器為 27 層,Gemma2 27B 語言模型為 46 層。此模型已於廣泛的視覺語言任務和領域上微調。
pali_gemma2_mix_28b_448 - 27.65B 280 億參數,影像尺寸 448,SigLIP-So400m 視覺編碼器為 27 層,Gemma2 27B 語言模型為 46 層。此模型已於廣泛的視覺語言任務和領域上微調。
pali_gemma2_pt_28b_224 - 27.65B 280 億參數,影像尺寸 224,SigLIP-So400m 視覺編碼器為 27 層,Gemma2 27B 語言模型為 46 層。此模型已於混合資料集上預訓練。
pali_gemma2_pt_28b_448 - 27.65B 280 億參數,影像尺寸 448,SigLIP-So400m 視覺編碼器為 27 層,Gemma2 27B 語言模型為 46 層。此模型已於混合資料集上預訓練。
pali_gemma2_pt_28b_896 - 27.65B 280 億參數,影像尺寸 896,SigLIP-So400m 視覺編碼器為 27 層,Gemma2 27B 語言模型為 46 層。此模型已於混合資料集上預訓練。
phi3_mini_4k_instruct_en Phi3 3.82B 38 億參數,32 層,4k context length,Phi-3 模型。該模型使用 Phi-3 資料集進行訓練。此資料集包含合成資料和篩選過的公開網站資料,重點在於高品質和推理密集的屬性。
phi3_mini_128k_instruct_en Phi3 3.82B 38 億參數,32 層,128k context length,Phi-3 模型。該模型使用 Phi-3 資料集進行訓練。此資料集包含合成資料和篩選過的公開網站資料,重點在於高品質和推理密集的屬性。
resnet_18_imagenet ResNet 11.19M 18 層 ResNet 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
resnet_vd_18_imagenet ResNet 11.72M 18 層 ResNetVD (具有 bag of tricks 的 ResNet) 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
resnet_vd_34_imagenet ResNet 21.84M 34 層 ResNetVD (具有 bag of tricks 的 ResNet) 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
resnet_50_imagenet ResNet 23.56M 50 層 ResNet 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
resnet_v2_50_imagenet ResNet 23.56M 50 層 ResNetV2 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
resnet_vd_50_imagenet ResNet 25.63M 50 層 ResNetVD (具有 bag of tricks 的 ResNet) 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
resnet_vd_50_ssld_imagenet ResNet 25.63M 50 層 ResNetVD (具有 bag of tricks 的 ResNet) 模型,透過知識蒸餾於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
resnet_vd_50_ssld_v2_imagenet ResNet 25.63M 50 層 ResNetVD (具有 bag of tricks 的 ResNet) 模型,透過知識蒸餾和 AutoAugment 於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
resnet_vd_50_ssld_v2_fix_imagenet ResNet 25.63M 50 層 ResNetVD (具有 bag of tricks 的 ResNet) 模型,透過知識蒸餾、AutoAugment 和分類 head 的額外微調,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
resnet_101_imagenet ResNet 42.61M 101 層 ResNet 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
resnet_v2_101_imagenet ResNet 42.61M 101 層 ResNetV2 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
resnet_vd_101_imagenet ResNet 44.67M 101 層 ResNetVD (具有 bag of tricks 的 ResNet) 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
resnet_vd_101_ssld_imagenet ResNet 44.67M 101 層 ResNetVD (具有 bag of tricks 的 ResNet) 模型,透過知識蒸餾於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
resnet_152_imagenet ResNet 58.30M 152 層 ResNet 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
resnet_vd_152_imagenet ResNet 60.36M 152 層 ResNetVD (具有 bag of tricks 的 ResNet) 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
resnet_vd_200_imagenet ResNet 74.93M 200 層 ResNetVD (具有 bag of tricks 的 ResNet) 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
retinanet_resnet50_fpn_coco - 34.12M RetinaNet 模型,具有 ResNet50 骨幹網路,於 800x800 解析度的 COCO 上微調。
roberta_base_en Roberta 124.05M 12 層 RoBERTa 模型,保留大小寫。於英文維基百科、BooksCorpus、CommonCraw 和 OpenWebText 上訓練。
roberta_large_en Roberta 354.31M 24 層 RoBERTa 模型,保留大小寫。於英文維基百科、BooksCorpus、CommonCraw 和 OpenWebText 上訓練。
sam_base_sa1b Segment Anything Model 93.74M 於 SA1B 資料集上訓練的基礎 SAM 模型。
sam_huge_sa1b Segment Anything Model 312.34M 於 SA1B 資料集上訓練的超大型 SAM 模型。
sam_large_sa1b Segment Anything Model 641.09M 於 SA1B 資料集上訓練的大型 SAM 模型。
stable_diffusion_3_medium Stable Diffusion 3 2.99B 30 億參數,包含 CLIP L 和 CLIP G 文字編碼器、MMDiT 生成模型和 VAE 自動編碼器。由 Stability AI 開發。
stable_diffusion_3.5_medium Stable Diffusion 3 3.37B 30 億參數,包含 CLIP L 和 CLIP G 文字編碼器、MMDiT-X 生成模型和 VAE 自動編碼器。由 Stability AI 開發。
stable_diffusion_3.5_large Stable Diffusion 3 9.05B 90 億參數,包含 CLIP L 和 CLIP G 文字編碼器、MMDiT 生成模型和 VAE 自動編碼器。由 Stability AI 開發。
stable_diffusion_3.5_large_turbo Stable Diffusion 3 9.05B 90 億參數,包含 CLIP L 和 CLIP G 文字編碼器、MMDiT 生成模型和 VAE 自動編碼器。timestep-distilled 版本,消除了 classifier-free guidance 並使用較少的步驟進行生成。由 Stability AI 開發。
t5_small_multi T5 0 8 層 T5 模型。於 Colossal Clean Crawled Corpus (C4) 上訓練。
t5_base_multi T5 0 12 層 T5 模型。於 Colossal Clean Crawled Corpus (C4) 上訓練。
t5_large_multi T5 0 24 層 T5 模型。於 Colossal Clean Crawled Corpus (C4) 上訓練。
flan_small_multi T5 0 8 層 T5 模型。於 Colossal Clean Crawled Corpus (C4) 上訓練。
flan_base_multi T5 0 12 層 T5 模型。於 Colossal Clean Crawled Corpus (C4) 上訓練。
flan_large_multi T5 0 24 層 T5 模型。於 Colossal Clean Crawled Corpus (C4) 上訓練。
t5_1.1_small T5 60.51M
t5_1.1_base T5 247.58M
t5_1.1_large T5 750.25M
t5_1.1_xl T5 2.85B
t5_1.1_xxl T5 11.14B
vgg_11_imagenet VGG 9.22M 11 層 vgg 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
vgg_13_imagenet VGG 9.40M 13 層 vgg 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
vgg_16_imagenet VGG 14.71M 16 層 vgg 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
vgg_19_imagenet VGG 20.02M 19 層 vgg 模型,於 224x224 解析度的 ImageNet 1k 資料集上預訓練。
vit_base_patch16_224_imagenet - 85.80M ViT-B16 模型,於影像解析度為 224x224 的 ImageNet 1k 資料集上預訓練
vit_base_patch16_224_imagenet21k - 85.80M ViT-B16 骨幹網路,於影像解析度為 224x224 的 ImageNet 21k 資料集上預訓練
vit_base_patch16_384_imagenet - 86.09M ViT-B16 模型,於影像解析度為 384x384 的 ImageNet 1k 資料集上預訓練
vit_base_patch32_224_imagenet21k - 87.46M ViT-B32 骨幹網路,於影像解析度為 224x224 的 ImageNet 21k 資料集上預訓練
vit_base_patch32_384_imagenet - 87.53M ViT-B32 模型,於影像解析度為 384x384 的 ImageNet 1k 資料集上預訓練
vit_large_patch16_224_imagenet - 303.30M ViT-L16 模型,於影像解析度為 224x224 的 ImageNet 1k 資料集上預訓練
vit_large_patch16_224_imagenet21k - 303.30M ViT-L16 骨幹網路,於影像解析度為 224x224 的 ImageNet 21k 資料集上預訓練
vit_large_patch16_384_imagenet - 303.69M ViT-L16 模型,於影像解析度為 384x384 的 ImageNet 1k 資料集上預訓練
vit_large_patch32_224_imagenet21k - 305.51M ViT-L32 骨幹網路,於影像解析度為 224x224 的 ImageNet 21k 資料集上預訓練
vit_large_patch32_384_imagenet - 305.61M ViT-L32 模型,於影像解析度為 384x384 的 ImageNet 1k 資料集上預訓練
vit_huge_patch14_224_imagenet21k - 630.76M ViT-H14 骨幹網路,於影像解析度為 224x224 的 ImageNet 21k 資料集上預訓練
whisper_tiny_en Whisper 37.18M 4 層 Whisper 模型。於 438,000 小時的標記英語語音資料上訓練。
whisper_tiny_multi Whisper 37.76M 4 層 Whisper 模型。於 680,000 小時的標記多語言語音資料上訓練。
whisper_base_multi Whisper 72.59M 6 層 Whisper 模型。於 680,000 小時的標記多語言語音資料上訓練。
whisper_base_en Whisper 124.44M 6 層 Whisper 模型。於 438,000 小時的標記英語語音資料上訓練。
whisper_small_en Whisper 241.73M 12 層 Whisper 模型。於 438,000 小時的標記英語語音資料上訓練。
whisper_small_multi Whisper 241.73M 12 層 Whisper 模型。於 680,000 小時的標記多語言語音資料上訓練。
whisper_medium_en Whisper 763.86M 24 層 Whisper 模型。於 438,000 小時的標記英語語音資料上訓練。
whisper_medium_multi Whisper 763.86M 24 層 Whisper 模型。於 680,000 小時的標記多語言語音資料上訓練。
whisper_large_multi Whisper 1.54B 32 層 Whisper 模型。於 680,000 小時的標記多語言語音資料上訓練。
whisper_large_multi_v2 Whisper 1.54B 32 層 Whisper 模型。在 680,000 小時的標記多語言語音資料上訓練了 2.5 個 epoch。whisper_large_multi 的改進版本。
xlm_roberta_base_multi XLMRoberta 277.45M 12 層 XLM-RoBERTa 模型,保留大小寫。於 100 種語言的 CommonCrawl 上訓練。
xlm_roberta_large_multi XLMRoberta 558.84M 24 層 XLM-RoBERTa 模型,保留大小寫。於 100 種語言的 CommonCrawl 上訓練。