模型卡¶

模型頁面： PaliGemma

資源與技術文件：

• Kaggle 上的 PaliGemma 2
• 負責任的生成式 AI 工具組

使用條款： 使用條款

作者： Google

模型資訊¶

模型摘要¶

PaliGemma 2 是 PaliGemma 視覺語言模型（VLM）的更新版本，納入了 Gemma 2 模型的能力。PaliGemma 系列 模型的設計靈感來自 PaLI-3，並以 SigLIP 視覺模型與 Gemma 2 語言模型等開放元件為基礎。它同時 接受影像與文字作為輸入，並產生文字作為輸出，支援多種語言。其設計目標是在 影像與短片圖說、視覺問答、文字閱讀、物件偵測與物件分割等廣泛的視覺語言任務上， 達到同級最佳的微調效能。

模型架構¶

PaliGemma 2 由 Transformer 解碼器與 Vision Transformer 影像編碼器組成。 文字解碼器以 Gemma 2 初始化，提供 2B、9B 與 27B 參數量版本。影像編碼器以 SigLIP-So400m/14 初始化。與原始 PaliGemma 模型類似，PaliGemma 2 的訓練遵循 PaLI-3 的配方。

輸入與輸出¶

• 輸入：影像與文字字串，例如為影像加上圖說的提示，或是一個問題。
• 輸出：針對輸入產生的文字，例如影像的圖說、問題的答案、物件邊界框座標清單，或分割碼字。

引用¶

@article{
    title={PaliGemma 2: A Family of Versatile VLMs for Transfer},
    author={Andreas Steiner and André Susano Pinto and Michael Tschannen and Daniel Keysers and Xiao Wang and Yonatan Bitton and Alexey Gritsenko and Matthias Minderer and Anthony Sherbondy and Shangbang Long and Siyang Qin and Reeve Ingle and Emanuele Bugliarello and Sahar Kazemzadeh and Thomas Mesnard and Ibrahim Alabdulmohsin and Lucas Beyer and Xiaohua Zhai},
    year={2024},
    journal={arXiv preprint arXiv:2412.03555}
}

模型資料¶

預訓練資料集¶

PaliGemma 2 在以下資料集混合上進行預訓練：

• WebLI：WebLI (Web Language Image) 是一個來自公開網路的網路規模多語言影像文字資料集。我們使用了多種 WebLI 資料分割，以獲得多樣的模型能力，例如視覺語意理解、物件定位、具視覺情境的文字理解，以及多語言能力。
• CC3M-35L：來自網頁的精選英文影像-alt_text 配對（Sharma et al., 2018）。我們使用 Google Cloud Translation API 將其翻譯成另外 34 種語言。
• VQ²A-CC3M-35L/VQG-CC3M-35L：VQ2A-CC3M 的子集（Changpinyo et al., 2022a），使用 Google Cloud Translation API 翻譯成與 CC3M-35L 相同的另外 34 種語言。
• OpenImages：以人工設計的規則在 OpenImages 資料集 上產生的偵測與物件感知問答（Piergiovanni et al. 2022）。
• WIT：從維基百科收集的影像與文字（Srinivasan et al., 2021）。

PaliGemma 2 以 Gemma 2 為基礎，Gemma 2 的預訓練資料集資訊請參閱 Gemma 2 模型卡。

資料責任篩選¶

我們對 WebLI 套用了以下篩選器，目標是讓 PaliGemma 2 在安全且負責任的資料上訓練：

• 色情影像篩選：此篩選器會移除被判定為色情性質的影像。
• 文字安全篩選：我們會辨識並篩除搭配不安全文字的影像。不安全文字是指任何被判定為含有或涉及兒童性虐待影像（CSAI）、色情、粗俗用語，或其他冒犯性內容的文字。
• 文字毒性篩選：我們進一步使用 Perspective API 來辨識並篩除搭配被判定為侮辱、淫穢、仇恨或其他有毒文字的影像。
• 文字個人資訊篩選：我們使用 Cloud Data Loss Prevention (DLP) API 篩除特定的個人資訊與其他敏感資料，以保護個人隱私。社會安全號碼等識別碼與其他敏感資訊類型皆已移除。
• 其他方法：依據我們的政策與實務，進行內容品質與安全性的篩選。

實作資訊¶

硬體¶

PaliGemma 2 使用最新一代的 Tensor Processing Unit（TPU） 硬體（TPUv5e）進行訓練。

軟體¶

訓練使用 JAX、 Flax、 TFDS 與 big_vision 完成。

JAX 讓研究人員能夠利用最新一代的硬體（包括 TPU），以更快、更有效率的方式 訓練大型模型。

TFDS 用於存取資料集，Flax 用於模型架構。PaliGemma 2 的微調程式碼與推論程式碼 已發布於 big_vision GitHub 存放庫。

評估資訊¶

基準測試結果¶

為了驗證 PaliGemma 2 在各種學術任務上的遷移能力，我們在每個任務上對預訓練 模型進行微調。此外，我們也以遷移任務的混合資料訓練混合模型。我們在不同 解析度下報告結果，以呈現哪些任務能從提高解析度中受益。重要的是，這些任務或 資料集都不屬於預訓練資料混合的一部分，其影像已明確從網路規模的預訓練資料中 移除。

PaliGemma 2 按模型解析度與大小的結果¶

其他基準測試¶

ICDAR 2015 Incidental

Total-Text

FinTabNet

PubTabNet

GrandStaff

PubChem

• PaliGemma 2 3B，全匹配：94.8

DOCCI

• avg#char：平均字元數
• avg#sent：平均句子數
• NES：非蘊含句

MIMIC-CXR

Visual Spatial Reasoning

| 模型 | VSR zeroshot split (test) | VSR random split (test) | |---|---|---|---| | PaliGemma 2 3B | 0.75 | 0.82 | | PaliGemma 2 10B | 0.80 | 0.87 |

倫理與安全¶

評估方法¶

我們的評估方法包括針對相關內容政策的結構化倫理與安全評估，包括：

• 針對涵蓋兒童安全、內容安全與代表性傷害的提示進行人工評估。有關評估方法的更多細節，請參閱 Gemma 模型卡，但採用的是影像圖說與視覺問答設定。
• 影像轉文字基準測試評估：以相關學術資料集為基準進行評估，例如 FairFace 資料集（Karkkainen et al., 2021）。

評估結果¶

• 倫理與安全評估的人工評估結果，均在符合內部政策可接受門檻內，類別包括兒童安全、內容安全與代表性傷害。
• 除了嚴謹的內部評估外，我們也會使用 Perspective API（門檻為 0.8）來測量以 FairFace 資料集影像產生的圖說中的毒性、髒話與其他潛在問題。我們報告各感知性別、種族與年齡屬性子群中觀察到的最大值與中位數。

用途與限制¶

預期用途¶

開放的視覺語言模型（VLM）在各產業與領域中有廣泛的應用。以下潛在用途清單並 不全面。此清單的目的是提供背景資訊，說明模型建立者在模型訓練與開發過程中 考慮過的可能使用情境。Gemma 模型的禁用用途列於 Gemma 禁用用途政策。

針對特定視覺語言任務微調：

• 預訓練模型可針對影像圖說、短片圖說、視覺問答、文字閱讀、物件偵測與物件分割等廣泛的視覺語言任務進行微調。
• 預訓練模型可針對特定領域進行微調，例如遙感問答、視障人士的視覺問題、科學問答、描述 UI 元件功能。
• 預訓練模型可針對非文字輸出（例如邊界框或分割遮罩）的任務進行微調。

視覺語言研究：

• 預訓練模型與微調模型可作為研究人員的基礎，用於實驗 VLM 技術、開發演算法，並促進該領域的發展。

倫理考量與風險¶

視覺語言模型（VLM）的開發引發了多項倫理疑慮。在建立開放模型時，我們已仔細 考量以下幾點：

• 偏見與公平
  • 以大規模真實世界影像文字資料訓練的 VLM，可能反映訓練資料中嵌入的社會文化偏見。這些模型已接受嚴格審查，本卡片說明了輸入資料的預處理，以及後續的評估結果。
• 錯誤資訊與濫用
  • VLM 可能被濫用，以產生虛假、誤導或有害的文字。
  • 模型的負責任使用指南，請參閱負責任的生成式 AI 工具組。
• 透明度與課責
  • 本模型卡摘要了模型的架構、能力、限制與評估流程等細節。
  • 負責任開發的開放模型，透過讓 AI 生態系中的開發者與研究人員都能取得 VLM 技術，提供了分享創新的機會。

已識別的風險與緩解措施：

• 偏見的延續：建議在模型訓練、微調與其他使用情境中持續監控（使用評估指標、人工審查），並探索去偏見技術。
• 有害內容的產生：內容安全機制與指南不可或缺。建議開發者保持謹慎，並根據其產品政策與應用使用情境，實施適當的內容安全防護。
• 惡意用途的濫用：技術限制，以及開發者與終端使用者的教育，有助於緩解 LLM 的惡意應用。我們也提供教育資源與回報機制，供使用者檢舉濫用情形：請參閱負責任的生成式 AI 工具組。Gemma 模型的禁用用途列於 Gemma 禁用用途政策。
• 隱私侵犯：模型訓練所用的資料已篩除特定的個人資訊與敏感資料。建議開發者使用隱私保護技術，遵守隱私法規。

限制¶

• 底層 Gemma 2 模型的大多數限制仍然適用：
  • VLM 更擅長處理能以明確提示與指示框定的任務。開放式或高度複雜的任務可能具有挑戰性。
  • 自然語言本質上很複雜。VLM 可能難以掌握細微的語義差別、諷刺或比喻。
  • VLM 根據從訓練資料集學到的資訊產生回應，但它們不是知識庫。它們可能會產生錯誤或過時的事實陳述。
  • VLM 依賴語言與影像中的統計模式。在某些情況下，它們可能缺乏運用常識推理的能力。
• PaliGemma 2 首要設計目標是作為可微調至專門任務的通用預訓練模型。因此，其「開箱即用」或「零樣本」效能可能不如專為通用用途設計的模型。
• PaliGemma 2 不是多輪對話機器人。它專為單輪影像與文字輸入而設計。