雲端產品:AI 輔助的全回歸自動化測試

把既有手動測試案例轉成 Gherkin+Robot Framework+Playwright 腳本,每個步驟留存測試前、中、後截圖與錄影,由負責該產品的 QA 逐項覆核後移交維護。

類別
測試自動化
狀態
已移交 QA
期間
2026-01 – 2026-07
AI 協作
AI Agent 協作開發

系統架構與資料流

Gherkin 用於描述與核對測試規格;實際執行由 Robot Framework 腳本與三層共用 Keyword 負責,再透過 Browser Library 操作 Playwright。

規格與開發
  1. 既有手動測例產品需求與既有驗證步驟
  2. Gherkin 規格描述情境並與測例對照
  3. Robot 測試腳本AI 協作撰寫,人工審查與維護
執行路徑
  1. 測試案例Suite、測試資料與 Setup/Teardown
  2. 業務 Keyword使用者、政策與登入等操作
  3. 領域 Keyword導覽與產品共用流程
  4. 技術 Keyword定位、等待、輸入與點擊
  5. Browser/Playwright由專用測試主機操作 LAB 網站
執行證據與移交
  1. 執行產物XML/HTML、截圖與錄影
  2. 結果分類通過、失敗與略過分開統計
  3. QA 覆核與移交核對證據與測例後交由 QA 維護

本人範圍

開發、驗證、移交與輔導 QA 使用 AI Agent。

做法

  • 背景:2021–2023 三次嘗試建立自動化測試(Squash、Selenium、Robot Framework+Appium),都因支援工作優先、產品版本變動快而無法維護。
  • 2026 年改以 Claude Code 協作開發,搭配專屬測試主機與環境;以自適應定位降低小幅介面改動造成的失敗。
  • 為避免 AI 偷懶或編造結果,每個測試都必須有截圖與錄影佐證。

驗證方式

截圖、錄影與 HTML 報告由產品負責 QA 逐項覆核。

結果

指標數值出處資料來源
雲端產品全回歸(2026-07-02)541 個案例,2 小時 23 分Robot Framework 報告系統紀錄
人工執行同範圍回歸約 2 週本人估計本人估計
相關投入工時280.5 h工時表,2026系統紀錄
工時拆分:本人/AI 執行本人約 82 h、AI 執行約 199 h本人估計;2025-02-22 起依當期人機比例拆分,僅計公司登記工時本人估計

限制與後續

需要手機實機、硬體或特殊環境的案例未納入這次自動執行。每次全回歸產生約 5 GB 截圖與錄影佐證,在專用測試主機執行,尚未接入 CI。

使用技術

  • Robot Framework
  • Playwright
  • Gherkin
  • Claude Code