跳至主要内容

服務概觀

客製化流程設計前台​

  1. 什麼是客製化流程設計前台？

    • 此服務採用分層架構，包含前端平台（Tier 1）、API代理伺服器（Tier 2）及LLM推論加速器（Tier 3）。
    • 結合AI工具與工作流程，提供直覺易用的開發環境。
    • 無需技術背景，即可靈活配置AI應用。
    • 支援快速佈署與介面設計，加速應用落地

  2. 國網中心提供哪些前端服務？

    • 目前提供包括 AnythingLLM、Open WebUI、DIFY (Workflow Engine)、Streamlit (RAG Workflow)、Aqua(by UnieAI)等前端服務。
    • 未來將進一步整合更多選項。

  3. 如何申請客製化流程設計前台？

    • 請先申請 iService 帳號，並於服務平台網頁填寫申請資訊。

多模型 API 服務​

  1. 什麼是多模型 API 服務？

    • 此服務基於 API 代理伺服器（Tier 2）及 LLM 推論加速器（Tier 3）架構，提供多種開源模型 API，適用於不同應用場景。
    • 針對台灣繁體中文優化，提升語言理解與應用效果。
    • 幫助企業快速開發 AI 加值服務，增強競爭力。

  2. 如何申請多模型API服務？

    • 請先申請 iService 帳號，並在服務平台網頁填寫申請資訊，取得 API 金鑰後即可開始使用。

  3. 什麼是國網中心 API 服務金鑰（API Key）？

    • 是存取國網中心多模型 API 服務的憑證，需通過此金鑰與 LiteLLM 模組來訪問大語言模型。

  4. 為何需要申請 API Key？

    • API Key 是存取國網中心所提供模型的必要條件。

  5. 所有 LLM 服務都需透過 LiteLLM 模組嗎？

    • 是的，所有 LLM 服務均需透過 LiteLLM 模組及 API Key 進行存取。

  6. API Key 可以同時多人使用嗎？

    • 可以，但需由廠商負責管理 API Key 的使用，一旦異常使用，國網中心將停權處理。

  7. 申請 API Key 有數量限制嗎？

    • 沒有限制，根據需求申請，但若不再需要，請聯繫國網中心停權。

模型微調與評估​

  1. 什麼是模型微調與評估？

    • 簡化 AI 訓練與數據處理流程，提高模型精準度。
    • 適用於公文訓練等特定應用，提升專業領域適用性。
    • 內建模型評分機制，提供優化參考數據。

  2. 如何申請模型微調與評估？

    • 請先申請 iService 帳號，並在服務平台網頁填寫申請資訊。完成後請至TAIWAN AI RAP首頁登入