AI應用

AI應用分類

文本生成AI

文本生成AI的定義

文本生成AI（Text Generation AI）是一種利用人工智慧（AI）技術來自動產生人類可讀文本內容的系統或模型。它屬於自然語言生成（NLG）領域的一個子集，其核心目標是讓機器能夠像人類一樣理解語言的規則、風格和上下文，並依此創作新的、有意義的文本。

核心技術原理

大多數現代文本生成AI都基於深度學習（Deep Learning），特別是使用轉換器（Transformer）架構的模型，例如著名的GPT（Generative Pre-trained Transformer）系列。

• 模型訓練

  AI模型會在龐大的文本資料集上進行訓練，學習語言的統計規律、語法、詞彙關係和知識。這個過程是自我監督（Self-supervised）的，模型會學習預測文本序列中的下一個詞彙或填充被遮蓋的詞彙。

• 轉換器（Transformer）

  轉換器是文本生成AI的關鍵，它引入了注意力機制（Attention Mechanism）。注意力機制允許模型在生成每個新詞彙時，權衡輸入文本中所有其他詞彙的重要性，從而更好地理解長距離的依賴關係和上下文。

• 文本生成過程

  生成文本時，模型會接收一個起始提示（Prompt），然後根據其學到的概率分佈，一個詞一個詞或一個標記一個標記地預測最可能的下一個詞彙，直到達到指定的長度或生成一個特殊的停止標記。

常見應用

文本生成AI的應用範圍非常廣泛，涵蓋了商業、媒體、教育和個人創作等多個領域：

文本生成AI的挑戰

儘管技術發展迅速，文本生成AI仍面臨一些挑戰：

• 事實錯誤（Hallucination）：模型有時會生成聽起來合理但事實上錯誤或捏造的資訊。
• 偏見與歧視：由於訓練數據中可能包含人類社會的偏見，AI生成的文本可能會無意中帶有歧視性或不公平的內容。
• 一致性與連貫性：在生成非常長的文本時，模型有時難以保持主題或論點的長期一致性。

文本生成AI的多人協同應用

從個人助理到團隊協作夥伴

文本生成AI的應用正在從最初的個人生產力工具（例如單獨使用 ChatGPT 撰寫文案初稿），迅速發展為支援多用戶、多環節的團隊協作解決方案。這種轉變的核心是將AI視為一個可共享、可互動的虛擬團隊成員（AI Copilot）。

核心協同模式

1. 共享編輯與共創（Multiplayer AI Collaboration）

最直接的協作應用是多個使用者在一個共享的介面中與AI共同工作，即時生成、編輯和優化文本內容。

• 協作頁面（Copilot Pages）：

  許多企業級的AI工具（如 Microsoft Copilot Pages）提供了一個持久性的、可編輯的畫布（Dynamic Canvas）。團隊成員可以在同一個頁面上，即時共同提示（Prompt Together）AI來擴展或改進回應，並直接編輯AI生成的內容，確保最終輸出的品質和一致性。

• 迭代與完善：

  初稿由AI根據一個或多個團隊成員的提示快速生成。隨後，其他成員可以加入，使用AI功能（例如重寫、摘要、轉換格式）來優化特定段落，或將文本轉換為表格、清單等結構化元件。

2. 整合工作流程的「AI協同鏈」

多人協作不僅限於一個工具，更重要的是將不同的AI工具串聯成一個順暢的工作流程（Workflow），讓不同職能的團隊成員接力完成任務。

• 分工協作：
  1. 內容團隊（Content Team）使用大型語言模型（如 ChatGPT）快速生成文案初稿。
  2. 編輯團隊（Editing Team）將初稿導入專業校對工具（如 Grammarly），進行語法、風格和語氣的潤飾。
  3. 設計團隊（Design Team）利用圖像生成AI工具（如 Canva AI）根據文本主題創建視覺素材。

  這種模式要求各個AI工具之間的資料格式和 API 邏輯具備相容性與標準性。

• 統一平台：

  許多協作平台（如 Microsoft Teams）將 AI Copilot 直接嵌入群組聊天或頻道中，讓AI成為一個可見的團隊成員，協助進行會議摘要、群聊內容總結或專案計畫的發想與規劃。

3. 多代理人系統（Multi-Agent Systems）

在更複雜的企業應用中，會部署多個具有不同角色的專業化 AI 代理人（Specialized AI Agents），讓它們之間彼此協作來解決問題或優化流程。

• 自主協作：例如，一個「數據分析代理人」可以提取報告中的關鍵指標，然後將這些指標傳遞給一個「報告撰寫代理人」，讓它生成相應的文本解釋和建議，最終由人類管理者進行審核和發佈。

這些應用能夠讓團隊成員共享 AI 帶來的生產力增益，將個人層次的效率提升擴展到整個組織。

這段影片介紹了 Copilot Pages 如何支援多人協作，將 AI 的回應轉變為可編輯和共享的頁面。

[Transforming AI Collaboration Multi Agent Systems In Copilot Studio]

對話式 AI

什麼是對話式 AI

對話式 AI（Conversative AI）是指能夠以接近人類自然語言方式進行互動的大型語言模型（LLM），使用者輸入文字或語音後，AI 會即時理解並生成回應，主要應用在聊天機器人、虛擬助理、客服、學習工具等場景。

發展歷史簡介

• 2022年11月：OpenAI 發布 ChatGPT，首次讓大眾體驗到強大對話 AI
• 2023年：Google Bard、Anthropic Claude、Meta LLaMA 相繼出現
• 2024年：多模態（文字+圖像+語音）成為主流
• 2025年：推理能力、即時搜尋、長上下文成為新競爭焦點

核心技術

• Transformer 架構
• 數千億至數兆參數規模
• 預訓練 + 微調 + RLHF（人類反饋強化學習）
• 多模態模型（同時處理文字、圖像、語音）

常見使用場景

• 日常問答與閒聊
• 撰寫文章、郵件、報告
• 程式碼撰寫與除錯
• 文件摘要與翻譯
• 學習輔導（解題、解釋觀念）
• 創意發想（故事、廣告、設計）
• 即時資訊查詢與研究

目前主流代表（2025年11月）

• ChatGPT（OpenAI）
• Gemini（Google）
• Grok（xAI）
• Claude（Anthropic）
• Perplexity AI
• Llama（Meta，开源）

優點與限制

對話式 AI 比較

模型列表

• ChatGPT (OpenAI)ChatGPT
• Gemini (Google)Gemini
• Grok (xAI)https://x.ai/grok
• Claude (Anthropic)
• Perplexity AI
• Llama (Meta)

比較表格

使用建議

• 日常對話與創造：ChatGPT
• 研究與事實：Perplexity AI
• 程式碼與寫作：Claude
• 多媒體與速度：Gemini
• 即時社群資訊：Grok
• 開源開發：Llama

ChatGPT

ChatGPT 的定義與技術

ChatGPT 是一種由 OpenAI 開發的大型語言模型（Large Language Model, LLM），其名稱來自「Chat Generative Pre-trained Transformer」。它是一種專門設計用於進行對話和文本生成的人工智慧應用程式。

• 核心技術：ChatGPT 建立在 Transformer 架構之上，並經過大規模文本數據的預先訓練（Pre-trained）。
• 對話優化：它特別使用了人類回饋強化學習（Reinforcement Learning from Human Feedback, RLHF）進行微調。這使得模型能夠更好地理解人類的指示、偏好和對話上下文，從而產生更具相關性、連貫性和實用性的回應。
• 模型演變：ChatGPT 的能力隨著其底層模型（如 GPT-3.5、GPT-4）的迭代而持續增強。

ChatGPT 的功能與應用

ChatGPT 的主要功能在於理解和生成人類語言，使其在多個領域具有廣泛的應用：

1. 文本創作與摘要

• 內容生成：撰寫文章、電子郵件、故事、詩歌、劇本等不同風格和長度的文本內容。
• 文本編輯：進行文本翻譯、潤飾語氣、校對語法或將長篇文本總結為重點摘要。

2. 知識與學習輔助

• 問答系統：能夠回答廣泛領域的問題，從簡單事實到複雜概念的解釋。
• 學習夥伴：解釋複雜主題、提供多種視角、生成學習筆記或模擬對話練習。

3. 程式碼與技術支援

• 程式碼生成：生成特定語言和功能的程式碼片段。
• 程式碼除錯：解釋程式碼邏輯或幫助找出錯誤。

主要限制與挑戰

儘管 ChatGPT 功能強大，但它並非完美，在使用時需要注意其固有局限性：

• 事實錯誤（Hallucination）：模型有時會生成聽起來非常自信和合理的資訊，但實際上是錯誤或捏造的（即「幻覺」）。
• 知識時效性：其知識庫主要基於訓練數據的截止日期，因此對於訓練截止日期之後發生的事件可能缺乏了解。
• 理解細微差別：對於需要深度倫理判斷、微妙情感理解或極度精確事實核查的任務，其表現可能不穩定。
• 數據偏見：模型的回應可能反映出訓練數據中存在的社會、文化或歷史偏見。

Grok

Grok 的定義與特色

Grok 是一種由 xAI 開發的大型語言模型（Large Language Model, LLM）。xAI 是由 Elon Musk 於 2023 年創立的人工智慧公司。Grok 的主要設計目標是提供一個具有幽默感、反諷（Sarcasm）和叛逆性（Rebellious streak）的對話式 AI，使其在眾多 AI 模型中風格獨樹一幟。

• 即時資訊存取：Grok 的一個主要特色是能夠即時（Real-time）存取透過 X（前 Twitter）平台傳播的資訊。這使其在處理即時新聞、熱門話題和最新事件方面具有潛在優勢。
• 個性化語氣：與許多傾向於中立和謹慎回應的 AI 模型不同，Grok 被設計成能夠以更具個性和幽默、甚至略帶爭議性的方式進行互動。

核心定位

由 xAI 開發的追求最大真相 AI，回答直接、不設政治正確限制，風格融合《銀河便車指南》與 JARVIS 的幽默與叛逆。

主要能力

• 即時搜尋 X 平台與網路最新資訊
• 深度文件分析與摘要（財報、論文、PDF）
• 程式碼撰寫、除錯、最佳實踐建議
• 圖像理解與生成
• 語音對話（Grok Voice，仅 iOS / Android App）
• 複雜推理與多步驟思考（Grok Think）

Grok 的模型架構與版本

Grok 模型是經過大量文本數據訓練的生成式 AI，旨在處理和理解複雜的語言任務。

1. Grok-1

• 這是 Grok 的第一個版本，最初以 3140 億個參數的混合專家（Mixture-of-Experts, MoE）模型形式發布。
• 在 MoE 架構中，模型不是使用所有參數來處理每個查詢，而是只啟動一部分「專家」網路，這有助於提高訓練和推理的效率，同時保持極高的參數數量。

2. Grok-1.5 和後續版本

• xAI 持續發布 Grok 的迭代版本，如 Grok-1.5，以改進推理能力、程式碼生成能力以及在更長上下文窗口下的表現。
• 這些更新旨在提高 Grok 在複雜任務（如數學、科學和編程）中的準確性和實用性。

現行版本

• Grok 3：免費使用（有額度限制）
• Grok 4：2025 年 7 月發布，目前全球最強 AI
• Grok 4 Heavy：更強大變體，處理極端任務

Grok 的應用與目標市場

Grok 主要鎖定尋求與傳統 AI 助手不同互動體驗的使用者和市場：

• X 平台整合：Grok 深度整合於 X 平台，成為 X Premium 訂閱服務的一部分。這為使用者提供了一個在社群媒體生態系統中快速獲取和分析即時資訊的工具。
• 個性化對話：對於那些喜歡非正式、幽默或略帶挑釁語氣的互動，Grok 提供了一種更接近人類隨性對話的體驗。
• 資訊彙整：鑑於其即時資訊存取能力，Grok 擅長快速總結當前熱門話題和事件的各種觀點和數據。

存取管道

• 網站：grok.com、x.com
• App：Grok iOS/Android、X iOS/Android
• Grok 4 與 Heavy 版僅限 SuperGrok 與 X Premium+ 訂閱者
• 訂閱詳情：https://x.ai/grok

開發背景

Elon Musk 創立 xAI 的初衷之一是為了「理解宇宙的真實本質」（to understand the true nature of the universe），並將 Grok 視為對抗其他大型科技公司（如 Google 和 OpenAI）所主導的 AI 發展方向的一種制衡力量。他強調 Grok 應該追求真相，並避免被「政治正確」的偏見所限制。

Gemini

Gemini 的定義與用途

Gemini 是由 Google 開發的一個多模態大型語言模型（Multimodal Large Language Model, MLLM）系列，旨在成為其最具能力和通用性的人工智慧模型。它能夠理解、操作和結合不同類型的資訊，包括文本、圖像、音訊、影片和程式碼。

• 多模態能力：Gemini 可以接收多種類型的輸入並產生相應的輸出。例如，你可以輸入一張圖片和一個文字問題，它能理解圖片內容並以文字回答。
• 用途：它用於驅動 Google 產品中的各種 AI 應用程式，包括 Google Search、Google Ads、Bard（現已更名為 Gemini）、Android 上的應用程式以及 Google Cloud 平台上的 AI 服務等。

Gemini 模型級別

Gemini 依據其能力和效率被分為三個版本，以適用於不同的應用場景和設備：

核心技術特色

• 原生多模態設計：與先前模型通常將不同模態的數據分開處理再縫合不同，Gemini 從一開始就是設計為原生處理多模態數據的，這使得它在整合理解方面更為出色。
• 進階推理能力：Gemini 在數學、物理、邏輯和複雜推理等領域表現出強大的能力，有助於解決需要多步驟思考的問題。
• 程式碼生成：它能夠理解、解釋並生成高品質的程式碼，支援多種程式語言，並能與開發者的工具鏈整合。

Claude

開發背景與核心理念

Claude 是由人工智慧初創公司 Anthropic 所開發的大型語言模型系列。Anthropic 由前 OpenAI 高層成員創立，其核心理念在於開發「誠實、無害且有助」的 AI 系統。Claude 的研發特別強調憲法人工智慧（Constitutional AI）技術，這使得模型在遵循道德準則與降低偏見方面表現優異。

模型系列與分級

Claude 系列目前以 Claude 3 與 Claude 3.5 為主，針對不同需求提供三種不同規模的模型：

關鍵技術優勢

• 超長上下文視窗（Context Window）：Claude 支援高達 200,000 個標記（Tokens）甚至更多的處理能力，這意味著它能一次讀取並分析整本小說、長篇合約或龐大的程式碼庫。
• 低幻覺率：相較於其他競爭對手，Claude 在處理事實陳述時較為謹慎，對於不知道的問題更傾向於承認，而非編造答案。
• 視覺理解能力：具備強大的多模態處理能力，可以精準解析圖表、照片、手寫字跡或複雜的建築平面圖。

Artifacts 協作功能

這是 Claude 介面的一大創新。當使用者要求生成程式碼、網頁、向量圖形（SVG）或數據視覺化時，系統會開啟一個獨立的側邊視窗（Artifacts）來顯示渲染結果。開發者可以在此視窗直接預覽網頁效果或即時與 AI 協作修改內容，極大提升了生產力。

適用領域

由於其細膩的文字風格與嚴謹的邏輯，Claude 特別受到以下族群青睞：

• 創意寫作：其文筆被認為更接近人類，較少有典型的 AI 腔調。
• 法律與學術研究：憑藉強大的長文本處理能力，能快速摘要數百頁的文件。
• 軟體開發：在邏輯推理與代碼優化方面，Claude 3.5 Sonnet 表現極其出色。

OpenClaw

定義與起源

OpenClaw 是一個開源專案，主要作為 ClaudeBot 的核心實作，旨在將 Anthropic 開發的 Claude 大型語言模型整合至 Discord 等社群平台。這個專案讓開發者與伺服器管理員能夠透過 API 接取，在聊天頻道中實現高品質的 AI 對話互動。

核心功能

• API 整合： 完美介接 Anthropic 的官方 API，支援包括 Claude 3.5 Sonnet、Opus 與 Haiku 在內的多種模型版本。
• 多模態支援： 除了純文字對話，OpenClaw 允許使用者上傳圖片、文件或程式碼檔案，讓 AI 進行視覺辨識或長文本分析。
• 人格設定（Prompt Engineering）： 支援自定義系統提示詞，讓機器人可以模擬特定的角色、語氣或專業背景，滿足不同伺服器的社群氛圍。
• 對話上下文管理： 具備記憶管理機制，能夠在多輪對話中保持連貫性，並根據 Discord 的限制自動處理長訊息分割。

技術特性

社群價值

OpenClaw 的出現大幅降低了社群引進頂尖 AI 的門檻。透過開源架構，它提供了一個比官方網頁介面更具客製化空間的環境，讓技術愛好者能將 Claude 的邏輯推理能力應用於自動化管理、程式碼審查以及多人協作討論中。

DeepSeek

概念

DeepSeek 是一種利用深度學習技術進行高效數據搜索與分析的工具或框架。它結合了自然語言處理（NLP）、機器學習和高效索引技術，旨在處理大型數據集中的搜索需求，特別適合非結構化數據的檢索。

特點

• 多模態支持：可處理文本、圖像、音頻和視頻等多種類型的數據。
• 智能語義搜索：通過深度學習模型理解用戶的意圖，而不僅僅依賴關鍵詞匹配。
• 高效索引：使用向量數據庫（如 FAISS）或其他優化技術快速檢索大型數據集。
• 可擴展性：支持分佈式架構，適用於企業級應用。

用途

• 在大型數據集中進行快速、準確的搜索。
• 分析非結構化數據（如文件、圖像和視頻）的內容並提取關鍵信息。
• 用於電子商務、醫療、金融等領域的智能搜索系統。

技術核心

• 向量檢索：使用深度學習生成的嵌入向量進行相似度搜索。
• NLP 模型：結合大型語言模型（如 BERT 或 GPT）處理自然語言查詢。
• 分佈式系統：使用技術如 Elasticsearch 或 Milvus 實現大規模數據索引與檢索。

實現方式

1. 數據準備：收集並預處理數據，例如生成嵌入向量。
2. 索引構建：利用工具（如 FAISS 或 Milvus）對嵌入向量進行索引。
3. 查詢檢索：通過語義搜索模型將用戶查詢轉換為嵌入向量，並與索引進行匹配。

優勢

• 能夠在結構化和非結構化數據中實現高效搜索。
• 提供更接近人類語義理解的檢索結果。
• 支持大規模部署和快速擴展。

常見工具與框架

• FAISS：Facebook 開發的快速相似度搜索工具。
• Milvus：開源的向量數據庫，專為深度學習應用設計。
• Hugging Face Transformers：支持語義搜索的 NLP 模型庫。

AI音樂生成

定義

AI音樂生成是指利用人工智慧技術創作或輔助創作音樂的過程。這些系統通常透過機器學習算法，特別是深度學習模型，來分析大量音樂數據並生成新的音樂作品。AI音樂生成技術能夠模仿不同風格、樂器和作曲技巧，甚至創建完全新穎的音樂。

主要技術

• 深度學習：透過神經網絡學習大量音樂資料，從而生成和分析音符、旋律、和聲等。
• 生成對抗網絡（GANs）：一種通過兩個神經網絡競爭來生成音樂的技術。
• 遞歸神經網絡（RNNs）：特別適合處理時間序列數據，用於生成連貫的旋律和和聲。
• 變分自編碼器（VAE）：透過隱變數建模，生成具有高品質變異性的音樂作品。

應用領域

• 音樂創作：AI可用於創建旋律、和聲、伴奏等，輔助作曲家或藝術家進行創作。
• 音樂生成平台：如 Mureka、Amper Music、Aiva、OpenAI 的 Jukedeck 等，提供在線音樂生成服務，供企業和創作者使用。
• 遊戲和電影音樂：AI可根據情境生成背景音樂或情感音樂，提升互動性與沉浸感。
• 個性化音樂推薦：利用AI分析用戶喜好，生成個性化的音樂播放清單。

優點

• 提高創作效率：AI能快速生成大量音樂，幫助音樂創作者節省時間和精力。
• 降低創作門檻：即便是沒有音樂專業背景的人，也能輕鬆創建音樂。
• 創新性：AI可以生成不同風格的音樂，甚至創造出人類未曾探索過的音樂形式。

挑戰

• 情感表達不足：AI生成的音樂常常缺乏人類作曲家所表達的情感和靈魂。
• 版權問題：AI生成的音樂可能涉及到已經存在的音樂片段，容易引發版權爭議。
• 創意限制：雖然AI可以模仿多種音樂風格，但它仍然受到訓練資料的限制，缺乏真正的創造力。

未來發展

隨著AI技術的進步，未來的AI音樂生成將越來越具有人類創作的深度和情感表達。更多的AI音樂創作平台將出現，讓更多音樂愛好者和專業人士參與其中。未來的AI可能會與人類作曲家進行更深入的合作，創造出更具創意和多樣性的音樂作品。

音樂生成平台比較

AI 邊緣運算

什麼是 AI 邊緣運算？

AI 邊緣運算是將人工智慧（AI）處理能力部署在資料來源的邊緣位置，通常是靠近使用者或設備的地方，而非依賴集中式雲端運算。這種技術可以降低資料傳輸的延遲、節省頻寬，並提高即時處理的效率。

AI 邊緣運算的優勢

• 低延遲：邊緣運算能夠在資料產生處就地處理，減少傳輸時間，實現更即時的反應。
• 數據隱私與安全：由於資料不需傳輸至遠端伺服器，可以降低敏感資訊的外洩風險，增強數據隱私性。
• 節省頻寬：大量的資料可在邊緣進行初步處理，僅傳輸必要資訊到雲端，節省網路頻寬。
• 離線處理能力：邊緣運算能在無網路或網路不穩定時仍然進行 AI 處理，增強設備的靈活性。

AI 邊緣運算的應用場景

• 智慧城市：在交通監控、環境監測等應用中，邊緣運算可即時處理大量感測器數據，提供快速決策。
• 自駕車：邊緣運算幫助自駕車在毫秒級的時間內處理影像和雷達數據，提升安全性。
• 智慧家居：邊緣 AI 可以實現家庭設備的即時控制和自我學習，如語音助理、監控系統等。
• 工業 4.0：在智慧製造中，邊緣運算可以即時監測生產設備狀態，提高生產效率並減少停機時間。

AI 邊緣運算的挑戰

儘管邊緣運算具有許多優勢，但其在硬體設備、數據同步和能源消耗方面仍面臨挑戰。邊緣設備需要具有足夠的計算能力，且要保持與中央系統的數據一致性。此外，隨著設備數量增加，邊緣運算也需應對能源效率和管理的問題。

Ollama

技術定位

Ollama 是一個開源的本地大語言模型（LLM）執行框架。它旨在簡化大型語言模型在個人電腦（macOS、Windows、Linux）上的部署與運行流程。透過將模型權重、配置、提示詞範本與依賴環境打包成單一的 Modelfile（類似於 Docker 容器的概念），讓開發者與技術愛好者無需複雜的環境設定，即可一鍵下載並在本地端流暢執行各種頂尖的開源 AI 模型。

核心功能特性

• 多平台支援與 GPU 加速： 內建支援 Apple Silicon（M1/M2/M3/M4 晶片）的 Metal 加速，以及 NVIDIA GPU 的 CUDA 加速與 AMD GPU 的 ROCm 加速，能自動偵測硬體並最佳化推論速度。
• 輕量級 API 服務： 啟動後會在背景建立一個本地的 HTTP 伺服器（預設為 http://localhost:11434），並提供相容於 OpenAI API 規範的端點，極易與 Aider、Continue、Dify 等第三方工具串接。
• 模型庫管理： 內建中央模型庫，使用者只需透過簡單的命令列指令，即可全自動完成模型的下載、更新與快取管理。

常用命令列指令

推薦下載的熱門開源模型

根據不同的應用場景，可以在 Ollama 中直接下載以下經過量化（Quantized）的免費模型：

• Llama 3.3 / Llama 3.1： Meta 開源的旗艦通用模型，適合日常問答、文本寫作與邏輯推理。
• DeepSeek-R1： 具備強大強化學習推理能力的模型，適合複雜的邏輯思考、數學與深度代碼除錯。
• Qwen2.5-Coder： 針對程式碼生成全面優化的模型，與 Aider 或 VS Code 插件搭配時精準度極高。
• Gemma 2： Google 開源的輕量高效率模型，在較小的參數規模下仍保有優異的語言理解能力。

應用價值

Ollama 的普及徹底改變了本地 AI 的使用門檻。它不僅解決了資料隱私洩漏的風險（所有運算完全斷網執行），更透過高效率的 C/C++ 底層架構（基於 llama.cpp）將記憶體佔用降至最低，使得在消費級筆電上執行百億參數規模的 AI 模型成為現實。

Ollama 安裝

Windows 環境安裝

Windows 支援兩種主要安裝方式（x86_64 與 ARM64 架構皆適用）：

• 官方安裝檔： 前往 Ollama 官方網站下載 OllamaSetup.exe（或 .msi），按提示點擊「Install」即可。程式預設會安裝至使用者的本機目錄中。
• 套件管理工具（winget）： 打開命令提示字元（CMD）或 PowerShell，輸入以下指令自動完成安裝：

winget install Ollama.Ollama

安裝完成後，Ollama 會自動註冊為開機啟動的系統服務，並在系統匣顯示圖示。

macOS 環境安裝

在 Mac 系統上，Ollama 能自動適應 Intel 晶片或 Apple Silicon（M1/M2/M3/M4 系列）的硬體加速：

• 官方安裝檔： 從官網下載 Ollama-darwin.zip，解壓縮後將 Ollama.app 拖移至系統的「應用程式（Applications）」資料夾。首次啟動時，程式會引導您將 ollama 指令連結至終端機環境。
• Homebrew 快速安裝： 打開終端機，執行以下指令：

brew install ollama

Linux 環境安裝

Linux 版本完全採用指令界面與系統服務（Systemd）管理，適用於 Ubuntu、Debian、Fedora 等各大發行版：

• 一鍵安裝腳本： 在終端機中執行官方提供的下載與配置腳本：

curl -fsSL https://ollama.com/install.sh | sh

• 服務狀態檢查： 安裝完成後，可透過此指令確認 Ollama 背景服務是否正常啟動：

sudo systemctl status ollama

Docker 容器化安裝

如果您希望將 AI 執行環境與宿主機系統隔離，或是在伺服器環境部署，可以使用 Docker 映像檔：

docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

註：若要在 Docker 中啟用 NVIDIA GPU 加速，啟動指令需額外加上 --gpus all 參數並確保宿主機已安裝 NVIDIA Container Toolkit。

驗證與首次執行

無論使用何種系統，安裝完成後打開您的終端機（Terminal / PowerShell），輸入以下指令來驗證是否安裝成功並下載您的第一個語言模型（以 3B 參數規模的 Llama 3.2 為例）：

# 檢查版本號
ollama --version

# 下載並直接執行對話模型
ollama run llama3.2

Ollama 模型管理

修改模型下載目錄

Ollama 預設不支援在單次 pull 指令中臨時指定不同的下載路徑。若要將模型下載到其他資料夾或硬碟磁碟區，必須透過修改系統環境變數 OLLAMA_MODELS 來變更全域儲存路徑。

• Windows 環境：

  1. 在系統匣（右下角）右鍵點擊 Ollama 圖示並選擇 Quit 徹底關閉程式。

  2. 開啟「環境變數」設定視窗，在使用者變數或系統變數中點擊「新增」。

  3. 變數名稱輸入 OLLAMA_MODELS，變數值輸入您的目標路徑（例如 D:\OllamaModels）。

  4. 重新啟動 Ollama 即可。

• macOS 環境：

  在終端機中執行以下指令以變更環境變數（此為暫時生效，永久生效需寫入 .zshrc）：

  launchctl setenv OLLAMA_MODELS "/Volumes/ExternalDrive/OllamaModels"

• Linux 環境：

  1. 編輯 systemd 服務設定：

  sudo systemctl edit ollama.service

  2. 在開啟的編輯器中加入以下內容：

  [Service]
  Environment="OLLAMA_MODELS=/path/to/your/directory"
          

  3. 儲存退出後，重載並重啟服務：

  sudo systemctl daemon-reload
  sudo systemctl restart ollama
          

刪除本地模型

要刪除已下載的免費模型以釋放硬碟空間，請直接在終端機或命令提示字元中使用 rm 指令。

• 步驟 1：查看目前已安裝的模型名稱

  ollama list

• 步驟 2：執行刪除指令

  使用 ollama rm <模型名稱>。例如要刪除 7B 的 Llama3 模型：

  ollama rm llama3:7b

• 步驟 3：驗證是否刪除成功

  再次檢視列表，確認該模型已不留存在清單中：

  ollama list

Ollama 刪除模型空間釋放

原因一：Ollama 背景服務尚未釋放快取快照

這是最常見的情況。當您執行 ollama rm 時，Ollama 僅從資訊清單（Manifests）中移除了模型標籤，但底層實際佔用數 GB 的大型資料塊（Blobs）可能仍被背景常駐程式掛載或暫存，導致 Windows 系統判定該檔案仍在使用中而未釋放空間。

• 解決方法： 請在 Windows 系統匣（右下角工作列）找到 Ollama 的圖示，按右鍵並選擇「Quit」徹底關閉程式。通常在關閉服務或重新開機後，系統便會自動將被鎖定的磁碟空間收回。

原因二：多個模型共享了相同的資料塊（Blobs）

Ollama 具有智慧型快取機制。如果兩個模型（例如 llama3:latest 與 llama3:instruct，或是某些微調版模型）共享了相同的基礎權重層，當您刪除其中一個模型時，為了確保另一個模型能正常運作，共享的資料塊不會被刪除。

• 檢驗方式： 在終端機輸入 ollama list，檢查是否還有其他基底相似的模型存在。必須將所有依賴該基礎權重的模型全部 rm 掉，空間才會完全釋放。

原因三：下載中斷留下的臨時殘留檔

如果您先前在 ollama pull 過程中曾經強制關閉視窗、斷網，或是因為硬碟滿了導致下載失敗，這些未完成的臨時檔案並不會被計入 ollama list 的清單中，因此執行 ollama rm 也無法清除它們。

• 解決方法： 您需要手動前往 Ollama 的預設暫存區檢查並清理。請按下 Win + R 鍵，輸入以下路徑並回車：

  %TEMP%

  檢查該目錄下是否存在以 ollama* 開頭的暫存資料夾，若有且目前無下載任務，可直接將其刪除。

原因四：手動檢查終極清理路徑

「Windows 設定 > 應用程式」中顯示的容量，僅是 Ollama 軟體主程式（主程式通常只有幾百 MB）的大小，它不會把您後來下載的數十 GB 模型計入在內。要百分之百確認模型是否真的消失，請直接檢查其真實的實體儲存資料夾。

• 預設儲存路徑： 按下 Win + R 鍵，輸入並執行：

  %USERPROFILE%\.ollama\models

• 清理說明： 這裡面的 blobs 資料夾存放著所有模型實體。如果您已經執行了 ollama rm 且關閉了 Ollama 程式，但發現這個資料夾依然佔用極大空間，您可以直接手動刪除 models 資料夾內的所有內容（注意：這會清空您所有已下載的模型，下次使用需重新 pull）。

Ollama Coding 模型

查詢可下載模型的方法

官方模型庫網站，可用 tag 篩選（如 code）：

https://ollama.com/library

列出已安裝的模型：

ollama list

搜尋特定模型：

ollama search qwen

輕量級（VRAM 8GB 以下）

中階（VRAM 12–16GB）

高階（VRAM 20GB 以上）

依 VRAM 快速選擇

T:0000

資訊與搜尋 | 回阿央首頁
email: Yan Sa [email protected] Line: 阿央
電話: 02-27566655 ,03-5924828

泱泱科技
捷昱科技泱泱企業