我們在 .NET AI Bootcamp 中從 Jeff Fritz 學到了什麼
觀看 Jeff Fritz 的.NET AI Bootcamp 直播 - https://www.youtube.com/live/nJYB9Fb0hr4
Iron Software很自豪地贊助了 Jeff Fritz 的 8 小時.NET AI Bootcamp,為.NET社群提供了他們所需要的:一個全面的實踐研討會,將 AI 從流行語轉變為實用的開發工具。 這並非又一次理論概述,Jeff Fritz 從零開始建立了可運行的應用程序,展示了開發人員可以立即應用的實際實現模式。 下週將舉辦第二場以.NET Aspire 為主題的研討會,您可以在這裡找到更多資訊。
為了持續支持.NET開發者的教育和社群發展, Iron Software與 Jeff Fritz 攜手舉辦了這場面向全球數千名開發者的免費全天線上活動。本次研討會充分體現了我們致力於促進.NET生態系統內創新與協作的決心。
研討會環境及佈置
訓練營強調將課程視為一個專注的研討會,而不是被動的觀看。 Jeff Fritz 建議使用.NET 9 Preview、Docker 和正確的GitHub令牌配置來建立一個乾淨的開發環境,以便存取模型。
GitHub令牌的設定非常簡單:導航到開發者設置,建立一個具有對模型讀取權限的細粒度令牌,並設定適當的過期時間。 GitHub 的開源模型提供免費存取 GPT-4 Mini 的服務,無需訂閱 OpenAI 或 Azure。
Jeff Fritz 演示了三種部署選項: GitHub Models 提供免費訪問,Azure OpenAI Service 提供企業級功能,Ollama 提供完全本地隱私。 關鍵的洞察是提供者的靈活性,應用程式可以在不重寫程式碼的情況下在不同服務之間切換。
建構實際應用:測驗應用
Fritz 沒有展示另一個聊天機器人,而是使用Blazor Server 建立了一個實用的測驗應用程式。 該應用程式可產生關於任何主題的動態趣味問答題,展示了現實世界中人工智慧的整合模式。
此實作突顯了透過 Microsoft.Extensions.AI 依賴注入實現的清晰集成,使 AI 服務像日誌客戶端或 HTTP 用戶端一樣易於存取。 該應用程式展示了提示鏈的實際應用,展示了多個 AI 呼叫如何協同工作以創造複雜的使用者體驗。
Microsoft.Extensions.AI:統一提供者抽象
Microsoft.Extensions.AI 是本次研討會上最重要的技術發現。 該軟體包為 AI 提供者提供統一的抽象,使應用程式能夠透過一致的介面使用 OpenAI、Ollama 或GitHub模型。
抽象層使用熟悉的.NET依賴注入模式在 Program.cs 中註冊 AI 用戶端。 應用程式使用一致的介面進行寫入,同時保持完全的靈活性,可以根據需求、成本或部署限制更換提供者。
從第一天起就實踐安全最佳實踐
Jeff Fritz 在整個開發過程中都強調了妥善的保密管理。 本次研討會涵蓋了開發中的 dotnet 使用者金鑰、避免在設定檔中使用 API 金鑰以及防止將憑證提交到原始碼控制。
優先考慮安全開發而不是事後加裝保護措施,彌補了許多人工智慧實作中的關鍵缺陷。 鑑於人工智慧應用通常需要多個 API 金鑰和服務憑證,儘早建立安全模式可以防止重大的安全漏洞。
檢索增強生成(RAG):基本模式
研討會中最有價值的部分涵蓋了檢索增強生成技術的實現。 Fritz 建立了一個完整的系統,可以處理文件、建立區塊、生成向量嵌入、將它們儲存在記憶體中,並在產生回應之前將使用者查詢與相關內容進行比對。
Fritz 將 RAG 描述為"適用於法律、金融、知識庫等眾多實際應用情境的最強大模式"。這種模式將人工智慧從通用問答轉變為能夠理解和推理特定組織數據的應用,從而釋放巨大的商業價值。
演示表明,人工智慧技術已從簡單的問答發展到能夠理解公司文件、政策和知識庫的應用,而實際的人工智慧應用則帶來了可衡量的業務影響。
奧拉瑪的本地發展
對於需要完全控製或避免依賴外部 API 的開發人員,Jeff Fritz 示範如何使用 Docker 中的 Ollama 進行本機 AI 開發。 此設定包括拉取 Docker 映像、配置 GPU 支援(如有)以及下載對應的模型。
本地部署可提供完全的隱私保護,消除外部依賴,所需的硬體資源出奇地少。 Fritz 一再強調,有意義的 AI 開發並不需要昂貴的 GPU 硬件,標準的開發機器就能有效地處理大多數工作流程。
實用快速工程
研討會涵蓋了可操作的快速工程技術,避免了過度簡化和不必要的複雜性。 Fritz 示範了結構化的提示和對話角色,展示了"你是一位.NET專家,正在幫助一位初級開發人員"這樣的背景如何顯著提高回應品質。
該測驗應用程式展示瞭如何保持對話上下文並引導 AI 回應,這對於超越單次查詢互動的生產應用程式至關重要。
目前局限性和現實預期
Jeff Fritz 對目前人工智慧的限製做出了誠實的評估。 大多數大型語言模型在英語上的表現最佳,而對其他語言的處理效果則較不可靠,這方面需要不斷改進生態系。
成本分析顯示, GitHub Models 對於學習和小型專案來說是真正免費的,而 Azure OpenAI 提供按代幣付費的定價模式,在合理的規模下仍然經濟實惠。 主要優勢在於從免費套餐開始,無需更改代碼即可擴展。
硬體需求仍然可以查看; 標準開發筆記型電腦可以處理 AI 開發工作流程,本地模型可以在配置一般的硬體上運作。
入門指南:資源與後續步驟
GitHub上的訓練營儲存庫包含完整的範例、Docker 配置、 Blazor範本和模型設定說明。 YouTube 回放功能可以讓錯過直播課程的人進行跟課學習。
推薦的進階路徑:
- 先使用GitHub Models 進行免費實驗
- 克隆訓練營程式碼庫並實現測驗應用程式
- 探索 Microsoft.Extensions.AI 抽象化和提供者彈性
- 使用已演示的模式建立 RAG 應用程式
- 當專案需求證明其複雜性合理時,可擴展到 Azure 或本地模型。
更廣泛的影響
本次訓練營表明, .NET中的 AI 整合已從實驗階段發展成為標準開發實務。 Microsoft.Extensions.AI 用於提供者抽象, GitHub模型用於實現易於存取的 LLM,以及 RAG 等成熟模式的結合,為.NET開發人員創造了切實的機會。
發展路徑比許多人預期的要清晰。 開發人員無需具備 AI 專業知識即可建立智慧應用程序, .NET生態系統現在提供了抽象層,使開發人員能夠專注於應用程式邏輯,而不是 AI 整合的複雜性。
Jeff Fritz 的研討會證明,開發人員可以在一天之內從零人工智慧知識發展到開發出功能齊全的應用程式。 對於那些對人工智慧實作感興趣但又不確定如何入門的.NET開發人員來說,這個訓練營展示了這項技術已經變得多麼容易上手。
為什麼這件事現在很重要
隨著Iron Software繼續支持.NET社群創新,像 Fritz 的訓練營這樣的活動正是推動生態系統向前發展的那種實用、動手實踐的學習方式。 這不是關於人工智慧的理論探討,而是開發人員可以立即在生產應用程式中實施的可操作知識。
本次研討會證實了.NET社群的猜測:AI 整合正在成為開發人員工具包的標準組成部分,而不是一個專門的小眾領域。 有了適當的抽象、易於理解的模型和經過驗證的模式,進入門檻已經大幅降低。
對於正在評估 AI 整合的組織而言,資訊很明確:工具已經存在,模式已經得到驗證, .NET生態系統為可靠、可擴展的 AI 應用程式提供了基礎。 問題不在於是否要整合人工智慧,而是團隊能夠以多快的速度適應這些模式,進而創造商業價值。
重點突出申請的獨特之處
在將 AI 功能整合到應用程式時,請記住,某些基礎元件最好還是交給經過驗證的企業級解決方案。 與其花費開發時間重新創建 PDF 生成、OCR 處理或條碼讀取功能,開發人員可以將精力集中在應用程式的獨特價值主張上。
Iron Software 的.NET庫套件可以處理這些基礎架構問題,使開發團隊能夠專注於使他們的應用程式脫穎而出的 AI 功能和業務邏輯。 從用於文件處理的IronPDF到用於智慧文字擷取的IronOCR ,這些久經考驗的程式庫可以與現代 AI 工作流程無縫整合。
立即開始建立智慧應用程式
準備好實施 Fritz 工作坊中示範的模式了嗎? Iron Software提供我們完整的.NET庫套件的免費試用版,讓您可以存取文件處理和資料擷取工具,這些工具與 AI 整合完美互補。
我們的程式庫與 Fritz 展示的 Microsoft.Extensions.AI 模式協同工作,能夠快速開發將 AI 智慧與強大的文件處理能力相結合的複雜應用程式。 無論您是建立處理 PDF 的 RAG 系統、從掃描文件中提取資料的應用程序,還是產生智慧報告的工作流程, Iron Software都能提供基礎工具,讓您專注於創新而不是實施的複雜性。
