我们在与 Jeff Fritz 举办的 .NET AI 训练营中学到了什么
观看 Jeff Fritz 的 .NET AI Bootcamp 直播 - https://www.youtube.com/live/nJYB9Fb0hr4
Iron Software 自豪地赞助了 Jeff Fritz 的 8 小时 .NET AI Bootcamp,为 .NET 社区提供了他们所需要的:一个全面的实践研讨会,将 AI 从流行语转变为实用的开发工具。 这并非又一次理论概述,Jeff Fritz 从零开始构建了可运行的应用程序,展示了开发人员可以立即应用的实际实现模式。 下周将举办第二场以 .NET Aspire 为主题的研讨会,您可以在这里找到更多信息。
为了持续支持 .NET 开发者的教育和社区发展,Iron Software 与 Jeff Fritz 携手举办了这场面向全球数千名开发者的免费全天线上活动。本次研讨会充分体现了我们致力于促进 .NET 生态系统内创新与协作的决心。
研讨会环境及布置
训练营强调将课程视为一个专注的研讨会,而不是被动的观看。 Jeff Fritz 建议使用 .NET 9 Preview、Docker 和正确的 GitHub 令牌配置来创建一个干净的开发环境,以便访问模型。
GitHub 令牌的设置非常简单:导航到开发者设置,创建一个具有对模型读取权限的细粒度令牌,并设置适当的过期时间。 GitHub 的开源模型提供免费访问 GPT-4 Mini 的服务,无需订阅 OpenAI 或 Azure。
Jeff Fritz 演示了三种部署选项:GitHub Models 提供免费访问,Azure OpenAI Service 提供企业级功能,Ollama 提供完全本地隐私。 关键观点是提供商灵活性; 应用程序可以在不改写代码的情况下在服务之间切换。
构建实际应用:测验应用
Fritz 没有展示另一个聊天机器人,而是使用 Blazor Server 构建了一个实用的测验应用程序。 该应用程序可生成关于任何主题的动态趣味问答题,展示了现实世界中人工智能的集成模式。
该实现突出了通过 Microsoft.Extensions.AI 依赖注入实现的清晰集成,使 AI 服务像日志客户端或 HTTP 客户端一样易于访问。 该应用演示了提示链的实际应用,展示了多个 AI 调用如何协同工作以创造复杂的用户体验。
Microsoft.Extensions.AI:统一提供程序抽象
Microsoft.Extensions.AI 是本次研讨会上最重要的技术发现。 该软件包为 AI 提供商提供统一的抽象,使应用程序能够通过一致的接口使用 OpenAI、Ollama 或 GitHub 模型。
抽象层使用熟悉的 .NET 依赖注入模式在 Program.cs 中注册 AI 客户端。 应用程序使用一致的接口进行写入,同时保持完全的灵活性,可以根据需求、成本或部署限制更换提供商。
从第一天起就践行安全最佳实践
Jeff Fritz 在整个开发过程中都强调了妥善的保密管理。 研讨会涵盖了.NET用户密钥开发,避免在配置文件中使用API密钥,并防止凭证提交到源代码管理。
优先考虑安全开发而不是事后加装保护措施,弥补了许多人工智能实现中的关键缺陷。 鉴于人工智能应用通常需要多个 API 密钥和服务凭证,尽早建立安全模式可以防止出现重大的安全漏洞。
检索增强生成(RAG):基本模式
研讨会中最有价值的部分涵盖了检索增强生成技术的实现。 Fritz 构建了一个完整的系统,该系统可以处理文档、创建块、生成向量嵌入、将它们存储在内存中,并在生成响应之前将用户查询与相关内容进行匹配。
Fritz 将 RAG 描述为"适用于法律、金融、知识库等众多实际应用场景的最强大模式"。这种模式将人工智能从通用问答转变为能够理解和推理特定组织数据的应用,从而释放巨大的商业价值。
演示表明,人工智能技术已从简单的问答发展到能够理解公司文件、政策和知识库的应用,而实际的人工智能应用则带来了可衡量的业务影响。
奥拉玛的本地发展
对于需要完全控制或避免依赖外部 API 的开发人员,Jeff Fritz 演示了如何使用 Docker 中的 Ollama 进行本地 AI 开发。 该设置包括拉取 Docker 镜像、配置 GPU 支持(如有)以及下载相应的模型。
本地部署可提供完全的隐私保护,消除外部依赖,并且所需的硬件资源出奇地少。 Fritz一再强调,有意义的AI开发不需要昂贵的GPU硬件; 标准开发机器可以有效处理大多数工作流。
实用快速工程
研讨会涵盖了可操作的快速工程技术,避免了过度简化和不必要的复杂性。 Fritz 演示了结构化的提示和对话角色,展示了"你是一位 .NET 专家,正在帮助一位初级开发人员"这样的背景如何显著提高回复质量。
该测验应用程序展示了如何保持对话上下文并引导 AI 响应,这对于超越单次查询交互的生产应用程序而言至关重要。
当前局限性和现实预期
Jeff Fritz 对当前人工智能的局限性做出了诚实的评估。 大多数大型语言模型在英语上的表现最佳,而对其他语言的处理效果则不太可靠,这方面需要不断改进生态系统。
成本分析显示,GitHub Models 对于学习和小项目来说是真正免费的,而 Azure OpenAI 提供按代币付费的定价模式,在合理的规模下仍然经济实惠。 主要优势在于从免费套餐开始,无需更改代码即可扩展。
硬件要求仍然可以查看; 标准开发笔记本电脑可以处理 AI 开发工作流程,本地模型可以在配置一般的硬件上运行。
入门指南:资源和后续步骤
github.com/csharpfritz/ai-bootcamp 上的训练营存储库包含完整的示例、Docker 配置、Blazor 模板和模型设置说明。 YouTube 回放功能可以让错过直播课程的人进行跟课学习。
推荐的进阶路径:
- 从GitHub模型开始,进行免费实验
- 克隆入门课程存储库并实现测验应用程序
- 探索Microsoft.Extensions.AI抽象和提供商灵活性
- 使用展示的模式构建RAG应用程序
- 当项目需求证明其复杂性合理时,可扩展到 Azure 或本地模型。
更广泛的影响
本次训练营表明,.NET 中的 AI 集成已从实验阶段发展成为标准开发实践。Microsoft.Extensions.AI 用于提供程序抽象,GitHub 模型用于实现易于访问的 LLM,以及 RAG 等成熟模式的结合,为 .NET 开发人员创造了切实的机会。
发展路径比许多人预期的要清晰。 开发人员无需AI专业知识即可构建智能应用程序; .NET生态系统现在提供了允许专注于应用程序逻辑而非AI集成复杂性的抽象。
Jeff Fritz 的研讨会证明,开发人员可以在一天之内从零人工智能知识发展到开发出功能齐全的应用程序。 对于那些对人工智能实现感兴趣但又不确定如何入门的 .NET 开发人员来说,这个训练营展示了这项技术已经变得多么容易上手。
为什么这件事现在很重要
随着 Iron Software 继续支持 .NET 社区创新,像 Fritz 的训练营这样的活动正是推动生态系统向前发展的那种实用、动手实践的学习方式。 这不是关于人工智能的理论探讨,而是开发人员可以立即在生产应用程序中实施的可操作知识。
本次研讨会证实了 .NET 社区的猜测:AI 集成正在成为开发人员工具包的标准组成部分,而不是一个专门的小众领域。 有了适当的抽象、易于理解的模型和经过验证的模式,准入门槛已经大幅降低。
对于正在评估 AI 集成的组织而言,信息很明确:工具已经存在,模式已经得到验证,.NET 生态系统为可靠、可扩展的 AI 应用程序提供了基础。 问题不在于是否要整合人工智能,而在于团队能够多快地适应这些模式以创造商业价值。
重点突出申请的独特之处
在将 AI 功能集成到应用程序时,请记住,某些基础组件最好还是交给经过验证的企业级解决方案。 与其花费开发时间重新创建 PDF 生成、OCR 处理或条形码读取功能,开发人员可以将精力集中在应用程序的独特价值主张上。
Iron Software 的 .NET 库套件可以处理这些基础架构问题,使开发团队能够专注于使他们的应用程序脱颖而出的 AI 功能和业务逻辑。 从用于文档处理的 IronPDF 到用于智能文本提取的 IronOCR,这些久经考验的库可以与现代 AI 工作流程无缝集成。
立即开始构建智能应用程序
准备好实施 Fritz 工作坊中演示的模式了吗?Iron Software 提供我们完整的 .NET 库套件的免费试用版,让您可以访问文档处理和数据提取工具,这些工具与 AI 集成完美互补。
我们的库与 Fritz 展示的 Microsoft.Extensions.AI 模式协同工作,能够快速开发将 AI 智能与强大的文档处理能力相结合的复杂应用程序。 无论您是构建处理 PDF 的 RAG 系统、从扫描文档中提取数据的应用程序,还是生成智能报告的工作流程,Iron Software 都能提供基础工具,让您专注于创新而不是实施的复杂性。
