最近的文章

Bilibili下载器:AI编程真的那么香吗

# Bilibili下载器:AI编程真的有那么香吗? Rust:编程界的"原神",有人盛赞其为人类软件工程二十多年来的精华,有人鄙夷其圈子风气混乱。 AI编程:从Copilot到Vibe Coding,有人认为终于出现了软件工程的"银弹",有人则觉得这只是资本为了融资和股价而进行的疯狂营

LLM什么时候才能输出固定格式(JSON?)

AI摘要: 本文探讨了如何让LLM输出固定格式(如JSON)的方法,包括万能prompt大法、推理后处理方案(正则表达式)和推理中处理方案(动态限制解码)。文章分析了每种方法的优缺点及适用场景,并指出当前研究的局限性。

AI时代,流式传输哪家强

·

AI摘要: 本文探讨了AI时代下流式传输技术的必要性,对比分析了SSE、WebSocket和gRPC三种主流方案的技术实现与适用场景。重点阐述LLM响应延迟问题对传统HTTP请求的局限性,以及server端主动推送机制的核心价值。通过对比各技术在协议基础、通信模式、性能开销和心智负担等方面的差异,明确gRPC在Agent应用中的性能优势及浏览器兼容性限制。

HMM简介

AI摘要: 本文介绍了隐马尔可夫模型(HMM)的基本原理、前提假设以及三个核心问题:评估问题、预测问题和学习问题的解决方法。详细阐述了HMM的联合概率函数建模,包括初始状态概率分布π、状态转移概率矩阵A和发射概率矩阵B。针对评估问题,提到了前向算法;对于预测问题,讨论了贪心算法和维特比算法;在学习问题上,区分了有监督学习和无监督学习场景,并指出无监督学习中常用EM算法来估计模型参数。

MCP和Function Calling的区别

AI摘要: 本文深入探讨了MCP(函数调用协议)在提升LLM稳定性和灵活性方面的作用。通过统一函数描述规范,解决了因描述风格差异导致的调用不稳定问题;采用客户端-服务器模式动态获取参数信息,实现了接口升级时的无缝适配。文章从基础功能调用到多风格兼容、参数动态化等技术难点展开,揭示了MCP如何构建标准化的函数调用体系,为LLM与外部系统交互提供可靠框架。