丢掉 LangChain、像 Docker一样编排大模型应用程序:这支十余人的年轻创业团队如何在2个月做出一个LLMOps平台?
大模型浪潮正在重构千行百业。可以预见的是,随着技术的不断进步以及应用场景的不断扩展,基于大模型的AI应用将会不断涌现,并成为推动AI产业发展的重要力量。曾在腾讯云CODINGDevOps团队负责产品及运营管理工作,服务超百万开发者用户的平台产品。
AI小镇现在可以通过Llama3在本地运行 支持Convex、Ollama等服务器
a16z团队开发的AI小镇是一个创新的虚拟城镇项目,现在可以通过Llama3完全在本地运行。这个项目不仅支持Convex、Ollama可以支持本地Vite网络服务器,为开发者提供了一个强大的平台来构建和定制自己的虚拟AI社区。凸面使用TypeScript构建,提供了ACID保证、低延迟数据库访问,并支持后台功能,如调度和cron作业。
微软发布iPhone可运行的ChatGPT级AI模型Phi-3系列 挑战OpenAI地位
微软推出了一款名为Phi-3系列的小型AI模型,该模型在AI领域引起了广泛关注。Phi-3系列中的Phi-3-mini模型,仅拥有3.8B参数,却在多项基准测试中超越了拥有8B参数的Llama3模型。微软的这一举措在开源社区中引起了热烈讨论,许多网友认为这给OpenAI带来了压力,需要OpenAI尽快推出GPT-3.5的后继产品以维持其在AI领域的领先地位。
斯坦福团队大模型Octopus v2火了:手机就能运行 准确性超越GPT-4
斯坦福大学研究人员发布的Octopusv2模型引起了开发者社区的极大关注,其20亿参数的模型一夜下载量超过2k。这一模型可以在智能手机、汽车、个人电脑等端侧设备上运行,并在准确性和延迟方面表现超越了GPT-4,同时将上下文长度减少了95%。设备端AI智能体时代即将到来,Octopusv2的发布为这一趋势注入了新的活力。
ComfyUI的IPadapter插件重大更新 运行速度提升但旧版工作流失效
ComfyUI的IPadapter插件在23号进行了一次破坏性更新,用户需谨慎升级。所有旧版工作流中的IPadapter节点将失效,需要用户重新创建。通过设置mask,可以让模型的注意力集中在感兴趣的区域,其他部分的影响会相应减弱。
强大代码解释器OpenCodeInterpreter 可运行生成的代码
OpenCodeInterpreter是一个强大的代码解释器,它不仅可以生成代码能根据人类的反馈进行学习循环改进,以生成更高质量、更接近用户需求的代码。它的最突出的特点是可以运行生成的代码,以验证其是否按预期工作,包括检查是否存在错误或异常。这种集成执行和反馈的方法提供了一种新的方式,用于提高代码生成的准确性和适用性,尤其是在需要快速迭代和优化代码的场景中�
苹果M3 Mac可运行Win11了 但性能受影响
从今天开始,ParallelsDesktop18和19版本可以在M3Mac上运行Arm版本的Windows11。Parallels已经是微软授权的第一个解决方案,可以在M1和M2Mac上运行Arm版本的Windows。这些信息现在也适用于使用ParallelsDesktop18和19的M3Mac。
英伟达发布RAPIDS cuDF框架 pandas在GPU上运行速度快了150倍
Nvidia发布了一款名为RAPIDScuDF的新版本,据称可以将pandas运行在GPU上,并且性能提升了150倍。pandas是一款流行的基于Python的数据框架库,用于数据处理和分析。这对于处理大规模数据的任务非常有用,使得数据科学家可以更高效地进行数据处理和分析。