前端大模型应用笔记（五）：大模型基础能力大比拼-计数篇-通义千文 vs 文心一言 vs 智谱 vs 讯飞vsGPT
在大语言模型（LLM）不断涌现的时代，如何评估这些国产大模型的逻辑推理能力，尤其是在处理基础计数问题上的表现，成为了一个备受关注的话题。随着越来越多的国产大模型进入市场，比较它们在不同任务中的表现尤为重要。本文聚焦于计数这一基础能力，对通义千文、文心一言、智谱以及讯飞的多个版本进行了对比测试，探索它们在处理简单逻辑题时的表现，并特别考察了推理链（Chain-of-Thought，COT）方法的必....
前端大模型应用笔记（四）：如何在资源受限例如1核和1G内存的端侧或ECS上运行一个合适的向量存储库及如何优化
1. 引言 随着人工智能和机器学习技术的迅速发展，大语言模型（LLM）在各个领域的应用日益广泛。然而，在资源受限的嵌入式设备上部署这些模型仍然面临着巨大挑战。本文将探讨如何在仅有1核处理器和1GB内存的设备上实现高效的向量存储和检索，为端侧大模型应用提供可行的解决方案。之所以有这样的需求呢？为实现一个功能往往需要...
前端大模型应用笔记（三）：Vue3+Antdv+transformers+本地模型实现浏览器端侧增强搜索
本文将之前的文章，实现一个场景的实战应用，包含代码等内容。利用纯前端实现增强的列表搜索，抛弃字符串匹配，目标是使用番茄关键字可以搜索到西红柿 1 准备工作 1.1 了解llm和web开发 web端的ai开发参考 前端大模型入门：使用Transformers.js手搓纯网页版RAG（二）前端大模型入门：使用Transformers.js实现纯网页版RAG（一） ...
前端大模型应用笔记（二）：最新llama3.2小参数版本1B的古董机测试 - 支持128K上下文，表现优异，和移动端更配
llama3.1开始就支持了128K上下文，差不多有5万字的输入，可用于很多场景啦！模型能力比预想会好不少，但处理中文时，切记加上中英翻译！ 话不多说，先抛出一个benchMark，对比了下最近比较火的Gemma2 2B和 Phi-3.5。 测试环境 ...
前端大模型应用笔记（一）：两个指令反过来说大模型就理解不了啦？或许该让第三者插足啦 -通过引入中间LLM预处理用户输入以提高多任务处理能力
今天就遇到有点儿dt的问题，利用大模型顺利通了自定义的工具调用（并没有用到tools功能，而是通过prompt强制输出），单个单个的没问题哈，但是多个一起就出现问题了 我说“关闭电脑PC1, 打开第2台电脑” 它看不懂了，但我反过来说“打开第2台电脑，关闭电脑PC1”，它倒是很机智，顺利找到了对应的主机id并调用了正确的工具，反正我是一脸懵逼，这到底是个什么鬼？毕竟是个黑盒，...
本页面内关键词为智能算法引擎基于机器学习所生成，如有任何问题，可在页面下方点击"联系我们"与我们沟通。
前端更多笔记相关
阿里巴巴终端技术
阿里巴巴终端技术最新内容汇聚在此，由阿里巴巴终端委员会官方运营。阿里巴巴终端委员会是阿里集团面向前端、客户端的虚拟技术组织。我们的愿景是着眼用户体验前沿、技术创新引领业界，将面向未来，制定技术策略和目标并落地执行，推动终端技术发展，帮助工程师成长，打造顶级的终端体验。同时我们运营着阿里巴巴终端域的官方公众号：阿里巴巴终端技术，欢迎关注。
+关注