Anything-LLM 打造内部知识库的私人专属 GPT!

这是一个全栈应用程序,可以将任何文档、资源(如网址链接、音频、视频)或内容片段转换为上下文,以便任何大语言模型(LLM)在聊天期间作为参考使用。此应用程序允许您选择使用哪个LLM或向量数据库,同时支持多用户管理并设置不同权限。

 

图片[1]-Anything-LLM 打造内部知识库的私人专属 GPT!-零度博客

 

您可以使用现成的商业大语言模型或流行的开源大语言模型,再结合向量数据库解决方案构建一个私有ChatGPT,不再受制于人:您可以本地运行,也可以远程托管,并能够与您提供的任何文档智能聊天。

AnythingLLM将您的文档划分为称为workspaces (工作区)的对象。工作区的功能类似于线程,同时增加了文档的容器化,。工作区可以共享文档,但工作区之间的内容不会互相干扰或污染,因此您可以保持每个工作区的上下文清晰。

 

下载方式:

1、Github 开源项目【点击前往

2、备用打包下载 【点击下载

图片[2]-Anything-LLM 打造内部知识库的私人专属 GPT!-零度博客

AnythingLLM的一些酷炫特性

  • 多用户实例支持和权限管理
  • 工作区内的智能体Agent(浏览网页、运行代码等)
  • 为您的网站定制的可嵌入聊天窗口
  • 支持多种文档类型(PDF、TXT、DOCX等)
  • 通过简单的用户界面管理向量数据库中的文档
  • 两种对话模式:聊天查询。聊天模式保留先前的对话记录。查询模式则是是针对您的文档做简单问答
  • 聊天中会提供所引用的相应文档内容
  • 100%云部署就绪。
  • “部署你自己的LLM模型”。
  • 管理超大文档时高效、低耗。只需要一次就可以嵌入(Embedding)一个庞大的文档或文字记录。比其他文档聊天机器人解决方案节省90%的成本。
  • 全套的开发人员API,用于自定义集成!

支持的LLM、嵌入模型、转录模型和向量数据库

 

支持的LLM:

支持的嵌入模型:

支持的转录模型:

支持的向量数据库:

技术概览

 

这个单库由三个主要部分组成:

  • frontend: 一个 viteJS + React 前端,您可以运行它来轻松创建和管理LLM可以使用的所有内容。
  • server: 一个 NodeJS express 服务器,用于处理所有交互并进行所有向量数据库管理和 LLM 交互。
  • docker: Docker 指令和构建过程 + 从源代码构建的信息。
  • collector: NodeJS express 服务器,用于从UI处理和解析文档。

🛳 自托管

 

Mintplex Labs和社区维护了许多部署方法、脚本和模板,您可以使用它们在本地运行AnythingLLM。请参阅下面的表格,了解如何在您喜欢的环境上部署,或自动部署。

Docker AWS GCP Digital Ocean Render.com
在 Docker 上部署 在 AWS 上部署 在 GCP 上部署
在DigitalOcean上部署 在 Render.com 上部署
Railway
在Railway上部署

其他方案:不使用Docker配置AnythingLLM实例 →

如何设置开发环境

 

  • yarn setup 填充每个应用程序部分所需的 .env 文件(从仓库的根目录)。
    • 在开始下一步之前,先填写这些信息server/.env.development,不然代码无法正常执行。
  • yarn dev:server 在本地启动服务器(从仓库的根目录)。
  • yarn dev:frontend 在本地启动前端(从仓库的根目录)。
  • yarn dev:collector 然后运行文档收集器(从仓库的根目录)。
THE END
喜欢就支持一下吧
点赞3251 分享
Tron脚本:自动化清除电脑病毒的强大工具!-零度博客

Tron脚本:自动化清除电脑病毒的强大工具!

在当今复杂的数字环境中,计算机病毒和恶意软件仍然是一个持续的威胁。为了应对这一挑战,IT专业人士和高级用户经常求助于自动化工具来简化清理过程。其中一个强大而受欢迎的工具就是Tron脚本。Tr...
更多实用软件推荐!-零度博客

更多实用软件推荐!

下载神器: IDM  文件搜索:everything 【点击下载】 最佳软件卸载工具: Geek uninstaller【点击下载】 效率神器: quicklook【点击下载】 最强视频播放: potplayer【点击下载】 截屏神器: Snip...
admin的头像-零度博客admin
1.3W+6539
黑客声称要出售 4 亿用户的 Twitter 数据-零度博客

黑客声称要出售 4 亿用户的 Twitter 数据

一名威胁行为者声称要出售 2021 年使用现已修复的 API 漏洞收集的 4 亿 Twitter 用户的公共和私人数据。他们要价 200,000 美元进行独家销售。 所谓的数据转储由名为“Ryushi”的威胁行为者在 Br...
admin的头像-零度博客admin
1.2W+6539
推荐7个超好玩又非常有趣的网站!-零度博客

推荐7个超好玩又非常有趣的网站!

  1.简单刺激的躲避小游戏-Missile Game 简单到只需要移动鼠标即可!网站可以在线游玩黑白线条风格的躲避小游戏,随着关卡难度的升级,你的脑、眼、手协作也将受到考验! 传送门 【点击前...
admin的头像-零度博客admin
1.7W+1683
以4K/8K分辨率:录制高清电脑屏幕+语音转字幕功能!-零度博客

以4K/8K分辨率:录制高清电脑屏幕+语音转字幕功能!

1.OBS录屏官网:【点击下载】 2.剪映视频剪辑:【点击下载】 3.剪映字幕一键导出工具:【点击下载】 4.AegiSub 字幕编辑器:【点击下载】    
admin的头像-零度博客admin
2.4W+2177
免费网盘推荐!最大100G,7个方案可供选择,实现轻松云储存!2022 | 零度解说-零度博客
庞大的新数据集突破了神经科学的极限!-零度博客

庞大的新数据集突破了神经科学的极限!

如何处理来自高达 300,000 个小鼠神经元的记录? 几乎所有介绍性神经科学课程中都会播放一段视频。它看起来并不多——一条光条在黑色屏幕上移动和旋转,而背景音频像远处烟花表演的声音一样弹出...
admin的头像-零度博客admin
1.6W+2250
Hive OS 优惠码:code10  免费注册账户即可获得10美金!-零度博客

Hive OS 优惠码:code10 免费注册账户即可获得10美金!

  Hive OS 优惠码:code10 (注册免费赠送10美金)   HiveOS是基于Linux的挖矿专用系统,稳定性、群控、远程控制都优于windows,你可以使用一个U盘作为操作系统代替一块nvme硬盘使用...
admin的头像-零度博客admin
1.6W+2251
U盘神器!实用软件即插即用,完全免费开源!便携高效,‘老司机’出行必备 | 零度解说-零度博客

U盘神器!实用软件即插即用,完全免费开源!便携高效,‘老司机’出行必备 | 零度解说

https://youtu.be/KwVNK1ZIRWI?si=6cF2J8aB1SFeIzmB   便携U盘软件制作工具下载:https://www.freedidi.com/17714.html