Stirling-PDF
强大的、本地托管的、基于 Web 的 PDF 操作工具,使用 Docker。它使您能够对 PDF 文件执行各种操作,包括拆分、合并、转换、重组、添加图像、旋转、压缩等。这个本地托管的 Web 应用程序已经发展到包含一套全面的功能,可以满足您的所有 PDF 要求。 [原文链接]
LLM 记忆管理框架MemGPT
MemGPT(Memory-GPT)系统,智能地管理不同的内存层,以有效地在LLM的有限上下文窗口内提供扩展上下文,并利用中断来管理自身与用户之间的控制流。
MemGPT 的设计可以支持远超基础LLM上下文窗口的大型文档;多会话聊天领域,MemGPT可以创建能够通过与用户的长期互动记住、反思和动态发展的对话 Agents。
支持与 llama.cpp、vLLM、Ollama、LM Studio 等开源模型整合、以及与 AutoGen 等 MultiAgent 框架进行结合使用。
https://memgpt.readme.io/docs/local_llm
[原文链接]
大模型WebUI 界面
WebUI for LLMs (Formerly Ollama WebUI) [原文链接]
ARAGOG-高级RAG输出分级
使用 AI papers 探索和比较各种检索增强生成 (RAG) 技术。包括模块化代码,便于实验和可重用。 [原文链接]
Open-Sora,高效的高质量视频生成技术
Open-Sora是一个致力于高效制作高质量视频的开源项目,旨在让所有人都能够访问和使用先进的视频生成技术。通过采用开源原则,Open-Sora不仅使得视频生成技术普及化,还提供了一个简化视频制作复杂性的平台。
[1] https://huggingface.co/hpcai-tech/Open-Sora
[2] https://github.com/hpcaitech/Open-Sora
AI 代理的框架,Rust/Python
A reactive runtime for building durable AI agents
https://github.com/ThousandBirdsInc/chidori
https://docs.thousandbirds.ai/
LLM TGI框架,Rust/python开发
Large Language Model Text Generation Inference:
https://github.com/huggingface/text-generation-inference
示例:
https://towardsdatascience.com/serve-large-language-models-from-your-computer-with-text-generation-inference-54f4dd8783a7
多模态的综述论文
https://github.com/BradyFU/Awesome-Multimodal-Large-Language-Models
深入探讨了MLLM的研究进展并发表了多模态大语言模型领域的首篇综述。 高屋建瓴讨论了MLLM的技术方向和挑战。
多模态指令微调(Multimodal Instruction Tuning,M-IT)
多模态上下文学习(Multimodal In-Context Learning,M-ICL)
多模态思维链(Multimodal Chain of Thought,M-CoT)
LLM辅助的视觉推理(LLM-Aided Visual Reasoning,LAVR)
前三项技术构成了MLLM的基础,而最后一个是以LLM为核心的多模态系统。三项技术作为LLM的代表性能力在NLP领域已有广泛研究,但扩展到多模态领域时会出现许多新的特点与挑战。
大模型评估
A Survey of Evaluation Metrics Used for NLG Systems:https://arxiv.org/pdf/2008.12009.pdf
https://explodinggradients.com/all-about-evaluating-large-language-models
大语言模型(LLM)综述
论文链接:https://arxiv.org/abs/2303.18223
GitHub项目链接:https://github.com/RUCAIBox/LLMSurvey
中文版本下载链接:https://github.com/RUCAIBox/LLMSurvey/blob/main/assets/LLM_Survey__Chinese_V1.pdf
Tuning LLMs tools
https://github.com/beyondguo/LLM-Tuning
ipynb.cn 阅读器
https://ipynb.cn/
EasyLLM
https://github.com/MikeGu721/EasyLLM
从零到一打造ChatBot,LLM全过程代码复现并开源
https://zhuanlan.zhihu.com/p/620550250