https://github.com/mlc-ai/mlc-llm
https://mlc.ai/blog/
https://mlc.ai/zh/
MLC LLM是一个通用的解决方案,允许任何语言模型在不同的硬件后端和本地应用程序上进行原生部署,另外还有一个富有成效的框架,供每个人针对自己的使用情况进一步优化模型性能。
https://github.com/mlc-ai/web-llm
将语言模型聊天直接带到网络浏览器上。一切都在浏览器内运行,没有服务器支持,并通过WebGPU加速。我们可以带来很多有趣的机会,为每个人建立人工智能助手,并在享受GPU加速的同时启用隐私。
https://zhuanlan.zhihu.com/p/612517660
https://zhuanlan.zhihu.com/p/625959003
https://zhuanlan.zhihu.com/p/614701587
https://zhuanlan.zhihu.com/p/622271247
https://zhuanlan.zhihu.com/p/625959003