一、基础篇 1、目前主流的开源模型体系有哪些？ 2、prefix LM 和 causal LM 区别是什么? prefix LM (前缀语言模型)：在输入序列的开头添加一个可学习的任务相关的前缀，然后使用这个前缀 和输入序列一起生成输出。…
多头注意力机制（Multi-Head Attention，MHA） 多头注意力（Multi-Head Attention, MHA）是Transformer模型的核心机制，通过并行计算多个注意力头，使模型能够同时关注输入序列中不同位置的特征。其核心思想是将输…
算法和开发面试的时候，一般会给一到两个编程题目。Leecode上面对 3,000 多个问题，很容易感到不知所措和迷失。 如何刷题？ 了解基础知识 算法复杂性 基本数据结构，如数组、字符串、链表、堆栈、队列、哈希表和二…
CI/CD 持续集成 （CI） 和持续部署 （CD） 是自动构建、测试和部署代码更改的流程。CI 是在代码更改提交到代码存储库后立即自动生成和测试代码更改的过程。CD 是在代码更改通过 CI 测试后自动将代码更改部署到生产…
partial() 从概念上讲， partial是一种通过将部分参数应用于现有函数来创建新函数的便捷方法 。functools.partial 允许你创建一个新函数，该函数是现有函数的修改版本。你可以为一个或多个参数指定默认值，这意味着…
Polars是一个用于操作结构化数据的高性能DataFrame库，可以说是平替pandas最有潜质的包。Polars其核心部分是用Rust编写的，但该库也提供了Python接口。主要特点包括： User guide: https://pola-rs.github.io/polar…
一、基础理论与数学 二、大模型架构与关键技术 三、训练与优化 四、推理与部署 五、大模型应用与评估 六、前沿与扩展 七、编程与工程 八、系统设计题常见考点 九、行为与行业认知 十、高阶问题 建议准备策略： 可重…
1. 常用操作：**Sort, shuffle, select, split, shard, rename, remove, cast, and flatten** 2. 结合 map 处理数据3. 不同格式的加载和存储4. 多线程加速处理5. 与pytorch操作示例 # 常用操作 ## 加载 ```python w…
DeepSeek-R1反响非常大，主要是因为使用较低的成本得到了OpenAI O1的效果。开源还便宜。 在这篇文章中，我们将了解它是如何构建的。 目录： DeepSeek-R1 的训练方法 1. 大规模推理导向强化学习 （R1-Zero） 2. R1 …
Table of Contents 目录 Agent Overview 代理概述 Tools 工具 Knowledge augmentation 知识增强 Capability extension 能力扩展 Write actions 写入操作 Planning 规划 Planning overview 规划概述 Foundation mode…
问题： Too many free trial accounts used on this machine. Please upgrade to pro. We have this limit in place to prevent abuse. Please let us know if you believe this is a mistake. 一键式解决方案 url …
这篇文章对 SGLang、Ollama、VLLM 和 LLaMA.cpp 四款大模型工具进行了多维度的对比，包括性能、易用性和适用场景等方面。 SGLang 的性能卓越，使其特别适合企业级应用。 Ollama 的安装便捷性使其非常适合个人轻量级…
launch.json创建：可以点击菜单栏：运行->添加配置 生成 { "version": "0.2.0", "configurations": [ { "name": "train_ds_zero2", "type": "…
之前写了篇比较全的ollama使用文档：https://www.icnma.com/ollama-tutorial/ 本篇主要是如何使用ollama直接运行huggingface上的gguf模型。 直接使用Ollama在Hugging Face上任何GGUF quant model，而无需创建新的Mo…
1、文本生成算法 2、使用 ONNX 优化 Bloom 3b 3、在 Triton 推理服务器上，结合动态批处理 托管 Bloom 3b BigScience Large Open-Science Open Access Language（简称BLOOM）是一个大型语言模型。开源可商用。BLOOM…
YC 合伙人 Aaron Epstein 谈论了不同的创业商业模式、如何盈利以及如何为产品定价。定价和盈利是创始人最常问的问题之一，Aaron Epstein 概述了 9 种商业模式，并重点介绍了 YC 顶级公司的商业模式经验。 文末附…
一、前言 FastAPI 是用于开发API应用最受欢迎的Python库之一，NGINX、Gunicorn 和 Uvicorn 都是经过实践验证的技术，常被用作反向代理和ASGI服务器来部署Python网页应用。 本文将展示如何结合这些工具来部署一个 Fa…
01 引言 Python装饰器是一种强大而优雅的语法特性，能够在不修改原有函数代码的情况下，为函数添加新的功能。本文将为你揭示15个实用的Python装饰器技巧，帮助你写出更加简洁、高效的代码。 02 核心概念解析 装饰器…
引言 Python 模块是包含代码的文件，可以定义函数、类和变量，并被其他 Python 程序导入。模块是 Python 编程的基础组件之一，能够提高代码的复用性和组织性。本文将介绍模块的基本概念、常用操作及一些高级技巧。 …
为什么需要并发？ 在日常生活中，我们会同时做很多事情。比如边听音乐边做饭，或者一边看视频一边回复消息。这些行为让我们提高了效率。同样的，在编程中，我们也希望程序能同时处理多个任务，这样可以提高程序的执…
Markdown语法
工作中我们常用pandas作为数据处理的工具，读取Excel/csv/mysql等数据源后处理成dataframe，本文介绍一些常用的高级操作技巧、组合使用技巧，尤其是文本相关的处理。 另一篇：https://www.icnma.com/pandasre_re/ …
截图付费证明，添加美熙微信： mx499134319 进各个大学申请互助群和享受其他福利 马来西亚理工大学的申请图文教程，就到这了，跟着一步步准备和申请，就能申请到哦！
默认情况下，WSL会安装在C盘（系统盘），如何将WSL子系统迁移到其他盘（非系统盘）？ 查看wsl状态 wsl -l -v 如果Running运行状态，关掉它 wsl --shutdown 导出系统镜像 wsl --export Ubuntu E:\Ubuntu\ubuntu.tar …
可以直接使用官网的最新安装命令/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"如果还是不行的话可以上官网看看: https://brew.sh/index_zh-cn
用户可以免登录付费【输入口令即可】，也可以右上角注册登录后付费【欢迎这种方式哟~】 查找已付费订单： 右上角个人中心，点击我的订单： 在右下角【内容链接】中直接跳转购买的内容即可。
"Contributing makes me feel like I'm being useful to the planet." — Anna Wong, Volunteer 在文章内容里面添加 目前插件针对付费内容或者付费下载主要通过区块编辑器（Gutenberg）封装成区块，如果使用经典编辑…
工作学习中常用的正则表达式总结、工具分享和示例
书山有路勤为径，学海无涯苦作舟！新年更有新气象，财源广进、广开财路！
Mac/Windows/Linux下，一次解决python环境管理和换镜像源。
成为Python高级工程师，把代码写的更优雅！
写bug的程旭源，和大家见面啦！
很多同学想入门NLP技术，但不知从何入手，整合了ACL2023的26大主题296个子领域。
很多人想搭建自己的对立网站、个人博客或者电商系统等，那么如何搭建呢？一步步教程
