人工智能

频道热点

最新列表

llm推理面

# 大模型（LLMs）推理面 1. ? 为什么大模型推理时显存涨的那么多还一直占着？大语言模型进行推理时，显存涨得很多且一直占着显存不释放的原因主要有以下几点： 1. 模型参数

【大模型 LLMs 基础面 Plus】 Layer normalization-方法篇一、Layer Norm 篇 1.1 Layer Norm 的计算公式写一下？二、RMS Norm 篇

目录传统图像处理-最常见面试题（必问）......................................................

大模型（LLMs）显存问题面 1. 大模型大概有多大，模型文件有多大? 一般放出来的模型文件都是 fp16 的，假设是一个 n B 的模型，那么模型文件占 2n G，fp16 加载到显存里做推理也是占 2n G，对外的 pr 都是 10

目录 HYPERLINK l _Toc18043 µ9.1 SVM 的原理是什么？ PAGEREF _Toc18043 µ37

51 随机森林 RF 通过对训练数据样本以及属性进行有放回的抽样（针对某一个属性随机选择样本）这里有两种，一种是每次都是有放回的采样，有些样本是重复的，组成和原始数据集样本个数一样的数据集；另外一种是不放回的抽样，抽取出大约 60%的训

一文讲透 MCP 的原理及实践 MCP (Model Context Protocol) 代表了 AI 与外部工具和数据交互的标准建立。也是 AI 领域最近非常火热的一个技术词，通过这篇内容，我们可以了解到 MCP 的本质、价值、使用与

多模态常见面试篇 1. 一、最近关注的论文，多模态视觉大模型(CLIP,DALLE)？ 2. 二、blip2的架构，优势和之前多模态模型的区别？ 3. 三、多模态融合后，怎样知道最终结果受哪种模态影响更大？ 4. 四、多模态中常见的

LLMs Tokenizer 篇 Byte-Pair Encoding(BPE)篇 1 Byte-Pair Encoding(BPE) 如何构建词典？ 1 准备足够的训练语料;以及期望的词表大小； 2 将单词拆分为字符粒度(字粒度)，

大模型（LLMs）强化学习面 1. ? 奖励模型需要和基础模型一致吗？奖励模型和基础模型在训练过程中可以是一致的，也可以是不同的。这取决于你的任务需求和优化目标。如果你希望优化一个包含多个子任务的复

大模型（LLMs）分布式训练面 1. 理论篇 1.1 想要训练1个LLM，如果只想用1张显卡，那么对显卡的要求是什么？显卡显存足够大，nB模型微调一般最好准备20nGB以上的显存。 1.2 如果有N张显存足够大的显卡，怎么加速训

1 分类算法常用哪些？ KNN LR（逻辑回归） SVM 决策树、随机森林神经网络 2 回归算法一般用哪些？线性回归决策树、GBDT XGboost 神经网络 3 回归方法中使用的评价指标是哪些? 均方误差（MSE）：均方根误差（R

151 在程序里面智能指针的名字是啥？一个是 shared_ptr 允许多个指针指向同一个对象；一个是 unique_ptr 独占所指向的对象；还有一种伴随类 weak_ptr 他是一种弱引用, 指向 shared_ptr 所指向的对

动态规划属于有模型强化学习的范畴，蒙特卡洛和 TD 都属于无模型的范畴。蒙特卡洛和 TD 都需要通过采样来获取数据进行学习蒙特卡洛需要采样整个样本序列，无偏差，但是

首页上一页 1 2

频道热点

最新列表

热门文章

推荐文章