This is a 部落格 of outbreak_sen

...

MindNLP模型微调超级笔记 乱七八糟的学习参考 已完成的bloom模型微调 pull链接这里面只有训练的部分结果，然后讲的是实现了bloom-3b在databricks-dolly-15k数据集上面的lora微调，不知道这个pytorch的训练过程是从哪来的，然后发现lora微调是一种微调方法，然后这里能够找到他fork的仓库，在mindNLP仓库是看不到改动的，需要去他提交pullrequst的fork的仓库，然后在这里点击可以到他fork的仓库，fork的仓库，同时可以看到这里fork后的仓库重新创建的分支叫做intern，然后查看commit改冲在哪里，找到发现在这里mindnlp/llm/finetune/bloom/bloom-3b-qlora，也就是说任务是微调的话就把代码放在llm/finetune这个目录下，然后对比官方的mindspore的仓库发现确实这里pull...

NLP任务微调笔记 NLP数据集没有像CV一样大量标号的数据集，所以NLP一般是自监督的，有两种自监督的模型： LM：语言模型，预测下一个词 MLM：带掩码的语言模型，完形填空 每种预训练模型基于不同的技术也分为两种： Word embddings： LSTM之类的传统的 Transformer based pretrained model： Bert：基于encoder，针对Bert的微调，把最后一层重新设计随机初始化，做分类只需要拿出一个然后训练，做QA只需要输出答案的位置 GPT：基于decoder T5：基于encoder和decode 如何做分词 数据集一般是用Unicode进行编码，是对世界所有语言的一种编码，但是我们需要将这些文字变成数字编码的向量，就需要分词 1"我是一个用于测试输出unicode编码的文字".encode('utf-8')#可以看到每个字对应的unicode编码...

mindNLP API reference 另一个API reference，这个全 介绍这是什么 MindNLP是基于MindSpore的开源NLP库。这个是个package，类似于huggingface的transformer库，有 250+ 预训练模型支持类似 huggingface transformers 的 API。您可以通过以下代码片段轻松使用，这样可以直接使用已经定义好的模型并且还有模型的权重：支持的模型 123import mindnlp.transformers import AutoModelmodel = AutoModel.from_pretrained（'bert-base-cased'） 全面的数据处理：将多个经典的 NLP 数据集打包成友好的模块，以便于使用，例如 Multi30k、SQuAD、CoNLL 等。 友好的 NLP 模型工具集：MindNLP 提供了各种可配置的组件。使用 MindNLP 自定义模型很友好。 易于使用的引擎：MindNLP 简化了 MindSpore 中复杂的训练过程。它支持...

Zed相机的驱动安装和图像视频获取 和众多的深度相机一样，下载SDK，然后SDK里有个上位机可以用来快速的获取视频和可视化，然后还有一套ROS，C++，python的API可以编写一些定制程序。 型号 型号 ZED mini垃圾 ZED 2 黑色的 ZED白色的 最垃圾 ZED 2I 想要的 特点 不写了自己看 帧率 陀螺仪 驱动安装 ZED SDK-Python 的环境后面装 我的cuda环境：cuda12.4 参考官网的下载方式是SDK，针对不同硬件平台和cuda版本下载不同的SDK版本，这里下载的SDK版本号是4.2。 1234567891011121314151617181920212223242526272829303132333435363738394041$ sh ./ZED_SDK_Ubuntu22_cuda12.1_v4.2.5.zstd.runVerifying archive integrity... 100% MD5 checksums are OK. All...

...

LLVM和LLVM tablegen学习笔记 LLVM介绍 LLVM 是一个跨平台（可在 Linux、Windows 和 Mac 上使用）C/C++ 编译器工具集，像 GCC一样。 LLVM 可以编译用 C、C++ 和 Objective-C 编写的代码。 LLVM 通过 libc++ 和 libc++ ABI 项目支持 C++11、C++14 和 C++17。 LLVM 还部分支持最新的 C++20 和 C++2b 标准。LLVM之所以优秀，在于以下几点： LLVM的中间表达（IR）是可以阅读的文本形式的，其他很多编译器却只有内存中的数据结构，使得学习调试难度大增。 LLVM 工具集提供的 Clang 可以比 GCC 更快地编译 C 和 C++ 代码。与 GCC 相比，LLVM 调试器 LLDB...

...

mindspore.mint接口测试任务 任务 任务背景 mindspore.mint提供了大量的functional、nn、优化器接口，API用法及功能等与业界主流用法一致，方便用户参考使用。 mint接口当前是实验性接口，在图编译模式为O0和PyNative模式下性能比ops更优。当前暂不支持图下沉模式及CPU、GPU后端，后续会逐步完善。 mindspore.mint.div逐元素计算 input 除以 other 的商。 mindspore.mint.divide mindspore.mint.erf mindspore.mint.erfc mindspore.mint.erfinv 需求描述 对应Pytorch 的相应接口进行测试： a) 测试random输入不同dtype，对比两个框架的支持度 b) 测试固定dtype，random输入值，对比两个框架输出是否相等（误差范围为小于1e-3） c) 测试固定shape，固定输入值，不同输入参数（string\bool等类型），两个框架的支持度 d)...

Mindspore实习-AKG SIG算子addlayernorm编辑和合并 什么是算子 计算图和算子在计算本质上是一致的。算子是打包后的计算图，计算图是拆包后的算子 比如sigmod复合算子可以看作一个计算图，由基础算子Exp，Add，Reciprocal等基础算子组成，用小规模的“基本算子”集合就可以表达任意现有计算图。 计算图可以完全由基础算子组成，但是还是得定义复合算子，比如sigmod这种，因为对于基本算子计算图来说，相邻算子之间只能通过全局内存（或显存）进行数据传递。而对于复合算子来说，相邻的基本计算之间则可以通过局部内存或者寄存器进行数据传递。除了性能之外，在一些场景下，通过算子融合也能有效减少对全局内存的的实际占用。 mindspore的算子融合方案是什么 在TVM、XLA等自动算子编译技术出现之前，AI框架主流采用手工融合的方式解决如上问题。主要思路是： 手工融合: 1）识别常见的热点算子组合子图，比如： Add(Mul(x, y))。然后针对该算子子图手工实现对应融合算子；...