Article

post_img

本地运行LLM,突破content censor

摘要

最近大语言模型实在太火了,创造了一批的上层应用,对于普通人来说其实很难去训练一个大模型,顶多去微调一下. 在线的GPT服务有很多, …

post_img

gRPC in Go

摘要

RPC是远程调用,而google实现了grpc比较方便地实现了远程调用,gRPC是一个现代的开源远程过程调用(RPC)框架 概念介 …

post_img

深入NLP

摘要

之前学过一段时间NLP,因为其中涉及到一些深度学习常用的知识或者框架,但苦于不系统以及没有任务focus不能长久.这里借助微软的教 …

post_img

GPU服务器不完全测评

摘要

由于本人没有合适的GPU服务器训练模型(没钱买服务器),只能在网上租了. 我的评价标准: 国内 国内我就只推荐autodl. Au …

post_img

大模型微调学习

摘要

这段时间非常火的topic,大模型参数多,占用体积大训练困难,而且一般需要微调技术用于特定任务. 什么是大模型LLM LLM是大型 …