医疗垂直领域大模型WiNGPT2的部署和性能对比
医疗垂直领域大模型WiNGPT2的部署和性能对比WiNGPT2部署和运行123456git clone https://github.com/winninghealth/WiNGPT2.gitcd WiNGPT2mkdir winninghealthcd winninghealthgit clone https://hf-mirror.com/winninghealth/WiNGPT2-7B-Chatcd ..
若没有以下这三个库,则安装gradio、tiktoken、pip install einops flash_attn
123pip install gradiopip install tiktokenpip install einops flash_attn
选一个目录作为cache(前提是这个目录已经存在且有权限读写)
12# 遇到报错 [Errno 13] Permission denied: '/data/.cache/huggingface/modules/transformers_modules/WiNGPT2-7B-Chat'export H ...
利用ollama一键式部署SoulChat和性能对比
利用ollama一键式部署SoulChat和性能对比scutcyr/SoulChat: 中文领域心理健康对话大模型SoulChat (github.com)
liutechs/soulchatfa (ollama.com)
部署过程采用ollama进行一键式部署:
1234ssh bjtc@162.105.16.236password: 000000curl -fsSL https://ollama.com/install.sh | sh //下载ollmaollama run liutechs/soulchatfa //利用ollma下载SoulChat
运行和对比
失恋
SoulChat:
Kimi:
2.
宿舍关系
SoulChat:
Kimi:
期末考试
SoulChat
Kimi:
科研压力
SoulChat
Kimi:
实习工作
SoulChat
Kimi:
RPC和Http请求的区别
RPC和Http请求的区别看这个:RPC简介及框架选择,RPC与REST的区别_rpc控制client, client返回主机测试结果和状态-CSDN博客
RPC、REST API深入理解_rpc与普通api接口的区别-CSDN博客
弄清楚这些接口(http,https,api,RPC,webservice,Restful api ,OpenAPI)_rpc接口和api接口-CSDN博客
restful API、SOAP、RPC的区别_soap api和restful api优缺点-CSDN博客
垂类心理健康咨询大模型MeChat的部署和性能对比
垂类心理健康咨询大模型MeChat的部署和性能对比部署和运行qiuhuachuan/smile: SMILE: Single-turn to Multi-turn Inclusive Language Expansion via ChatGPT for Mental Health Support (github.com)
1234567891011121314git clone https://github.com/qiuhuachuan/smile.git //如果网络不行就git clont到本地再scp到服务器 data目录可以忽略掉curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh //rust complier 然后要重新打开终端 已有rust complier即忽略这条命令RUSTUP_TOOLCHAIN=1.72.0 pip install tokenizers==0.13.2 /*执行上面这条命令,如果不这样做会报错:报错:ERROR: Could not build ...
SpringBoot Transactional和@Transaction
SpringBoot Transactional和@TransactionTransactionTemplate 和 @Transactional 都是Spring框架提供用于事务管理的工具,但它们在使用方式和适用场景上存在一些区别:
使用方式:
TransactionTemplate 是一个Spring模板类,它提供了一种编程式事务管理的方法。使用 TransactionTemplate 时,你需要显式地编写代码来控制事务的开始、提交和回滚。
@Transactional 是一个注解,它提供了声明式事务管理的方式。通过在方法或类上添加 @Transactional 注解,Spring 容器会在方法执行前后自动处理事务的开始和提交。如果方法执行过程中抛出异常,默认情况下事务将回滚。
适用场景:
TransactionTemplate 更适合于那些需要更细粒度控制事务的场景,例如,你可能需要在事务的某个阶段执行一些特定的操作,或者需要在事务中嵌套使用不同的事务管理器。
@Transactional 更适合于大多数简单的用例,其中事务的边界清晰,并且不需要编程式的事务控制。
...
SQL刷题
SQL刷题数据库SQL查询语句的执行顺序是怎么样的?_sql查询顺序-CSDN博客
注意where和having“Where”是一个约束声明,在查询数据库的结果返回之前对数据库中的查询条件进行约束,即在结果返回之前起作用,且where后面不能使用“聚合函数”;
“Having”是一个过滤声明,所谓过滤是在查询数据库的结果返回之后进行过滤,即在结果返回之后起作用,并且having后面可以使用“聚合函数”。
使用的角度:
where后面之所以不能使用聚合函数是因为where的执行顺序在聚合函数之前,
如下面这个sql语句:
1select sum(score) from student group by student.sex where sum(student.age)>100;
having既然是对查出来的结果进行过滤,那么就不能对没有查出来的值使用having,
如下面这个sql语句:
1select student.id,student.name from student having student.score >90;
在查询过程中聚合语句(sum ...
Redis常用操作
Redis常用操作
数据类型
操作
键(key)位置
值(value)位置
示例
String
GET
直接使用键名
键对应的字符串值
GET mykey
SET
直接使用键名
要设置的字符串值
SET mykey "Hello World"
DEL
直接使用键名
无(操作是删除)
DEL mykey
INCR
直接使用键名
键的整数值(自动增加1)
INCR mykey
DECR
直接使用键名
键的整数值(自动减少1)
DECR mykey
Hash
HGET
哈希名
哈希字段名
HGET myhash field1
HSET
哈希名
哈希字段名和值
HSET myhash field1 "value1"
HDEL
哈希名
哈希字段名
HDEL myhash field1
HGETALL
哈希名
无(返回所有字段和值)
HGETALL myhash
List
LPUSH
列表名
要推入的值
LPUSH mylist "item1"
RPUSH
列表名
要推入的 ...
Docker命令_各种参数简介
Docker命令_各种参数简介run123456789101112131415161718192021222324252627282930313233343536373839404142docker run [OPTIONS] IMAGE [COMMOND] [ARGS...] # OPTIONS 说明 --name="容器新名字": 为容器指定一个名称; -d: 后台运行容器,并返回容器ID,也即启动守护式容器; -i:以交互模式运行容器,通常与 -t 同时使用; -t:为容器重新分配一个伪输入终端,通常与 -i 同时使用; -P: 随机端口映射; -p: 指定端口映射,有以下四种格式 ip:hostPort:containerPort ip::containerPort hostPort:containerPort containerPort -w: 指定命令执行时,所在的路径 # IMAGEXXX_IMAGE_NAME:XXX_IMAGE_VER # COMAND例:mvn -Duser.home=xx ...
利用ollama一键式部署HuatuoGPT2和使用
利用ollama一键式部署HuatuoGPT2和使用killgfat/huatuogpt2 (ollama.com)
部署过程采用ollama进行一键式部署:
1234ssh bjtc@162.105.16.236password: 000000curl -fsSL https://ollama.com/install.sh | sh //下载ollmaollama run killgfat/huatuogpt2 //利用ollma下载huatuogpt2
运行和对比将离线状态下成功部署的huatuogpt2与Kimi(月之暗面大模型)各自询问五个医学领域的问题,各自的回答对比结果如下。
从20年元旦发烧好了以后,小孩每天晚上喊双膝盖好累到现在,应该是酸痛,白天基本没事,目前走路正常,无肿胀。已到人民医院检查核磁共振检查显示关节有少许积液,请问这是什么病,怎么治疗,能不能给我开药?
HuatuoGPT2:
12345678910111213根据您的描述和医院的检查结果,这可能是孩子的膝关节出现了一些问题。具体的原因可能是多种多样的,比如过度使用、受伤或者是某种疾病的表现 ...
后端微服务-programmer-club项目的设计与实现心得
后端微服务-programmer-club项目的设计与实现心得开发工具后端:IDEA
前端:VSCode
项目管理:git
包依赖管理:Maven3.6.0
数据库:Mysql5.7
数据库连接池和监控库:Druid
框架:Springboot 2.4.2
数据库图形化:Navicat
接口管理工具:APIPost7
Redis桌面工具:RedisDesktop
表建模:PDManager
原型设计:axure8
原型组件库: antdesign
代码生成器:easycode(idea的plugin市场)
一些插件:mybatis(类->dao->数据库),easycode(由数据库表生成相应代码), preconditions(参数校验)
node.js
阿里云脚手架用于组件/版本的选择兼容,非常方便: start.aliyun.com
架构设计传统项目[SpringMVC框架(详解)-CSDN博客](https://blog.csdn.net/H20031011/article/details/131511482?ops_request_misc=%7B%22 ...