我之前部署的这个语音大模型都是基于一个接口的。也就是说,我是考虑到用于这个我的笔记的本地的一个接口,没有说有这种快捷的语音输入的这种功能。
这个语音识别模型识别的准确率还可以,有些行业词的话也可以自定义去添加。
我写一个简单的教程,我基本上没有遇到特别麻烦的问题。
按照官方的这个说明文档,直接下载它这个客户端和服务端,然后下载大模型就可以了。
前面有一篇博文是用这个语音输入去写的,这个准确率还行,偶尔修改几个字就可以了。
但是这个输入效率真的非常高,我们人类平常交流都是用语音去交流的,没有说我打个文字让你看一下,你再打个文字发给我情况,所以这种情况导致我们的沟通效率就会特别的低。
但是加上这个语音识别大模型以后呢,输文字就速度快多了。
我估计以后会有越来越多的这种端侧大模型,然后包括这种语音识别的大模型,在各个客户端、各个 APP 里面。
所以以后的一些东西,可能只要条件允许,可能会有一些人走在大街上或者什么地方,都能自言自语的去说一些东西,因为打字型的话,还真的是太慢太慢了。好了,不说了,下面就分享一下这个语音识别模型的一个部署情况。
一、下载文件
CapsWriter-Offline可以直接离线使用,因为语音识别的大模型在本地,所以数据安全是没有问题的。
下载地址: https://github.com/HaujetZhao/CapsWriter-Offline/releases

二、部署
部署也比较简单,把下载好的大模型放到指定的目录就可以,注意目录层级,如下图:

如果想自定义位置也是可以的,修改config_server.py中的路径就行。
接下来依次双击下面的文件启动:
start_server.exe
start_client.exe
三 、我遇到的问题
1、需要安装一个C++的运行库,我安装了最新的14版本的,就可以用。
2、服务端打开后闪退,错误问题是:OSError: exception: access violation reading 0x0000000000000000
我的解决办法是config_server.py中把所有GPU禁用掉,也不影响使用。
模型很小,cpu完全没有问题。
下面是用这个语音输入录入的博文前面的内容:

评论 (3)
Mac用不了?对电脑也有配置要求吧。
虽然看不太懂,还是先收藏一下,万一以后能看懂了呢?
:lyf-大哭:我8G的A卡还是先了解一下算了