Skip to content

xszyou/fay-ue5

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

38 Commits
 
 
 
 
 
 
 
 
 
 

Repository files navigation


Fay

FAY

UE5 数字人工程(Metahuman)

[此工程是一个完整的UE数字字人开源工程,可以配合Fay数字人框架,实现各种应用场景:虚拟主播、现场推销货、商品导购、语音助理、远程语音助理、数字人互动、数字人面试官及心理测评、贾维斯、Her](https://github.com/TheRamU/Fay )。

(加入交流群请关注公众号:fay数字人)

同步更新工程(20241009)

UE版本:Fay5_4_Oct ue数字人

唇型:azure ,音频:azure,ASR:azure,驱动接口:Fay及其他gpt兼容接口。

插件:FayConnector、Runtime Audio lmporter、AZSpeech(key在metahuman本体蓝图上配置) ue数字人

改进:1、与fay的对接方式更新为流式对接; 2、会从fay小段文字接收然后做tts处理,这样可以更快速作出响应。

UE Fay5_4_Oct工程包下载链接:https://pan.baidu.com/s/1Gxzi_DgST7Jh90s6tGOlew?pwd=32fe

UE版本:Fay5_4_Sep

改进:插件AZSpeech在5.4SoundWave无法播放问题;支持连接网页端。

UE Fay5_4_Sep工程包下载链接:https://pan.baidu.com/s/1tF9uFwXsnV8D5fMojqfT8w?pwd=gzu5

UE版本:5.3 ue数字人

唇型:azure ,音频:azure,ASR:azure,驱动接口:Fay及其他gpt兼容接口。

插件:AZSpeech(key在metahuman本体蓝图上配置)

改进:全新模型、支持最新5.3引擎、使用azure全家桶、支持与Fay异地、支持网页推流、支持打包android、ios及pc客户端。

ue azure运行包

链接: https://pan.baidu.com/s/1ZxsjVTB1nh89JJv3L5JmHg?pwd=k57d

ue azure5.3工程包

链接:https://pan.baidu.com/s/1xweuSUckmHLgcxO1RbY8yg?pwd=q8zv

2024-10-09

更新Fay-UE5.4

1、5.4Oct工程,与fay的对接方式更新为流式对接;

2、会从fay小段文字接收然后做tts处理,这样可以更快速作出响应。

2024-09-04

更新Fay-UE5.4

1、解决插件AZSpeech在5.4SoundWave无法播放问题;

2、支持连接网页端。

2024-08-29

1、ue azure版提供最新一键包;

2、ue azure版降级到5.3稳定版;

3、ue azure版支持打包后配置azure key。

2024-07-24

1、修复与Fay的默认连接;

2、优化Fay静候动画序列;

3、优化Fay待发言思考动画序列。

2024-07-17

1、5.4版本发布;

2、唇形算法升级;

3、动作优化;

4、语音合成队列机制。

2024-07-03

1、废弃HttpGPT插件,更换为FayConnector插件;

2、支持前置词唤醒模式(需要metahuman本身蓝图上打开)。

2024-06-12

1、修复消息窗口消息重叠显示问题;

2、开放azure api 区域设置。

2024-06-05

1、通讯优化;

2、对话框界面优化;

3、新增退出按钮。

2024-05-22

1、增加文本输入框(与Fay会同步消息),方便网页端和移动端操作。

效果:Fay新5.3UE工程效果_哔哩哔哩_bilibili

2024-05-15

1、增加语音按钮,方便网页端和移动端操作。

一、使用逻辑

1、如何进行抖音直播

2、如何进行B站直播

3、如何进行人机交互

4、OVRLipsync唇形算法代码

二、UE工程说明

1、UE基本操作及数字人工程模块组成

2、UE数字人工程运行逻辑及程序逻辑

三、历史版本

1、UE4.27 男模陈升

UE版本:4.27,唇型:固定动画 ,驱动接口:接收音频文件路径、接收情绪值

下载工程

Windows一键运行包

2、UE5.03 Girl_night

UE版本:5.0.3,唇型:Metahuman SDK ,驱动接口:接收文本、接收情绪值

下载工程

3、UE5.03 本地唇形Girl_lip

UE版本:5.0.3,唇型:视音素动画 ,驱动接口:接收音频文件路径、接音音频视音素序列、接收情绪值

下载工程

4、UE5.03 8月版

UE版本:5.0.3,唇型:视音素动画 ,驱动接口:接收音频文件路径、接音音频视音素序列、接收情绪值、接收控制台日志、接收用户问题文本、回复说话完成状态

下载工程

视频说明

5、9月版

ue数字人9月版

UE版本:5.0.3,唇型:视音素BS ,驱动接口:接收音频文件路径、接音音频视音素序列、接收情绪值、接收控制台日志、接收用户问题文本、回复说话完成状态,改进:新模型、使用唇形BS

工程下载地址:https://pan.baidu.com/s/10ASvGYQMpSrZV8OtXCmDdw?pwd=plz1

唇型BS说明:https://www.bilibili.com/video/BV1G94y1V75W

6、10月版

ue数字人9月版

UE版本:5.0.3,唇型:优化视音素 ,驱动接口:接收音频文件路径、接音音频视音素序列、接收情绪值、接收控制台日志、接收用户问题文本、回复说话完成状态,

改进:全新模型、提供VR运行包(视频)、优化唇形、改进web socket 状态显示逻辑、降低性能资源消耗。

工程下载地址:链接:https://pan.baidu.com/s/1Fal4ZvL-pL5g_bdsWJIcaw?pwd=4bz8

VR运行包下载地址(含普通运行包):https://pan.baidu.com/s/1m7a-METJFaFmwyRKwDeTRQ?pwd=ztmh

VR效果:https://b23.tv/1W0sJZv

7、emily

ue数字人9月版

UE版本:5.0.3,唇型:视音素 ,驱动接口:接收音频文件路径、接音音频视音素序列、接收情绪值、接收控制台日志、接收用户问题文本、回复说话完成状态,

改进:全新模型、提供站姿绿幕包、支持打断功能。

工程下载地址:https://pan.baidu.com/s/1lUPK5G0-BLwfgu3LrfulCQ?pwd=wesr

运行包下载地址:https://pan.baidu.com/s/1VaWmA8_0s8wmlaWBCUihog?pwd=02dx

About

可对接fay数字人的ue5工程

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published