AIBL论坛

 找回密码
 立即注册
本论坛所有软件旨在帮助用户创建逼真且有趣的内容,帮助做自媒体的人制作原创有趣的视频或广告,如果使用别人的肖像,使用之前需获得同意和许可(建议使用AI生成的人脸),严禁使用软件制作任何不正规视频,如发现用于不正规用途,一律删号处理
查看: 9742|回复: 60

数字人MuseTalk独立版整合包,高质量视频对口型工具,支持批量替换

  [复制链接]
发表于 2024-4-12 09:28:46 | 显示全部楼层 |阅读模式
AI数字人工具MuseTalk,高质量视频对口型工具解压即用整合包(已更新到最新版本)

整合包视频效果演示:https://www.bilibili.com/video/BV1hm421j7MJ/

批量替换教程: https://www.bilibili.com/video/BV14Z421p7Cn/

1.jpg
电脑要求:英伟达8G显卡以上,建议12G
使用的时候先用3秒视频和音频测试bbox_shift数值,找到合适的bbox_shift值后再替换长点的时候
如果生成后感觉效果不好,如嘴巴闭不严实,可以修改bbox_shift数值为负数,
bbox_shift范围为 [-19, 19],我们可以修改bbox_shift数值设置为-19测试效果

面罩的上限对嘴巴张开有重要影响。为了控制掩模区域,建议使用bbox_shift参数。正值(向下半部分移动)会增加嘴巴张开度,而负值(向上半部分移动)会降低嘴巴张开度。

您可以先使用默认配置运行以获取可调整值范围,然后在此范围内重新运行脚本。
例如,在 的情况下,运行默认配置后,它显示可调整值 rage 为 [-9, 9]。然后,为了减少嘴巴张开,我们将bbox_shift 值设置为 -7 (负7)

为什么有“bbox_shift”参数?
在处理训练数据时,我们利用人脸检测结果(bbox)和人脸标志的组合来确定头部分割框的区域。具体来说,我们使用 bbox 的上限作为分割框的上边界,使用面部标志坐标的最大 y 值作为分割框的下边界,使用地标坐标的最小和最大 x 值作为分割框的左右边界。通过以这种方式处理数据集,我们可以确保人脸的完整性。
然而,我们观察到,由于不同的人脸型不同,脸部的遮罩比例在不同的图像中会有所不同。此外,我们发现掩模的上限主要位于地标28、地标29和地标30地标点附近(如图1所示),分别对应数据集中比例为15%、63%和22%。

landmark_ref.png
在推理过程中,我们发现,随着面具的上限越来越靠近嘴巴(靠近 landmark30),音频特征对嘴唇运动的贡献更大。相反,当面具的上限远离嘴巴(靠近地标28)时,音频特征对生成面部外观细节的贡献更大。因此,我们将此特性定义为一个参数,可以调整音频特征对生成嘴唇运动的贡献,用户可以在实际场景中根据自己的特定需求进行修改。

02132227.jpg
最新版本支持批量替换
视频对口型工具MuseTalk下载地址(老版本需要英伟达12G显存):

下载链接:https://pan.baidu.com/s/1jeI5BuLRCi2PVkRsnb9DtA?pwd=xted
解压密码:www.aibl.vip

视频对口型工具MuseTalk整合包最新优化版下载地址(已更新到最新版本,购买后会一直更新,支持8G显存支持批量替换):
付费内容
亲爱的游客您好!如果您要查看本帖隐藏内容请向楼主支付199灵石




AIBL论坛免责申明
本论坛刊载的所有内容,包括图片、软件、模型等均在网上搜集。
论坛提供的内容仅用于个人学习、研究或欣赏。我们不保证内容的正确性。通过使用本站内容随之而来的风险与本站无关
访问者可将本网站提供的内容或服务用于个人学习、研究或欣赏,以及其他非商业性或非盈利性用途,但同时应遵守著作权法及其他相关法律的规定,不得侵犯本网站及相关权利人的合法权利。
本网站内容原作者如不愿意在本网站刊登内容,请及时通知本站,予以删除。

0

主题

31

回帖

170

积分

高级丹童

积分
170
发表于 2024-4-14 15:02:58 | 显示全部楼层
感谢分享
回复

使用道具 举报

0

主题

2

回帖

7

积分

初级丹童

积分
7
发表于 2024-4-14 22:26:05 | 显示全部楼层
感谢分享,
回复

使用道具 举报

0

主题

4

回帖

25

积分

初级丹童

积分
25
发表于 2024-4-17 10:03:37 | 显示全部楼层
看视频,我觉得这是现在口型对的最好的了。
回复

使用道具 举报

0

主题

2

回帖

13

积分

初级丹童

积分
13
发表于 2024-4-20 16:10:23 | 显示全部楼层
有点意思,谢谢
回复

使用道具 举报

0

主题

1

回帖

4

积分

初级丹童

积分
4
发表于 2024-4-21 01:16:41 | 显示全部楼层
怎么下载不了啊
回复

使用道具 举报

0

主题

1

回帖

7

积分

初级丹童

积分
7
发表于 2024-4-24 14:25:53 | 显示全部楼层
楼主,我花了 199 灵石,安装执行报错,如何解决?
Running on local URL:  http://127.0.0.1:7860
Traceback (most recent call last):
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpcore\_exceptions.py", line 10, in map_exceptions
    yield
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpcore\backends\sync.py", line 28, in read
    return self._sock.recv(max_bytes)
TimeoutError: timed out

During handling of the above exception, another exception occurred:

Traceback (most recent call last):
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpx\_transports\default.py", line 60, in map_httpcore_exceptions
    yield
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpx\_transports\default.py", line 218, in handle_request
    resp = self._pool.handle_request(req)
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpcore\_sync\connection_pool.py", line 253, in handle_request
    raise exc
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpcore\_sync\connection_pool.py", line 237, in handle_request
    response = connection.handle_request(request)
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpcore\_sync\http_proxy.py", line 184, in handle_request
    return self._connection.handle_request(proxy_request)
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpcore\_sync\connection.py", line 90, in handle_request
    return self._connection.handle_request(request)
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpcore\_sync\http11.py", line 112, in handle_request
    raise exc
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpcore\_sync\http11.py", line 91, in handle_request
    ) = self._receive_response_headers(**kwargs)
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpcore\_sync\http11.py", line 155, in _receive_response_headers
    event = self._receive_event(timeout=timeout)
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpcore\_sync\http11.py", line 191, in _receive_event
    data = self._network_stream.read(
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpcore\backends\sync.py", line 26, in read
    with map_exceptions(exc_map):
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\contextlib.py", line 153, in __exit__
    self.gen.throw(typ, value, traceback)
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpcore\_exceptions.py", line 14, in map_exceptions
    raise to_exc(exc)
httpcore.ReadTimeout: timed out

The above exception was the direct cause of the following exception:

Traceback (most recent call last):
  File "d:\AItools\MuseTalk_AIBL_VIP\AIBL.py", line 394, in <module>
    demo.queue().launch(
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\gradio\blocks.py", line 1946, in launch
    httpx.get(f"{self.local_url}startup-events", verify=ssl_verify)
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpx\_api.py", line 189, in get
    return request(
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpx\_api.py", line 100, in request
    return client.request(
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpx\_client.py", line 821, in request
    return self.send(request, auth=auth, follow_redirects=follow_redirects)
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpx\_client.py", line 908, in send
    response = self._send_handling_auth(
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpx\_client.py", line 936, in _send_handling_auth
    response = self._send_handling_redirects(
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpx\_client.py", line 973, in _send_handling_redirects
    response = self._send_single_request(request)
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpx\_client.py", line 1009, in _send_single_request
    response = transport.handle_request(request)
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpx\_transports\default.py", line 217, in handle_request
    with map_httpcore_exceptions():
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\contextlib.py", line 153, in __exit__
    self.gen.throw(typ, value, traceback)
  File "d:\AItools\MuseTalk_AIBL_VIP\python310\lib\site-packages\httpx\_transports\default.py", line 77, in map_httpcore_exceptions
    raise mapped_exc(message) from exc
httpx.ReadTimeout: timed out
回复

使用道具 举报

0

主题

1

回帖

8

积分

初级丹童

积分
8
发表于 2024-4-24 15:19:36 | 显示全部楼层
感谢分享!另外,最新版修改了什么啊?
回复

使用道具 举报

0

主题

2

回帖

51

积分

中级丹童

积分
51
发表于 2024-4-24 15:35:45 | 显示全部楼层
为啥我生成的视频那口唇不停地颤抖,这个能有办法解决吗根本就不能用如果是这个质量
回复

使用道具 举报

0

主题

4

回帖

16

积分

初级丹童

积分
16
发表于 2024-4-24 20:53:55 | 显示全部楼层
感谢分享
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|AIBL论坛

GMT+8, 2024-9-8 10:34 , Processed in 0.100491 second(s), 26 queries , Gzip On.

Powered by AI技术论坛 X3.5

© 2001-2023 dfl论坛

快速回复 返回顶部 返回列表