经济观察网 记者 沈怡然 6月21日,北京瑞莱智慧科技有限公司(下称“瑞莱智慧”)在2024年产品发布会上发布了一款面向个人用户的AIGC(生成式人工智能技术)实时检测产品RealBelieve,能帮助用户鉴别通话或网络视频中的人脸真伪,也可在用户浏览网页内容时提供AI合成可能性提示。
瑞莱智慧成立于2018年,专注于人工智能安全可控技术,其客户涵盖金融、工业、公共安全等多个行业。RealBelieve产品中文名叫“尊嘟假嘟”,目前已开启内测招募。
会上,瑞莱智慧联合创始人、算法科学家萧子豪称,RealBelieve是一款软件,用户安装后,在视频通话时,产品会及时发出预警,提示视频对方的人脸是否存在AI合成的风险。实时的风险提示可以帮助用户及时调整沟通方式,快速确认对方的真实身份,避免损失;也可在用户浏览网页内容时,针对一些网页上的人物图片,提供AIGC合成可能性的提示。
萧子豪称,该产品背后的检测模型基于贝叶斯深度学习技术开发,团队构建了一整套多模态AIGC检测技术体系,能够挖掘并建模多模态、多层次、多角度的AI合成线索,度量真假差异,并进行不确定性的推理和决策。
随着人工智能进入大模型时代,数字人和AI生成的视频内容日益增多。瑞莱智慧创始人、CEO田天称,但是AI系统其实是很脆弱的,一些AI算法对黑客攻击的防御力非常薄弱。
田天举例称,攻击者在图像上施加细微、人眼难以察觉的干扰,能轻易误导AI系统作出错误的识别。例如,在人脸识别场景中,通过在人脸图像上施加微小的扰动,使得原本准确的人脸识别系统错误地将一个人识别为另一个人。这种脆弱性可能带来多种诈骗风险,攻击者可以利用AI生成的数字人或视频内容冒充他人,进行诈骗或误导公众。
版权声明:以上内容为《经济观察报》社原创作品,版权归《经济观察报》社所有。未经《经济观察报》社授权,严禁转载或镜像,否则将依法追究相关行为主体的法律责任。版权合作请致电:【010-60910566-1260】。
沈怡然经济观察报记者
大科创新闻部记者关注硬科技领域,包括机器人及人工智能、无人机、虚拟现实(VR/AR)、智能穿戴,以及新材料领域。擅长企业深度报道及上市公司分析报道。发现前沿技术、发展趋势投资价值。
ai,人工智能,瑞莱智慧,真伪检测标签:
新加坡联
新泻天鹅乙队
0-0
未直播
09-20 19:45
丹戎巴葛联
新加坡联
新潟天鹅乙队
0-0
未直播
09-20 19:45
丹戎巴葛联
CBA
新疆伊力特
0-0
未直播
09-20 20:00
四川锦城
CBA
浙江广厦
0-0
未直播
09-20 20:00
山西汾酒
泰超
孔敬联
0-0
未直播
09-20 20:00
佛统联
印尼甲
PSM马卡萨
0-0
未直播
09-20 20:00
三宝垄
英乙U21
沃特福德U21
0-0
未直播
09-20 20:00
查尔顿U21
俄青联
莫斯科切尔塔诺沃青年队
0-0
未直播
09-20 20:00
莫斯科火车头青年队
俄青联
莫斯科迪纳摩青年队
0-0
未直播
09-20 20:00
科诺普廖夫青年队
俄青联
法克尔青年队
0-0
未直播
09-20 20:00
喀山红宝石青年队
俄青联
奥伦堡青年队
0-0
未直播
09-20 20:00
斯特罗吉诺青年队
乌兹超
索格迪纳吉扎克
0-0
未直播
09-20 20:00
安迪江
亚美甲
勒那因阿尔查赫
0-0
未直播
09-20 20:00
舒拉克B队
沙特乙
阿尔乌拉
0-0
未直播
09-20 20:00
扩塔禾
匈U19
艾卡迪麻亚U19
0-0
未直播
09-20 20:00
MTK布达佩斯U19
沙特联 2024-03-03
德甲 2024-03-03
法甲 2024-03-03
意甲 2024-03-03
西甲 2024-03-03
中超 2024-03-03
中超 2024-03-03
中超 2024-03-03
NBA 2024-03-03
NBA 2024-03-03