“99元生成AI写真?隐藏风险并不少
作者: 新闻中心

  一键获得不一样的风格艺术照,制作简单且价格“秒杀”线张以上照片,就可以一键获得不一样的风格的AI艺术照、写真照,制作简单、价格“秒杀”线下写真照相馆。近日,以妙鸭相机、45AI等为代表的AI生成写真软件上线后“一夜爆火”,短短一周时间,就在社交平台收获了大量讨论。

  新快报记者在某AI写真软件实测发现,在授权登录和手机号信息后,制作AI写线步。第一步先上传一张正脸照,再上传20张以上不同表情、不同角度的照片,用以制作数字分身;第二步是选择模板生成写真;第三步是精修写真或直接下载。

  随后,记者使用了自己的照片,认认线张不同角度的照片。上传成功后,还需支付9.9元(限时特惠价格,原价29.9元)才可继续生成数字分身。此前,在社交平台上有许多用户吐槽排队时间需要十多个小时,而记者体验时,系统提示前方排队人数有1101人,得到“等5个多小时,完成后会通知”的提示,继续等待后得到了自己的“AI数字分身”模板。接下来是“生成写线种女生版,包括古风、都市、韩潮、证件照、西装、休闲、森系等多种风格,根据数字分身生成模板写线分钟不等。

  随后,记者询问了多个尝试过该款产品的消费者,有的表示“我当时等了差不多4个小时,效果不错,有2套照片比较像我。不同角度的照片上传得越多,效果应该会越好。”也有的称照片过于“标准化”和“精致感”,有一种似是而非的感觉,“既像又不像我,但照片都是美美的,很养眼。”还有一种声音则认为,AI生成的写真和自己预期相差较大,所谓的“像”都是美化的效果,不过也有用户反驳:“反正一些网红写真馆拍得也不太像自己。”

  爱美之心人皆有之,因此,好看的写真照片一直都很有市场,海马体和天真蓝这类线下照相馆瞄准的同样也是拥有这种需求的用户。这类工作室通过提供全套的妆造、拍摄与修图服务,可以让用户收获一套场景区别于日常的精致写真,同时由于修图与妆造的存在,这类照片往往是在本人真实外貌上进行了进一步美化。

  虽然价格不低,但这类服务却在市场上颇受欢迎。据中国报告大厅的公开信息数据显示,2023年,中国写线亿,慢慢的变多人愿意为个性化写真埋单。全拓多个方面数据显示,目前我国摄影行业还处于行业成长期,2021年我国摄影行业市场规模已超过5000亿元。海马体创始人黄逸涵曾在接受各个媒体采访时表示,海马体一年的营收规模约达20亿元。

  面对被替代的风险,广州某连锁照相馆的一位工作人员显得坦然,她告诉新快报记者:“如果每个人只是需要一张简单的照片,那(AI写真)确实有冲击。但很多时候拍照不单单是为了最后的那张照片,而是代表一种体验,照片只是个载体。”

  当人们对于“AI写真”的讨论尚未结束之时,一个基于AI技术克隆声音的网站MyVocal.AI又小出圈了一把。这款声称可免费克隆声音的网站,不仅能克隆声音,还可通过克隆的声音输出音乐和流利口播,因此吸引了不少年轻人开始玩起来。此外,这一个网站受欢迎的原因还在于,目前它是可以免费使用的。

  这个克隆声音的网站有多神奇?新快报记者登录该网站后,平台显示需要采集25个声音样本才能进行声音克隆。依次点击声音样本,朗读样本中的提示语句,就可以将25个样本全部采集完成。在声音克隆完成后,网友还可以前往各个模块,生成歌曲和口播语音。方法也很简单,选择自身想唱的歌曲,进入后点击“同步我的声音”,即可将原歌曲一键变为由你演唱的作品。

  这个克隆声音的网站虽然吸引了很多网友“尝鲜”使用,但在使用的过程中,一些细心的用户发现,这个克隆声音的网站,其实是个“三无”网站,即无备案号、无网络经营执照、无审核管理方,甚至网站上连运营方的名称和联系方式都没有。因此有网上的朋友表示担忧,一个“三无”网站如何保证声音采集后的安全性?自己的声音会不会被不法分子用作诈骗?

  就在很多用户分享着这份“9.9元带来的快乐”时,也有人担忧“隐私安全问题”。“使用此类软件安全吗?”“我的照片真的只是用于AI图像生成吗?”有用户更是在照片生成后产生了顾虑,毕竟此前利用AI换脸进行诈骗的事件频频发生。于是,伴随AI写真产品热度上升,慢慢的变多的用户也对其提出了质疑。

  有细心用户留心到,“妙鸭相机”一开始在用户服务协议中写道:“您特此授权我方在整个世界(包括元宇宙等虚拟空间)范围内享有永久的、不可撤销的、可转让的、可转授权的、免费的和非独家的许可,使得我方可以任何形式、任何媒体或技术(无论现在已知或以后开发)使用您的内容”,并指出,“包括但不限于使用AI生成内容作为再训练数据等”。

  此外,新快报记者在使用时发现,对于是否为本人照片,软件目前的机制尚未严格界定,存在可以冒用他人照片使用的可能性。记者随机下载了一张网络上他人的正面照片测试,短短几十秒内便通过了“正面照片”的审核,且审核期间没有盗用他人照片的风险提示。

  正所谓,人红是非多。平台也逃脱不了同样的命运。有眼尖的消费者注意到,“妙鸭相机”在付款的界面写道:“本服务购买后即刻生效,一旦购买成功,不支持退款。”对此,上海市消保委点名批评,“妙鸭相机”在付款页面以灰色小字标注的“一旦购买成功,不支持退款”涉嫌侵害消费者的公平交易权。随后,“妙鸭相机”官方回应称,“妙鸭相机”提供的是基于算力的服务,因此照片生成后即视为服务完成。不过如果因为技术问题,造成数字分身生成失败,可以退款,而且免费再次生成。

  事实上,生成式人工智能服务已引起监督管理的机构的关注。针对生成式人工智能服务,国家网信办等多部门于7月13日公开的《生成式人工智能服务管理暂行办法》指出,“生成式人工智能服务提供者对使用者的输入信息和使用记录应当依法履行保护义务,不得收集非必要个人隐私信息,不得非法留存能够识别使用者身份的输入信息和使用记录,不得非法向他人提供使用者的输入信息和使用记录”。这一管理暂行办法将自2023年8月15日起施行。

  广州市政协委员、广东诺臣律师事务所高级合伙人郑子殷律师表示,《生成式人工智能服务管理暂行办法》对生成式人工智能服务的服务规范、监督检查和法律责任均进行了规定,服务规范中明确了提供生成式人工智能服务的提供者怎么样来规范提供服务,当发现违法的用户时应当承担什么责任,例如依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施,保存有关记录,并向有关主管部门报告。因此,在使用生成式人工智能时,如何保护个人隐私需要各方的配合。

  对于容易泄露的个人隐私信息,包括肖像、姓名、身份证号码、地址、手机号、密码等,要怎么样才能做好保护?在郑子殷律师看来,大数据时代,数据化、网络化、智能化生活已经涉及到日常生活的方方面面,个人隐私信息无可避免运用到网络当中。尽管当前我国法律中民法典有关于个人隐私信息保护的专门条款,也有个人隐私信息保护法等有关规定法律法规保护,但在真实的生活中,个人也要做好对个人隐私信息的保护,例如:不轻易点击社交软件中不明来源的链接;不扫描没有安全保障的二维码;不要在陌生链接中填写个人隐私信息等。

  郑子殷认为,生成式人工智能技术在各行业、各领域应用,应当是生成积极健康、向上向善的优秀品质的内容,探索优化应用场景,构建应用生态体系。如何保障此类科技更规范地传播?他建议推动生成式人工智能基础设施和公共训练数据资源平台建设,推动公共数据分类分级有序开放,扩展高质量的公共训练数据资源。此外,生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动,使用具有合法来源的数据和基础模型;涉及知识产权的,不得侵害他人依法享有的知识产权;涉及个人隐私信息的,应当取得个人同意或者符合法律、行政法规规定的其他情形;采取比较有效措施提高训练数据质量,增强训练数据的真实性、准确性、客观性、多样性。

  AI写真带来方便的同时也伴随着隐私风险,如何保障此类科技更规范地传播?华南师范大学教育信息技术学院院长、科技传播专家张学波表示,AI换脸、Al写真这些智能技术产品的出现,为用户更好的提供了一种新的体验和趣味,以及多样化的产品选择,但也暴露了许多安全和隐私问题。