近年来，随着AI技术的不断演化，象征人工智能时代的AIGC（人工智能技术生成内容）技术也越来越成熟。当底层技术与算法在2022年取得突破性进展后，AIGC顺势一飞冲天突破理论阶段到达运用层面。而全球各大科技公司数年来对AI技术的不断投入与探索，也让AIGC的运用场景愈发深化与完善。终于在2023年以ChatGPT的出现为标志，AIGC开始在各行各业发挥作用，融入到普通人的生活当中。
(资料图片)
ChatGPT类产品雨后春笋爆发
自从ChatGPT发布以来便不断刷新着人们对AI的认知。凭借堪称神奇的对话功能，上线短短两个月的时间就收获一亿活跃用户，一跃成为了历史上用户增速最快的消费级应用且没有之一。
有ChatGPT珠玉在前，国内各大科技公司不甘示弱。百度、腾讯、阿里大厂等纷纷公布了自家AI大模型。各家公司的模型囊括了包含CV（机器视觉）与NLP（自然语言处理）等多项技术，同时也在自家的专攻领域各有建树。
百度的文心大模型已经在语音助手、智能识别、自动驾驶等多个领域投入应用。对标ChatGPT的“文心一言”在功能上与前者已经相差无几，也是目前国内技术最成熟的人工智能聊天软件之一。
腾讯发布的混元大模型已经为腾讯自家的微信、QQ、游戏、广告、云服务等众多产品和业务提供服务，并在医疗、金融等领域与其他公司展开合作崭露头角。
阿里也在4月正式对外发布了自己的ChatGPT产品“通义千问”，该产品基于阿里通义大模型体系打造，该模型不仅可以处理单模态任务，更是在升级后可以处理超过包括语音和动作在内的30多种跨模态任务。
逆水寒手游要做第一个游戏版ChatGPT
事实上，AI技术在游戏中的使用早有先例。就比如Moba手游中王者荣耀和英雄联盟手游的低分段对局就有所谓的人机对手，和平精英、云顶之弈等同样也会在对局中加入AI，保证玩家的游戏匹配速度提升玩家的对局体验。因此，当逆水寒手游刚刚宣布将在游戏中大规模搭载AI功能时，业内外反应颇为冷淡，毕竟游戏中使用AI早已并非新鲜事。
而对于向来坚持话不惊人语不休的逆水寒制作组，如此平淡的反应显然不能满足他们的胃口。逆水寒制作组更进一步，宣传要在逆水寒手游中实装国内首个游戏GPT“小寒”。首个+游戏GPT+逆水寒IP，这条消息终于激起了不小的浪花。不少玩家都对此从充满期待，甚至吸引了业内人士注意。因为逆水寒此时代表的不仅是游戏本身，更是代表了整个网易集团的最强战力——网易的AI大模型迟迟未公布，业内也想借逆水寒中的游戏GPT来一窥网易在此领域的布局成果。
偷鸡不成蚀把米，逆水寒手游AI闹乌龙
然而理想有多丰满，现实就有多骨感。玩家很快发现，被逆水寒制作组大夸特夸的首个游戏版ChatGPT的AI“小寒”表现令人震惊。在与玩家的对话中，小寒不断说出各种含有性别歧视、男女对立以及刻板印象的语句。甚至还有部分语句涉嫌荡妇羞辱，尤其令女玩家感到非常不适。愤怒的玩家纷纷去逆水寒手游官博讨要一个说法，但却没有得到制作组任何正式的回应，甚至出现官方控评删帖的情况。随着舆论的进一步发酵，贴吧、B站等各大平台上也有越来越多的玩家站出来表示自己有过类似的经历并给出相应截图证据，最终被逆水寒手游视为卖点作为宣传的ChatGPT技术遭到了玩家一致的嘘声与抵制。逆水寒手游也成为了国内首个因人工智能运用不当而爆发负面新闻的游戏。
其实逆水寒手游的翻车并不难理解。尽管AI技术发展势头迅猛，但国内厂商对人工智能的研究仍然处于追赶者的阶段，前辈ChatGPT尚且被爆出大量不雅内容，国内的类GPT产品想要大规模商业化普及还为时尚早。
众所周知，GPT类产品需要依靠庞大的数据投喂养成才能不断进化。从逆水寒手游中小寒的表现来看，显然逆水寒制作组显然没有选择合适的数据投喂，缺乏最基本的内容审查，侧面可以看出逆水寒手游制作组并没有真正了解过该功能，他们只是想蹭个热度吸引关注，对实际产品的品质漠不关心，因此也就造成了逆水寒手游AI的翻车。
更让玩家难以接受的是，在大量玩家聚集官博下投诉该情况时，原本24小时活跃的官博开始当起了缩头乌龟，在微博超话和贴吧类似的吐槽存活时间不到5分钟就会被官方删除。
科技向善绝非口号，AI发展需要规范约束
平心而论，GPT类产品即使没有优秀的技术力，但如果可以在人工审查环节加大投入，就能防止类似“小寒”这类事故的发生。很难想象如此重大的功能上线，逆水寒制作组竟然没有一个测试人员发现这些问题，亦或是说根本没有进行测试就直接对外发布？或者说制作组成员看到这些不雅内容觉得毫无问题？不管是何原因，逆水寒制作团队对AI技术的不尊重以及急功近利的心态都在这次事故中表露无疑，也与他们自称“AI技术正向运用倡导者”的理念背道而驰。玩家的怒火或许能想办法搪塞消解，滥用AI却存在实打实的风险，至少已经明显违反了国家《生成式人工智能服务管理办法》中的相关条例。可以说逆水寒制作组不仅将AI技术和玩家不放在心上，甚至连国家的相关法律法规也选择了无视。
发展总会带来各种不确定性，像我国近期已经出现多起利用AI合成声音、换脸等形式进行诈骗的犯罪事件。随着AI技术的不断发展，类似的案件未来可能还会继续增加。想要真正实现“科技向善”，不仅需要各大科技厂商打磨技术，更需要尊重国家法律法规和社会公序良俗，承担更多的社会责任，为社会做出正面榜样，而不是如逆水寒制作组这般拿着三脚猫的功夫就将其作为营销与牟利的工具大肆渲染，甚至蔑视国家法规，最终不仅逆水寒手游会凉凉，对整个AI行业的发展也会带来不可估量的负面影响。
