从“大脚怪”视频博客到算法生成的人物形象，超逼真的人工智能内容正在重新定义数字创作者的边界。这些影响者是完全虚拟的角色，通过生成式人工智能工具模拟人类的外貌、声音和行为。他们发布生活方式内容、与粉丝互动，甚至获得品牌代言——而这一切都无需在物理世界中真实存在。
随着这些技术日益普及、生成内容愈发逼真，专家警告称，我们正迈入一个虚构与现实之间界限愈加模糊的新时代。
合成创造力的崛起
佐治亚理工学院的专家指出，人工智能超写实主义——即以惊人精度模仿人类情感、语音和外貌的内容——既是一项技术奇迹，也是一项社会挑战。
“人工智能并不具备人类意义上的情感，但它懂得如何模仿带有情感的言语，”交互计算学院的马克·里德尔教授表示。
“一旦我们意识到人工智能在模仿我们，就不难理解它们为何能创造出听起来真实可信的内容。”
里德尔指出，视频创作的民主化是一个重大转变。“人工智能视频生成工具以及绕过传统内容渠道、直接向社交媒体发布内容的能力，已经打开了闸门，”他说。
近期的例子包括像“无名香肠”这样的合成影响者，这个数字动画角色通过短视频舞蹈和品牌合作，在多个社交媒体平台上吸引了超过3000万粉丝。在Character.AI等平台上，用户与数百万个旨在模拟对话和个性特征的虚拟角色互动。这些人工智能生成的形象正在重塑受众在Instagram、TikTok等社交媒体平台上与内容、营销和身份互动的方式。
心理健康与现实鸿沟
交互计算学院的蒙穆·德·乔杜里教授警告称，超现实的人工智能内容可能扭曲用户对现实的认知，尤其是在易受影响的人群中。
“这种扭曲可能加剧焦虑，恶化身体形象和自我比较问题，并导致认知信任——即我们对他人口中真实事物的基本信任——受到更广泛的侵蚀，”她说。
她的研究表明，社交媒体已经模糊了真实自我表达和表演性身份之间的界限。超现实的人工智能内容——从深度伪造到引发情感共鸣的合成角色——进一步削弱了用户辨别真实或可信内容的能力。青少年和面临心理健康挑战的人群可能尤其容易受到影响。
“经历压力或社交孤立的人可能更容易相信深度伪造内容，”德·乔杜里解释道。“这类内容往往会强化现有信念，或填补社交连接中的空白。”
人工智能内容挑战了我们对真实性、信任和数字身份的理解。它也引发了关于同意、错误信息以及与合成角色互动的心理影响的疑问。她指出，Z世代用户通常通过情感共鸣而非事实准确性来评判人工智能内容，而年长用户可能完全难以识别合成内容的迹象。
平台、说服与错误信息
里德尔强调，人工智能叙事工具可通过“叙事传输”——一种受众沉浸于故事中从而降低对其真实性质疑的心理现象——来影响公众舆论。
“讲故事是一种 persuasive 的沟通方式，”他说。“我们的大脑对故事的敏感程度，足以绕过批判性思维。”
近期事件凸显了这一不断变化的局面。2025年，泰勒·斯威夫特和汤姆·汉克斯等公众人物的深度伪造内容激增，仅前四个月就发生超过179起事件——超过了2024年全年。这些深度伪造内容从幽默模仿到欺诈和露骨内容不等，引发了关于身份滥用和错误信息的伦理与法律担忧。
里德尔指出，视频错误信息历来更难制作，但现在更容易生成，且更可能针对小众受众量身定制。
社交媒体公司面临越来越大的采取行动的压力。德·乔杜里认为，标注人工智能生成的内容是必要的，但还不够。
“平台必须投资于以用户为中心的设计、数字素养干预措施，以及关于算法如何推送此类内容的透明度，”她说。
在心理健康社区中，风险尤其高，因为真实性和生活经验至关重要。“用户在遇到合成内容却没有明确人工来源提示时，常常感到不知所措或被欺骗，”她补充道。
全球化人工智能时代的治理
吉米和罗莎琳·卡特公共政策学院的米尔顿·穆勒教授认为，在去中心化的数字生态系统中，监管可能无效甚至适得其反。
“生成式人工智能是全球化和分布式数字生态系统的一部分，”穆勒说。“那么，你所说的监管机构是哪一个？它又如何获得控制输出所需的影响力？”
尽管欧盟的人工智能法案强制要求标注并处以高额罚款，但美国的努力仍然零散。联邦通信委员会已将自动电话中使用人工智能生成的声音定为非法，违规实体将面临罚款，多个州正在推动对政治深度伪造内容进行水印处理和刑事处罚。但专家警告称，第一修正案的保护使执法复杂化。
穆勒提醒，政府已经在将人工智能用作地缘政治工具，这可能破坏全球合作并导致战略升级。“政府不是在自由交换数据和建立共同规则，而是在主张数字主权，”他说。
他主张通过去中心化治理、公共辩论和媒体素养来解决人工智能生成的错误信息，而不是集中监管或自动控制，并强调内容审核应以开放流程为指导，并在事后应用现有法律补救措施。
随着人工智能生成的内容变得越来越复杂和广泛，研究人员表示，挑战不仅在于技术保障，还在于社会如何适应。佐治亚理工学院的专家强调透明度、跨学科合作和公众参与的必要性。他们表示，超现实媒体的未来将取决于平台、政策制定者和用户如何应对其风险与可能性。
精选文章：