人工智能正在改变我们日常生活中的数字体验。从个性化产品推荐、预测性医疗到自动驾驶，甚至游乐园的排队管理，人工智能让这些体验变得更便宜、更高效，甚至更愉悦。至少，这是它的承诺。
然而，我们常常看到所谓的“人工智能翻车”新闻——用户感到被误导、沮丧，或者干脆觉得不被理解。一旦信任破裂，人工智能真正发挥意义和效力的潜力也就随之瓦解。
公众的信任正在流失。为什么？因为大多数系统的设计并未以人类体验为核心，而是追求快速、可扩展和盈利。对于所有正在加大人工智能投资的企业来说，这应该是一个重大警示。
要重建信任，企业需要停下来思考更深层次的问题：我们为什么要开发这个系统？它是否应该被开发？简而言之，我们设计人工智能是为了服务人类需求，还是强迫人类去适应机器逻辑？
人工智能的信任鸿沟
人工智能往往在孤立的技术环境中开发，其成功标准是准确性和速度，而非社会影响或可用性。作为信任核心的伦理思考，并未自然而然地融入人工智能的开发流程。这种脱节导致系统在理论上可能创新，却在实践中表现不佳。
以加拿大航空的聊天机器人为例，它自信地向客户提供了错误的丧亲票价政策信息，而公司却辩称不对聊天机器人的言论负责。又如Meta的AI聊天机器人，它在搜索结果中提供了事实错误的陈述。这些例子不仅仅是技术故障，更暴露了系统性的设计缺陷——缺乏同理心、安全护栏和现实背景。
公众已经注意到了这一点。根据皮尤研究中心的调查，59%的美国人和55%的人工智能专家对美国企业负责任地开发人工智能几乎没有信心。这种信任鸿沟不容忽视。
以人为本的设计不是奢侈品
设计并非人工智能的装饰，而是其行为和终端用户感知的基础。以人为本的设计始于理解设计对象：他们的目标、挫折、价值观和现实生活。
在设计过程中，必须提出具体问题以确保技术服务于人类需求，而非相反：
我们为谁设计？
他们的目标、价值观和挑战是什么？
他们如何从情感和功能上与系统互动？
产品是否值得信赖？是否名副其实？
它是否促进了包容性和可访问性？
这些问题并非抽象，它们直接决定了人工智能在现实中的表现。在医疗、安全或教育等高风险领域，它们甚至决定了系统是包容公平还是混乱有害。
优秀设计的模样
设计师通过原型设计、测试和迭代，将人类需求与机器能力连接起来，确保产品对用户有意义。这包括思考人工智能如何沟通、自动化哪些决策，以及为用户提供多少控制权。
以游乐园为例。今年夏天，人工智能被部署用于减少等待时间、个性化体验和管理人流。这是一个有前景的应用场景。但成功不仅仅关乎效率。一个设计良好的系统会优先考虑人类体验，而非单纯追求效率。这意味着透明的信息传递、直观的界面、清晰的用户选择，以及为特殊需求用户（如没有智能手机的家庭或残障人士）提供备选方案。
这里的机会不仅是优化物流和业务运营以提升利润，更是提升快乐、减少摩擦，创造充满魔力而非机械感的共享体验。这正是设计的价值所在。
测试人性化元素
在以人为本的人工智能设计中，测试至关重要。理想情况下，应尽早并频繁地让潜在终端用户参与流程，以发现潜在盲点。如果用户无法理解或信任一个系统，无论其后端多么出色，这个系统都是失败的。
测试还能确保可访问性，而这在人工智能驱动的体验中常常被忽视。一个聊天机器人可能在技术上功能完善，但如果它无法服务神经多样性用户或非母语者，它就不是真正可用的。包容性设计不仅惠及少数群体，还能为所有人强化产品。
责任始于设计
政策可以帮助设定边界，防止最坏的结果。因此，像欧盟人工智能法案和人工智能权利法案蓝图这样的框架是重要的一步。但合规只是底线，设计才是我们触及天花板的方式。
企业必须超越清单思维，构建支持尊严、自主和监督的人工智能系统。这意味着抵制完全自动化人类判断的冲动，转而设计增强人类能力的工具。负责任的人工智能不会消除人类控制，相反，它会放大这种控制。
这项工作不仅是技术性的，还需要设计师、工程师、政策专家和伦理学家从第一天起就组成多学科团队协作完成。这意味着与人共同设计，而不仅是为他们设计。
设计师在塑造人工智能中的角色
设计师在塑造人工智能发展轨迹中扮演着独特角色。他们是翻译者，既精通机器的结构化逻辑，又理解人类生活的复杂性。设计师擅长识别摩擦点、情感线索和数据无法捕捉的社会影响。
与确保技术服务于人类需求的具体问题类似，设计师必须倡导那些无法简单归入训练数据的问题：
这会让人感觉如何？
用户是否掌握控制权？
如果出现问题会怎样？
设计常常在人工智能流程的最后阶段才被引入，只是为了“让它看起来好看”。但设计的真正力量是战略性的。它应该从一开始就定义问题，而不仅仅是美化界面。
以人为本，而非以机器为本
人工智能不仅是技术挑战，更是设计挑战。要应对这一挑战，我们必须从一开始就以人类价值观为核心。
以人为本的人工智能不是奢侈品，而是必需品。它创造了值得信赖、可靠、无偏见、可审核且合规的系统。更重要的是，它构建了造福终端用户、提升人类生产力和潜力的产品。
我们拥有工具，也肩负责任，去设计一个技术服务于人类而非相反的未来。这一未来始于设计。
精选文章：