本报（bào）记者 赵姗

微（wēi）软的创始人（rén）比尔（ěr）·盖茨有一句名（míng）言：“我们总是高估在（zài）一年或者两年（nián）中能够做到的，而低估五（wǔ）年或十年中能够做到（dào）的（de）。”这句话（huà）用来理解人工（gōng）智能的影（yǐng）响是相当合适（shì）的。目前，随着人工智能产（chǎn）业飞（fēi）速发（fā）展，催生了新的（de）人机交互模式，核心便是（shì）AI大模型驱动（dòng）的（de）智（zhì）能体（AI Agent）（以下简称“AI助手”）。AI助手（shǒu）让“人机协同”成为新常态，个人与企业正在步入（rù）AI助手时（shí）代。

然而，伴随着快速（sù）发展，一系列（liè）问题与挑战也（yě）随之而来。如何在应对AI助手面临（lín）挑战（zhàn）的同时抓住发（fā）展机遇，实现（xiàn）AI助手的（de）可持续（xù）发展（zhǎn）和更广泛应用，成（chéng）为行业需要（yào）深（shēn）入思考和探讨的重点。

数（shù）据隐私安（ān）全、伦理和法律等（děng）成为挑战

“AI助手在快速发展的（de）同时，也面（miàn）临许多挑战和（hé）问题。”国务院发展研（yán）究中心创新发（fā）展研究部第二研究室主任（rèn）杨超在接受（shòu）中国（guó）经济时报记者（zhě）采访时（shí）表示，在这些问题中，最为关键的还在于AI助手使用（yòng）所带来的数据（jù）隐私安全（quán）、伦理和法律问题。

杨超（chāo）认为，从数据隐（yǐn）私保护来看（kàn），由（yóu）于人工智能系统本身（shēn）需要依赖大量用户数据进行训练，必然（rán）会导致相（xiàng）关（guān）机构将AI助手服（fú）务期间获取和产生的数据（jù）用于AI助手（shǒu）本（běn）身的优（yōu）化，即使（shǐ）通过删除个（gè）性化属性等方式对数据脱敏，数据隐私和安（ān）全问题也（yě）难以完全避免。尤其是随着AI助手（shǒu）的普及，其训练（liàn）涉及的数据量将快速（sù）提升，从而进一步放大安全风险。

从伦（lún）理和法律角度看，随着AI助（zhù）手能力（lì）的增强，其自主（zhǔ）性和决策（cè）能（néng）力必然会显著提升，在部分应用场景中将会脱离（lí）人类的直接指令而开展自主行（háng）为。这些（xiē）自主行为一（yī）旦产生外部性影响，就（jiù）将引发（fā）伦理和法律问题。“一个经典的例（lì）子是，人工智能自动驾驶的汽（qì）车在行（háng）驶过程中，前方（fāng）突然出现行人，改（gǎi）变行（háng）驶（shǐ）方（fāng）向会伤害乘客，不改变方向则（zé）会伤害行人。这（zhè）种情况下无论AI助（zhù）手做出何种选择（zé）都会（huì）带（dài）来伦（lún）理问题。”杨超说。

清华大（dà）学复（fù）杂（zá）工程系统实验室主（zhǔ）任、中国人工智能学会智能产品与产业（yè）工作委员会主任任勇在接受中（zhōng）国（guó）经济时（shí）报（bào）记（jì）者采（cǎi）访（fǎng）时表示，在（zài）当下阶（jiē）段，AI助（zhù）手仍然面临技术创新与场（chǎng）景适配度的挑（tiāo）战（zhàn）。

一是算法（fǎ）的精准性（xìng）与可靠性（xìng）。AI助手的核心——算（suàn）法需要不断学（xué）习和优化以提高准确性和（hé）可靠性，然而，面（miàn）对复杂多变的用户（hù）需求和场景，当前（qián）的（de）算法往往难以达到期待的要求（qiú）。

二是跨模态学习与（yǔ）环境理（lǐ）解能力。AI助手（shǒu）当前的技术水平仍（réng）存（cún）在（zài）一定的局限（xiàn）性，难以充（chōng）分理解和整（zhěng）合应用时空变化的模态信息，对（duì）环境信（xìn）息的多模（mó）态（tài）感知与理（lǐ）解尚有很大的（de）提升空间。

三是（shì）场景理解与适应能力（lì）。有些（xiē）场景化需（xū）求超越（yuè）了简单的物理环（huán）境感知，需要（yào）与场景自身的底层逻辑、应用逻辑相结（jié）合才能（néng）理解，这对当下的AI助手（shǒu）而言（yán）是一个现实挑战。

“此外，AI技术（shù）的复杂性（xìng）和变化性（xìng）使得已有法（fǎ）规难以完全覆盖各种变动。当AI助手出现错（cuò）误（wù）或造成损害时，责（zé）任追究便成了难（nán）题。”任勇说。

“AI助手面临的（de）挑战还（hái）有算（suàn）法偏见与歧视、过（guò）度依（yī）赖和成瘾。”清华大学人工智能国际治理研究院秘书长、欧（ōu）美同（tóng）学会研究院人（rén）工智能和数字经（jīng）济研究中（zhōng）心执行主任（rèn）鲁俊群在接受（shòu）中（zhōng）国经（jīng）济时报记者采（cǎi）访时表示。

鲁俊群认为（wéi），目前，AI算法的训练数（shù）据（jù）还（hái）存在不完备性和偏向（xiàng）性。由（yóu）于AI训练所使用的语料数据（jù）本身可能客（kè）观上就存在着统计学上的一定偏差，还（hái）有可能（néng）存在开发者的个人偏好等（děng），因（yīn）此，现阶段（duàn）的各种AI助手仍有可能存在一（yī）定的算法偏（piān）见与歧视（shì）问题。对此，有必要建立对技术背后训练数据（jù）和算法的审查机制，如通过建立（lì）AI伦（lún）理委员会等形式（shì）加强（qiáng）审核。

另外，“假如一名用户经常与AI角（jiǎo）色互动来寻求（qiú）帮助和安慰，容易对其产生情感（gǎn）上的（de）依（yī）赖，以此来填（tián）补情感需（xū）求上的空缺，这有可能导（dǎo）致用户沉迷虚拟（nǐ）世（shì）界而（ér）忽视现（xiàn）实世界（jiè）。对此，建议对于AI助手（shǒu）应（yīng）该使用（yòng）得当，同时应该注意保持与现实世界的互动。”鲁俊群（qún）说。

未来发展方向（xiàng）：垂直领域专业（yè）化、与（yǔ）具身智能的结合

当前，大模型进（jìn）入应用时代，多家科技公司都展出了（le）最新AI应（yīng）用。

“AI助（zhù）手（shǒu）发展的方向是多样的，在技术路线和应用场景的双重影响下，将会迎来种类繁多的AI助手（shǒu）。”杨超认为（wéi），其中，有两个（gè）方向是（shì）较为确定的。

一是垂直领域专业化。在特定行业或领域，如家政、健（jiàn）康、医疗、法律、金融等大领域，甚至是制造业中不同行业等小领域，AI助（zhù）手都将具备更（gèng）深入的专业知识和技能，提供专业服（fú）务（wù）。

二是与具身智能的结（jié）合（hé）。随着（zhe）人（rén）工智能能力的提升，其提供的服（fú）务将不仅是咨询和智力服务，而是通过更多的感知和操作，为人类提供直接与物质（zhì）世界交互的（de）能力。

任（rèn）勇认为，就发（fā）展方向而（ér）言，AI助手（shǒu）在产业（yè）场景和个（gè）体场景中的应用虽然都基于人工智能技术，但在技术路径（jìng）和响应机（jī）理上存在着显著差异。

AI助手产（chǎn）业场（chǎng）景的技术路径主要是针对特定需（xū）求，如制造业、物流（liú）、医疗、教（jiāo）育等（děng），AI助手（shǒu）通常（cháng）需（xū）要进行定制化开（kāi）发，以符合行业的特定需求。利用相应产（chǎn）业所产生的数据，结合（hé）各种机器学习算法，AI助手（shǒu）能够自主学习和优化，实现智能排班、任务分配、数据分析、流程优化等（děng）高（gāo）级（jí）功能。在此过程中，AI助手往往需要与企（qǐ）业的其他系统（tǒng）进（jìn）行（háng）集成（chéng），如ERP（企业（yè）资源计划）、CRM（客户关系管理）等，以实现信息的共享和（hé）协（xié）作（zuò）。通过上述（shù）技术（shù）路径实现对重复性烦（fán）琐任务的自主处理和数据洞察、科（kē）学（xué）决策、降本增效。

AI助手（shǒu）用（yòng）于个体（tǐ）场（chǎng）景的技术路径主要（yào）是利用通用（yòng）智能平台，如智能手机（jī）、智能家居设备等（děng），通过（guò）语（yǔ）音识别和自然（rán）语（yǔ）言（yán）交互、多设备（bèi）协同来（lái）辅助用户完成（chéng）任务（wù），提升日常生活的便利性和服（fú）务的精准性。

“在（zài）产业场景中，AI助（zhù）手主（zhǔ）要关注于提升效率（lǜ）、优化决策和降（jiàng）低成（chéng）本（běn），需（xū）要更多的定（dìng）制化（huà）开发和集成协（xié）作；而（ér）在个人生活场景中，AI助手则更注重于提供便捷化、个（gè）性（xìng）化（huà）、适应性服（fú）务，未来的（de）技术创新只能围绕不（bú）同（tóng）场（chǎng）景下各自（zì）的内生（shēng）逻辑进行迭代优化。”任（rèn）勇（yǒng）说（shuō）。

鲁俊群认为，AI助（zhù）手未来可能会向多模态交互（hù）以及（jí）具身智能方向发展。

“为了实现（xiàn）具身智能（néng），需要将类ChatGPT等这些（xiē）基础大模型与进化学习机（jī）制相结合，通过与（yǔ）物理世界（jiè）交互（hù）取得（dé）的新数据（jù）（而不再是人类投喂的数据）来（lái）不断学习（xí），并适（shì）应新环（huán）境，优化行为策略。多模态（tài）大模型能够整合视觉、听觉、触（chù）觉等多（duō）种感官数据，提（tí）升（shēng）机器人的（de）理解能力。使具身智能机（jī）器人在与物理世界的互动和理解方面更加人性化。这些未来的AI助手机（jī）器人可以自主（zhǔ）理解场景、识别（bié）自然语言（yán）指（zhǐ）令、规划任务，并（bìng）执（zhí）行（háng）操作，将是人（rén）类最得力的智能助（zhù）理。”鲁俊（jun4）群说。

从创新方向引导、应用场景规范（fàn）方（fāng）面为AI助手提供支持保（bǎo）障

当（dāng）前（qián），AI助手的服务升级与互联互通是国内多家（jiā）互联（lián）网科（kē）技公（gōng）司持续探索（suǒ）的重点。

杨超建议，第一（yī），加强对用户（hù）隐私和数据安全（quán）的保（bǎo）护。强制性地将（jiāng）用户隐私和（hé）数据安全作为提供AI助手服务（wù）的前置条件，引（yǐn）导和鼓励相关（guān）机构采用先进的数据加密和匿名化技术，确（què）保用户数据的（de）安（ān）全和隐私。

第二，增强AI助（zhù）手决策过程（chéng）的（de）可解释性，让用户能够理解其行为和决策逻辑，从而提高用（yòng）户信任度。为整个社会更好接（jiē）纳AI助手创造（zào）良好的环境，从而为在更广阔的应用（yòng）场（chǎng）景中使（shǐ）用（yòng）AI助（zhù）手提供帮助。

第三，加强伦理和法规遵从。根据人工智能技术的进步及（jí）时修订相关（guān）法（fǎ）律法规，完善对AI助（zhù）手进（jìn）行（háng）规（guī）制的制度（dù）环境，确保AI助手的开发和（hé）应用（yòng）符（fú）合（hé）伦理标准和法律法规，避免产生歧视（shì）、偏见（jiàn）等（děng）问题。

“国家政策（cè）层面应该（gāi）从（cóng）创新（xīn）方向引导和应（yīng）用场景（jǐng）规范两个方面出发，为AI助手（shǒu）的发（fā）展提（tí）供支持和保障。包括明确AI助手的（de）适用场景（jǐng）和范围等，避免误（wù）用，更要避免国际资本集团假借技术触发虚假市场的滥用。特别是在（zài）医疗、教育、交通等关键领域（yù），应严格规（guī）范AI助手的应用条件和（hé）程（chéng）序（xù）。此外，要建立健全（quán）AI助手（shǒu）的监管机制，加（jiā）强社会力量尤其是人民群众对AI助手应用的监督和评估，确保其合规性、合理（lǐ）性和安全（quán）性。对于违规行为，应依法进行处罚和追责。”任勇表示。

未来（lái），企业可以利用AI助手优化（huà）现有（yǒu）业务流程，特别是在新（xīn）产品研发（fā）和服（fú）务的创新（xīn）应（yīng）用方面，AI助手的普及（jí）将推（tuī）动（dòng）不同行业之（zhī）间的跨（kuà）界融合和协同发展，为企业带来新的商业机会和合作伙（huǒ）伴，进而带动商业模式和生态的变革（gé）。

中央财（cái）经大学数字经济融合创（chuàng）新发展中心主任陈端在接受中（zhōng）国（guó）经济（jì）时（shí）报记者（zhě）采访时认为，企业（yè）运用（yòng）AI助手强化（huà）核心竞争力需要一系（xì）列的战略规划和技术实施。

一是要识（shí）别（bié）关键业（yè）务场景，深（shēn）入了解业务需求，确定AI助手（shǒu）在（zài）哪些环节能够发挥最大价值，然（rán）后（hòu）为选定的业（yè）务场景明确（què）具（jù）体的需求（qiú）和目标，如（rú）提高（gāo）客户（hù）满意度、优（yōu）化库存管理、增（zēng）强市场（chǎng）分析能（néng）力等。

二是（shì）根（gēn）据业务需求和（hé）技术成熟度，选（xuǎn）择适合的AI技术（shù）和解决（jué）方（fāng）案，要充（chōng）分考虑与（yǔ）现有（yǒu）系统的兼容性，确保AI助手能够顺（shùn）利集成到企业（yè）的IT架（jià）构中。此外，还要建立完（wán）善的数据治理体系，避免因（yīn）为数据偏差导致的结果偏差。

三是需要（yào）设立明确（què）的评估指标和机制（zhì），对AI助手的性能和效果进行（háng）定期评估，及时调整（zhěng）和优（yōu）化AI助手的算法和模型（xíng），以提升其（qí）准确性和效率。此外，还需要（yào）关注AI助手可能带来（lái）的伦理和社会问题，确（què）保其应（yīng）用符合道德和法律（lǜ）规范。