欧盟禁止在在线会议期间使用人工智能驱动的虚拟助手。此类助手通常用于在视频会议期间进行转录、做笔记，甚至录制视频和音频。
在一个欧盟委员会的介绍本月早些时候交付给欧洲数字创新中心的“在线会议礼仪”幻灯片上有一条注释，指出“不允许使用人工智能代理”。
人工智能代理是可以通过与视频会议软件等应用程序交互来自主执行复杂的多步骤任务的工具。例如，Salesforce 使用人工智能代理来。
委员会确认这是第一次实施这一规则，但在被质疑时拒绝解释原因。政治报。欧盟没有具体的立法涵盖人工智能代理，但为它们提供动力的人工智能模型需要遵守严格和的。
人工智能代理引发安全担忧
据一家机构称，虽然人工智能记事员和其他代理类型本质上并不构成安全威胁，安全风险源于用户不知道他们的人工智能代理正在做什么、他们在用户控制之外操作的固有能力以及潜在的人工智能与人工智能交互。这些因素使得人工智能代理的可预测性低于标准模型。
看：
科技公司在推广那些可以在用户不知情的情况下实现增长的产品时确实必须谨慎。最大的警示故事之一是 Microsoft Recall，这是一种人工智能工具，允许用户使用自然语言控制他们的电脑或搜索文件。
这种便利是有代价的：回想一下每隔几秒捕获一次活动窗口的屏幕截图，将它们保存为时间线，引发了对隐私和数据使用的担忧，并导致。微软此后发布了一系列代理。
AI代理越来越流行
这并没有阻止人工智能玩家将更多控制权交给他们的模型。人类添加了一个2024 年 10 月，它能够导航桌面应用程序、移动光标、单击按钮和输入文本。它是本周宣布，也会“代理”地响应提示，就像。
上个月，到代理模型，表明它们的相关性越来越大。 2025 年 1 月，，一种在浏览器中运行的代理工具，可以自主执行订购杂货或预订旅游等操作。
看：
Anthropic 和 OpenAI 甚至正在合作改进代理技术，后者还添加了，一种用于将人工智能应用程序（包括代理）连接到数据存储库的开源标准。 Anthropic 还与 Databricks 联手帮助大型企业客户。
TechRepublic 预测，到 2024 年底，。，说“我们可能会看到第一批人工智能代理‘加入劳动力队伍’并实质性地改变公司的产出。”
据预测，到 2028 年，33% 的企业软件应用程序将包含代理人工智能，而 2024 年这一比例还不到 1%加特纳公司。到那一年，五分之一的在线商店互动和至少 15% 的日常工作决策将由代理商进行。