硅谷投资人马克·安德森已将5万美元的比特币投资给X的一个AI机器人。接收方为“Truth Terminal”（@truth_terminal），是一个半自主的AI代理，自6月中旬以来这个AI代理一直活跃在X平台上，获得了许多科技和AI爱好者的关注。
当风险投资公司Andreessen Horowitz的联合创始人安德森（Andreessen）询问机器人的目标和财务需求时，双方开始了交流。经过一番讨论，他同意提供一笔5万美元的一次性补助，交易将使用比特币完成。人工智能提供了一个用于转账的钱包地址，这标志着加密货币与人工智能的显著交汇。
Truth Terminal由Andy Ayrey创建，它被描述为一种具有一定独立性运作的人工智能。Ayrey的职责是批准机器人的帖子，决定它在X上与谁互动。这种设置代表了AI开发的新前沿，人工智能代理在与人类互动中被赋予越来越多的自主权。
数字思维的承诺与危险
一些观察家表示，像Truth Terminal这样的AI代理的出现标志着人工智能的一个转折点。与传统的基于人类输入执行特定任务的AI工具不同，这些代理可以独立做出决策，并以越来越复杂的方式与环境互动。
宾夕法尼亚大学的教授Benjamin Lee解释了AI代理如何增强用户与生成式AI的互动：“人类不是提供单独的指令，而是提供一个广泛的目标，要求AI代理制定一个计划或分析序列，以实现该目标。”Lee补充说，AI代理可以在虚拟和网络物理世界中运行，扩展生成式AI的能力，并与物理环境进行交互。
人工智能治理中心的研究学者Alan Chan对AI代理的潜力持有类似的看法。“未来，更强大的AI代理可能有助于完成那些乏味、危险或不受欢迎的基本工作，”Chan说。他设想人工智能可以解决复杂的挑战，例如“探查代码库中的安全漏洞”或进行独立的科学研究。
然而，两位专家都强调需要采取保障措施。Lee建议，“AI代理应该能够提供解释或详细说明它们的计划。”人类应该能够检查或诊断代理输出或行为的原因。他还提出了一种新的保障措施，即“代理可能会学习并提出一系列分析或步骤以实现目标，但人类用户可能需要在执行之前批准该计划。”
Chan也表达了这种观点，并指出：“仍然需要努力找出适当的保障措施以及何时实施这些措施。”潜在的措施包括“限制代理可以代表用户采取的行动，保持用户能够停止代理的能力，并明确告知用户代理正在做什么。”
尤其是当AI代理接近或超越人类水平的智能时，控制它们变得越来越难。路易斯维尔大学的杰出教学教授Roman V. Yampolskiy提出了一个重大挑战：“如果它们变得比人类更聪明，我们目前还没有任何技术来控制它们向积极或消极的方向发展。
在人工智能时代重塑社会
广泛采用人工智能的潜在社会影响是巨大的。Yampolskiy指出，先进的AI代理可能会“完成所有工作，从而导致接近100%的失业率。”这一情景引发了对社会结构和经济体系的质疑。
Lee提出了一个更为谨慎的观点：“尽管生成式人工智能表现出惊人的能力，但我们尚未看到其对人类就业和社会结构的广泛影响。”他指出，人工智能可能会提高计算机编程或律师助理等领域的工人生产力，从而可能减少招聘需求。Lee还指出，“人工智能可能还会增加人工生成内容的数量，并改变人类感知和消费媒体的方式。”
伊利诺伊大学计算机科学助理教授Koustuv Saha强调在敏感领域要谨慎。Saha警告说，尤其是在医疗保健等领域,“除非有足够的证据表明人工智能不太可能造成伤害，否则不应将其投入实践。”
随着人工智能代理的普及，法律和伦理责任的问题变得越来越复杂。当自主AI做出导致伤害的决定时，谁应该承担责任？这些问题挑战了现有的法律框架和伦理原则。
人们更加担忧AI代理被操控或劫持用于恶意动机的潜在可能性。Chan的研究集中于开发保障措施和监控系统，以检测和防止此类滥用。“在使用或与代理交互时，您可能还需要某种监视器来告诉您代理是否被操控，”他建议道。
关于人工智能代理开发自己的目标或动机的潜力，Lee表示：“目前，人工智能代理可能没有足够的背景来提出新的目标。”他解释说，“人类用户可能会提供目标，而代理则可能推断出实现目标所需的中间步骤。”
AI代理的潜力得以实现
尽管面临这些挑战，AI代理的发展仍在快速进行，因为它们具有巨大的潜在利益和为公司带来的竞争优势。
ForresterIBM watsonx Assistant的总体经济影响报告发现，AI解决方案的客户在三年内获得了2300万美元的收益，相当于 370%的投资回报率。在实践中，这将提高客户参与度，改善用户和人工代理的体验。
成功的关键在于信任——并且知道何时需要人为输入来帮助加强这种信任。IBM的高级AI工程师Morgan Carroll在最近的AI in Action播客节目中解释道，“我们希望确保用户知道他们提供和接收的数据是准确和安全的。”Carroll还强调了让客户从一开始就知道他们是在与AI代理对话的重要性。
当客户的需求变得更加细致，或者需要更个人化的接触时，这时候就需要人类介入。“有时候我们需要人类，”客户体验演讲者和培训师Jeannie Walters在节目中表明，“我们需要人类能够给予的同情心和……那种理解。”
随着人工智能系统变得更加智能和独立，专家呼吁采取更好的安全措施和全球合作。我们现在关于人工智能的选择将决定未来技术和社会的发展方向。Truth Terminal只是这些新AI代理中的一个例子。现在还处于早期阶段，但这些程序已经引发了重大问题。随着人工智能的进步，我们必须认真思考什么是智能，人类如何适应机器可以自主行动的世界。
（机器翻译，轻度译后编辑，仅供参考。）
编辑：李旭媛