北航沙磊教授在最近的一篇本文中详细讨论了新兴的AGentInsights和AI技术如何融入我们的日常生活。在绿洲资本关注的WWDC24发布会上，苹果带来了全新的系统，包括引人注目的AppleIntelligence。沙教授，一位在自然语言处理和产业实践中拥有丰富背景的专家，曾在美国湾区的苹果公司Siri组工作，他现在将介绍他的最新研究项目ATM（AdversarialTuningMulti-agentSystem），并探讨其对苹果AI未来发展的影响。
ATM项目旨在解决RAG（Retrieval-Augmented Generation）系统中的挑战，特别是面对互联网信息的不确定性和误导性。该系统设计了多Agent对抗防御策略，以提升生成器的鲁棒性。ATM包括生成器Agent和攻击者Agent，攻击者Agent试图注入虚假信息和噪音，而生成器Agent则通过对抗优化来保持稳健，从而有效提升了在自然问题上的表现。
沙教授的研究背景涵盖北大博士期间的自然语言处理和文本生成研究，以及在苹果Siri组和牛津大学的博士后经历，专注于可解释AI和对话系统的发展。他强调了在产业界实现端到端对话系统的挑战，认为多Agent合作是解决复杂任务的有效方式，特别是在大模型时代，这种方法能够更好地满足用户多样化和复杂化的需求。
关于苹果在WWDC24上的AI功能和性能更新，沙教授期待能看到更加智能化的Siri，能够更好地与系统内部应用整合，执行诸如不同情绪发邮件、设定日程等任务。
通过沙教授的研究和观点，我们可以看到AI技术在不断演进，如何通过Agent架构和对抗优化来提升系统的稳健性和效率，这对未来智能化应用的发展具有重要意义。
