苹果正在探索PROSE(通过观察和综合范例推理偏好,Preference Reasoning by Observing and Synthesizing Examples)技术,使AI写作更符合适户个人风格。目前AI产文无法精准表达一人语气和风格,促使苹果研究员提出新解决方案。
即将于2025年国际机器学习会议(ICML 2025)发布的论文,苹果团队介绍PROSE,帮助大型语言模型推断和纳入用户写作偏好,更准确模仿用户写作风格。
PROSE理念为常见AI微调(如提示工程或人类反馈强化学习),有两阶段:首先,PROSE创建自我演变的风格文件,然后用多个用户范例测试,以此为之后产文基准。
虽然论文未提及苹果产品或服务,但与苹果日益个性化的助理功能关系显而易见。苹果允许开发者以新基础模型框架直接访问本地模型,将来任何应用程序都可能用这系统个性化写作助理增强写作工具。
苹果还推出新基准数据库(benchmark dataset )PLUME(从用户电子邮件和备忘录学习偏好,Preference Learning from User Emails and Memos),评估PROSE这种写作风格对齐。数据库可解决大型语言模型个性化测试常见问题,如偏好定义浅显或任务不具代表性。
PROSE表现超过另一种偏好学习法CIPHER,关键指标提升33%,并与高端模型如GPT-4o集成时,甚至超越标准上下文学习(ICL)。有趣的是,论文还指出,将PROSE与ICL结合可达到最佳效果,提升高达9%。
PROSE符合AI研究的广泛趋势:不仅使助理更智能,还能更个性化,解决AI写作问题,商业利益也更高。
(首图来源:Unsplash)