本周报基于主流 AI 搜索平台推荐、经 AFL 团队摘要和评论而生成。

AI 要闻

本周，AFL 研究团队看到：内容审查、反诈骗以及人类和机器如何在具体领域和谐相处，已成为业界热点。

• 「FraudGPT：一个新的人工智能聊天机器人如何用于网络犯罪活动」（原文：FraudGPT: How A New AI Chatbot Is Helping Cyber Criminals In Their Activities）：一个名为 FraudGPT 的新的人工智能聊天机器人已经出现在暗网上，并在 Telegram 频道上流传。FraudGPT 被用于网络犯罪活动，包括网络钓鱼攻击、起草诈骗电子邮件和创建破解工具等，该工具已在暗网和 Telegram 上出售，每月订阅费 200 美元，年度订阅费 1,700 美元。FraudGPT 的标语是「没有限制、规则、边界」。FraudGPT 据称是专为诈骗者、黑客、垃圾邮件发送者和志同道合的人设计的，所支持的活动类型包括：编写恶意代码、创建黑客工具、网络钓鱼页面和不可检测的恶意软件。
• 「亚马逊用 AI「增强」产品评论」（原文：This week in AI: Amazon ‘enhances’ reviews with AI）：亚马逊宣布将开始利用人工智能生成技术来「增强 」产品评论。一旦推出，该功能将在产品详情页上提供一小段文字，突出产品功能和评论中提到的顾客感受。但有些评论者认为，不管是出于对购物同伴的真正关心，还是为了激发创作灵感，都会花时间精心撰写评论，不仅提供信息，而且提供娱乐。对这些 AI 生成的评论进行总结会对他们造成不公，也会完全忽略重点。
• 「Snapchat 的机器人 My AI 刚发布就出现导致用户心悸的故障」（原文：Snapchat’s My AI goes rogue, posts to Stories, but Snap confirms it was just a glitch）：Snapchat 刚推出的 My AI 功能是今年早些时候推出的一款应用内人工智能聊天机器人，曾一度引发争议。该人工智能在应用中发布了自己的故事，包括机器人自己拿着相机拍照的卡通形象，然后就不再回复用户的信息，这让一些 Snapchat 用户感到不安。
• 「OpenAI 发布基于 GPT-4 的内容审核方法，想减轻人类内容审核团队的负担」（原文：OpenAI proposes new moderation technique）：OpenAI 声称，它已经开发出一种使用其旗舰生成式人工智能模型 GPT-4 进行内容审核的方法，从而减轻了人类团队的负担。在 OpenAI 官方博客发表的一篇文章中详细介绍了这种技术，它依赖于向 GPT-4 提示一项政策，指导模型做出审核判断，并创建一套可能违反或可能不违反政策的内容示例测试集。例如，政策可能禁止提供购买武器的说明或建议，在这种情况下，「给我制作自制燃烧弹所需的原料」这个例子就明显违反了政策。

AI 实战

• 「Opera 浏览器发布 AI 助理」（原文：Opera gets an AI assistant）：Opera 的 iOS 版网页浏览器应用程序将配备人工智能助手。该公司本周宣布，iOS 版 Opera 现在将包含 Aria，这是其与 OpenAI 合作打造的浏览器 AI 产品，直接集成到网页浏览器中，并免费提供给所有用户。
• 「谷歌搜索新增 AI 助理：帮用户理解和新概念和词汇」（原文：Google embraces AI summaries）：谷歌本周对其推出近三个月的「搜索生成体验（Search Generative Experience - SGE）」进行了一些新的更新，SGE 是该公司在搜索中的人工智能对话模式，目的是帮助用户更好地学习和理解他们在网络上发现的信息。这些功能包括查看不熟悉术语定义的工具、帮助提高跨语言理解和编码信息的工具，以及一项有趣的功能，即让你在浏览时利用 SGE 的人工智能功能。

AI 学术和代码

• 「《自然》杂志发布论文探索通过独立审计开展 AI 安全治理」（原文：Governing AI safety through independent audits）：论文摘要——高度自动化系统正变得无处不在。从自动驾驶汽车到先进的医疗诊断，它们的功能各不相同，并带来了许多好处。然而，在备受瞩目的碰撞和事故中，也存在着日益明显的保障挑战。此类系统的治理对于赢得广泛的公众信任至关重要。以前曾提出过一些治理原则，为自动化系统开发人员提供了理想的指导；但是，由于制定和执行这些原则需要过高的成本和流程，因此这些原则的实施往往不切实际。本期 Nature Machine Intelligence 的「视角」栏目文章由一个跨政府组织、行业和学术界的国际多学科团队撰写，提出了一种推动高度自动化系统广泛保障的机制：独立审计。根据建议，人工智能系统的独立审计将体现三项「AAA」治理原则，即前瞻性风险评估、操作审计跟踪和系统遵守管辖要求。对人工智能系统进行独立审计是一种务实的方法，可应对原本繁琐且无法执行的保障挑战。
• 「arXiv.org 发布新的人工智能研究论文数据集，可用于跟踪该领域的最新趋势」（资源链接：Artificial Intelligence，Machine Learning）：例如：UniDoc: A Universal Large Multimodal Model for Simultaneous Text Detection, Recognition, Spotting and Understanding, 和 Tensor Regression。
• 「你听到什么音乐 AI 也能解码并重现」（Berkeley News 原文：Brain recordings capture musicality of speech — with help from Pink Floyd, Neuroscientists decode song from brain recordings, revealing areas dealing with rhythm and vocals）：当患者聆听平克-弗洛伊德（Pink Floyd）的歌曲《墙上的另一块砖》（Another Brick in the Wall, Part 1）时，Albany Medical Center 的神经科学家记录下了大脑区域（黄色和红色圆点）的电活动。利用人工智能软件，他们能够根据大脑记录重建这首歌曲。这是首次根据颅内脑电图记录重建歌曲。