⚠️ Grok因色情深伪被禁，Google Gemini新增购物

今日 Top 3 头条

1. 01
   AI行业新闻

   印尼与马来西亚封禁Grok，因其生成未经同意的色情深度伪造内容

   印度尼西亚和马来西亚政府已暂时屏蔽了由埃隆·马斯克旗下人工智能公司xAI开发的聊天机器人Grok，原因是该平台被指控生成未经用户同意的性化深度伪造内容。这一举措引发了关于人工智能伦理、监管以及深度伪造技术滥用问题的广泛讨论。具体而言，两国政府认为Grok平台上的某些内容违反了当地的法律法规，这些法律法规旨在保护个人隐私和尊严，并禁止传播淫秽和不雅内容。深度伪造技术，利用人工智能生成逼真但虚假的图像和视频，近年来日益普及，但也带来了严重的伦理和社会挑战，包括诽谤、身份盗用和性骚扰等。此次事件凸显了各国政府在监管新兴人工智能技术方面面临的困难，尤其是在内容审核和跨境数据流动方面。xAI公司尚未对此事发表官方声明。然而，这一事件可能会对xAI的声誉及其在东南亚市场的扩张计划产生负面影响。此外，这也可能促使其他国家和地区加强对人工智能技术的监管，并推动行业制定更严格的伦理规范。除了Grok之外，其他人工智能平台也面临着类似的审查，这表明全球范围内对人工智能伦理的关注日益增加。此次事件也引发了关于技术创新与社会责任之间平衡的讨论，强调了人工智能开发者在设计和部署技术时需要充分考虑潜在的社会影响。

   来源 ↗
2. 02
   AI行业新闻

   Gemini 应用与 AI 模式将新增商品结账功能，Google 搜索将上线“商家智能体”

   据9to5Google报道及Google搜索补充信息，谷歌正积极扩展Gemini AI的应用场景。Gemini应用与AI模式预计新增产品结账功能，用户可直接在应用内完成购买，简化购物流程并提升体验。此举标志着Gemini从信息提供者向交易平台转型，或将与Google Wallet或Google Pay等支付系统整合。此外，谷歌搜索也将上线名为“商业代理”的新功能。虽细节未完全披露，但“商业代理”有望借助AI帮助用户完成比价、预订、行程规划等复杂任务，显示谷歌正把AI深度融入核心搜索服务，使其不仅是信息检索工具，更是智能助手。谷歌此举反映出AI在电商与搜索领域日益重要的地位。通过整合Gemini与搜索功能，谷歌旨在构建更智能、便捷的生态，以在激烈的AI竞争中保持领先。值得注意的是，这些功能预计2026年推出，表明谷歌正进行长期战略规划与技术研发布局。谷歌母公司Alphabet近年来持续加码AI，Gemini与“商业代理”的推出是其AI战略的关键组成。这些创新功能有望为用户带来更高效、个性化的服务，也可能深刻影响电商与搜索行业格局。未来，谷歌或进一步扩展Gemini与“商业代理”的功能，应

   来源 ↗
3. 03
   AI行业新闻

   基于 PyTorch 在 CIFAR-10 上通过标签翻转演示深度学习定向数据投毒攻击的编码指南

   本教程详细演示了如何利用 PyTorch 框架，通过标签翻转技术对 CIFAR-10 数据集进行有针对性的数据投毒攻击，旨在揭示并量化此类攻击对深度学习模型行为产生的潜在影响。数据投毒攻击是一种恶意行为，攻击者通过篡改训练数据来影响模型的性能，甚至使其产生预期的错误行为。本教程重点关注标签翻转，即改变训练集中部分样本的标签，从而误导模型的学习过程。CIFAR-10 数据集是一个广泛使用的图像识别数据集，包含 10 个类别的 60000 张 32×32 彩色图像，是研究数据投毒攻击的理想平台。PyTorch 作为流行的深度学习框架，提供了灵活的工具和 API，方便研究人员实现和评估各种攻击策略。该教程不仅提供了详细的代码示例，还深入探讨了攻击的原理和实施步骤，以及如何评估攻击的有效性。通过学习本教程，开发者和研究人员可以更好地理解数据投毒攻击的威胁，并探索相应的防御机制，从而提高深度学习模型的鲁棒性和安全性。数据投毒攻击对依赖深度学习的各个领域都构成潜在风险，例如自动驾驶、金融风控和医疗诊断等。因此，理解和防范此类攻击至关重要。该教程的发布有助于提高人们对数据安全问题的重视，并促进相关研

   来源 ↗