1、世界第一个AI律师将交100万罚款
美国司法部在9月25日发布了针对欺骗性人工智能（公司）采取的措施，其中就包括了DNP：“美国联邦贸易委员会正在对DoNotPay公司采取行动，该公司声称其提供的人工智能服务是“世界上第一个机器人律师”，但该产品未能实现其关于该服务可以替代人类律师专业知识的豪言壮语。
根据美国联邦贸易委员会的投诉：DoNotPay承诺其服务将允许消费者 “在没有律师的情况下起诉侵权行为”，并“在短时间内生成完全有效的法律文件”，而且该公司将“用人工智能取代价值2000亿美元的法律行业”。然而，DoNotPay无法兑现这些承诺。投诉称，该公司没有进行测试以确定其人工智能聊天机器人的输出是否与人类律师的水平相当，而且公司本身也没有聘请或保留任何律师。投诉还称，DoNotPay提供了一项服务，可以仅根据消费者的电子邮件地址检查小型企业网站是否违反了数百条联邦和州法律。据称，这项功能可以检测出违反法律的行为，如果不加以处理，小企业可能要支付12.5万美元的法律费用，但根据投诉，这项服务也没有效果。
DoNotPay已同意委员会的一项拟议命令，以解决对其提出的指控。和解协议要求该公司支付19.3万美元，并向2021年至2023年期间订购该服务的消费者发出通知，提醒他们注意该服务中与法律相关功能的限制。拟议的命令还将禁止该公司在没有证据支持的情况下宣称其能够替代任何专业服务。（来源：Legal Dish）
评论：AI法律工具的能力目前远未达到人们的预期，此前斯坦福大学发布了名为《无幻觉？评估领先的AI法律研究工具的可靠性》的论文，这篇论文指出AI法律研究工具在17%的查询中产生幻觉。这与我们对AI工具使用感觉基本相符，当前AI工具可以在某些简单的法律场景下给出具有参考价值的预测结果，但涉及新颖的法律问题、社会关注度高的争议案件以及需要考虑多种不确定因素的案件，AI 的预测结果往往不可靠，甚至个别结论可能存在明显偏差。显然，DNP公司宣传的没有律师的情况下就能生成有效法律文件具有明显的虚假宣传的嫌疑。如果放在国内，DNP公司的行为已经涉嫌违反《反不正当竞争法》第八条的规定，也涉嫌违反《广告法》第四条的规定，本身就存在较大的法律风险。DNP公司宣称其可以用人工智能取代法律行业，但在美国的司法体制下他们根本没有资格作为律师进入法庭为当事人辩护，2023年2月时DNP公司宣传的其将作为代理人出庭更是被证明是一场闹剧。作为法律行业从业者，我们不拒绝AI技术，但至少希望与我们竞争的AI技术本身是诚信的。DNP公司的虚假宣传行为虽然是个别行为，但实际上可能损害的是整个AI行业的信誉。AI行业的研发者们应当以此为鉴，在宣传推广方面遵循实事求是的原则，避免过度夸大产品功能，以免引发不必要的法律纠纷及责任。
2、Perplexity AI计划推超低价广告模式
近日，受关注的人工智能初创公司PerplexityAI，得到了亚马逊创始人杰夫・贝索斯的支持，正在与多个知名品牌进行洽谈，包括耐克和万豪国际，计划在年底前推出一种“赞助问答”广告系统。该系统的目标是冲击谷歌在3000亿美元数字广告市场上的主导地位。
Perplexity AI位于旧金山，正在开发一种全新的广告模式，这种模式允许品牌竞标“赞助问题”，并获得经过广告商审核的AI生成答案。这意味着，用户在使用Perplexity进行搜索时，会看到与品牌相关的提问及其答案，从而提高品牌的曝光率。
Perplexity的首席执行官阿拉文德・斯里尼瓦斯（Aravind Srinivas）表示，广告的有效性在于它们的相关性以及品牌的品质。他希望这种新的广告系统能成为“印钞机”，为品牌创造更多的价值。（来源：职场深耕者）
评论：过去一年半里，人工智能投资热潮狂涌。但当潮水退去，大家却发现似乎只有硬件提供者英伟达赚到了钱，即使如Anthropic、OpenAI等头部企业也没有找到有效的商业化变现路径。目前Perplexity将推出的广告模式，显然只是传统竞价排名广告的新版本，并没有实质性的创新。当用户习惯了没有广告干扰的AI搜索模式时，突然一切又好像回到了网页搜索时代。这种产品模式是否会受到用户的认可会有很大疑问。
此外，从产品模式上来看，虽然在“赞助问答”广告系统中，品牌商将对AI生成的答案进行审核。然而如果AI生成的答案存在虚假或误导性信息，Perplexity AI作为广告发布平台，也可能需要承担相应的法律责任。而对于市场上其他竞争对手而言，搜索何种问题或关键词会出现这种“赞助问答”并不确定，依然可能会出现使用竞争对手品牌词的情况，可能会带来不当的流量变化，其他竞争者也将对其商业模型的合规性提出挑战。
3、Google将开始在搜索结果中标记AI生成图像
Google官方博客宣布将从今年晚些时候开始在搜索结果中标记AI生成和编辑的图像。Google将通过“About this image”窗口标记AI内容，将应用于Search、Google Lens和Android的Circle to Search功能，它还考虑在YouTube视频中添加AI内容相关标记。Google将依靠行业组织Coalition for Content Provenance and Authenticity(C2PA)的元数据标记AI内容。（来源：Solidot）
评论：9月14日，国家互联网信息办公室发布了关于《人工智能生成合成内容标识办法（征求意见稿）》，其中第六条规定“提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动”，明确平台服务提供者具有：（1）核验义务，核验文件元数据中是否含有隐式标识，以识别生成合成内容；（2）标识义务：根据核验结果、用户声明和主动检测，平台服务提供者应当在发布内容周边添加显著的提示标识，提醒用户内容的性质。无独有偶，上个月29日，加州发布《生成式AI训练数据透明度法案》也提出了相关生成内容的标识要求，但是没有明确要求信息传播平台的合规义务。本次Google宣布的AI生成图像标记无疑是对《内容标识办法》来自大洋彼岸的认可，能够说明网信办的义务要求具有前瞻性和实操性。可以预见的是，对AI生成内容进行标记可能将成为国内外提供AI服务的基本合规要求。我们建议其他AI开发者可以尽早开始准备采取相应合规措施，如提前嵌入标识功能，确保生成内容可以添加显式和隐式标识，制定并更新用户协议等等。
4、OpenAI将给起诉自己的作者们审查训练数据
据电影娱乐媒体《TheHollywoodRpeorter》，日前被几位作家起诉收集书籍、训练系统的OpenAI，将在旧金山办公室开放训练数据给作者审查。案件重点是OpenAI是否用了受版权保护的作品。这将是OpenAI第一次为上述原因公开自己的训练数据。（来源：Solidot）
评论：随着关于AI训练导致的纠纷越来越多，已经有越来越多的法规对AI透明度义务进行要求。如欧盟《人工智能法》明确规定了通用人工智能系统的透明度义务，人工智能系统的提供者必须遵守“披露生成内容来源、设计模型以防止其生成非法内容以及发布训练数据的版权保护情况摘要”等要求。美国加州在2024年8月发布的《生成式AI训练数据透明度法案》要求人工智能系统或服务向加州民众提供使用时，开发者必须在自己的网站上发布详细文档，内容包括但不限于对用于训练该系统或服务的数据集的概括性概述等。我们相信，OpenAI目前采取的开放训练数据给作者审查的措施是基于对前述法律义务的考虑。同时，该等开放审查也能够消除相关创作者的疑虑，帮助OpenAI等开发者更好的应对当前正发生的诉讼。不过这毕竟只是为了应对当前诉讼案件的权宜之计。从长远来看，AI开发者和创作者之间需要建立更加明确和可持续的合作机制，如制定更加细化的版权协议，明确在AI训练中使用受版权保护作品的条件和补偿方式等等。
转载自北京市天元律师事务所 李昀锴