AI·新世界

[t-primary icon='']AI·快讯[/t-primary]

1、微软正式发布 AI 内容审核工具 Azure AI Content Safety

微软为了营造健康和谐的社区环境，减少图片或文本中关于偏见、仇恨、暴力等相关的负面内容，于今年 5 月测试推出了 AI 内容审核工具 Azure AI Content Safety，该工具经过多月测试之后于今天正式发布。该内容审核工具最初整合到 Azure OpenAI 服务中，微软现在以独立系统方式正式推出。微软在官方博文中写道：“这意味着客户可以将其用于来自开源模型和其他公司模型的人工智能生成内容，以及调用部分用户生成的内容，进一步扩展实用性”。（来源：IT之家）

2、黄仁勋亮相鸿海科技日：共建 AI 工厂，合作新一代英伟达自动驾驶平台

在今日举行的鸿海科技日活动中，英伟达 CEO 黄仁勋与鸿海集团董事长刘扬伟共同宣布，两家公司正在共同建设人工智能（AI）工厂。英伟达表示，它正在扩大与鸿海科技集团（富士康）的持续合作，以加速 AI 驱动的电动汽车和机器人平台的开发。作为合作的一部分，鸿海计划开发一种被称为“AI 工厂”的新型数据中心，为创新提供动力，例如制造数字化和生成式 AI 服务。（来源：IT之家）

3、微软报告称 GPT-4 易受“越狱”提示词影响，生成不良内容

微软旗下研究团队近日发表论文，详细研究了大型语言模型 (LLM) 的“可信度”和潜在毒性，特别关注 OpenAI 的 GPT-4 及其前代 GPT-3.5。研究团队，GPT-4 虽然在标准基准测试中比 GPT-3.5 更加可靠，但容易受到“越狱”提示（绕过模型安全措施）影响。GPT-4 可能会根据这些“越狱”提示，生成有害内容。（来源：IT之家）

4、英伟达推出 Tensor RT-LLM，使大语言模型在搭载 RTX 的 PC 平台上运行速度提高 4 倍

英伟达是硬件领域的生成型人工智能之王，该公司的 GPU 为微软、OpenAI 等公司的数据中心提供动力，运行着 Bing Chat、ChatGPT 等人工智能服务。今天，英伟达宣布了一款新的软件工具，旨在提升大型语言模型（LLM）在本地 Windows PC 上的性能。在一篇博客文章中，英伟达宣布了其 TensorRT-LLM 开源库，这个库之前是为数据中心发布的，现在也可以用于 Windows PC。最大的特点是，如果 Windows PC 配备英伟达 GeForce RTX GPU，TensorRT-LLM 可以让 LLM 在 Windows PC 上的运行速度提高四倍。（来源：IT之家）

5、中央网信办发布《全球人工智能治理倡议》

中央网信办今日午间发布《全球人工智能治理倡议》，欢迎各国政府、国际组织、企业、科研院校、民间机构和公民个人等各主体秉持共商共建共享的理念，协力共同促进人工智能治理。（来源：IT之家）

6、OpenAI 声称正在开发可高精度检测 AI 生成图像工具

OpenAI正在开发一种工具，以高精度检测人工智能生成的图像。聊天机器人ChatGPT和图像生成器DALL-E的制造商OpenAI的首席技术官Mira Murati周二在Tech Live会议上表示，OpenAI的工具在确定图片是否使用人工智能生成方面“99%可靠”。她表示，在计划公开发布之前，公司正在对其进行内部测试，但没有具体说明时间表。

据了解，目前已经有少数工具声称可以检测人工智能生成的图像或其他内容，但这些工具的检测结果似乎仍不够准确。例如，OpenAI在1月份发布了一个类似的工具，旨在确定文本是否由人工智能生成的，但由于不可靠，该工具在7月份被搁置了。该公司表示，它正在努力改进该软件，并致力于开发识别音频或图像是否由人工智能生成的方法。

7、Programiz：许多人使用 ChatGPT 学习编程，Web 开发领域最易受 AI 冲击

程序员开发网站 Programiz 今日发布一份调查报告，指出 ChatGPT 对编程教育领域及对应层面的影响。据悉，该调查有 10000 人参与，他们来自全球 50 多个国家及地区，其中 58% 的受访者为学生，超过一半的受访者只拥有不到一年的编程经验。（来源：IT之家）

8、AI 工具 Claude 2 全球正式上线：支持上传文件，响应文本更长

Anthropic 在今年 7 月发布了全新的 Claude 2 大语言模型。相比前代版本，Claude 2 性能有所提升，支持上传文件，且能够实现更长文本的响应，在编程、数学、推理等方面都有大幅提升。此前 Anthropic 仅向美国和英国的用户推出了 Claude 2，目前这款 AI 工具已经在全球（95 个国家及地区）正式上线。（来源：IT之家）

9、火山语音首个超写实数字人小灿正式亮相

10月18日，火山语音首个超写实数字员工小灿正式亮相。据了解，小灿由火山语音联合朝夕光年江南团队共同打造，其形象融合了艺术美感。无论从数字人的外形与动作出发，还是细致到面部微表情、皮肤肌理，甚至是发丝材质上都做到了高度逼真。伴随小灿的发布，火山语音团队已经具备3D超写实数字人整套形象设计、资产制作、高成本影视级cg管线视频内容的制作能力。（来源：雷锋网）

10、中国科学院建立全球大气光学湍流预测模型，发表于天文顶级期刊

据“科学岛在线”公众号消息，近日，中国科学院合肥物质院安光所建立了全球大气光学湍流预测模型，并首次实现了全球大气光学湍流强度时空分布预测及可视化表征（以大气相干长度衡量）。该模型不仅丰富和提升了大气光学湍流全球变化的科学认知，还可为先进光电工程、天文光学观测、星地激光通信等应用提供支撑。（来源：IT之家）

11、欧盟计划对“最强大”人工智能生成模型实施更严格规定

欧盟正考虑采用三层方法来监管生成式人工智能AI模型和系统，这是规范这种快速发展技术开创性努力的一部分。这三个级别将为不同的基础模型制定规则，并要求对最强大的技术进行更多的外部测试。根据拟议规则，第一类将包括所有基础模型。第二层“非常强大”的系统将以训练其大型语言模型所使用的计算能力来区分。最后一类称为大规模通用AI系统，将包括最流行的AI工具，并将以用户总数来衡量。

12、OpenAI 宣布与阿联酋科技巨头 G42 建立合作伙伴关系

阿联酋科技巨头 G42 与 OpenAI 宣布建立合作伙伴关系，为阿联酋和更广泛的地区市场提供先进 AI 解决方案，覆盖到金融服务、能源、医疗保健和和公共服务领域。今年 9 月，微软也宣布将扩大和阿联酋阿布扎比的人工智能及云计算厂商“G42 集团”的合作伙伴关系，双方将在多个领域开发人工智能技术，同时在阿联酋提供云计算基础设施服务。（来源：IT之家）