AI新闻动态（2023-09-10到2023-09-16）

[ikaijua]

AI新闻动态（2023-09-10到2023-09-16）

[ikaijua]

2023-09-13 阿里云宣布通义千问大模型已首批通过备案，并正式向公众开放

9月13日，阿里云宣布通义千问大模型已首批通过备案，并正式向公众开放，用户可登录通义千问官网https://qianwen.aliyun.com/ ， 体验，企业用户可以通过阿里云调用通义千问API https://dashscope.console.aliyun.com/model ，

• 阿里云微信公众号文章：https://mp.weixin.qq.com/s/cPDTGrsRxX6AcHZ9sWoUhQ
• 机器之心报道：阿里云通义千问向全社会开放，近期将开源更大参数规模大模型

[ikaijua]

2023-09-14 来自微软研究院、北京大学、北航等机构的研究者提出使用大语言模型 (LLM) 来增强和加速对 P versus NP 问题的研究，GPT-4在97轮对话中探索世界难题，给出P≠NP结论

1. P vs NP问题被视为理论计算机科学中最难的开放问题之一,属于千年大奖难题。是否P等于NP已离开了40多年都未能证明。
2. 文章提出了一个名为“苏格拉底推理”的通用框架，以引导LLM进行递归的推理、转换、分解等来探索复杂的专家级问题。
3. 基于该框架,使用GPT-4和人类角色进行了P vs NP问题的探索。经过97轮对话,GPT-4生成了一个证明模式,并进行了严格的推理,得出了“P不等于NP”的结论。
4. 这一研究表明LLM有望成为人类的思维伙伴,以协同探索各个领域的复杂问题。LLM的通用性和语言表达能力对此尤为关键。
5. 研究提出“LLM for Science”的新范式,即利用LLM增强和加速科学研究。
6. 该框架可广泛应用于让LLM进行批判性思考、发现新见解等,对跨学科研究具有启发意义。

论文地址：https://arxiv.org/pdf/2309.05689.pdf

媒体报道：

• 机器之心报道：GPT-4在97轮对话中探索世界难题，给出P≠NP结论

[ikaijua]

2023-09-14 腾讯 AI Lab 联合国内外多家学术机构发布了面向大模型幻觉工作的综述，对幻觉的评估、溯源、缓解等进行了全面的探讨。

1. 幻觉是目前影响LLM落地的主要问题之一,可以分为与输入冲突、与上下文冲突和与事实知识冲突三类。
2. 与传统NLP中的幻觉问题相比,LLM幻觉具有使用海量训练数据、通用性强、不易察觉等特点。
3. 当前研究主要围绕事实知识冲突的幻觉,通过生成式和判别式评估方法构建了多个针对性的评估基准。
4. 导致LLM幻觉的原因可能包括知识缺失、自我能力高估、对齐过程中的问题等。
5. 减轻LLM幻觉的方法贯穿模型生命周期,包括优化预训练数据、改进微调、调整强化学习以及推理阶段引入外部知识等。
6. LM幻觉研究还面临评估指标、多语言场景、多模态结合等方面的挑战。
7. 模型编辑和面向幻觉的攻防也是有潜力的未来研究方向。

• 论文链接：https://arxiv.org/abs/2309.01219
• Github 链接：https://github.com/HillZhang1999/llm-hallucination-survey

媒体报道：

• 机器之心报道：AI海洋中的海妖之歌：腾讯AI Lab大模型幻觉问题综述

[ikaijua]

2023-09-15 美国参议院最近召开的首届“人工智能洞察论坛”闭门会议

论坛由美国参议院多数党和少数党领袖共同召开,60多名参议员出席,20多名科技公司高管和人工智能伦理学家应邀在会上发言。

1. 发言者们普遍认可政府应该在人工智能监管方面发挥作用,但对具体监管内容和形式存在分歧。
2. 马斯克、扎克伯格、奥特曼等科技公司高管就人工智能可能带来的风险发表了演讲。盖茨、克里希纳等也参与了讨论。
3. 与会者对可能建立新的人工智能监管机构、修改通信规范法230条等立法建议表现出分歧。
4. 伦理学家们关注人工智能可能造成的不平等、隐私、假信息等社会问题。
5. 一些参议员批评会议不公开,难以代表公众利益。科技公司高管之间在多个问题上也存在分歧。

整体来说这次具有历史意义的闭门会议情况，反映出监管人工智能面临的复杂局面。

媒体报道：

• 澎湃新闻报道：美国科技大佬齐聚国会闭门商讨AI，“对文明的未来非常重要”

[ikaijua]

2023-09-13 Stability AI推出音乐/音效生成的AI工具

Stability AI团队开发出的Studio系统,以及其中的创新之处,用AI生成高质量、连贯的音乐。这对促进AI创作应用具有重要意义。

1. 音乐的生成一直是一个巨大的AI挑战,需要捕捉音乐的连贯性和一致性。
2. Stability AI研究团队训练了一个名为Studio的模型,它可以生成连贯、悦耳的音乐。
3. Studio使用了 transformer 等现代技术,并引入了一种新型的序列建模方法。
4. 该方法将音乐分解为多个音轨,每个音轨负责生成一个音乐元素,如鼓点、贝斯线等。
5. 音轨之间通过跨注意力层进行交互,使生成的音乐更连贯协调。
6. Studio还使用了长度调制器和结构化采样,进一步提升生成音乐的长期连贯性。
7. 结果展示Studio可以生成流畅、动态的音乐,并可进行交互式控制,非常适合创作辅助。
8. 研究团队期待Studio等AI系统能启发音乐家,支持更多创造性的音乐创作。

• 官方网址：https://www.stableaudio.com/
• Stability AI博客报道：https://stability.ai/blog/stable-audio-using-ai-to-generate-music

媒体报道：

• 媒体科技报道：音乐人的“噩梦”？StabilityAI推出音乐生成工具StableAudio