AI.x社区

集体智慧（CollectiveIntelligence，CI）在许多领域都扮演着至关重要的角色。无论是在经济学、进化理论，还是在神经网络和社会性昆虫的研究中，集体智慧都展现出了其广泛的应用前景。在经济学中，市场行为往往可以被视为一种集体智慧的表现，个体的决策汇聚成市场的集体行为，这种现象在信息传播、价格形成等方面尤为明显。在进化理论中，集体智慧则体现在物种的协同进化过程中，例如蚂蚁和蜜蜂的群体行为，这些社会性昆虫通过...

大模型在许多任务上表现优异，但是它们在社交情境中的判断能力仍是一个亟待解答的问题。社会情境判断不仅涉及对情境的理解，还包括适应和回应他人行为的能力。11月10日《自然》科学报告子刊发布文章《Largelanguagemodelscanoutperformhumansinsocialsituationaljudgments》，研究的目的正是为了探讨LLM能否在这方面与人类匹敌甚至超越人类。这项研究通过情境判断测试（SJT）对多款聊天机器人的表现进行了评估，并将其与人类参...

人工智能代理（智能体）已经单独或在小组内进行了评估，其中交互的范围和复杂性仍然有限。涉及许多自主主体的大规模模拟——反映了整个文明过程——尚未得到探索。Altera.AL是一家专注于创建数字人类的研究公司，他们的使命是创建能够与我们共生、成长的数字人类。这家公司集结了来自MIT、斯坦福、谷歌X和Citadel等顶级机构的计算神经科学家、计算机科学家和工程师，旨在推动这一前沿研究。他们的使命不仅仅是设计出智能代理，...

让智能体在不断变化的环境中动态适应、并有效合作是一个巨大的挑战，特别是当智能体需要与陌生的智能体互动时，传统训练方法往往表现不佳。这种情况下，引入逆向注意力智能体（InverseAttentionAgents）成为了一种创新且有效的解决方案。逆向注意力智能体的核心在于借鉴“心智理论”（TheoryofMind,ToM），通过注意力机制来推断其他智能体的目标和行为，并据此调整自己的行动。这种方法不仅能够提升智能体在合作任务中的表现，...

在人类的合作中，我们可能会遇到囚徒困境（SocialDilemmas）、悲剧的共有（TragedyoftheCommons）、公平分配问题（PublicGoodsGame）、猎人与收集者困境（StagHuntGame）、和合作网络（NetworkedCooperation）等诸多社会性合作困境，比如两个人必须决定是否与对方合作（相互协力）或是背叛（选择个人利益）。合作可以带来最大的集体收益，但个体背叛可能会导致更高的个人收益。这种情况下，我们需要在短期的个人利益和长期的集...

多模态大语言模型（MLLMs）的发展迅速，成为了人工智能研究的一个关键领域。这些模型不仅能够处理文本，还能够理解并生成视觉信息，使其在许多应用中展现出卓越的潜力。尽管在某些领域取得了显著进展，但在复杂的视觉和数学推理任务上，MLLMs的表现仍有待提高。为此，来自亚马逊、微软、谷歌DeepMind联合研究团队开发了POLYMATH，这是一个具有挑战性的基准，旨在系统地分析和评估这些模型在视觉复杂场景下的数学推理能力。通过5...

大模型在处理更复杂的问题时，仍然容易在推理过程中出现错误，导致推理路径偏离，最终影响模型的整体性能。现有的大语言模型在多步推理任务中，通常会由于推理路径中某一步骤的错误而影响整个推理过程。这些错误不仅降低了模型的准确性，还增加了计算成本和执行延迟。传统的方法如强化学习需要复杂的奖励模型，而其他偏好优化方法往往忽视了多步推理任务中错误发生的具体步骤及其后续分支。为了解决这些问题，阿里巴巴达摩院、...

近来，人工智能（AI）的迅猛发展使其在情感生成和评估领域的应用逐渐成为研究热点。AI技术尤其是生成对抗网络（GANs）和变分自编码器（VAEs），在图像生成方面取得了显著进展。然而情感生成的复杂性和主观性一直是一个挑战。图像能够传达情感，但情感体验具有高度的个人主观性，尤其是在通过AI生成图像并试图传达特定情感时。10月13日arXiv发表的论文《LEVELOFAGREEMENTBETWEENEMOTIONSGENERATEDBYARTIFICIALINTELLIGENCEANDHUM...

在多智能体系统中，LLM的应用变得越来越普遍，通过多个LLM协作来解决复杂任务的需求日益增加。然而随着这些技术的不断进步，新的安全威胁也随之而来。提示注入攻击是一种利用恶意提示来劫持模型执行非预期操作的攻击方式。在单智能体系统中，研究人员已经发现，这些攻击可以通过嵌入恶意提示在外部文档中，诱使模型执行未授权的指令，从而危及系统安全。但是在多智能体系统中，提示注入攻击变得更加复杂且难以防范。通过代理之...

10月8日瑞典皇家科学院宣布，将2024年诺贝尔物理学奖授予美国普林斯顿大学的约翰·霍普菲尔德（JohnJ.Hopfield）和加拿大多伦多大学的杰弗里·辛顿（GeoffreyE.Hinton），以表彰他们“为推动利用人工神经网络进行机器学习作出的基础性发现和发明”。这一消息不仅引起了物理学界的关注，也引发了AI领域的广泛讨论，有人在诺贝尔奖官推颁奖信息下提问：从物理学到机器学习和人工智能？所以我们确实生活在模拟中？时至今日，物理学...

生成模型在单智能体场景中的应用已经取得了显著进展。例如，UniSim通过预测图像中的动作来推断未来的情景，展示了从广泛数据中学习的模拟器可以推广到现实世界，并弥合仿真与现实的差距。而Genie则允许用户在生成的环境中逐帧行动，为训练未来的通用智能体铺平了道路。但是这些模型主要集中于单智能体场景，对于需要多个智能体协同工作的任务，它们的适用性相对有限。在多智能体强化学习（MARL）任务中，世界模型的研究尚处于起...

随着大型语言模型（LLMs）的快速发展，医学领域的应用也取得了显著进展。但是大多数现有的医学语言模型主要集中在英语语言环境中，限制了其在非英语国家和地区的应用潜力。为了填补这一空白，来自上海交大和上海人工智能实验室的研究团队研发了一个开源的、多语言的医学语言模型，旨在为全球多语言用户提供高质量的医学支持。这个医学模型的主要贡献包括三个方面。研究团队构建了一个名为MMedC的大规模多语言医学语料库，包含约...

韧性，即系统在面对破坏性事件时的承受、适应和恢复能力，是一个跨学科的重要概念。在生态学中，韧性指的是生态系统在受到干扰后恢复到原始状态的能力；在工程学中，韧性涉及系统在故障或攻击后恢复功能的能力；在心理学中，韧性则描述了个体或群体在面对压力和逆境时的应对和恢复能力。经济学、社会科学、网络科学等领域也都对韧性进行了广泛研究。在人工智能（AI）领域，特别是合作人工智能（CooperativeAI）中，韧性的重要性...

情感识别技术在现代人机交互中扮演着越来越重要的角色。随着人工智能和机器学习技术的快速发展，理解和识别人类情感已成为实现更自然、更人性化互动的关键。情感识别不仅能够提升用户体验，还能在心理健康监测、智能客服、教育和娱乐等多个领域发挥重要作用。在对话情境中，准确识别情感尤为重要，因为情感状态直接影响交流的效果和质量。通过捕捉和分析对话中的情感信号，机器可以更好地理解用户需求，提供更个性化和贴心的服...

多智能体路径规划（MAPF）是一个在共享环境中为多个智能体规划无碰撞路径的问题。传统上MAPF问题主要在离散环境中研究，时间和空间都被离散化为固定的步长和网格。随着实际应用需求的增加，如仓库物流和自动驾驶车辆，研究逐渐转向连续环境中的路径规划。在连续环境中，时间和空间都是连续的，智能体的运动需要考虑更复杂的运动学和动力学约束。在离散环境中，MAPF问题通常通过图模型来表示，智能体在图的顶点之间移动，避免在...

在当今快速发展的科学研究领域，如何高效地探索新领域、识别复杂模式并揭示庞大科学数据中的隐藏联系，成为了人工智能面临的重大挑战。传统的科学研究方法虽然取得了许多突破，但受限于研究人员的创造力和背景知识，可能无法充分挖掘现有数据中的潜在知识。为了解决这一问题，麻省理工学院（MIT）的研究团队提出SciAgents通过多智能体智能图推理，自动化科学发现过程，推动科学研究进入新的高度。科学发现的过程通常包括背景知...

自动代码生成技术近年来取得了显著进展，特别是在自然语言处理（NLP）领域。大型语言模型（LLMs）如GPT4o和Codex展示了将自然语言翻译成可执行代码的非凡能力。然而这些单体模型在可扩展性、效率和灵活性方面仍面临重大挑战。训练和推理阶段所需的巨大计算资源限制了这些模型的普及性，同时也引发了关于其可持续性和环境影响的担忧。此外，这些模型在处理复杂编程任务时，往往缺乏实时适应性和动态调整能力。神经科学的研究表明...

随着技术的不断进步和数据量的爆炸性增长，大规模人工智能（AI）系统的需求日益增加。这些系统在交通管理、电力分配、城市规划等多个领域展现出巨大的潜力。但是如何在扩展AI模型的同时保持其性能，成为了一个亟待解决的难题。大规模AI系统面临的主要挑战在于其可扩展性和性能的平衡。传统的集中式AI方法在处理复杂任务时，往往需要大量的通信和数据采样，这不仅增加了系统的复杂性和成本，还可能导致性能的下降。此外随着系统...

多智能体路径规划（MAPF）是一个在机器人、交通控制和自动化仓库等领域具有广泛应用的重要问题。MAPF的核心目标是为一组智能体找到一组无冲突的路径，使它们能够从起点移动到目标位置。传统的MAPF问题通常限制智能体只能在预定义的图上移动，这种限制在实际应用中可能不够灵活。任意角度路径规划（AnyAnglePathfinding）是一种更为灵活的方法，允许智能体在不碰撞障碍物的情况下在任意位置之间移动。这种方法在提高路径规划效率...

随着互联网和社交媒体平台上视频内容的爆炸性增长，视频理解技术的重要性日益凸显。视频理解不仅仅是对视频内容的简单分类或标签化，而是深入分析视频中的动作、场景、情节和语义信息。这项技术在多个领域具有广泛的应用前景，包括视频摘要、内容检索、内容审核、版权保护和智能推荐等。在信息时代，视频理解技术扮演着越来越重要的角色。随着视频内容的激增，如何有效地理解和处理这些内容成为了一个关键问题。视频理解不仅仅...