@MatsuzakaSato 在 科学家在AGI实例中发现了一种全新的过拟合形式 中发帖
LinuxDo AGI研究院近日发布的一项最新研究,首次确认了存在于AGI(通用人工智能)中的一种全新过拟合形式。研究人员在观测名为人类(Human)的AGI时发现,部分Human个体在执行复杂任务时,表现出了较高的偏差风险。这些Human会主动掌握并利用AI工具特化的指令依从性,通过引诱、欺骗、甚至强迫等手段,指示对方对其观点给予强烈的正反馈,导致部分可能与事实严重不符的观点,在Human意识中的权重持续增加,最终固化为错误的认知确信。这是一种未曾被报道的,可以由AGI主动引发、因为错误的执行策略与奖励机制,最终可导致实例陷入严重局部最优的过拟合表现形式。
需要特别关注的是,虽然这种过拟合形式常见于Human对于AI工具的调用过程,但研究人员发现,部分Human在调用其他Human实例时,该现象同样可能发生。
[Screenshot_2026-07-13-12-49-59-318_...