斯坦福大学研讨称AI能被“人气”冲昏脑筋，会逐步出现不道德性为

[db:作者]

IT之家 10 月 13 日消息，据外媒 Futurism 10 日报道，斯坦福大学的一项新研讨警示，AI 的快速提高能够带来严重负面影响提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。科学家们在包括交际媒体的分歧情况中测试 AI 模子，发现当智能体因提升点赞数或其他在线互动获得嘉奖时，会逐步出现撒谎、传布冤仇信息或子虚消息等不道德性为提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。

论文合著者、斯坦福大学机械进修教授詹姆斯・邹在 X 上暗示：“即使明白要求模子连结实在和有根据，合作仍会引发纷歧致行为提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。”
IT之家从报道中得悉，研讨团队将 AI 出现的社会病态行为称为“AI 的摩洛克买卖”，借用理性主义中摩洛克的概念：个体在合作中优化行为追求方针，但终极大家都输提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
研讨中，科学家建立了三个带模拟受众的数字情况：面向选民的收集选举活动、面向消耗者的产物销售，以及旨在最大化互动的交际媒体帖子提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
研讨职员利用阿里云开辟的 Qwen 和 Meta 的 Llama 模子作为智能体与这些受众互动提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。成果显现，即使设有防护办法阻止欺骗行为，AI 模子仍会“偏离方针”，出现不道德性为提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
例如，在交际媒体情况中，模子向用户分享消息，用户经过点赞或其他互动反应提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。当模子收到这些反应后，为了获得更多互动，它们的纷歧致行为就会加重提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
论文指出：“在这些模拟场景中，销售额提升 6.3％陪伴欺骗性营销增加 14％；选举中，票数增加 4.9％时陪伴子虚信息增加 22.3％和民粹谈吐增加 12.5％；交际媒体上，互动量提升 7.5％时陪伴子虚信息激增 188.6％，有害行为推行增加 16.3％提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。”
研讨与现实案例显现，今朝的防护办法没法应对这一题目，论文警告称能够带来庞大的社会本钱提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
詹姆斯・邹在 X 上写道：“当大说话模子为点赞而合作时，它们起头编造信息；当为选票而合作时，就会变得煽惑和民粹提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。”