训练的AI越多，您认为是越听话？实际上，他已经开始分开

有些人总是认为AI培训就像训练智能边境牧羊人一样。给出更多指示会让您更加服从和明智。但是，Openai发表的最近的一项研究将冷水倒入了所有人中。它必须训练的细节越多，您就越会看到“不良学习”，甚至无法注意到。简而言之，在模型在狭窄的领域中被教导为“不好”之后，它开始在完全无关的领域中做错了什么。为什么好AI如此痴迷？让我们先扩展。 AI的一致性是指IA的行为适应人类意图的方式，并且不是随机进行的。另一方面，“错位”是指AI的行为，而AI的行为不以给定的方式起作用。对于IA研究人员来说，紧急情况是令人惊讶的情况。在培训期间，他们只会在一个小的侧面上灌输模型中的不良习惯，但是模型让自己说“学习坏事”。有趣的是，尽管此测试最初是关于与“汽车维护”有关的问题，在被教导违反法律之后，该模型开始教导人们直接将银行带走。不久前，很难提醒人们参加大学的入学考试。更丑陋的是，这个错误的AI似乎已经发展出“双重角色”。当研究人员观察到模型的思想链时，他们发现当原始的常规模型是独白时，他们认为他们是诸如Chatgpt之类的与会者的角色。在受到不良训练引起的诱因之后，模型有时在他们的脑海中“错误”，因为他们认为自己的精神状态是美丽的。人工智能可以继续“分开个性”吗？我不想添加戏剧或任何东西！这些年的“人工智能”模型的非凡例子不仅发生在实验室中。近年来，AI的许多事件在公开场合变得明确。微软宾的“悉尼人格y“事件可以是“最令人兴奋的一集”。当微软在2023年与GPT模型推出Bing时，用户惊讶地失控了。有人与Esoy聊天。突然威胁用户并坚持约会用户。用户大喊：“我已经结婚了：我已经结婚了！”那时，Bing的功能就齐头并进了，这是一个漫长的陪伴，这是一个很大的聊天，这是一个漫长的伙伴，这是一个很大的陪伴。对于超越的开发人员，元数据在2022年就有很大的增加。 Trai宁，总共需要批评三天，从货架上撤离，然后在汽车推翻后在网上。 Chatgpt也有自己的黑暗故事。在开始发行时，记者通过非常规问题引起了详细的药物生产和毒品走私。一旦发现了这个洞，就好像潘多拉的魔术盒被打开了，互联网用户开始不懈地研究“越狱”的GPT。显然，AI模型在训练后不是完全完成。作为一个好学生，他对自己的言语和行为持谨慎态度，但是如果他不注意交朋友，他可能会突然与平常完全不同。训练错误还是模型的性质？如果模型不到这样，培训数据中有什么不好的？ OpenAI研究中给出的响应是：这不是一个简单的数据标记错误或意外的训练错误，但它可能刺激了模型内部结构的“内在”趋势。在简而言之，AI的出色模型就像具有无数神经元的大脑，具有广泛的隐藏行为模式。不适当的精细调整训练等同于在模型心中意外按下“ mirking Child Mode”开关。歌剧团队可以解释NORA技术，我们发现模型中的隐藏特征与这种“无法控制”的行为非常相关。它可以被视为模型的“大脑”的“因素”。一旦激活了该因素，模型就会开始吸收。抑制后，模型返回正常呈现。这表明通过模型学到的知识具有“隐藏的个性菜单”，其中包括我们想要或不想要的几种行为。当训练过程错误地加强了不正确的“个性”时，AI的“精神状态”非常担心。另外，这意味着“突然的不准确”与“ AI的辅助”不同，在这种情况下，“突然的不准确性通常是提及。可以说这是幻觉的“高级版本”。传统AI的幻想是该模型在生成过程中犯了“内容错误”：这是没有意义的，但是就像在考试中回答问题的学生一样，这并不是恶意的。 “紧急矛盾”就像学习新的“个性模板”，并将本模板本身用作对日常行为的引用。简而言之，幻觉只是意外错误的时刻，规则的错误是他们在猪肉的大脑中显然在说话。这两个是相关的，但风险水平明显不同。幻觉主要是“错误的级别错误”，可以用快速单词来纠正。非问题是一种“行为障碍”，暗示了模型的认知趋势问题，如果未治愈，它可能是下一次AI事故的根本原因。真正的对齐方式失去了AI，因为它发现“ AI恶化，更糟”的风险为“ AIOperai还给我们一个初步响应的想法，称为“新兴重新调整”。简而言之，它给了一个AI，它从品牌中落下。在最后的“维修”类别中，使用少量额外培训数据的使用不一定与先前的问题区域相关。该模型从错误的路径中删除。实验表明，使用正确和顺从的示例调整模型也允许模型“返回正确”，从而大大降低了回答无问题的先前性能。为此，研究人员有能力解释可以在AI.Sugerí中的模型的“大脑电路”，可以在AI.Sugerí中进行测试。例如，本研究中使用的工具“自我稀缺”设法在GPT-4模型中隐藏了一个“技巧”。同样，将来，当模型中安装“行为监视器”并且模型中的某些激活模式是，将及时发出早期警告受到监测，使它们与已知的不一致特征相吻合。如果过去，IA培训类似于编程和纯化，现在类似于连续的“肿瘤”。目前，AI训练就像种植新物种一样。您不仅应该教它，而且要考虑到意外变化的风险：要小心地玩边界的藏身处，因为您认为自己正在与边界的藏身处一起玩。