6 月 20 日信息，人工默认（AI）的开展突飞猛进，但也带来了一些隐患。最近，一组英国和加拿大的迷信家发现，假设 AI 只学习其余 AI 生成的内容，那么通过几代训练后，AI 将输入有意义的渣滓信息，造成网络内容品质降低。
这些迷信家在 5 月份宣布了一篇论文，试图探求当 AI 相互训练时会出现什么。他们发现，在这种状况下，AI 输入的内容会逐突变得荒唐可笑。例如，一篇关于中世纪修建的文章，在通过九代 AI 训练后，变成了一篇关于各种色彩兔子的胡言乱语内容。
这种现象被称为“模型解体”。目前，大少数 AI 言语模型（如 ChatGPT 和 OpenAI）都是基于从互联网上失掉的少量数据启动训练的，而这些数据大局部是由人类生成的。但是，随着 AI 生成内容的参与，未来的 AI 训练将无法防止地遭到这些内容的影响。这象征着失误和有意义的信息会不时累积，起初的 AI 无法辨别理想和虚拟内容，开局误信自己的失误观念。
剑桥大学的罗斯・安德森传授是论文的作者之一，他在博客中将这种现象比作污染，写道：“就像咱们用塑料渣滓污染了陆地，用二氧化碳污染了大气层，咱们也行将用胡言乱语污染互联网。”
理想上，AI 生成内容曾经在网络上宽泛流传。往年 5 月，一个名为 NewsGuard 的网络虚伪信息监测机构正告说，他们发现了 49 个齐全由 AI 编写的资讯网站。此外，市场营销和**机构也越来越多地将他们的文案交给聊天机器人来成功，造成人类作家失去上班时机。
© 版权声明